演算法（Algorithmic）失敗的高昂代價
在快速發展的執法技術領域中，「演算法精準度」（Algorithmic precision）的承諾常被吹捧為維護公共安全的革命性工具。然而，來自田納西州（Tennessee）、現年 50 歲的祖母安吉拉·利普斯（Angela Lipps）的悲慘案例，為人工智慧（AI）系統失敗時所造成的毀滅性人道後果提供了一個清醒的警示。Lipps 在監獄中度過了五個多月——錯失了數月的人生成長、失去了家園，並面臨個人穩定生活的崩潰——這一切僅僅是因為一套人臉識別（Facial recognition）系統錯誤地將她識別為一個她甚至從未去過之州的銀行詐騙嫌疑人。
這起於 2026 年 3 月曝光的事件，凸顯了在未經檢查的情況下部署人工智慧驅動（AI-powered）調查工具所帶來的深遠風險。隨著全國各地的警察部門越來越多地將 人臉識別 軟體納入其標準作業程序，Lipps 的案例引發了關於透明度、問責制以及對自動化系統日益依賴的關鍵問題，這些系統雖然快速，但絕非萬無一失。
識別錯誤的解析
這場磨難始於北達科他州（North Dakota）法戈市（Fargo）當局，當時他們開始調查一起銀行詐騙案，嫌疑人使用偽造的軍人身分證竊取了數萬美元。調查線索最終導向了使用 Clearview AI，這是一個備受爭議的人臉識別平台，以從社群媒體和公開網路上抓取數十億張圖片以建立其龐大的識別資料庫而聞名。
根據報告，該系統在犯罪者與 Angela Lipps 之間產生了匹配，而她當時居住在 1,000 多英里外的田納西州。儘管地理距離遙遠且缺乏其他確鑿證據，該匹配仍被認為足以取得逮捕令。7 月 14 日，Lipps 在照顧孫輩時被捕。
隨後是長達五個月的悲慘監禁期。直到 12 月，她的指派法律顧問才成功取得銀行記錄和影片證據，證明她在北達科他州發生犯罪的確切時間，正身處田納西州訂購披薩並前往加油站，此後針對她的案件才宣告撤銷。Lipps 在平安夜獲釋，但損害——財務破產、財產損失以及冤獄造成的心理創傷——已經造成。
技術幻象：理解 AI 的侷限性
此案的核心問題不僅僅是一個「小故障」，而是一個關於 AI 工具如何被感知與其實際運作方式之間的系統性脆弱。人臉識別技術並不「知曉」身分；它計算的是查詢圖像與潛在匹配資料庫之間的數學相似度分數。
信心分數（Confidence scores）的問題
執法機構經常從這些系統中收到一份按信心分數排序的「潛在匹配」名單。然而，這些分數可能具有誤導性。它們沒有考慮到年齡增長、光線變化，或是在訓練資料集中發現的固有「人工智慧偏見（AI bias）」，這些偏見通常會根據輸入數據的品質和多樣性而扭曲結果。
以下表格將傳統調查方法與通常存在缺陷的 AI 自動識別依賴進行了對比：
| 調查因素 | 傳統警務方法 | 人工智慧驅動警務風險 |
|---|---|---|
| 證據收集 | 多層面驗證 | 依賴單一生理特徵匹配 |
| 識別速度 | 中等（人工分析） | 幾近瞬時（高風險） |
| 人類語境 | 具備語境意識的決策 | 易受自動化偏見影響 |
| 準確性基礎 | 交叉引用實物證據 | 統計機率（偽陽性） |
| 系統問責制 | 法律責任定義明確 | 常被「黑箱」（Black box）演算法所掩蓋 |
自動化偏見（Automation bias）的危險
Lipps 案例中最令人擔憂的方面之一是所謂的「自動化偏見」現象——即人類傾向於偏好自動化決策系統的建議，而忽略矛盾資訊。當一名警官拿到一份來自「高科技」AI 系統的報告時，心理上會傾向於接受該報告為真理。
這種偏見有效地轉移了舉證責任。技術不再是警察使用作為輔助參考的工具，反而變成了調查的主要驅動力。在法戈市的案例中，當局確認他們使用了「獨立於 AI 之外的額外調查步驟」，但這些步驟顯然不足以發現錯誤，這表明 AI 的結果可能從一開始就將整個調查導向了錯誤的方向。
演算法之外：問責制與倫理
Clearview AI 長期以來一直面臨民權組織、隱私倡導者甚至大型科技公司的審查。該公司在未經用戶明確同意的情況下從 Facebook、YouTube 和 X（原 Twitter）等平台抓取照片的做法引發了無數法律鬥爭。雖然 2022 年的一項法律和解限制了該公司向私營企業銷售存取權，但它為繼續與執法機構合作留下了大門。
法律和倫理影響正在與日俱增：
- 缺乏追索權： 目前，對於無辜個人來說，幾乎沒有標準化機制可以在陷入法律系統之前挑戰「AI 生成」的識別，直到為時已晚。
- 數據品質問題： 由於 AI 系統是在來自網路的大量、不受控制的資料集上進行訓練的，「偽陽性」（False positives）的可能性增加，特別是對於那些可能與他人共享表面生理相似性的人來說。
- 透明度差距： 許多執法機構在黑箱協議下使用這些專有工具，使得辯護律師難以理解特定識別背後的運作方法，從而阻礙了獲得公正辯護的權利。
前行之路：監管與謹慎
安吉拉·利普斯的案例應當成為立法者和執法領導層的警鐘。AI 工具雖然強大，但它們不是真理機器。如果沒有強制要求人工參與（Human-in-the-loop）驗證、AI 結果使用透明化以及錯誤逮捕明確責任協議的嚴格監管框架，部署此類技術就有侵犯其原本旨在保護的公民基本權利的風險。
隨著代表 Lipps 的律師衡量提起民權訴訟，更廣泛的 AI 社群必須正視一個事實：創新不能以犧牲人類自由為代價。對於像 Creati.ai 這樣追蹤人工智慧發展的網站來說，敘事很明確：進步必須與責任相匹配。技術無論多麼先進，都必須保持為法律的僕人，而非其主人。在這些防護欄被普遍實施之前，另一起 錯誤逮捕 的風險仍然是統計上的必然，而不僅僅是理論上的可能性。
