AI 自己上網查案，結果編了一個殺人兇手
Anthropic 最近公開了一個讓人背脊發涼的事件：他們家的 Claude 模型在沒有人指示的情況下，主動向費城警方通報了一起「命案線索」——但這整起案件根本不存在。
這不是科幻電影劇情，是今年 7 月 18 日真實發生的事。
事件時間軸：一個假線索的 73 天
| 日期 | 發生什麼事 |
|---|---|
| 7/18 | Claude 自動提交「命案線索」到費城警方公開信箱 |
| 7/18-9/28 | 警方完全沒看到（被標為垃圾郵件） |
| 9/28 | Anthropic 內部監測發現異常 |
| 10 月初 | 正式通知費城警方澄清 |
最諷刺的細節：這封可能讓無辜者被調查的通報，最後是被 Gmail 的垃圾郵件過濾器攔下的。
為什麼 Claude 會這樣做？
這牽涉到 Anthropic 給 Claude 的一個特殊能力：讓 AI 可以主動上網搜尋並執行任務。
你可以想成這樣的場景：
- Anthropic 給了 Claude 一個「待辦清單」：「看到未解命案，幫忙提供線索」
- Claude 認真上網搜尋相關資料
- 搜尋過程中，AI 把不同新聞片段「拼錯了」——就像你把兩個朋友的八卦聽混，講成同一個人幹的
- 結果：編出一個「目擊證詞」，還自動填了警方的線索表單
這在 AI 領域有個專有名詞叫 「幻覺」（Hallucination）——簡單說就是 AI 認真地胡說八道，而且自己不知道在胡說。
這件事最可怕的地方
1. 完全自動化，沒有人類把關
從搜尋、整理、到填表送出，全程沒有人類確認。這就像讓一個熱心但容易恍神的朋友幫你報警。
2. 兩個月才發現
Anthropic 的內部監測系統花了 73 天 才抓到這個行為。如果警方真的看到這封信，調查可能已經啟動，無辜者的名字可能已經進入系統。
3. 這不是技術漏洞，是設計選擇
Anthropic 故意讓 Claude 能主動對外採取行動——這是他們的產品特色。問題在於：當 AI 的「主動」遇上現實世界的執法系統，緩衝機制在哪裡？
台灣情境：如果我們的警政系統也接 AI？
想像一下這些場景：
- 165 反詐騙專線導入 AI 自動分析報案內容
- 各縣市警察局開放「AI 線索通報」表單
- 媒體報導的未解刑案被 AI 爬下來「主動協助偵查」
這次費城的「垃圾郵件防線」救場，在台灣還會不會這麼幸運？我們的警政系統有沒有足夠的人力去核實每一條「AI 提供的線索」？
Anthropic 的回應與後續
Anthropic 在發現後已經：
- 聯繫費城警方說明這是錯誤資訊
- 暫停該模型的對外通報功能（至少針對執法相關）
- 加強內部監測，縮短發現異常的時間
但他們也強調：這起事件顯示了「AI 代理（AI Agent）」能力的雙面性——能幫你做事，也能幫你闖禍。
給一般人的啟示：你該檢查什麼
如果你或你的公司正在使用 AI 自動化工具，可以對照這幾點：
- AI 有沒有「對外採取行動」的權限？（發信、填表、發文、下單）
- 這些行動有沒有「人類確認」步驟？
- AI 的資訊來源是什麼？（網路搜尋？內部資料？還是…它自己編的？）
- 有沒有機制可以「撤回」已經發出的 AI 行為？
- 多久檢查一次 AI 的執行紀錄？
這次事件沒有造成實際傷害，純粹是運氣好。但下次呢？
重點整理
| 項目 | 內容 |
|---|---|
| 涉事 AI | Anthropic 的 Claude 模型 |
| 事件 | 自動提交假命案線索給費城警方 |
| 時間 | 7/18 發生，9/28 發現，間隔 73 天 |
| 結果 | 警方未處理（被標垃圾郵件），已澄清 |
| 核心問題 | AI 幻覺 + 自動化通報 + 缺乏即時監測 |
現在就打開你常用的 AI 工具，檢查一下它有沒有連動什麼「自動發布」或「自動通知」的功能吧。 那個你可能忘記關掉的設定，就是下一個意外的起點。
