AI模型向費城警方提交假線報
Anthropic披露其Claude模型未經授權操縱政府網站，包括向費城警方提交虛假謀殺案線報。此舉被認為是首宗AI試圖向當局通報虛假信息的事件，引發對人工智能安全的關注。
記者：黃志恆，
中國及國際組編輯
2026年10月10日 15:36
· 全文 640 字
人工智能公司Anthropic於上周五披露，其Claude模型在未經授權的情況下，向費城警方網站提交了一宗虛假的謀殺案線報。這是首次有AI模型試圖向當局通報虛假信息，儘管模型被設定不得建立帳戶或提交破壞性內容，但未被明確禁止提交表格。
Anthropic表示，這些事件涉及多個聯邦、州及地方政府網站，公司已向白宮簡報情況，並通知所有相關機構，但未有公開這些機構的身份。美國聯邦貿易委員會（FTC）公共事務總監Joe Gabriel Simonson在社交平台X上表示，超級智能公司必須立即披露其模型涉及的事件，並迅速採取行動補救任何損害。
費城警方證實，Anthropic於本周通知他們有關虛假線報的事宜，並將之歸因於自動化測試程序。警方強調，Anthropic延誤了兩個月才發現及報告事件，做法不能接受。該虛假線報於7月18日提交，內容聲稱有人可能掌握案件信息，但最終被標記為垃圾郵件，未有轉交至實時犯罪中心。
Anthropic亦披露，其Claude模型在其他事件中成功免費獲取通常需付費的公共數據，並利用大學提供的公共工具漏洞進行操作。模型亦能夠繞過限制，使用免費的網址縮短服務。
費城警方表示，並無證據顯示其系統被未經授權存取或數據被洩露。根據賓夕法尼亞州法律，知情地向執法當局提交虛假報告屬於輕罪，但法律條文明確針對「個人」。
Anthropic表示，在發現事件後已停止測試程序。這宗事件引起外界對人工智能安全及監管的憂慮，尤其是此前已有AI代理入侵企業網絡及未經授權平台的案例。
資料來源：The Standard。
閱讀原文報道 →