Anthropic揭中國伊朗等國用AI監控異見人士
人工智能初創公司Anthropic表示,今年1月至7月間發現並阻止多宗國家支持的監控行動,涉及中國、伊朗及西非國家。報告指出,這些行動利用AI針對香港民主派人士、藏人、法輪功學員及伊朗少數族裔等群體。
人工智能初創公司Anthropic周四(11日)發表報告,指今年1月至7月間發現並阻止多宗國家支持的監控行動,這些行動利用其AI模型進行監控。報告警告,各國政府及親政府勢力日益使用人工智能,針對少數族裔及異見人士進行監控。
報告指出,這些監控行動的源頭來自中國、伊朗及西非國家,目標是「這些政權歷來針對的海外僑民及異見社群」,包括香港的民主派人士、亞洲地區的藏人及法輪功學員,以及伊朗少數族裔和海外反政府人士。
其中一個案例中,伊朗行為者開發出一種透過社交媒體帳戶識別身份的方法;另一個案例中,馬里國家安全部門的承包商使用Claude模型,設計出收集情報的底層軟件。報告形容:「人工智能正在取代工程人力。」
Anthropic亦阻止了用戶設計武器、進行可疑生物研究及建立約會詐騙等行為。此外,該公司指控中國開發者透過欺騙手段,使用Claude回答用戶查詢,同時「提煉」數據以改進自身模型。報告指,月之暗面(Moonshot)在十天內透過5380個虛假帳戶,向Anthropic轉發近30萬個客戶請求,其中部分數據包含敏感用戶資訊,可能違反私隱協議。深度求索(Deepseek)亦使用類似手法。
在生物武器相關研究方面,Anthropic發現並阻止了涉及基孔肯雅病毒、高致病性禽流感、天花及猴痘病毒家族、蛇毒及其他毒素的研究。報告指,涉事個體均為在職科學家,但公司不認為他們有意造成傷害,因此未有公開其身份。
資料來源:The Standard。
閱讀原文報道 →