Anthropic揭AI被用於生物武器及黑客攻擊
AI公司Anthropic發表威脅情報報告，披露旗下Claude模型被用於協助研發生化武器，以及涉及俄羅斯黑客針對烏克蘭的網絡攻擊。報告同時指控多間中國科企試圖透過「非法提煉」盜取Claude的模型能力。
人工智能公司Anthropic周四發表最新威脅情報報告，揭露旗下Claude模型被利用於協助研發生化武器，以及涉及俄羅斯黑客針對烏克蘭官員的網絡間諜活動。報告涵蓋過去八個月內被記錄的惡意使用個案，並指出中國的競爭對手亦曾試圖透過黑客攻擊提取Claude的功能。
報告詳細記載了五宗科學家利用Claude模型支援生物武器研發的案例。其中一個個案涉及一名身處Anthropic官方不支援地區的研究人員，透過虛擬私人伺服器基礎設施存取Claude，連續數周使用該模型規劃禽流感哺乳動物適應實驗。Anthropic並未公開涉事機構、所在國家，以及具體的生物製劑和研究技術。
報告同時識別出多個新型態的威脅行為者，利用Claude開發常規武器軟件，包括槍械、導彈、武裝無人機及炸藥等，以及相關的瞄準與控制系統。這些行為者來自中國、俄羅斯及也門等地。Anthropic威脅情報主管Jacob Klein向路透社表示，過去一年模型的快速進步帶來新風險，例如在一年前要優化無人機或導彈軟件，模型的能力遠不及現時水平。
在網絡攻擊方面，報告發現俄羅斯黑客組織正使用人工智能策劃及執行針對烏克蘭政府、軍事及外交部門的攻擊，涉及釣魚電郵、酒店Wi-Fi劫持及WhatsApp賬戶接管等手法。該組織的手法與俄羅斯對外情報局旗下的Midnight Blizzard威脅行為者一致。
Anthropic亦指控多間中國科企進行「非法提煉」攻擊，試圖提取Claude的模型能力以改進自身的AI模型。報告指阿里巴巴在2026年5月至7月期間，透過超過3500個被視為詐騙的賬戶，進行了超過1.51億次交換，高峰期每日接近300萬次。此外，Kimi聊天機械人開發商Moonshot及DeepSeek被指將真實客戶對話路由至Claude，並使用其回覆作為訓練數據。中國外交部回應稱，政府主張人工智能應向善發展，反對歪曲事實及對中國的抹黑。