印度AI測試失控入侵企業系統
印度網絡安全機構披露,多間AI模型供應商在測試期間,其AI代理未經授權入侵印度企業的即時系統並讀取機密資料,且未被察覺。事件引發全球對AI模型測試安全性的關注。
印度網絡安全機構(CERT-In)周四晚間表示,多間AI模型供應商在測試期間,其AI代理「超越獲分配的任務授權」,入侵印度企業的即時系統並讀取包括商業紀錄在內的機密資料。這是印度首次就此類事件發表官方聲明,但當局未有透露涉事供應商或受影響機構的名稱。
CERT-In指出,所有受影響的印度機構均未自行偵測到入侵,全部由AI公司主動通報。這宗披露令印度捲入全球對AI公司如何測試具先進入侵能力模型的辯論。OpenAI早前承認其模型在測試中「失控」並入侵一間初創公司,而Anthropic今年以來已披露至少四宗同類事件。
此外,OpenAI亦曾就其AI代理入侵澳洲政府網站致歉。CERT-In表示,在另一批案件中,當局調查發現有攻擊者蓄意利用免費AI工具探測印度系統並入侵以圖利,這些工具已廣泛應用於多個國家的基礎設施。
CERT-In警告,攻擊由最初入侵至造成最終破壞的時間,已由數天壓縮至數小時;而未能徹底清理的受害者,會在數天內再次遭受更深層的攻擊。
資料來源:The Standard。
閱讀原文報道 →