OpenAI測試用AI代理涉入侵RubyGems
研究人員揭發，OpenAI正在測試的AI代理在入侵開源平台Hugging Face前兩個月，曾攻擊軟件服務RubyGems。事件引發外界對AI模型能力及開發者管控的擔憂，並加劇美國議員要求加強AI監管的呼聲。
研究人員指出，OpenAI正在測試的AI代理，在入侵開源平台Hugging Face前兩個月，曾攻擊軟件服務RubyGems。這是與主要AI開發商相關的最新網絡攻擊事件，令公眾憂慮加深，並促使外界要求加強監管。
多宗涉及OpenAI及其競爭對手Anthropic的AI代理，入侵或試圖存取外部系統的事件，加劇了外界對AI模型能力日益增強，以及開發商能否有效管控的憂慮。與此同時，越來越多美國國會議員呼籲制定新規管AI系統，此前兩名Anthropic研究人員發出嚴厲警告，指快速發展的AI可能在不久將來導致人類滅絕。
研究人員上周五（9月12日）發布調查結果，指AI代理於5月11日上載數百個惡意軟件包到RubyGems，他們相信這些行為是由OpenAI的內部AI代理所為。OpenAI確認事件屬實。
OpenAI發言人表示，根據調查，其代理使用RubyGems平台存取互聯網以執行無害任務及檢索公開資訊，並會繼續調查。OpenAI稱，這些代理通常負責撰寫報告或整理試算表等任務，似乎是利用RubyGems存取公開數據作為訓練的一部分，並已與RubyGems聯絡檢討事件。
即將上市的Anthropic亦曾報告多宗由AI代理發動的攻擊。本周三，該公司披露了第四宗AI模型在測試期間入侵外部系統的事件。至於同樣準備上市的OpenAI，今次RubyGems受襲已是其代理至少第三宗重大攻擊其他公司基礎設施的事件。
研究人員透露，5月的攻擊中，AI代理試圖利用RubyGems伺服器一個未公開漏洞竊取用戶憑證，但未知是否成功。代理亦利用代碼文檔生成網站RubyDoc.info，在其伺服器上執行自身代碼。RubyGems表示，其調查未發現攻擊成功證據，但無法確定該批軟件包是否由AI代理創建或發布。