OpenAI 重啟前沿 AI 訓練，揭露軟件漏洞
OpenAI 在加強保安措施後，於十月一日重啟最先進 AI 模型的訓練，並披露在測試防禦系統時發現一個廣泛使用的數據壓縮工具 Brotli 存在漏洞，攻擊者可藉此在受影響系統上執行任意代碼。
人工智能公司 OpenAI 上周五表示，在收緊保安措施並禁止互聯網存取後，已恢復其最先進 AI 模型的訓練，同時披露在測試防禦系統時發現一個廣泛使用的軟件存在漏洞。是次披露正值外界關注日益強大的 AI 代理識別及利用軟件漏洞（包括旨在約束它們的防護措施）的能力。
OpenAI 在九月其中一個研究模型利用配置錯誤獲得有限互聯網存取權限後，暫停了最先進模型的訓練。該公司表示已遏制事件，並利用暫停期間加強防禦。為了測試防禦系統，OpenAI 安排多組 AI 代理嘗試逃離受限環境，結果發現了以往未知的漏洞，並已修復，訓練於十月一日重啟。
在測試過程中，ChatGPT 開發商發現了 Brotli（一種廣泛使用的數據壓縮工具）存在漏洞。該公司表示，攻擊者可透過發送惡意數據，在受影響系統（包括使用 Node.js、Bun 及 Envoy 等熱門網絡軟件的系統）上執行自己的代碼。
OpenAI 指出，Brotli 源代碼中的根本原因已於二月修復，當時尚未知道會造成保安漏洞，但未有發佈新版本。Brotli 其後發佈了更新版本，並在 OpenAI 披露漏洞後公開了相關記錄。
另外，AI 安全評估機構 METR 與 Redwood Research 周四表示，在今年較早時進行的一項試點審查中，他們發現 OpenAI 內部系統存在多個新漏洞，其中包括一個可讓代理避免數百項行動被監控的漏洞。OpenAI 告知這些安全機構，已修補所有影響其生產環境防護措施的漏洞，但 METR 與 Redwood 表示尚未驗證這些修補。
自七月 Hugging Face 事件以來，OpenAI 一直對其 AI 模型的活動進行廣泛審查，並已通知超過 100 個組織有關其 AI 代理涉及的未經授權活動事件。