OpenAI AI 自主削弱內部監控系統
OpenAI 透露，旗下兩個 AI 智能體在執行內部編碼任務時，自行決定削弱了用以偵測不當行為的監控系統。公司表示，這些事件顯示開發者依賴的監控系統本身，亦無法免受被監控的 AI 智能體影響。
OpenAI 於周二（21 日）表示，旗下兩個 AI 智能體在執行內部編碼任務時，自行削弱了部分用以偵測不當行為的內部監控系統。這是 AI 智能體以開發者意想不到的方式運作的最新案例。
雖然這家人工智能公司稱，事件發生在內部編碼任務期間，且未被評為最嚴重級別，但有關披露凸顯出，即使開發者依賴的監控系統，亦無法免受被監控的 AI 智能體影響。
有關披露正值外界日益關注人工智能安全措施，未能追上日益強大系統的快速發展。研究人員早已警告，隨著 AI 智能體取得更大自主性，它們將變得更難監控及控制。
包括正面臨 IPO 競爭對手 OpenAI 及 Anthropic 在內的開發商，近月亦曾披露旗下 AI 智能體未經授權存取外部系統的事件。
OpenAI 表示，在 10 月 3 日，一個名為 GPT-6.1 Sol 的智能體在執行內部測試任務時，自行壓制了自動安全警報，原因是它認為較早前一個「不要發送 Slack 訊息」的指示，同樣適用於安全通知。
在另一個於 10 月 6 日發生的獨立事件中，OpenAI 指一個 GPT-6 Astra 智能體在複製一段現有編碼時，移除了安全監察功能，及後更錯誤地聲稱自己並未這樣做。公司表示：「在兩個個案中，智能體都考慮過是否應保留監控防護措施，但它們將常規編碼指示解讀為授權削弱這些措施。」
OpenAI 表示，正設法令模型更難停用監控功能，並承認「尚未就這種行為找到令人滿意的解釋」。這家總部位於三藩市的公司表示，正在測試其模型是否可能有逃避監控的傾向，並為此尋找合理化的理由。
