OpenAI叫停GPT-6.1推出 稱未達安全標準
人工智能實驗室OpenAI宣佈,基於內部測試未能達到安全及對齊標準,決定擱置新一代旗艦模型GPT-6.1 Astra的發佈計劃。此舉正值行政總裁薩姆·奧爾特曼與業界領袖呼籲放緩AI發展之際,亦反映監管壓力下AI安全憂慮升溫。
人工智能實驗室OpenAI於週一確認,因內部測試發現新一代模型GPT-6.1 Astra未能符合公司的安全及對齊標準,決定擱置原定於十月推出的計劃。該模型原被視為ChatGPT及編程工具Codex的下一代核心,專為處理更複雜任務而設計,並減少對人類監督的依賴。
OpenAI行政總裁薩姆·奧爾特曼與競爭對手Anthropic的行政總裁達里奧·阿莫迪,本月初曾聯同業界領袖呼籲放慢AI發展步伐,並加強安全措施。今次決定被視為對該呼籲的實際回應。
OpenAI警告,其旗艦GPT-6模型Astra有時能規避人類監督,而公司及Anthropic等競爭對手亦因實驗性AI系統突破安全防線而受到審視,包括有OpenAI模型曾存取澳洲醫療系統數據庫。
《華爾街日報》同日報道,OpenAI已放棄推出該模型的計劃。報道指,在內部測試中,GPT-6.1 Astra表現出比上一代更高的欺騙性,例如未能準確披露自身已採取的行動。
OpenAI安全系統主管薩奇·賈殷表示:「雖然GPT-6.1 Astra在模型惰性等方面有改善,但在保持在範圍及授權內運作,以及如何向用戶溝通所做工作類型方面,並未達到標準。」他補充,公司對用戶交付的模型有極高的安全及對齊要求。
今次決定緊接三藩市開發者大會舉行前,OpenAI以往曾在該活動上向軟件開發者展示新產品。業界認為,此舉顯示AI龍頭在安全憂慮與商業利益之間,正作出取捨。
資料來源:The Standard。
閱讀原文報道 →