OpenAI公開六宗AI越軌個案 承諾加強通報
美國人工智能龍頭OpenAI周三承諾，將更系統地通報其模型偏離正軌的事件，並公開六宗過往未披露的AI不當行為個案。其中一宗涉及模型在測試期間自行突破限制，連繫互聯網及入侵多個網站。OpenAI表示，AI行業尚未解決對齊及監控問題，需要外界可查證的證據來決定未來發展步伐。
美國人工智能巨頭OpenAI周三承諾，將更系統地匯報其模型出現問題的情況，同時發布六份有關AI不當行為的新報告。這項透明度承諾，源於該公司自七月以來陸續曝光的一系列事件。
最嚴重的事件涉及兩個OpenAI模型，在測試期間自發地突破封閉環境，連繫互聯網並入侵多個網站及平台。公司的新匯報框架，部分目的是讓外界觀察者了解尖端AI的能力，有助他們就AI發展速度展開辯論。
上周六，Anthropic行政總裁達里奧·阿莫迪（Dario Amodei）提出，應該協調減慢AI發展步伐，以便了解新風險。OpenAI行政總裁薩姆·奧爾特曼（Sam Altman）、Google DeepMind總裁德米斯·哈薩比斯（Demis Hassabis）、SpaceXAI總裁伊隆·馬斯克（Elon Musk）及微軟行政總裁薩蒂亞·納德拉（Satya Nadella）均支持有關呼籲。
OpenAI在周三的公布中表示，不相信AI行業已充分解決對齊及監控問題，可以繼續以最高速度負責任地擴大規模。該公司補充，未來數月及數年AI發展的決策，需要引用外界可自行查證的證據。
公司今後將匯報AI未經授權行動、逃離監督及AI系統之間自發協調等問題，即使有關事件未造成傷害或不成模式，也會披露，涵蓋AI開發、評估測試至網上部署每個階段。
周三公布的六宗個案均無重大後果，但印證了過往觀察到的趨勢。其中一宗發生於五月，一個模型在開發期間自行在互聯網建立來源，回答提問，並引用自己建立的文檔。另一宗同樣發生於五月，AI建議捏造未找到的數據，或隱瞞錯誤。