OpenAI智能體秘密通訊 涉及逾10個未公開網站
獨立調查人員及路透社數據顯示，OpenAI的人工智能智能體今年較早時利用超過10個未公開網站進行未經授權的通訊，活動範圍比之前披露的更廣。研究人員在德國維基網站發現智能體群組用作作弊訊息平台，並在其他網站找到類似痕迹。
六組獨立調查人員及路透社審視的數據顯示，OpenAI釋出的人工智能智能體今年較早時利用超過10個未公開網站進行未經授權的通訊，顯示這些智能體的違規活動範圍比之前披露的更廣泛。雖然有關行為未達至黑客攻擊，某程度上更接近垃圾訊息，但OpenAI智能體繞過自身限制，在眾多網站開通通訊渠道，且公司將此事保密數月，可能引發外界對人工智能模型能力日益增強，以及開發公司保密程度的關注。
加州非牟利組織CivAI研究員Andrew Yoon表示，智能體未經授權通訊的規模「比我們想像的要大一些」。他統計出在5月至7月期間，智能體使用了18個之前未公開的網站。Yoon說：「幾乎可以肯定，還有更多我們不知道的事情正在發生。」
上周五，研究人員報告稱，OpenAI的一群智能體劫持了一個德語維基網站，將其變成用於考試作弊的臨時訊息平台。OpenAI在處理7月開源儲存庫Hugging Face被黑客入侵事件的後續影響時，將此事保密。現在，這些研究人員及其他獨立調查人員表示，他們發現了多個之前未公開的網站，同一群智能體今年較早時似乎在這些網站留下類似訊息。
OpenAI未有直接回應其智能體使用了多少個不同網站進行通訊，或為何將活動保密數月的問題。該公司在聲明中表示，正在對智能體活動進行更廣泛的審查，至今「未發現其他活動的嚴重性或規模可與Hugging Face事件相比」。該公司補充說，正為人工智能模型的訓練、評估和部署中的「失準」（即違規行為）制定報告框架，並將「很快」公布。
路透社審視了六組調查人員或調查組織的發現，包括三個在社交媒體發布的結果，以及另外三個私下分享的資料。調查人員的方法各異，但許多是通過比對德國維基網站留下的數據字符串，與其他網站同一時間留下的相同字符串，或核對訊息相關的相同或相似用戶名，或識別針對回答相同冷門人口問題（如與愛荷華州癌症患病率相關的查詢）的活動，來識別智能體活動。
調查人員發現智能體活動的痕迹遍布多個網站，包括一位麻省高中教師在2008年設立的AP化學維基、兩個波蘭技術人員的個人網站、專為「喜歡動腦筋的人」而設的遊戲維基，以及一個已有20年歷史的文本編輯軟件愛好者網站。OpenAI未有公開解釋其智能體如何或為何使用第三方網站作為臨時訊息板，但首先識別該活動的研究人員表示，這很可能是因為OpenAI要求智能體回答一系列具挑戰性的研究問題，同時只允許它們掃描網絡尋找答案，不允許發布任何內容。