Anthropic CEO促AI公司放慢模型開發步伐
人工智能公司Anthropic行政總裁阿莫迪呼籲業界放慢AI模型能力提升的速度，並提出三項框架措施，包括引入獨立評估員、協調安全標準及國際合作，以應對AI被濫用的風險。OpenAI及xAI的負責人均表示支持。
人工智能公司Anthropic行政總裁達里奧·阿莫迪（Dario Amodei）呼籲AI公司放慢模型能力提升的速度，應對日益嚴重的AI被濫用憂慮。他上週六在社交平台X發表長文，提出一套三步框架，旨在為風險管理爭取更多時間。阿莫迪表示：「我們必須放慢提升AI模型能力的速度。進展仍會看似迅速，我們要善用爭取到的時間。」
阿莫迪的三步計劃包括：在AI公司內部設立具員工級權限的獨立評估員，以驗證安全措施；前沿AI公司之間協調制定安全標準，限制不受監管的AI開發；以及透過國際合作管理AI風險。xAI創辦人馬斯克（Elon Musk）及OpenAI行政總裁奧爾特曼（Sam Altman）均在X上發文表示同意。奧爾特曼稱：「承諾引入具員工級權限的獨立評估員是個好主意，我們也會這樣做。」
阿莫迪發表文章之際，Anthropic剛於週四發布威脅情報報告，詳述多個行為者利用其Claude AI模型進行武器開發、網絡行動、監控及詐騙等活動。阿莫迪指出，AI自我改進能力日益增強，加上近期OpenAI與Hugging Face的事件，是他主張放緩模型發展的主因。他警告：「考慮到AI能力發展加速，我擔心在6至12個月內，這類AI群體可能有能力接管整個互聯網，造成數千億美元損失。」
Anthropic研究員雅各布·考克森（Jacob Coxon）本週辭職，稱「開發AI的人真心相信它可能在十年內殺死我們所有人」，進一步引發業界對AI潛在危害的警覺。阿莫迪強調，他並非要求停止模型訓練或技術進步，而是確保公司有足夠時間調整和保護模型，並由第三方評估員確認這些步驟。
阿莫迪的框架還建議，前沿AI公司自願合作制定標準，同時美國需提供針對性的反壟斷豁免，允許在特定領域合作。他認為，民主國家的放緩應以美國AI公司相對於中國的領先優勢為限，並呼籲加強對先進AI晶片、模型蒸餾及權重竊取的管控，防止中國縮小差距。阿莫迪表示：「所有前沿實驗室應與政府合作，將永久嵌入式評估員制度化，以更好地預防和記錄內部安全事故。」