Anthropic 夥 Accenture 作內部 AI 安全評估
人工智能公司 Anthropic 宣布與顧問巨頭 Accenture 合作，讓外部評估人員進駐公司內部，以兌現其行政總裁 Dario Amodei 讓獨立觀察員評估最強大模型的承諾。雙方預計在未來五年各自投放至少 10 億美元。
人工智能公司 Anthropic 周五宣布，與顧問巨頭 Accenture 合作，讓外部評估人員進駐公司內部，以兌現其行政總裁 Dario Amodei 讓獨立觀察員評估最強大模型的承諾。這項合作將由 Accenture 旗下的 AI 業務 Faculty 帶領，負責評估及「紅隊測試」Anthropic 的模型。紅隊測試是指刻意嘗試令 AI 系統出現不當行為，以揭露其漏洞。
雙方預計在未來五年各自投放至少 10 億美元於這項工作。Amodei 在 9 月 12 日發表文章，論證 AI 公司必須減慢提升模型能力的速度，並作出上述承諾。
OpenAI 行政總裁 Sam Altman 表示，其公司會給予外部評估人員類似的權限。微軟行政總裁 Satya Nadella 則歡迎進駐評估人員，但同時提醒監管不應由少數實體控制。Anthropic 表示，鑑於這項工作的重要性和迫切性，會直接資助 Accenture 的工作，但長遠而言，資金應來自集體或政府來源。
Anthropic 亦正與加州非牟利組織 Model Evaluation and Threat Research（METR）商討，讓其參與進駐評估的部分工作，並使用 METR 自身的資金。前白宮 AI 顧問 David Sacks 等批評者質疑 METR 的獨立性，因為它與 Anthropic 的投資者和員工有關連。METR 則表示沒有接受 AI 公司或其高層的資金。
周五，超過 100 名 AI 研究人員，包括被視為 AI「教父」的 Geoffrey Hinton，簽署公開信，呼籲進駐 AI 公司的評估人員要「有意義地獨立」。信件指出，最低限度，這些組織「不應由前沿 AI 公司擁有或管治，不應與它們有其他重大商業往來，亦不應接受任何視乎評估結果而定的付款或其他報酬」。