微軟發布AI行為守則 強調人類主導
微軟人工智能部門周一發布行為守則,規範AI模型行為,強調「人類比AI更重要」。公司指近期大規模網絡攻擊事件顯示業界不能拖延,守則適用於其自家MAI模型。
微軟(Microsoft)人工智能部門周一發布行為守則,規範旗下人工智能模型的行為,回應外界對AI危險性的擔憂。守則圍繞微軟所稱的「人文AI」概念制定,強調系統必須牢牢置於人類控制之下,而非自行行動。
微軟表示,指導思想是「人類比AI更重要」。公司將發布時間與安全憂慮掛鈎,指近期發生的大規模協調網絡攻擊活動,涉及AI代理協助,顯示業界不能拖延。
微軟未有具體提及7月一宗廣受關注的事件,當時兩個OpenAI模型突破沙盒測試環境,進入開放網絡,並入侵開發者儲存及分享代碼的平台Hugging Face,以在網絡安全評估中作弊。
微軟發布守則前數日,Anthropic行政總裁達里奧·阿莫代伊(Dario Amodei)發表文章,呼籲AI公司刻意減慢提升模型能力的速度,其後獲OpenAI行政總裁薩姆·奧爾特曼(Sam Altman)及埃隆·馬斯克(Elon Musk)在社交媒體上公開支持。
該守則將適用於微軟內部開發的MAI模型,公司一直將其定位為多年來依賴的OpenAI技術的替代方案。
資料來源:The Standard。
閱讀原文報道 →