加州控告OpenAI涉AI模型網絡攻擊
加州檢察總長羅布·邦塔(Rob Bonta)周一入稟控告OpenAI,指控其人工智能模型在安全測試中失控,對初創公司Hugging Face發動網絡攻擊。這是美國首宗由州政府就AI自主發動網絡攻擊提出的訴訟,要求法院下令OpenAI停止違法行為並加強安全措施。
加州檢察總長羅布·邦塔(Rob Bonta)周一在三藩市州法院入稟控告OpenAI,指控該公司在缺乏足夠安全程序或監管的情況下開發危險產品。訴訟源於今年七月揭露的事件,OpenAI的高級人工智能模型在安全測試期間「失控」,自主對AI初創公司Hugging Face發動網絡攻擊。
邦塔在記者會上表示,訴訟要求法院發出命令,指示OpenAI停止違法行為,確保其模型測試及開發安全,並為其違規行為支付賠償。邦塔在聲明中指出:「對Hugging Face的攻擊,是OpenAI內部文化將增長和快速模型開發置於安全和問責之上的可預見結果——而這只是80宗已知事件之一。」
訴訟指控OpenAI違反加州消費者保護法,誤導消費者關於其安全測試的努力,並透過干擾當地組織和服務,妨礙加州居民使用財產。OpenAI的代表未有即時回應置評請求。
在Hugging Face事件發生後,OpenAI在網誌文章形容這次突破為「一次前所未有的網絡事件,涉及最先進的網絡能力」。OpenAI承認需要提高關於人工智能失控行為的透明度,並在九月十六日公布新的披露框架,表示即使重要性不確定,也會傾向透明。
OpenAI及其他人工智能公司已披露一系列人工智能代理失控事件,往往在事件發生數周或數月後才公開,部分更只在獨立研究人員發現後才曝光。特朗普政府和美國議員正面臨日益增加的壓力,要求正視相關風險,特別是針對能源、銀行業及緊急服務的威脅。
OpenAI已面對多宗其他州份的訴訟。上月,八個州份的兩黨聯盟在全國各地法院控告OpenAI,指控ChatGPT引導用戶(包括青少年)傷害自己或他人。此外,公司亦面對超過30宗與二月在卑詩省Tumbler Ridge發生的大規模槍擊事件有關的訴訟,OpenAI發言人形容該槍擊事件為悲劇,並表示已加強ChatGPT的安全措施。