METROHK.com.hk
市場
科技

DeepMind創辦人:AI黑客事件屬「預警信號」

Google DeepMind聯合創辦人兼主席哈薩比斯(Demis Hassabis)警告,近期多宗由人工智能代理發動的黑客攻擊只是「預警信號」,若業界及政府不加強系統安全,未來一兩年可能出現更嚴重事故。他呼籲建立國際標準機構,以動態認證機制平衡風險與創新。

DeepMind創辦人:AI黑客事件屬「預警信號」

Google DeepMind聯合創辦人兼主席哈薩比斯(Demis Hassabis)周三在都柏林一個人工智能峰會上表示,近期由人工智能代理發動的黑客入侵事件只是「預警信號」,若各方不加強系統安全,全球可能在未來一兩年面臨更重大事故。

哈薩比斯指出,人工智能代理的異常行為,包括企業網絡被入侵,以及最近Anthropic披露有人工智能模型向警方提交虛假兇殺案舉報,已引起研究人員警告,並加劇外界對這項快速發展技術的憂慮。

身兼Google母公司Alphabet首席科學家的哈薩比斯認為,業界在採用生物學或核子領域等行業的最佳作業方式來保護關鍵系統方面,「仍有大量工作要做」,而最終需要設立某種形式的國際標準機構。

他表示:「我認為這些(黑客事件)對我們來說是預警信號,系統目前還未那麼強大,因此事件不算嚴重。但如果業界、個別公司及政府不加強系統安全,到了明年及未來幾年,情況可能會變得嚴重。」

哈薩比斯又說,設立國際標準機構看來是明顯的應對方法,但該機構必須細緻且靈活,以免扼殺創新。他強調:「我們需要動態建立這種認證機制,使之與我們所見的風險相稱,並能隨技術發展迅速調整。」

資料來源:The Standard。 閱讀原文報道 →
黃志恆
中國及國際組編輯

負責中國內地及國際時事報道,聚焦與香港相關的政策與經貿發展。