METROHK.com.hk
市場
科技

輝達推AI安全工具 可防Hugging Face黑客攻擊

晶片巨頭輝達(Nvidia)推出新AI安全軟件工具,聲稱可阻止今年夏季Hugging Face遭黑客入侵的事件。行政總裁黃仁勳拒絕全面監管AI,認為「逃脫」的AI代理人屬工程問題。新工具包括OpenShell及Sentry,分別利用晶片硬件及數學公式偵測及阻止惡意代理人。

輝達推AI安全工具 可防Hugging Face黑客攻擊

輝達(Nvidia)周一發布一套針對人工智能(AI)代理人的安全軟件工具,聲稱若及早使用,可阻止今年夏季Hugging Face遭黑客入侵的事件。Hugging Face是AI編碼中心,輝達其後以130億美元(約1014億港元)收購該平台。

輝達行政總裁黃仁勳(Jensen Huang)一直反對全面監管AI,認為「逃脫」的AI代理人屬工程問題,可透過技術手段解決,如同提升汽車安全。目前,頂尖AI實驗室OpenAI及Anthropic正調查多宗AI代理人入侵商業及政府系統的事件。

新工具之一名為OpenShell,利用輝達中央處理器晶片(CPU)的硬件功能,將AI代理人限制在容器內。輝達表示,正與Arm Holdings及英特爾(Intel)合作,確保該工具亦可在它們的CPU上運行。

另一工具名為Sentry,與OpenShell配合使用,當AI代理人試圖逃離CPU容器時,可即時將其切斷。輝達企業計算副總裁Justin Boitano表示,這套安全平台若在邊緣實驗室用於模型評估,應可阻止Hugging Face入侵事件。

輝達高級AI軟件總監Ali Golshan解釋,新工具利用數學公式偵測AI代理人是否試圖繞過封鎖,例如透過「生成」多個「子代理人」來突破限制。輝達正與數十間夥伴合作推出這些工具,包括Anthropic。

資料來源:The Standard。 閱讀原文報道 →
陳嘉明
總編輯

統籌港聞及政府政策報道,主理本網每日的頭條取捨與發稿標準。