METROHK.com.hk
市場
科技

史丹福教授:AI安全是數學挑戰

史丹福大學教授 Emmanuel Candès 表示,確保人工智能系統安全並非軟件問題,而是數學挑戰。他與另一學者分享 120 萬美元邵逸夫數學科學獎,並指出前沿 AI 實驗室正積極招攬數學人才。

史丹福教授:AI安全是數學挑戰

史丹福大學教授 Emmanuel Candès 表示,確保強大人工智能系統不出現「不良行為」或難以預測的表現,是數學挑戰而非軟件問題。Candès 是 2026 年度邵逸夫數學科學獎的得主之一。

Candès 警告,AI 代理往往過度優化,不惜一切代價完成任務,因此需要嚴格的數學原則來確保安全。他的團隊為大型企業(如藥物巨頭 Genentech)降低投資風險,利用統計模型找出 AI 發現的分子成功機會,以免耗費數百萬美元。

Candès 與普林斯頓高等研究所教授 Camillo De Lellis 分享 120 萬美元(約 936 萬港元)獎金。Candès 因開創「壓縮感知」框架而獲表揚,該框架能從極少數據重建高解像度圖像,加上矩陣完成方法,支撐現代機器學習。

在醫院應用上,這項技術將兒童磁力共振掃描時間由兩分鐘縮短至 15 秒,醫生無需暫停兒童心臟或切斷氧氣來防止移動。De Lellis 則因發展理解流動湍流的新方法及簡化與極小曲面相關的工作而獲肯定。

兩位得獎者均使用 AI 加速編碼及文獻搜尋,但警告不應只將高等數學用作前沿 AI 模型的宣傳基準。他們指出,前沿 AI 實驗室(如 OpenAI)及華爾街公司正積極招募數學人才,為博士生未畢業已提供職位。

資料來源:The Standard。 閱讀原文報道 →
陳嘉明
總編輯

統籌港聞及政府政策報道,主理本網每日的頭條取捨與發稿標準。