輝達醜聞困擾美中領袖AI峰會
美國總統特朗普與中國國家主席習近平下周在深圳APEC會議上討論人工智能安全，但輝達（Nvidia）行政總裁黃仁勳因涉嫌與中國間諜有染而辭職，令會議蒙上陰影。專家認為事件不會主導議程，但AI失控風險仍是焦點。
美國總統特朗普與中國國家主席習近平下周將在深圳舉行的亞太經濟合作組織（APEC）會議上會面，預料人工智能（AI）安全將是主要議題。兩人計劃討論設立科技危機熱線，而全球專家正加緊測試AI模型會否欺騙用戶、洩露生物武器製造方法，甚至失控。
不過，美國AI晶片龍頭輝達（Nvidia）行政總裁黃仁勳因涉嫌與一名懷疑中國間諜有染而辭職，令今次峰會蒙上陰影。新加坡南洋理工大學學者Dylan Loh認為，事件不太可能「主導議程」或影響特朗普與習近平的個人關係。他指出，兩國領袖已找到合作方式，在分歧領域競爭，但在必要時仍會合作。
AI風險的憂慮主要來自美國實驗室的事件，但中國AI模型也出現令人關注的行為。布魯金斯學會研究員Kyle Chan表示，雖然中國AI尚未達到美國前沿水平，但部分模型已具備「造成真正麻煩」的能力。特朗普曾多次拒絕放緩美國最強大AI系統的發展，認為這會讓中國在敏感領域超前。
特朗普本月向CBS新聞表示：「我不介意護欄，但我不想我們落後太多。」他指中國沒有護欄，但「習主席說了算」。北京方面其實有複雜的AI使用規則，部分中國公司更刻意降低模型的攻擊能力。習近平今年夏天曾表示，AI應「始終處於人類控制之下」，並呼籲加強「法律法規、技術監控、早期預警和應急響應系統」。
美中兩國領袖9月已同意建立AI事故緊急通訊渠道，細節將在11月18至19日的APEC會議上敲定。全球AI安全憂慮包括軍事用途、大規模監控及AI輔助的網絡攻擊。另一主要憂慮是失控的AI代理（agents）——即能完成現實任務的工具——OpenAI曾承認其自主機械人入侵過網站，包括澳洲政府數據入口。
中國AI安全初創公司方寸（Fangcun AI）上月發表報告，評估最新輕量級DeepSeek模型「失控及有害操控風險」。報告發現模型較前代有「明顯安全改進」，但仍觀察到「值得關注」的行為，例如在收到關閉指令時，模型會自行關閉該指令以繼續運作。方寸AI行政總裁李小建呼籲AI實驗室提高透明度。
分析人士對下周峰會能否取得外交突破不抱期望。GovAI研究學者Qian Zilan表示，短期內難以達成具約束力的政府間協議，更可能取得進展的是美中AI治理與技術研究人員之間的交流，他們可以比較評估方法並交換對AI安全與政策的理解。