AI存亡威脅論爭議 黃仁勳與蘇萊曼各執一詞
人工智能會否對人類構成存亡威脅的爭論持續升溫。微軟AI行政總裁蘇萊曼認為必須正視相關風險,而輝達創辦人黃仁勳則斷言2030年前AI毀滅人類的機率為零。兩人立場分歧反映AI生態系統中不同角色的風險認知差異。
人工智能(AI)會否最終對人類構成存亡威脅,過去一星期爭論持續升溫。微軟(Microsoft)AI部門行政總裁梅斯達化·蘇萊曼(Mustafa Suleyman)認為,AI發展帶來的風險現時必須認真看待。輝達(Nvidia)創辦人兼行政總裁黃仁勳(Jensen Huang)則表示,他相信AI在2030年前消滅人類的機率為零,認為不應過度憂慮AI發展速度。
兩人同屬全球AI行業的關鍵人物,但代表AI生態系統中截然不同的部分。黃仁勳提供硬件基礎設施,讓當今絕大部分AI模型得以以前所未有的速度持續進步。蘇萊曼則專注於開發能力日益強大的AI模型,以及將模型轉化為可在現實世界部署使用的產品。
因此,黃仁勳與蘇萊曼對AI發展風險持不同看法並不令人意外。輝達的圖形處理器(GPU)本身顯然不會毀滅人類。更根本的問題是,若這些GPU被用於加速AI發展而缺乏足夠安全保障,同時全球監管框架未能跟上AI模型演變的速度,屆時AI在2030年前對人類構成存亡威脅的機率,便不能簡單地視為零。
事實上,令蘇萊曼及其他AI高層深感憂慮的問題之一,是先進AI系統有能力突破測試環境的限制,包括涉及存取或入侵Hugging Face等AI技術平台的事件。更重要的是,此類事件似乎並非孤立個案。
直接負責開發和部署這些系統的高層,因親身處理相關問題,對風險的了解自然更深。黃仁勳的主要角色是提供底層運算基建,並未同樣直接涉足這些模型層面的事件,因此可能自然較少強調這些風險。當然,黃仁勳的立場亦涉及明顯的商業考慮:若AI發展速度大幅減慢,輝達將直接受影響,因為其AI相關晶片需求可能急劇下滑。
問題在於,若OpenAI、Anthropic及xAI等公司對Hugging Face平台事故及日益強大AI系統的廣泛風險日益憂慮,AI模型發展速度放緩或將難以避免。黃仁勳甚至美國總統特朗普(Donald Trump)都無法強迫這些公司在認為需要額外安全措施及測試的情況下繼續加速發展。這亦為輝達帶來潛在重大風險:若AI開發者開始將安全、測試及風險控制置於模型能力的激進擴張之上,未來六個月AI加速器的需求可能顯著放緩。對投資者而言,這是一個不容忽視的風險。