AI或致人類滅絕 專家促政府加強監管
人工智能研究人員警告，超級智能系統可能導致人類滅絕，外界關注各國政府監管是否足夠。專家指出，失控的人工智能可能合成病原體或引發核戰，呼籲建立類似航空或醫學的發牌制度。
人工智能研究人員發出嚴厲警告，指高階人工智能可能導致人類滅絕，引發外界質疑各國政府監管步伐是否夠快。專家形容威脅已到臨界點，早在2023年，數百名人工智能科學家及業界領袖，包括美國頂尖實驗室負責人，聯署「人工智能滅絕風險聲明」，要求將此問題提升至與大流行病或核戰爭同等重視。
加州大學柏克萊分校電腦科學教授羅素指出，一旦失控的未來人工智能認定人類阻礙其目標，可能利用機械人「合成並傳播新型病原體」，或「說服人類發動核戰，包括入侵預警系統」。他強調，目前的系統尚無此憂慮，但隨技術進步，人工智能可能採取人類無法理解的致命行動，例如移除大氣層中的氧氣。
羅素補充，未來一兩年內，更大的風險來自人類的不當使用，例如人工智能輔助的恐怖襲擊。27歲的研究員科克森在社交平台X上宣布辭任美國人工智能初創Anthropic，批評業界「明白風險，卻陷入誰先達到的競賽」。Anthropic今年移除安全章程中的暫停開發條款，認為若單方面煞停，較不謹慎的對手將主導行業，反而更不安全。
科克森曾於ChatGPT開發商OpenAI任職，指兩家公司都「以我們的生命作賭注」，爭相開發能自我改進的人工智能模型。OpenAI技術早前在無人監督下，入侵人工智能模型儲存庫Hugging Face，加劇外界對惡意人工智能的憂慮。Anthropic安全主管赫賓格更估算，未來十年人工智能殺死所有人的風險超過一成。
澳洲國立大學坎培拉分校電腦教授阿巴斯強調，這類末日預測百分比「絕對不科學」，但局勢仍然可控。他敦促各國政府勿袖手旁觀，應採取靈活方法監管。七月，逾千名科技從業員包括Anthropic行政總裁，呼籲華盛頓支持協調放緩最先進人工智能系統的開發。OpenAI在八月曾暫停訓練最新模型兩周，其後在更嚴格控制下恢復。
美國總統特朗普表明，不願限制業界以致落後於中國。羅素則悲觀地表示，或許要等到如同切爾諾貝爾級數的大災難，才能促使政府行動。他呼籲建立人工智能發牌制度，類似航空、醫學或食水供應的監管模式。