馬斯克警告AI機械人或毀滅人類
Tesla及SpaceX行政總裁馬斯克警告,人工智能機械人系統有10%至20%機會毀滅人類。他認為數碼超級智能可能在五年內超越人類集體智慧,但業界競相開發具身智能機械人,卻未充分考慮安全隱憂。
Elon Musk近日在Tesla德州超級工廠與《經濟學人》總編輯Zanny Minton Beddoes對談,再次掀起科技界對自身存亡的辯論。這位Tesla及SpaceX行政總裁在訪問中直言,自動化系統與機械人的發展,有10%至20%機會導致人類滅絕。
雖然馬斯克一向以發表驚人預測聞名,但這番話揭示矽谷內部日益嚴重的矛盾。企業高層一方面爭相部署具身人工智能及人形機械人,例如Tesla的Optimus,承諾帶來前所未有的物質豐裕時代;另一方面卻同時警告通用人工智能(AGI)可能脫離人類控制。
馬斯克在訪問中指出,數碼超級智能很可能在五年內超越人類集體智慧。當這種智能與實體機械人結合時,邏輯錯誤或目標函數偏差,隨時令自動化硬件變成生存威脅。儘管他形容情況如此嚴峻,自己仍是積極開發者,並將這場賭博視為邁向無需勞動的未來所必須付出的代價。
對全球決策者及業界領袖而言,兩難局面正變得日益尖銳。傳統立法程序遠遠追不上演算法更新速度。分析師認為,要防止災難性事故,各國必須制定嚴格的跨境硬件安全措施,例如強制安裝硬件殺戮開關,以及建立競爭對手的透明同儕審查框架。
隨着資金持續湧入機械人及生成式模型領域,馬斯克的言論無疑是一記警鐘:建設未來,必須確保人類擁有最終關機的權力。
資料來源:The Standard。
閱讀原文報道 →