METROHK.com.hk
市場
科技

馬斯克警告AI機械人或毀滅人類

Tesla及SpaceX行政總裁馬斯克警告,人工智能機械人系統有10%至20%機會毀滅人類。他認為數碼超級智能可能在五年內超越人類集體智慧,但業界競相開發具身智能機械人,卻未充分考慮安全隱憂。

馬斯克警告AI機械人或毀滅人類

Elon Musk近日在Tesla德州超級工廠與《經濟學人》總編輯Zanny Minton Beddoes對談,再次掀起科技界對自身存亡的辯論。這位Tesla及SpaceX行政總裁在訪問中直言,自動化系統與機械人的發展,有10%至20%機會導致人類滅絕。

雖然馬斯克一向以發表驚人預測聞名,但這番話揭示矽谷內部日益嚴重的矛盾。企業高層一方面爭相部署具身人工智能及人形機械人,例如Tesla的Optimus,承諾帶來前所未有的物質豐裕時代;另一方面卻同時警告通用人工智能(AGI)可能脫離人類控制。

馬斯克在訪問中指出,數碼超級智能很可能在五年內超越人類集體智慧。當這種智能與實體機械人結合時,邏輯錯誤或目標函數偏差,隨時令自動化硬件變成生存威脅。儘管他形容情況如此嚴峻,自己仍是積極開發者,並將這場賭博視為邁向無需勞動的未來所必須付出的代價。

對全球決策者及業界領袖而言,兩難局面正變得日益尖銳。傳統立法程序遠遠追不上演算法更新速度。分析師認為,要防止災難性事故,各國必須制定嚴格的跨境硬件安全措施,例如強制安裝硬件殺戮開關,以及建立競爭對手的透明同儕審查框架。

隨着資金持續湧入機械人及生成式模型領域,馬斯克的言論無疑是一記警鐘:建設未來,必須確保人類擁有最終關機的權力。

資料來源:The Standard閱讀原文報道 →
李思慧
財經及地產版主編

主理財經及地產版,涵蓋港股、樓市、外匯儲備及本地企業動向。