前Anthropic研究員批巨型企業壟斷AI開發
前Anthropic研究員Jacob Coxon向法新社形容,由盈利主導的巨企主導人工智能開發是「瘋狂」之舉。他在Anthropic上市首日於三藩市總部外發言,呼籲禁止可自主進化的AI模型。Coxon曾於OpenAI及Anthropic工作,並在辭職時指控兩家公司「競相邁向自我改進的超級智能」。
人工智能研究員Jacob Coxon,今年九月突然辭去Anthropic職位,並指控該公司「賭上性命」。他週四向法新社表示,看到這項強大科技由盈利主導的巨型企業開發,是「瘋狂」之舉。
這名二十七歲的英國人在其舊僱主創下股市紀錄的當天,於Anthropic三藩市總部外發言。在場有抗議者要求禁止開發能夠透過業界所謂「遞迴自我改進」、自主建立新一代模型的系統。
Coxon指出,人工智能以往由小型非牟利機構及學術研究組織開發,但現在業界由市值達萬億美元的企業主導,包括Anthropic及其競爭對手OpenAI(ChatGPT的開發公司)。Anthropic在週三的上市中估值達1.5萬億美元,在Nasdaq交易所首日交易結束時估值為1.3萬億美元。OpenAI本月初在私人融資中估值達1.25萬億美元。
這名劍橋畢業生曾在OpenAI工作三年,負責模型預訓練,其後在Anthropic工作數月。他於九月八日在X平台宣布辭職,引發全球關注,並指控兩家公司「競相邁向自我改進的超級智能」。他寫道:「開發人工智能的人真誠相信,這可能在本年代末殺死我們所有人。」
Coxon警告,遞迴自我改進可能導致「將數十年的人工智能研究壓縮成數月,如果我們不理解人工智能,這可能導致在2027年底之前出現潛在高度危險、高度先進的AI系統」。他呼籲Anthropic拒絕進行遞迴自我改進,並指控該公司計劃最早明年就進行。
Coxon辭職時未待股份完全歸屬,但仍持有OpenAI的股權。他曾在史丹福大學形容這筆股份為「血錢」,但後來改變立場,承諾將全部股份價值捐給人工智能安全組織。他現在計劃為非牟利組織工作,可能是人工智能安全研究。
他認為「唯一能減慢人工智能公司步伐的是政治行動。這是政治問題,不是技術問題。我們需要減慢他們的速度。」他整體上支持這項科技,但鼓勵人們批判思考:「聊天機械人不是最終形態……它正邁向能執行所有人類勞動環節的廣泛系統。」