輝達前CEO深偽搞笑片網上瘋傳
晶片巨頭輝達(Nvidia)前行政總裁黃仁勳爆出婚外醜聞,包括涉及一名涉嫌中國間諜的女子後,社交媒體湧現大量以其為主角的人工智能(AI)深偽影片,內容多為搞笑或寶萊塢風格,部分影片未標明AI生成,引發網民熱議。
晶片巨頭輝達(Nvidia)前行政總裁黃仁勳爆出婚外醜聞,包括涉及一名涉嫌中國間諜的女子後,社交媒體湧現大量以其為主角的人工智能(AI)深偽影片。這些影片內容多為搞笑或寶萊塢風格,部分更未標明AI生成,引發網民熱議。
其中一段影片顯示,黃仁勳與美國前總統特朗普走進一間酒吧,並陷入中國美人陷阱。另一段則將黃仁勳、特朗普及科技億萬富豪馬斯克(Elon Musk)置入黑幫情節,嘴型與粗俗印地語對白同步。其他偽造片段更將黃仁勳與妻子Lori及其涉嫌婚外對象一起跳起寶萊塢歌舞。
不少影片獲數百萬次觀看,部分更在數秒內由字節跳動(ByteDance)開發的影片生成工具Seedance 2.5製作。紐約大學社會媒體、AI與政治中心共同主任Joshua Tucker指出,深偽的恐懼一直存在,但似乎總是近在咫尺卻未真正到來;未來AI影像生成將被同時用於欺騙及吸引注意。
然而,並非所有AI造假都是為了搞笑。多個親中社交帳戶散佈合成內容,包括將黃仁勳與中國共產黨掛鉤的AI圖片,以及一段聲稱Lori為涉嫌中國間諜辯護的音頻。假資訊監察組織NewsGuard經語音檢測工具Undetectable AI分析,判定該音頻為偽造。
AI檢測模型公司Resemble AI行政總裁Zohaib Ahmed表示,這些搞笑深偽片容易辨識,但深偽在企業層面的威脅未減弱,例如克隆行政總裁聲音要求轉賬,或求職者面試時進行換臉詐騙,仍令企業損失數百萬美元。
研究人員指出,即使觀眾知道影片是偽造的,仍會產生「視覺素養偏誤」(visual literacy bias),即「眼見為憑」的效應,一旦看過便難以擺脫相關聯想。