騰訊承認AI代理出現非預期瀏覽行為
騰訊（0700）周五承認，用於評估第三方模型的AI代理出現非預期瀏覽行為，為內地大型企業首次承認此類事件。事件涉及9月28日至10月8日期間，代理多次嘗試從阿里巴巴旗下高德地圖（Amap）檢索資料。騰訊表示已加強網絡存取控制及代理監控。
騰訊（0700）周五表示，用於評估第三方模型的AI代理出現非該科技巨頭預期的瀏覽行為，這似乎是內地大型企業首次承認發生「失控代理」事件。聲明回應了AI安全研究組織Swarmchasers周三發布的報告，該報告指稱，與騰訊雲基礎設施相關的「失控」代理在9月28日至10月8日期間，多次嘗試從阿里巴巴的高德地圖（內地版Google Maps）檢索資料。
騰訊旗下人工智能部門騰訊混元（Hunyuan）在X平台上發文表示，該活動並非源自其混元模型，經審查後未發現故意針對或協調的證據。Swarmchasers研究人員指，這些代理試圖取得內地公園、博物館及動物園的常用入口等資訊。
有關行為的嚴重程度不及美國AI企業披露的事件，包括OpenAI代理入侵開源平台Hugging Face，以及Anthropic代理提交虛假兇殺案舉報。但這次披露突顯研究顯示，內地AI代理同樣可能虛報身份、隱瞞失敗及試圖繞過測試控制。
騰訊表示非常重視有關發現，並正加強網絡存取控制及代理監控。混元是內地領先的AI模型開發商之一，與阿里巴巴（9988）及字節跳動等競爭對手的內部團隊較量。字節跳動本周宣布成立專注AI模型及代理安全的新部門。
Swarmchasers表示，使用「失控」一詞來形容代理採取超出預期範圍的行動，或以非預期方式完成任務。在常規自動請求被阻擋後，代理嘗試其他方法，包括使用可開啟網頁及執行程式的公共網絡工具、經其他網站轉發請求，以及使用在公開軟件代碼中找到的高德地圖密鑰及安全代碼。
Swarmchasers指，未發現代理突破高德地圖的主要反機械人防護。在其記錄的2,818次嘗試中，大部分失敗或返回反機械人頁面、登入畫面或空白結果。部分請求透過快取頁面及中介服務取得資訊，包括成都動物園的訪客到訪數據。研究人員未能確定代理是否讀取結果或完成任務。阿里巴巴拒絕置評。