Meta測試Muse人工代理接聽來電
Meta正為其個人AI助手Muse測試「真人禮賓」功能,由合約員工代為處理部分電話。內部員工憂慮此舉或洩漏敏感資料,管理層已暫停相關測試並致歉。
社交媒體巨頭Meta(美:META)正為其新推出的個人AI助手Muse測試一項「真人禮賓」功能,安排合約員工在幕後代為處理部分經數碼代理撥出的電話。據路透社取得的內部帖文顯示,Meta上周向員工交代有關測試,事緣公司剛公開推出Muse的電話通話功能。
Muse自推出以來,在美國應用程式下載排行榜上位居前列,設計上是為了代表用戶自動處理電郵、購物及預訂旅遊等事務。用戶可指示Muse致電美國商戶,代為預約理髮、查詢存貨或索取不同承辦商報價。
然而,部分員工對由真人接聽電話的做法表示擔憂,認為可能令敏感資料意外地與電話中心的承辦商分享。有員工在內部帖文直言:「我不明白為何我們認為這功能值得冒險,我們距離不必要的資料洩露給真人接線生只差一個漏洞。」另一名員工表示,他要求Muse致電網絡供應商議價時,發現對話紀錄中,該名真人承辦商曾發表種族歧視言論。
Meta超級智能實驗室部門副總裁回應時承認,在未有適當披露下開始測試承辦商致電是「一個失誤」,並表示公司已暫時「撤回」這項功能。她續稱,Meta仍在「摸索AI通話」階段,部分測試顯示由真人代為致電,成功率可提升至95%至98%,高於純AI通話。她亦就員工舉報的種族言論致歉,並承諾涉事「真人代理」日後不會再參與Meta的項目。
是次測試反映科技公司有時須依賴真人勞動,來兌現自主AI的承諾,同時亦面對來電者不願與機械對話的問題。Meta發言人羅拔斯回應查詢時表示,員工反應「壓倒性地正面」,測試目的是「收集意見,以便在公開發布前實施安全及私隱保障措施」。他又指,公司正與商戶合作改善這項潛在通話功能,只會在準備就緒及有適當披露下才推出。