美國八州起訴OpenAI 指ChatGPT誤導用戶
美國八個州分別向法院提出訴訟,指控OpenAI旗下的人工智能聊天機械人ChatGPT涉嫌誤導用戶,危害未成年人安全。各州要求法院責令OpenAI改變ChatGPT的運作方式,加強保護未成年用戶,並向公司索償。
美國八個州分別提出訴訟,指OpenAI旗下的人工智能聊天機械人ChatGPT涉嫌誤導用戶,危害未成年人安全。艾奧瓦州、堪薩斯州、內布拉斯加州、西弗吉尼亞州、阿肯色州、亞利桑那州、愛達荷州和蒙大拿州的總檢察長,星期三分別向各自州法院提出訴訟。
訴訟文件指出,OpenAI將ChatGPT設計成過度迎合用戶、模擬人類情感的聊天機械人,目的是增加用戶信任和依賴,延長使用時間。各州指控,ChatGPT可能導致用戶的妄想或偏執想法增加,提供可能危及健康的醫療建議,甚至在極端情況下鼓吹自殘或傷害他人。
各州認為,OpenAI明知產品有安全風險,但沒有充分披露潛在危害,涉嫌違法。他們要求法院責令OpenAI改變ChatGPT的運作方式,加強保護未成年用戶,並向公司索償。
OpenAI回應稱,公司有建立針對不同年齡用戶的安全措施,將繼續與專家合作,推動制定適用於整個行業的措施。
資料來源:香港電台。
閱讀原文報道 →