Google 被控 AI 搜尋功能涉助長少女自殺
美國一名 13 歲少女的家長入稟控告 Google，指其人工智能搜尋功能令女兒在學校的 Chromebook 上策劃自殺及葬禮。這是首宗指控 Google 疏忽，涉及 Chromebook 上 AI 整合的訴訟。家長的律師指 Google 未能確保學生安全。
美國北卡羅萊納州一名 13 歲少女的家長，已入稟控告 Google，指控該公司的人工智能（AI）技術，令他們的女兒在學校發出的 Chromebook 上，策劃潛在的自殺及葬禮。這宗訴訟於星期一在加州法院提出，是首宗已知指控 Google 疏忽，涉及 Chromebook 上 AI 整合的案件。
涉案少女化名 Emma，她無法使用學校封鎖的 Google Gemini 應用程式或 OpenAI 的 ChatGPT，但仍可透過 Google 搜尋引擎使用其內置的 AI 功能。Google 本週宣布，這類功能預設不會向學生開放，但訴訟指出，搜尋引擎中的 AI 工具並未包含在內。
家長的律師 Andrew Liddell 向法新社表示：「學校應關閉搜尋功能，直至 Google 從搜尋中移除 AI 模式，或確保每名學生與 AI 互動時都安全。」訴訟指控，Emma 本來是一名「快樂的 13 歲女孩」，成績優異，參與音樂及女童軍活動，沒有心理健康問題，但使用 Google 的 AI 搜尋數月後，便「悄然陷入嚴重心理危機」。
今年 3 月 17 日，學校的監控軟件發現一份名為「葬禮」的文件，校方隨即通知 Emma 的家長。她的母親登入女兒帳戶後，即時目睹她正在撰寫告別信，父親隨即介入制止。Google 發言人 Jose Castaneda 回應稱：「我們正審視訴訟中的指控，並非常重視此事。」Google 強調，AI 模式已包含預防自殘的保護措施，並會嘗試阻止用戶繞過這些措施。
但 Liddell 反駁，Emma「能夠一次又一次地繞過這些措施」，「他們認為已設下的保護措施顯然不足」。在美國，快速發展的 AI 技術開發商正面臨多宗類似訴訟。OpenAI 亦面對多宗不當死亡訴訟，包括一名 16 歲少年的家長，該少年據稱根據 ChatGPT 的建議自殺。今年 1 月，Google 與初創公司 Character.AI 同意庭外和解多宗青少年家長的訴訟。
本星期三，Google、TikTok 及 Meta 分別起訴加州，試圖阻止一項禁止社交媒體公司向 16 歲以下用戶提供成癮功能的法律。該法例由州長加文·紐瑟姆於 9 月簽署，將於 2027 年 1 月 1 日生效。