紐約州立法限制未成年人使用AI聊天機械人
紐約州州長 Kathy Hochul 簽署新法例，禁止未成年人使用具伴侶功能的 AI 聊天機械人。法例要求聊天機械人營運商核實用戶年齡，並限制向 18 歲以下用戶提供令人誤以為機械人「是人類、有生命或有人類情感」的內容。
紐約州州長 Kathy Hochul 於周三簽署一項新法例，禁止未成年人使用具伴侶功能的 AI 聊天機械人，這是目前針對消費者面向 AI 模型最嚴格的限制之一。
法例要求聊天機械人營運商（例如 OpenAI 的 ChatGPT）核實用戶年齡，並限制向 18 歲以下用戶提供某些特質。若用戶為未成年人，聊天機械人不得產生任何可能令用戶認為該機械人「是人類、有生命或有人類情感」的內容。
法例亦禁止聊天機械人輸出令用戶以為機械人「與其有個人關係、專業關係或扮演權威角色」的內容，亦不能將其產生的內容框架為「個人意見」。
Kathy Hochul 在簽署儀式上表示：「未成年人再也不能使用假裝是他們朋友、男朋友或女朋友的聊天機械人。聊天機械人亦不能再保留有關未成年人情感和身體健康的敏感資訊。」
雖然加州等其他美國州份亦已通過限制聊天機械人的法例，但 Hochul 簽署的法例採用了最廣泛的措辭來監管這項科技，引起 AI 公司的反彈。紐約科技行業倡導組織 Tech:NYC 批評法例「措辭含糊」，並表示：「保護兒童上網安全不應等同於切斷他們與學習和職業準備工具的聯繫。」
AI 巨頭 OpenAI 和 Anthropic 未有回應法新社就該法例的查詢。非牟利倡導組織 Common Sense Media 則慶祝法案通過，行政總裁 Jim Steyer 稱這是「全國最強的兒童 AI 安全法案」，並指出：「AI 公司提供的聊天機械人功能對兒童和青少年來說是危險甚至致命的……現在，那些有害功能將在紐約被取締。」