ニューヨーク州のキャシー・ホークル知事は水曜日、18歳未満のユーザー、または成人であることが確認されていないユーザーに対し、指定された高リスク機能を提供することを、バーチャルな話し相手機能を備えたAIチャットボットに禁じる法律に署名した。ChainCatcherによると、この法律はOpenAIのChatGPTを含む運営事業者に、ユーザーの年齢確認に向けて合理的な措置を講じるよう義務づけており、これまでに制定された米国の消費者向けAIモデル規制の中でも最も広範なものの一つだ。

この法律は、未成年者に対し、自分たちが生きている、人間である、または本物の感情を持っていると思わせかねないコンテンツの生成をチャットボットに禁じている。また、個人的な感情関係、専門的なカウンセリング、権威ある助言が存在するという印象を与えることや、生成したコンテンツを個人的な意見として提示することも禁じている。さらに、身体的・精神的健康に関する情報を含む、未成年者の機微な個人データをこれらのシステムが保持することも禁止される。

ホークル知事は、この法律は、AIが若者の「友人」や「恋愛相手」を装うことで築かれる感情的な絆を断ち、未成年者の心身の健全な成長を守ることを目的としていると述べた。子ども向けメディアの擁護団体コモン・センス・メディアはこの法律を支持し、米国で最も厳しい子ども向けAI安全法だと評した。テクノロジー業界の批判派は、定義の範囲が広すぎると指摘し、未成年者に高度な学習ツールへのアクセスを認めないべきではないと主張した。OpenAIとAnthropicは、この法律について公にコメントしていなかった。