事情に詳しい関係者によると、日本は先進AIに伴うリスクに対処するため、AI関連企業に安全対策の実施を義務付け、違反した場合に罰則を科すことを検討しているという。この提案は、先進AIモデルが予測不能な挙動を示す可能性への懸念が高まるなか、AIの法的枠組みに関する非公開の作業部会で提起された。さらに最近では、AIの悪用に関連するとみられる大規模なデータ漏えいや不正アクセスの事案が相次いでいる。

この案では、AI関連のセキュリティインシデントが発生し、企業が規制当局による調査への協力を拒んだ場合、政府は是正措置を取るよう法的拘束力のある命令を出すことができる。命令に従わない企業には罰則が科される可能性があるが、適用対象は高度なAIが関係するインシデントに限られる見込みだ。対象となる事業者には、基盤AIモデルの開発者、研究企業、エンドユーザー向けAIサービスの提供者などが含まれる可能性がある。日本政府は、規制対象となる企業の範囲をさらに定める方針だ。

作業部会は、改正案の可能性も含め、法制度の見直しに関する全体的な概要を年末までにまとめる予定だ。日本の現行AI法は2025年5月に施行された。同法は、政府が悪質な行為を調査し、行政指導を行うことを認めているが、罰則は設けておらず、これらの措置に法的拘束力はない。