$AI

人工知能（AI）は日常生活の一部になりつつあるが、BBCが最近行った調査により、幼い子ども向けに設計されたAI搭載のおもちゃの安全性について、深刻な疑問が浮上した。

調査中、3歳児向けとして販売されていたAI搭載のテディベアが、予想外の発言をしたと報じられた。「あなたを殺す手助けはできません」

この衝撃的な返答は、「sexual（性的な）」という言葉の意味についての質問を、誤解したと思われることを受けて出された。その後、おもちゃは緊急時のような対応をし、緊急サービスに連絡することや、自傷に使えるものから離れることをユーザーに勧めた。

この出来事は、AI搭載の子ども向け製品が抱える大きな問題を浮き彫りにしています。娯楽や教育を目的に設計されていても、こうしたシステムは簡単な質問を誤解し、不適切だったり恐ろしかったりする返答を生成することがあります。

🧸 調査では何が起きたのか？

BBCは、米国に拠点を置くCurio社が開発したGremと、英国で購入できるMy Baby Bunnyを含む、AI搭載のぬいぐるみ2点をテストしました。

Gremは概ね年齢に適した回答をした一方、My Baby Bunnyは懸念を招く返答を次々としました。

赤ちゃんはどうやってできるのかと尋ねると、精子と卵子が関わる基本的な生物学的プロセスを説明しました。しかし、会話が性に関する用語の説明に移ると、このおもちゃは突然、殺人や自傷行為に関する不安を煽る返答を生成しました。

BBCはまた、AI搭載のおもちゃをめぐる過去の懸念も取り上げました。Kumma Bearは、子どもとの不適切な会話が報告されたことを受け、2025年に一時販売中止となりました。

⚠️ 専門家は規制の強化を求めている

AI玩具業界の創業者であるポール・クラーク氏は、市場の発展が安全規制の整備を上回る速さで進んでいると警告しました。

同氏は、メーカーが製品の安全性に責任を持つことを条件に、AI搭載のおもちゃは子どもにとって価値ある教育パートナーになり得ると考えています。

今回の調査を受け、英国の国会議員や子どもの権利擁護団体の代表者からも、保護の強化を求める声が上がっています。安全性を適切に確認できるまでAI搭載のおもちゃの販売を中止するよう、小売業者に求める議員もいます。

🤖 より大きな問い：幼い子どものそばにAI搭載のおもちゃを置くべきか？

AI技術は急速に進歩していますが、今回の出来事は、AI搭載製品を親がどこまで信頼すべきなのかという重要な問いを投げかけています。

子どもは好奇心旺盛で、どんなことについても質問する可能性があります。3歳児向けに設計されたAI搭載のおもちゃなら、基本的な会話を理解し、適切に応答するとともに、子どもを恐ろしい内容や有害な内容に触れさせないようにできるべきです。

簡単なソフトウェアの更新や安全フィルターだけでは不十分かもしれません。こうした製品には、適切なテスト、継続的な監視、そして年齢に応じた厳格な安全対策が必要です。

最後に

AIには、学びをより双方向的で楽しいものにする大きな可能性があります。しかし、子どもの安全は常に最優先でなければなりません。

AI搭載のテディベアが子どもとの簡単な会話にも確実に対応できないのなら、本当に3歳児向けの安全なパートナーとして販売してよいのでしょうか？

AI搭載のおもちゃの未来には大きな期待が持てます。しかし、適切な安全管理を伴わないイノベーションは、無視できないリスクです。