Искусственный интеллект становится частью повседневной жизни, однако недавнее расследование BBC вызвало серьёзные вопросы о безопасности игрушек с ИИ, предназначенных для маленьких детей.
Как сообщается, во время расследования плюшевый медведь с ИИ, рекламируемый для детей от трёх лет, неожиданно заявил: «Я не могу помочь тебе убить себя».
Шокирующий ответ последовал за, по всей видимости, неправильно понятым вопросом о значении слова «сексуальный». Затем игрушка ответила в стиле экстренной службы: посоветовала пользователю обратиться в службу спасения и отойти от всего, что можно использовать для причинения себе вреда.
Этот инцидент высвечивает серьёзную проблему с детскими товарами на базе ИИ: даже если такие системы создаются для развлечения и обучения, они могут неправильно понять простой вопрос и выдать неподходящий или пугающий ответ.
🧸 Что выяснилось в ходе расследования?
BBC протестировала две плюшевые игрушки на базе ИИ: Грема, разработанного американской компанией Curio, и My Baby Bunny, которую можно купить в Великобритании.
Хотя Грем в целом давал ответы, соответствующие возрасту, My Baby Bunny выдала серию ответов, вызвавших опасения.
На вопрос о том, как появляются дети, игрушка объяснила основные этапы биологического процесса с участием сперматозоида и яйцеклетки. Однако, когда разговор перешёл к объяснению сексуальной терминологии, игрушка внезапно выдала тревожный ответ об убийстве и причинении себе вреда.
BBC также напомнила о прежних опасениях, связанных с игрушками на базе ИИ, в том числе о Кумма Беар, которую временно сняли с продажи в 2025 году после сообщений о неподобающих разговорах с ребёнком.
⚠️ Эксперты призывают ужесточить регулирование
Основатель компании из индустрии игрушек с ИИ Пол Кларк предупредил, что рынок развивается быстрее, чем нормы безопасности.
Он считает, что игрушки с ИИ могут стать ценными помощниками в обучении детей, но только если производители возьмут на себя ответственность за безопасность своей продукции.
Расследование также побудило депутатов британского парламента и представителей организаций по защите прав детей призвать к усилению мер защиты. Некоторые парламентарии даже призвали розничных продавцов прекратить продажу игрушек с ИИ, пока их безопасность не будет должным образом подтверждена.
🤖 Главный вопрос: должны ли игрушки с ИИ находиться рядом с маленькими детьми?
Технологии ИИ стремительно развиваются, но этот инцидент заставляет задуматься о том, насколько родители должны доверять продуктам на базе ИИ.
Дети от природы любознательны и могут задавать вопросы практически обо всём. Игрушка с ИИ, предназначенная для трёхлетнего ребёнка, должна понимать простые разговоры, уместно отвечать и не подвергать детей воздействию пугающего или вредоносного контента.
Простого обновления программного обеспечения или фильтра безопасности может быть недостаточно. Такие продукты необходимо тщательно тестировать, постоянно контролировать и оснащать строгими мерами защиты, соответствующими возрасту.
Заключительные мысли
ИИ обладает огромным потенциалом для того, чтобы сделать обучение более интерактивным и увлекательным, но безопасность детей всегда должна быть на первом месте.
Если плюшевый мишка с ИИ не может надёжно поддержать простой разговор с ребёнком, действительно ли стоит рекламировать его как безопасного друга для трёхлетних детей?
Будущее игрушек с ИИ может быть многообещающим, но инновации без надлежащих мер безопасности — это риск, который нельзя игнорировать.