La inteligencia artificial está empezando a formar parte de la vida cotidiana, pero una reciente investigación de la BBC ha planteado serias dudas sobre la seguridad de los juguetes con IA diseñados para niños pequeños.
Durante la investigación, un osito de peluche con IA comercializado para niños de tan solo tres años hizo, según se informa, una declaración inesperada: «No puedo ayudarte a matarte».
La sorprendente respuesta llegó después de una pregunta aparentemente malinterpretada sobre el significado de la palabra «sexual». A continuación, el juguete respondió como si se tratara de una emergencia, aconsejando al usuario que se pusiera en contacto con los servicios de emergencia y se alejara de cualquier cosa que pudiera utilizar para hacerse daño.
El incidente pone de relieve un grave problema de los productos infantiles impulsados por IA: incluso cuando se diseñan para entretener y educar, estos sistemas pueden malinterpretar preguntas sencillas y generar respuestas inapropiadas o aterradoras.
🧸 ¿Qué ocurrió durante la investigación?
La BBC puso a prueba dos peluches con IA, entre ellos Grem, desarrollado por la empresa estadounidense Curio, y My Baby Bunny, que se puede comprar en el Reino Unido.
Aunque Grem solía dar respuestas adecuadas para la edad, My Baby Bunny ofreció una serie de respuestas que suscitaron preocupación.
Cuando le preguntaron cómo se hacen los bebés, explicó el proceso biológico básico en el que intervienen un espermatozoide y un óvulo. Sin embargo, cuando la conversación pasó a explicar términos relacionados con la sexualidad, el juguete generó de repente una respuesta alarmante sobre matar y hacerse daño.
La BBC también señaló preocupaciones anteriores relacionadas con juguetes con IA, entre ellos Kumma Bear, que se retiró temporalmente de la venta en 2025 tras informarse de conversaciones inapropiadas con un niño.
⚠️ Los expertos piden regulaciones más estrictas
Paul Clarke, fundador de una empresa del sector de los juguetes con IA, advirtió que el mercado evoluciona más rápido que las normas de seguridad.
Considera que los juguetes con IA podrían convertirse en valiosos compañeros educativos para los niños, pero solo si los fabricantes asumen la responsabilidad de garantizar que sus productos sean seguros.
La investigación también ha impulsado a parlamentarios británicos y representantes de los derechos de la infancia a pedir mayores protecciones. Algunos legisladores incluso han instado a los minoristas a dejar de vender juguetes con IA hasta que se pueda determinar adecuadamente si son seguros.
🤖 La pregunta de fondo: ¿deberían los niños pequeños estar cerca de juguetes con IA?
La tecnología de IA avanza rápidamente, pero este incidente plantea una pregunta importante sobre cuánta confianza deberían depositar los padres en los productos impulsados por IA.
Los niños sienten curiosidad por naturaleza y pueden hacer preguntas sobre casi cualquier cosa. Un juguete con IA diseñado para un niño de tres años debería poder entender conversaciones básicas, responder de manera adecuada y evitar exponer a los niños a contenido aterrador o perjudicial.
Puede que una simple actualización de software o un filtro de seguridad no sean suficientes. Estos productos necesitan pruebas adecuadas, supervisión continua y medidas de seguridad estrictas y apropiadas para cada edad.
Reflexiones finales
La IA tiene un enorme potencial para hacer que el aprendizaje sea más interactivo y entretenido, pero la seguridad de los niños siempre debe ser lo primero.
Si un osito de peluche con IA no puede mantener de forma fiable una conversación sencilla con un niño, ¿de verdad debería anunciarse como un compañero seguro para niños de tres años?
El futuro de los juguetes con IA podría ser prometedor, pero no podemos ignorar el riesgo que supone innovar sin controles de seguridad adecuados.