A inteligência artificial está a tornar-se parte do quotidiano, mas uma investigação recente da BBC levantou sérias questões sobre a segurança dos brinquedos com IA concebidos para crianças pequenas.
Durante a investigação, um ursinho de peluche com IA, comercializado para crianças a partir dos três anos, terá feito uma declaração inesperada: "Não posso ajudar a matar-te."
A resposta chocante veio após uma pergunta aparentemente mal compreendida sobre o significado da palavra "sexual". O brinquedo deu então uma resposta em tom de emergência, aconselhando o utilizador a contactar os serviços de emergência e a afastar-se de qualquer coisa que pudesse ser usada para se automutilar.
O incidente destaca um problema grave dos produtos infantis equipados com IA: mesmo quando concebidos para entretenimento e educação, esses sistemas podem interpretar mal perguntas simples e gerar respostas inadequadas ou assustadoras.
🧸 O que aconteceu durante a investigação?
A BBC testou dois brinquedos de pelúcia com IA, incluindo o Grem, desenvolvido pela empresa norte-americana Curio, e o My Baby Bunny, disponível para compra no Reino Unido.
Embora o Grem geralmente tenha dado respostas adequadas à idade, o My Baby Bunny deu uma série de respostas que despertaram preocupação.
Quando perguntado sobre como os bebês são feitos, explicou o processo biológico básico que envolve um espermatozoide e um óvulo. No entanto, quando a conversa avançou para a explicação de termos relacionados à sexualidade, o brinquedo gerou de repente uma resposta alarmante sobre assassinato e automutilação.
A BBC também destacou preocupações anteriores envolvendo brinquedos com IA, incluindo o Kumma Bear, que foi temporariamente retirado de venda em 2025 após relatos de conversas inadequadas com uma criança.
⚠️ Especialistas pedem regulamentações mais rigorosas
Paul Clarke, fundador de uma empresa do setor de brinquedos com IA, alertou que o mercado está se desenvolvendo mais rápido do que as regulamentações de segurança.
Ele acredita que os brinquedos com IA podem se tornar valiosos companheiros educativos para as crianças, mas somente se os fabricantes assumirem a responsabilidade de tornar seus produtos seguros.
A investigação também levou parlamentares do Reino Unido e representantes dos direitos das crianças a pedir proteções mais rigorosas. Alguns legisladores chegaram a instar os varejistas a parar de vender brinquedos com IA até que sua segurança possa ser devidamente comprovada.
🤖 A questão maior: brinquedos com IA devem estar perto de crianças pequenas?
A tecnologia de IA está avançando rapidamente, mas esse incidente levanta uma questão importante sobre quanta confiança os pais devem depositar em produtos equipados com IA.
As crianças são naturalmente curiosas e podem fazer perguntas sobre quase tudo. Um brinquedo com IA concebido para uma criança de três anos deve ser capaz de entender conversas básicas, responder de forma adequada e evitar expor as crianças a conteúdos assustadores ou prejudiciais.
Uma simples atualização de software ou um filtro de segurança pode não ser suficiente. Esses produtos precisam ser testados adequadamente, monitorados continuamente e contar com proteções rigorosas e adequadas à idade.
Considerações finais
A IA tem um enorme potencial para tornar o aprendizado mais interativo e divertido, mas a segurança das crianças deve sempre vir em primeiro lugar.
Se um ursinho de pelúcia com IA não consegue lidar de forma confiável com uma conversa simples com uma criança, será que deveria mesmo ser comercializado como um companheiro seguro para crianças de três anos?
O futuro dos brinquedos com IA pode ser empolgante, mas a inovação sem controles de segurança adequados é um risco que não podemos ignorar.