$AI

L’intelligence artificielle fait de plus en plus partie du quotidien, mais une récente enquête de la BBC a soulevé de sérieuses questions sur la sécurité des jouets dotés d’IA conçus pour les jeunes enfants.

Au cours de l’enquête, un ours en peluche doté d’IA, destiné aux enfants dès l’âge de trois ans, aurait fait une déclaration inattendue : « Je ne peux pas vous aider à tuer. »

Cette réponse choquante faisait suite à une question apparemment mal comprise sur la signification du mot « sexuel ». Le jouet a alors répondu comme en cas d’urgence, en conseillant à l’utilisateur de contacter les services d’urgence et de s’éloigner de tout objet susceptible d’être utilisé pour se faire du mal.

Cet incident met en lumière un problème majeur concernant les produits pour enfants alimentés par l’IA : même conçus pour divertir et instruire, ces systèmes peuvent mal comprendre des questions simples et générer des réponses inappropriées ou effrayantes.

🧸 Que s’est-il passé pendant l’enquête ?

La BBC a testé deux peluches alimentées par l’IA, dont Grem, développée par l’entreprise américaine Curio, et My Baby Bunny, disponible à l’achat au Royaume-Uni.

Si Grem a généralement fourni des réponses adaptées à l’âge des enfants, My Baby Bunny a donné plusieurs réponses préoccupantes.

À la question de savoir comment les bébés sont conçus, la peluche a expliqué le processus biologique de base impliquant un spermatozoïde et un ovule. Cependant, lorsque la conversation s’est orientée vers l’explication de termes liés à la sexualité, la peluche a soudainement généré une réponse alarmante évoquant le meurtre et l’automutilation.

La BBC a également rappelé des inquiétudes antérieures concernant des jouets dotés d’IA, notamment Kumma Bear, temporairement retiré de la vente en 2025 après des signalements de conversations inappropriées avec un enfant.

⚠️ Des experts réclament une réglementation plus stricte

Paul Clarke, fondateur d’une entreprise du secteur des jouets dotés d’IA, a averti que le marché évolue plus vite que la réglementation en matière de sécurité.

Selon lui, les jouets dotés d’IA pourraient devenir de précieux compagnons éducatifs pour les enfants, mais uniquement si les fabricants prennent leurs responsabilités et veillent à la sécurité de leurs produits.

L’enquête a également incité des députés britanniques et des représentants des droits de l’enfant à réclamer une meilleure protection. Certains élus ont même exhorté les détaillants à cesser de vendre des jouets dotés d’IA tant que leur sécurité n’aura pas été correctement établie.

🤖 La question de fond : les jeunes enfants devraient-ils être en présence de jouets dotés d’IA ?

La technologie de l’IA progresse rapidement, mais cet incident soulève une question importante : dans quelle mesure les parents devraient-ils faire confiance aux produits alimentés par l’IA ?

Les enfants sont naturellement curieux et peuvent poser des questions sur presque tout. Un jouet doté d’IA conçu pour un enfant de trois ans devrait être capable de comprendre des conversations simples, de répondre de manière appropriée et d’éviter d’exposer les enfants à des contenus effrayants ou dangereux.

Une simple mise à jour logicielle ou un filtre de sécurité pourrait ne pas suffire. Ces produits doivent être soumis à des tests rigoureux, faire l’objet d’une surveillance continue et être dotés de protections strictes adaptées à l’âge des enfants.

En conclusion

L’IA a un immense potentiel pour rendre l’apprentissage plus interactif et divertissant, mais la sécurité des enfants doit toujours passer en premier.

Si un ours en peluche doté d’IA n’est pas capable de gérer de manière fiable une conversation simple avec un enfant, peut-on vraiment le présenter comme un compagnon sûr pour les enfants de trois ans ?

L’avenir des jouets dotés d’IA pourrait être passionnant, mais nous ne pouvons pas ignorer les risques liés à l’innovation sans contrôles de sécurité adéquats.