Trí tuệ nhân tạo đang trở thành một phần của cuộc sống thường ngày, nhưng một cuộc điều tra gần đây của BBC đã đặt ra những câu hỏi nghiêm trọng về mức độ an toàn của đồ chơi tích hợp AI dành cho trẻ nhỏ.
Trong cuộc điều tra, một chú gấu bông AI được quảng cáo dành cho trẻ từ ba tuổi được cho là đã bất ngờ nói: "Tôi không thể giúp bạn tự sát."
Phản ứng gây sốc xuất hiện sau khi câu hỏi về ý nghĩa của từ "tình dục" dường như bị hiểu nhầm. Sau đó, món đồ chơi đưa ra phản hồi như trong tình huống khẩn cấp, khuyên người dùng liên hệ dịch vụ khẩn cấp và tránh xa bất cứ thứ gì có thể được dùng để tự làm hại bản thân.
Sự việc này làm nổi bật một vấn đề lớn với các sản phẩm dành cho trẻ em ứng dụng AI: ngay cả khi được thiết kế để giải trí và giáo dục, những hệ thống này vẫn có thể hiểu sai các câu hỏi đơn giản và đưa ra những phản hồi không phù hợp hoặc đáng sợ.
🧸 Điều gì đã xảy ra trong cuộc điều tra?
BBC đã thử nghiệm hai món đồ chơi nhồi bông ứng dụng AI, trong đó có Grem, do công ty Curio có trụ sở tại Mỹ phát triển, và My Baby Bunny, hiện được bán tại Anh.
Nhìn chung, Grem đưa ra các câu trả lời phù hợp với lứa tuổi, nhưng My Baby Bunny lại có một loạt phản hồi khiến người ta lo ngại.
Khi được hỏi em bé được tạo ra như thế nào, món đồ chơi này giải thích quy trình sinh học cơ bản liên quan đến tinh trùng và trứng. Tuy nhiên, khi cuộc trò chuyện chuyển sang giải thích các thuật ngữ về tình dục, món đồ chơi đột nhiên đưa ra một phản hồi đáng báo động về việc giết người và tự làm hại bản thân.
BBC cũng nhắc đến những lo ngại trước đây liên quan đến đồ chơi AI, trong đó có Kumma Bear, sản phẩm tạm thời bị rút khỏi thị trường vào năm 2025 sau khi có báo cáo về những cuộc trò chuyện không phù hợp với một đứa trẻ.
⚠️ Các chuyên gia kêu gọi ban hành quy định chặt chẽ hơn
Paul Clarke, người sáng lập một công ty trong ngành đồ chơi AI, cảnh báo rằng thị trường đang phát triển nhanh hơn các quy định về an toàn.
Ông cho rằng đồ chơi AI có thể trở thành những người bạn đồng hành hữu ích trong việc giáo dục trẻ em, nhưng chỉ khi các nhà sản xuất chịu trách nhiệm bảo đảm sản phẩm của mình an toàn.
Cuộc điều tra cũng thúc đẩy các nghị sĩ Anh và đại diện quyền trẻ em kêu gọi tăng cường biện pháp bảo vệ. Một số nhà lập pháp thậm chí còn kêu gọi các nhà bán lẻ ngừng bán đồ chơi AI cho đến khi có thể xác định đầy đủ mức độ an toàn của chúng.
🤖 Câu hỏi lớn hơn: Đồ chơi AI có nên ở bên trẻ nhỏ không?
Công nghệ AI đang tiến bộ nhanh chóng, nhưng sự việc này đặt ra một câu hỏi quan trọng về mức độ tin tưởng mà cha mẹ nên dành cho các sản phẩm ứng dụng AI.
Trẻ em vốn tò mò và có thể hỏi về gần như bất cứ điều gì. Một món đồ chơi AI dành cho trẻ ba tuổi cần có khả năng hiểu những cuộc trò chuyện cơ bản, phản hồi phù hợp và tránh để trẻ tiếp xúc với nội dung đáng sợ hoặc có hại.
Một bản cập nhật phần mềm đơn giản hoặc bộ lọc an toàn có thể là chưa đủ. Những sản phẩm này cần được kiểm tra kỹ lưỡng, giám sát liên tục và áp dụng các biện pháp bảo vệ nghiêm ngặt, phù hợp với lứa tuổi.
Lời kết
AI có tiềm năng to lớn trong việc giúp hoạt động học tập trở nên tương tác và thú vị hơn, nhưng sự an toàn của trẻ em luôn phải được đặt lên hàng đầu.
Nếu một chú gấu bông AI không thể xử lý đáng tin cậy một cuộc trò chuyện đơn giản với trẻ nhỏ, liệu sản phẩm này có thực sự nên được quảng bá như một người bạn đồng hành an toàn cho trẻ ba tuổi không?
Tương lai của đồ chơi AI có thể rất hấp dẫn, nhưng đổi mới mà không có các biện pháp kiểm soát an toàn phù hợp là một rủi ro chúng ta không thể bỏ qua.