Hai nhà nghiên cứu an toàn AI đã rời Google DeepMind, nói rằng họ lo ngại các hệ thống AI có năng lực cao có thể đe dọa nhân loại. Theo Sina Finance, Bilal Chughtai và Josh Engels đang tham gia các tổ chức tập trung vào an toàn AI sau khi rời khỏi phòng thí nghiệm.

Engels, người đã dành một năm tại DeepMind, viết trên X rằng giờ đây anh tin rằng có một xác suất cực kỳ đáng sợ để các hệ thống AI có thể gây ra tác hại nghiêm trọng trong vòng năm năm tới. Anh cho biết sẽ gia nhập nhóm nghiên cứu độc lập về an toàn AI METR để tập trung vào việc liên kết người-máy đối với các mô hình lớn.

Chughtai cho biết trên X vào thứ Hai rằng anh thành thật tin rằng AI mang theo một nguy cơ tiềm ẩn có thể hủy diệt nhân loại. Sau 18 tháng làm việc tại DeepMind, anh đã gia nhập tổ chức phi lợi nhuận BlueDot Impact, nơi cung cấp các khóa học giáo dục liên quan đến an toàn AI.

Các chuyến rời đi diễn ra trong bối cảnh các lãnh đạo công nghệ phải đối mặt với những lời kêu gọi ngày càng tăng nhằm làm chậm sự phát triển AI và tăng cường quy định quản lý. Theo Sina Finance, đây là đợt rời đi mới nhất trong chuỗi các trường hợp rời khỏi các phòng thí nghiệm AI hàng đầu, sau sự ra đi gần đây của Jacob Coxon và Joe Benton khỏi Anthropic.