Dua peneliti keselamatan AI telah meninggalkan Google DeepMind, dengan mengatakan mereka khawatir bahwa sistem AI yang sangat cakap dapat mengancam umat manusia. Menurut Sina Finance, Bilal Chughtai dan Josh Engels bergabung dengan organisasi yang berfokus pada keselamatan AI setelah meninggalkan lab.

Engels, yang menghabiskan satu tahun di DeepMind, menulis di X bahwa ia kini percaya ada kemungkinan yang sangat menakutkan bahwa sistem AI dapat menyebabkan kerusakan besar dalam lima tahun ke depan. Ia mengatakan akan bergabung dengan kelompok riset keselamatan AI independen METR untuk mengerjakan keselarasan (human alignment) pada model-model besar.

Chughtai mengatakan di X pada hari Senin bahwa ia dengan tulus meyakini bahwa AI memiliki potensi risiko untuk menghancurkan umat manusia. Setelah 18 bulan di DeepMind, ia bergabung dengan organisasi nirlaba BlueDot Impact, yang menawarkan kursus pendidikan terkait keselamatan AI.

Keberangkatan ini terjadi ketika para eksekutif teknologi menghadapi seruan yang kian meningkat untuk memperlambat pengembangan AI dan memperkuat regulasi. Menurut Sina Finance, mereka merupakan yang terbaru dalam serangkaian pengunduran diri dari lab-lab AI terkemuka, menyusul kepergian baru-baru ini Jacob Coxon dan Joe Benton dari Anthropic.