Два исследователя по безопасности ИИ покинули Google DeepMind, заявив, что их беспокоило, что высокоспособные ИИ-системы могут угрожать человечеству. Согласно Sina Finance, Билал Чугхтай и Джош Энгельс присоединяются к организациям, сосредоточенным на безопасности ИИ, после ухода из лаборатории.

Энгельс, который провел год в DeepMind, написал в X, что теперь он считает, что существует пугающе высокая вероятность того, что ИИ-системы могут причинить серьезный вред в течение ближайших пяти лет. Он сказал, что присоединится к независимой исследовательской группе по безопасности ИИ METR, чтобы работать над согласованием больших языковых моделей с целями человека.

Чугхтай заявил в понедельник в X, что искренне считает, что ИИ несет потенциальный риск уничтожения человечества. После 18 месяцев в DeepMind он присоединился к некоммерческой организации BlueDot Impact, которая предлагает образовательные курсы, связанные с безопасностью ИИ.

Отъезды происходят на фоне того, как руководители технологических компаний сталкиваются со все более настойчивыми призывами замедлить разработку ИИ и усилить регулирование. По данным Sina Finance, это последняя из серии отставок ведущих ИИ-лабораторий — после недавних уходов Джейкоба Коксона и Джо Бентона из Anthropic.