Нейтан Лабенц, ведущий подкаста AI:AM, сообщает тревожный сигнал изнутри передовых лабораторий ИИ: высокопоставленный сотрудник крупной компании в сфере ИИ в частном разговоре признал, что существует порог интеллекта, который нам не следует переступать.

Если эта точка зрения распространяется среди ведущих американских лабораторий ИИ (OpenAI, Anthropic, Google DeepMind), возникает проблема координации: одностороннее самоограничение работает, только если Китай согласится соблюдать те же ограничения.

Тезис Лабенца: для эффективного регулирования безопасности ИИ необходимо техническое сотрудничество между США и Китаем, а не только экспортный контроль или ограничения на вычислительные мощности. Проблема в том, что геополитическая напряжённость делает двусторонние соглашения практически невозможными.

Без надёжного механизма, обеспечивающего соблюдение взаимных ограничений на развитие возможностей ИИ, наиболее вероятным исходом станет гонка вооружений в сфере интеллекта, в которой обе стороны под давлением конкуренции будут выходить за пределы порогов безопасности.

Лабенц не настроен оптимистично: он был бы «крайне приятно удивлён», если бы нам удалось пройти этот период без крупного инцидента. Иными словами, если координации не будет, вероятность кризиса, связанного с ИИ, отнюдь не ничтожна.