#AnthropicCEO呼吁放缓AI发展 Другие говорят, что речь о «замедлении», а не о остановке ИИ: это означает, что передовые возможности нужно поймать в темп. Модель уже умеет писать код, запускать агент‑ов и участвовать в создании следующего поколения моделей, но синхронизация/оценка (alignment/evaluation) не успевает;

Три уровня разбора:

Техническая сторона: рекурсивное самоулучшение + кооперация множества агент‑ов — риск из «ошибся в словах» превращается в «самостоятельные действия/атаки систем».

Коммерческая сторона: Anthropic продаёт «самые безопасные передовые модели» и превращает безопасность в бренд и барьер; выездная оценка со стороны третьих лиц выгоднее крупным компаниям — стартапам/open source сложнее.

Геополитическая сторона: если США просто остановятся, а Китай — нет, то они проиграют. Поэтому он с одной стороны призывает к снижению темпа, а с другой — поддерживает ограничения на чипы и хочет, чтобы демократические страны сначала скоординировались.

Итог: это не просто маркетинг конца света, и не только чистый альтруизм — это сочетание: надвигающийся риск + грядущие регуляции + крупные компании, которые забирают стандарты.