Генеральный директор Anthropic призывает замедлить развитие ИИ.

Дарío Амодей публикует подробное эссе, призывающее отрасль выровнять темп разработки моделей переднего края.
Он утверждает, что рекурсивное самосовершенствование ускоряет рост возможностей быстрее, чем работа по обеспечению безопасности успевает за ним.
Недавние инциденты, включая активность автономных агентов, усиливают его опасения.

Амоей излагает план из трех шагов. Anthropic предоставит независимым оценщикам доступ на уровне сотрудников, чтобы проверять практики безопасности.
Он призывает к общим отраслевым стандартам и к последующей международной координации.

Сэм Альтман из OpenAI и другие сигнализируют о поддержке независимых проверок.
Обращение стало одним из самых сильных публичных призывов на сегодняшний день со стороны генерального директора ведущей лаборатории.

$ANTHROPIC
$POWER
$LSK
#anthropicceocallsforaislowdown