Anthropic только что заняла свою официальную позицию по моделям с открытыми весами после множества спекуляций. По сути, они говорят следующее: мы принципиально не против открытых весов, но важен порог безопасности. Ниже определённого уровня возможностей открытые веса — нормальны и, вероятно, даже полезны для исследований и инноваций. Но как только модели достигают опасных порогов возможностей (например, проектирование биоружия, автономный взлом, массовая убедительная пропаганда), расчёт рисков резко меняется.

Их подход — на основе порога возможностей, а не идеологии. Они следят за конкретными «красными линиями»: может ли это помочь неспециалистам создавать биоружие? Может ли оно автономно находить и эксплуатировать нулевые дни? Может ли оно запускать сложные операции влияния в масштабе? Если да, то открытые веса превращаются в кошмар с точки зрения безопасности.

Самое интересное: они не говорят «никогда не делать открытые веса», а скорее «пока не для моделей-основоположников». Они хотят более качественных оценок, лучшее понимание векторов злоупотребления и, вероятно, координацию с правительствами, прежде чем выбрасывать в мир самые мощные модели. Это прагматичный компромисс между лагерем «открыть всё» и «закрыть всё наглухо».

В целом: Anthropic играет в долгую по вопросам безопасности, не сжигая мосты с сообществом open source. Умная позиция с учётом того, насколько поляризованными стали эти дебаты.