В эти дни в сообществе вокруг ИИ заметно меняется риторика.

Раньше чаще всего сильнее всего говорили об ИИ-рисках внешние исследователи. Теперь даже несколько компаний, которые создают наиболее передовые модели, начали сами активно просить немного притормозить.

Дарио Амодей из Anthropic предложил контролировать темпы развития передового ИИ и также посоветовал, чтобы независимые оценочные организации напрямую допускались в ИИ-лаборатории для долгосрочных проверок.

В итоге Сэм Альтман публично заявил о согласии, а OpenAI тоже готова применять похожий механизм независимой оценки. Маск также прямо ответил: «Дарио прав».

Сейчас даже в Сенате США уже обсуждают новые варианты регулирования — они требуют, чтобы ИИ-компании доказали, что приняли разумные меры, чтобы не допустить серьезного вреда, который могут причинить модели; при этом правительство, возможно, получит прямой доступ к тестированию моделей.

Самое тонкое место — вот здесь.

Люди, которые сейчас больше всего мотивированы продолжать продвигать модели вперёд, именно в этот момент чаще всего выходят с обсуждениями на тему: «а не слишком ли быстро мы развиваемся?»

#OpenAI商讨新一轮融资估值约1.2万亿美元 $NVDAB $AAPL.US $AAPLB