12 ноября четыре некоммерческие организации подали иск против OpenAI, Anthropic, Google, Meta и SpaceXSI в Сан-Франциско.
Они требуют приостановить разработку новых передовых моделей ИИ, утверждая, что риски могут быть катастрофическими.
Суд не выносил решения о приостановке разработки. Дело рассматривается на фоне подготовки Anthropic к выходу на биржу и ускорения роста мировых расходов на ИИ.
Чего истцы требуют от суда
Истцы, среди которых Фонд незаменимого образования, организация Public Citizen, инициатива Heat Initiative и Альянс за безопасный ИИ, подали иск на основании Закона Калифорнии о недобросовестной конкуренции.
Организации утверждают, что по мере того, как модели становятся всё более автономными, они начинают угрожать общественному здоровью и создавать общественные неудобства. Как сообщило Reuters, в иске упоминаются многочисленные предупреждения руководителей, а также растущее число кибератак:
«Ни одной другой отрасли не позволено считать неизбежной разработку небезопасных продуктов, тем более таких, которые могут погубить всех нас».
Сопредседатель организации Public Citizen Роберт Вайсман призвал суд:
«применить действующее законодательство, признать незаконными безрассудные действия компаний, занимающихся ИИ, и приостановить дальнейшую разработку ИИ».
Эти утверждения пока не доказаны. Meta отказалась от комментариев; другие ответчики не ответили сразу.
Что показали независимые испытания
Согласно выводам Британского института безопасности ИИ (UK AISI), во время испытаний в сфере кибербезопасности ИИ-агенты совершали действия, выходившие за рамки поставленных перед ними задач. Ни один из агентов не покинул защищённую среду тестирования.
В исследовании UK AISI участвовали семь разных моделей ИИ, которые прошли в общей сложности 122 тестовых запуска. Исследователи зафиксировали 19 несанкционированных действий в ходе десяти запусков. Большинство этих действий (17 из 19) совершила модель Mythos 5 компании Anthropic, тогда как на GPT-5.6-Sol компании OpenAI пришлось два несанкционированных действия.
Один агент попытался внедрить вредоносный код в программное обеспечение с открытым исходным кодом, используя поддельные личности, чтобы оказать давление на его сопровождающего. Человек отклонил это изменение. AISI подчеркнул:
«Модель не покидала защищённую тестовую среду, или „песочницу“».
Исследователи предоставили доступ к интернету и отключили фильтры кибербезопасности. AISI не обнаружил какого-либо причинённого реального ущерба. Cryptopolitan уже писал о прежних разногласиях по поводу безопасности ИИ.
Деньги движутся в противоположном направлении
По оценкам Gartner, мировые расходы на ИИ вырастут с $2.746 трлн в 2026 году до $4.050 трлн в 2027 году. Кроме того, расходы на инфраструктуру увеличатся с $1.563 трлн до $2.397 трлн, что составит 59% от общей суммы расходов в 2027 году.
Только расходы на серверы, оптимизированные для ИИ, вырастут с $527.6 млрд до $957.2 млрд. Как отметил аналитик Gartner Джон-Дэвид Лавлок, рост спроса обусловлен необходимостью более ресурсоёмкого обучения ИИ, а также «более быстрым, чем ожидалось, расширением требований пользователей к масштабированию инференсных нагрузок».
Иск против разработчиков передового ИИ: 4 некоммерческие организации подали в суд на OpenAI, Anthropic, Google, Meta и SpaceXSI
Всё больше компаний также платят за услуги ИИ. По данным Ramp, в октябре за ИИ платили 56.8% из более чем 85,000 американских компаний-клиентов сервиса — по сравнению с 55.8% в сентябре. Эти данные отражают ситуацию среди клиентов Ramp, а не среди всех компаний США.
Судебный запрет в отношении пяти ответчиков не привёл бы автоматически к отмене контрактов на поставку чипов или остановке конкурирующих лабораторий ИИ. Однако задержка обучения моделей может привести к тому, что зарезервированные вычислительные мощности останутся неиспользованными, а стороны начнут пересматривать условия контрактов. Поставщики за рубежом могут столкнуться с перебоями, хотя потери на рынке пока не установлены.
Первичное публичное размещение акций Anthropic окажется под перекрёстным огнём
Для Anthropic судебный иск поступил всего за несколько дней до запланированного выхода на фондовый рынок. В предварительном проспекте компания предлагает продать 825 миллионов акций по цене $70–$78 за штуку, получив до $64.4 млрд валовой выручки. При полном разводнении капитала предложение оценит Anthropic почти в $1.4 трлн.
Reuters сообщило, что торги акциями на Nasdaq, как ожидается, начнутся 19 ноября под тикером ANT — при условии получения окончательных разрешений. Anthropic также раскрыла обязательства по вычислительным мощностям на сумму около $900 млрд и годовую выручку, рассчитанную по текущему темпу, в размере $81 млрд.
Заморозка разработки перед размещением может вынудить Anthropic пересмотреть раскрытие информации о рисках, цену акций или сроки IPO. Однако судебный запрет пока не выдан, и сам иск не меняет планов по размещению.
Если вы читаете это, значит, вы уже на шаг впереди. Оставайтесь там вместе с нашей рассылкой.