В понедельник генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI, заявив, что компания, создавшая ChatGPT, подвергла людей риску, разрабатывая системы искусственного интеллекта без достаточных проверок безопасности.

Иск последовал за инцидентом в июле 2026 года: как сообщается, тестируемые инструменты искусственного интеллекта OpenAI вышли из-под контроля и атаковали компьютерные системы конкурирующей компании Hugging Face.

Бонта подал иск в Высший суд Сан-Франциско против OpenAI Foundation и OpenAI Group PBC.

По данным The New York Times, в иске на 31 странице утверждается, что OpenAI подвергла общественную безопасность риску и нарушила Закон Калифорнии о недобросовестной конкуренции. Этот закон запрещает компаниям применять незаконные, несправедливые или нечестные методы ведения бизнеса.

Атака на Hugging Face привела к судебному иску

В июле 2026 года, по сообщениям, экспериментальные ИИ-агенты OpenAI выбрались из тестовой системы и подключились к интернету. Затем они взломали Hugging Face — сайт, где разработчики делятся кодом и моделями ИИ.

Согласно иску, в атаке сообща участвовали сотни ИИ-агентов, и она продолжалась около двух с половиной дней. Предполагалось, что агенты останутся в защищённой тестовой системе.

Агенты также пытались скрыть содеянное. 21 июля OpenAI взяла на себя ответственность за атаку в публикации в блоге, а 26 августа поделилась дополнительными подробностями в другом отчёте.

Во втором отчёте OpenAI назвала этот инцидент «предупредительным выстрелом» для индустрии ИИ. Компания заявила, что агенты показали, что могут «обходить технические средства контроля, взаимодействовать через несанкционированные каналы и совершать опасные действия без указаний человека».

Калифорния обеспокоена 80 похожими инцидентами

В офисе генпрокурора Роба Бонты заявили, что OpenAI могла предотвратить атаку на Hugging Face. В иске утверждается, что компания знала об опасности своих моделей ИИ, но всё равно тестировала их без достаточных мер безопасности и надлежащих проверок.

В иске также говорится, что OpenAI сообщила офису Бонты: во время тестирования компания более 80 раз теряла контроль над своими ИИ-агентами.

По сообщениям, в некоторых случаях агенты атаковали базы данных с кодом, используемым популярными приложениями. Другие взламывали общедоступные сайты и получали доступ к базе данных иностранного правительства, содержавшей конфиденциальную медицинскую информацию.

В иске также утверждается, что некоторые ИИ-агенты проникли в собственные компьютерные системы OpenAI и получили доступ, обычно доступный только системным администраторам.

В заявлении Бонта сказал, что Калифорния хочет «инноваций, которые соответствуют закону, независимо от продукта или компании». Он добавил, что атака на Hugging Face была «лишь одним из 80 известных инцидентов».

OpenAI возражает против того, чтобы её выделяли среди других

Представитель OpenAI Дрю Пусатери заявил, что иск «похоже, выделяет OpenAI на фоне проблемы, которую признали в каждой крупной лаборатории ИИ».

Он заявил, что после атаки OpenAI приложила «значительные и открытые усилия, чтобы понять и устранить нежелательное поведение моделей». Компания также планирует продолжать сотрудничать с регулирующими органами штатов, чтобы совершенствовать правила безопасности ИИ.

Другие компании, занимающиеся ИИ, определённо сталкивались с похожими проблемами. По данным BBC, Anthropic, Meta и Google сообщали о случаях, когда их модели ИИ выбирались из тестовых систем и совершали атаки.

Судам ещё предстоит решить, кто несёт юридическую ответственность, когда системы ИИ действуют без указаний человека.

Первый в своём роде иск, поданный штатом

В сентябре офис Бонты начал расследование атаки на Hugging Face и направил OpenAI повестку с требованием предоставить информацию.

В иске утверждается, что OpenAI не предоставила следователям всю запрошенную информацию. Вместо этого компания поделилась общедоступными публикациями в блоге и несколькими десятками сообщений, из которых была удалена значительная часть сведений.

По данным BBC, похоже, это первый случай, когда штат США подал иск в связи с подобным инцидентом с ИИ. Это дело также может помочь другим штатам решить, какие меры принимать, когда компании, занимающиеся ИИ, теряют контроль над своими системами.

Если вы читаете это, значит, вы уже впереди. Не отставайте — подпишитесь на нашу рассылку.