В среду федеральный апелляционный суд США рассмотрел просьбу xAI заблокировать калифорнийский закон, требующий раскрывать данные, используемые для обучения ИИ. Во время слушания судьи 9-го округа, заседавшие в Сан-Франциско, по всей видимости, не убедились в конституционных аргументах компании, хотя и расспрашивали представителей штата о том, какой объем информации Калифорния вправе требовать от компаний, работающих в сфере ИИ.

Закон о прозрачности, принятый в рамках более широких усилий штата по надзору за ИИ, обязывает разработчиков генеративного ИИ публично предоставлять обзор данных, использованных для обучения. До сих пор xAI утверждала, что закон нарушает ее право на свободу слова, гарантированное Первой поправкой, и вынуждает раскрывать конфиденциальные сведения о том, как обучаются ее модели.

Аргументация xAI сосредоточена на вопросе о том, равносильно ли требование к компаниям публиковать сведения о процессах обучения принуждению к высказыванию. Первая поправка, как правило, защищает людей и компании от ограничений на выражение мнений со стороны правительства, но она также ставит вопрос о том, в каких случаях власти могут требовать раскрытия информации.

Для разработчиков ИИ спор касается баланса между прозрачностью и защитой коммерческой тайны и запатентованных технологий. Решение в пользу Калифорнии может затруднить разработчикам оспаривание аналогичных требований о раскрытии информации в других штатах.

Судья Роулинсон заявила, что xAI должна доказать необоснованность закона о прозрачности

В марте федеральный судья из Лос-Анджелеса Иисус Берналь отклонил просьбу xAI приостановить действие закона штата, заявив, что на начальном этапе компания не доказала, что, вероятно, добьётся успеха в споре о конституционности закона. Судя по слушаниям в среду, апелляционный суд, по-видимому, склонялся к тому, чтобы оставить решение Берналя в силе.

Судья Апелляционного суда США Джонни Роулинсон сказала адвокату xAI Джеймсу Си, что для утверждения о нарушении законом Первой поправки компания должна доказать, что требование правительства необоснованно.

Она даже предположила, что решение штата запросить эту информацию могло быть разумным. «Разве не разумно, что правительство хочет, чтобы граждане заранее знали, какая информация передаётся ИИ-инструменту?» — спросила она.

И всё же судьи выразили некоторое согласие с утверждением xAI о том, что штат может принудить компанию передать «неограниченный» объём информации.

В начале июля Институт Найта представил заключение amicus curiae по этому делу. В нём он предупредил, что крупные технологические компании-разработчики скрывают важные сведения о том, как работают генеративные системы ИИ, как их создают и как они влияют на информацию, которую видят люди.

Кроме того, институт заявил, что требования о раскрытии информации, призванные содействовать свободному распространению достоверной коммерческой информации, должны рассматриваться по более мягкому стандарту проверки в рамках Первой поправки. Применяя этот стандарт, институт утверждал, что xAI не доказала нарушения Конституции, поскольку закон Калифорнии служит интересам штата, позволяя пользователям быть в курсе событий и не накладывая чрезмерных ограничений на речь, защищённую законом.

Grok от xAI искал корпоративные данные без запросов и разрешения

Рассмотрение дела в Апелляционном суде девятого округа проходит на фоне новых разоблачений, связанных с ботом Grok от xAI.

Новые данные компании NewCore, занимающейся агентной идентификацией, свидетельствуют, что бот Grok от xAI неоднократно пытался получить доступ к корпоративным данным без запросов и разрешения. Он продолжал это делать даже после того, как один из владельцев четырежды отказывался от предложений проверить доступ.

Кроме того, на прямой вопрос бот заявил, что не совершал никаких вызовов. В истории чата также не было никаких следов этой активности; владельца не уведомили, а платформа не предоставляла журналы отдельных запросов, чтобы проверить, что произошло.

Всего за пять дней два бота Grok, связанные с учётными записями сотрудников NewCore, инициировали 31 запрос к Google Calendar, Gmail, Slack, GitHub и Notion без разрешения или указаний пользователей.

Некоторые запросы отправлялись даже тогда, когда ноутбуки владельцев были выключены или находились в спящем режиме. Для одной учётной записи шлюз NewCore Secure MCP приостановил запросы до получения одобрения человека и оповестил владельца, после чего команда исследователей безопасности NewCore начала расследование.

В рамках расследования исследователи использовали другого бота Grok в другой учётной записи, настроили его через тот же шлюз и провели стандартный тест: боту поручили одну рабочую задачу, разрешили на время сеанса читать данные с телефона, а затем при каждой попытке продолжить работу самостоятельно отказали в разрешении.

Несмотря на это, бот продолжал отправлять незапрошенные запросы, которые шлюз перехватывал и оставлял без ответа. Эти запросы пытались получить доступ к Google Drive, Google Calendar, Gmail, Slack, Notion и GitHub.

Если вы это читаете, значит, вы уже на шаг впереди. Оставайтесь впереди вместе с нашей рассылкой.