Anthropic, OpenAI и Google обсуждали создание совместного органа по отраслевым стандартам, как говорится в докладе The Information. Это даст крупнейшим лабораториям, работающим над передовыми моделями, возможность заложить стандарты безопасности, по которым будут оценивать их собственные модели.

Для компаний, оценивающих, использовать ли передовые модели для чувствительных задач или нет, внедрение общих стандартов повысило бы их уверенность в принятии решения. Но та же самая рамка может дать преимущество крупнейшим игрокам. Ранее ОЭСР предупреждала, что высокие постоянные расходы, нехватка вычислительных ресурсов и сосредоточенная инфраструктура уже усложняют для компаний выход на рынок ИИ. Затраты на соблюдение требований могут стать еще одним препятствием, с которым сталкиваются небольшие лаборатории.

Предложения, которые уже находятся на столе

14 июля Демис Хассабис, глава Google DeepMind, предложил инициативу по созданию органа Стандартов Frontier AI, базирующегося в США, вдохновленного Управлением по регулированию финансовой индустрии (FINRA).

В своем предложении Frontier Labs будет добровольно представлять свои передовые технологии для оценки, а период оценивания составит 30 дней до их выпуска. Оценщики будут проверять безопасность технологий, чтобы убедиться, что они не представляют никаких рисков, таких как кибербезопасность, биологические угрозы или манипуляции.

Совет по международным отношениям (CFR) сообщил, что Белый дом уже обдумывал идею, предложенную Хассабисом. Согласно его инициативе, обязательным будет лишь прохождение процесса оценки на более позднем этапе, чтобы можно было развернуть передовые технологии в США.

В своей сентябрьской статье под названием «Мы должны задавать темп рубежу» (We Must Pace the Frontier) Дарио Амодей, генеральный директор Anthropic, смотрит на проблему под другим углом. По его мнению, усилиям по безопасности нужно дать некоторое дополнительное время, чтобы догнать возможности ИИ. Выход для Амодея — разрешить независимым оценщикам, таким как METR, посещать передовые лаборатории на более длительные периоды, что проложит путь к сотрудничеству между крупными компаниями в демократических государствах по вопросам стандартов безопасности.

Почему это не первая попытка

Важно отметить, что отраслевые организации по безопасности существуют уже некоторое время. Так, в 2023 году Frontier Model Forum объединился с шестью крупнейшими компаниями в сфере ИИ в рамках усилий по созданию независимой программы исследований безопасности через AI Safety Fund — более 10 млн долларов США.

Агентный фонд ИИ (Agentic AI Foundation) был создан в декабре 2025 года как часть Linux Foundation и нацелен на разработку открытых стандартов и инфраструктуры для ИИ-агентов. Проекты, которые легли в основу фонда, включают Model Context Protocol от Anthropic, goose of Block и AGENTS.md от OpenAI.

OpenAI участвовала в создании Appia Foundation, которое было учреждено в июне 2026 года и включает 13 участников. Фонд стремится превратить общие принципы управления ИИ в спецификации, тесты и подтверждения соответствия, которые будут использоваться по всей цепочке поставок ИИ.

Сравнение стандартов Frontier AI: FMF, Appia, AAIF, EU GPAI Code и предложение США

Стремление к координации наблюдается и за пределами отраслевых организаций. Как сообщал Cryptopolitan, руководитель глобальных дел OpenAI Крис Лехан настаивал на том, что США и Китай должны поддержать глобальную рамку безопасности ИИ, сравнивая эту инициативу с международным ядерным сотрудничеством.

Проблема рва, которую никто не решил

Ключевая проблема — независимость. Согласно анализу CFR, регулятор, финансируемый отраслью, может столкнуться с конфликтами интересов, похожими на те, что наблюдались в системе кредитных рейтингов «платит эмитент» до финансового кризиса 2008 года, что порождает целый ряд неразрешенных вопросов относительно доступа регулятора к передовым моделям, компетентности оценщиков, мер национальной безопасности и надежности текущих методов тестирования.

Еще одна проблема — мощность. По оценке, предоставленной GovAI, 14–16 моделей в период с 2025 по 2028 год могут относиться к тому же порядку величины, что и крупнейший тренировочный прогон на данный момент, а это значит, что требуется постоянная проверка, а не периодические оценки.

Конкуренция тоже важна. Стандарты, устанавливаемые в основном крупнейшими лабораториями, могут стать фиксированными издержками, которые легче поддерживать действующим игрокам, чем стартапам. Если какой-либо добровольный механизм будет преобразован в обязательное требование, необходимо ввести механизмы, которые не позволят соблюдению стандартов безопасности стать барьером входа на рынок.

Что бы ни было создано, это должно соответствовать Европе. Общий кодекс практик по ИИ (General-Purpose AI Code of Practice) Европейского союза, представленный в июле 2025 года, чтобы обеспечить добровольный способ подтвердить соответствие требованиям AI Act, уже включил Anthropic, Google, Microsoft и OpenAI в число подписантов. Поэтому любому новому стандарту для США или отраслевому органу потребуется войти в уже переполненный ландшафт регулирования, а не создавать его с нуля.

Если вы читаете это, вы уже впереди. Оставайтесь там с нашей рассылкой.