Остаются ли 10²⁵ FLOPs передовым рубежом?
На Капитолийском холме обсуждают новый законопроект о безопасности, подготовленный Anthropic. Некоторые его положения могли бы быть разумными, если бы распространялись только на настоящие передовые компании. Однако в нынешнем виде со временем он охватит большую часть Кремниевой долины и нанесёт ущерб стартап-экосистеме.
Законопроект определяет «передовой рубеж» как любую модель, обученную на 10²⁵ FLOPs, — такой стандарт ЕС установил в 2023 году. В указе Байдена, законопроекте Калифорнии SB 53 и законе Нью-Йорка RAISE Act использовался порог 10²⁶ (в десять раз выше). Сегодня реальный передовой рубеж — это 10²⁷ (например, GPT-6 Astra).
По сообщениям, Astra обучали на более чем 100 000 графических процессоров Grace Blackwell. Модель с показателем 10²⁵ можно обучить за три месяца всего на нескольких сотнях чипов GB300. В 2026 году это уже не передовой рубеж.
Определение также учитывает совокупные вычисления: к ним прибавляются FLOPs, затраченные на дообучение, обучение с подкреплением и другие существенные модификации. На практике это охватывает почти всё значимое обучение после первоначального этапа — работу, которая становится обычным делом в корпоративном секторе.
В корпоративном секторе набирает силу тенденция создавать тысячи небольших специализированных моделей для конкретных задач. Они не несут рисков, связанных с передовыми моделями. Если считать их передовыми системами, это повлечёт значительные расходы на соблюдение требований для американских компаний, не повысив безопасность.
Дарио утверждал, что Anthropic разрабатывает правила, которые ставят такие передовые компании, как его собственная, в невыгодное положение и дают преимущество небольшим конкурентам. Это определение приводит к обратному результату.
Устаревший порог 2023 года выгоден действующим игрокам, которые уже ему соответствуют и могут покрыть связанные с этим расходы. Он сдерживает развитие экосистемы открытых моделей, угрожающей ценовой власти Anthropic.
Передовой рубеж постоянно меняется. Любое определение, призванное отслеживать риски, должно меняться вместе с ним.
Anthropic следует уточнить, действительно ли компания считает, что 10²⁵ FLOPs соответствуют передовому рубежу.
На Капитолийском холме обсуждают новый законопроект о безопасности, подготовленный Anthropic. Некоторые его положения могли бы быть разумными, если бы распространялись только на настоящие передовые компании. Однако в нынешнем виде со временем он охватит большую часть Кремниевой долины и нанесёт ущерб стартап-экосистеме.
Законопроект определяет «передовой рубеж» как любую модель, обученную на 10²⁵ FLOPs, — такой стандарт ЕС установил в 2023 году. В указе Байдена, законопроекте Калифорнии SB 53 и законе Нью-Йорка RAISE Act использовался порог 10²⁶ (в десять раз выше). Сегодня реальный передовой рубеж — это 10²⁷ (например, GPT-6 Astra).
По сообщениям, Astra обучали на более чем 100 000 графических процессоров Grace Blackwell. Модель с показателем 10²⁵ можно обучить за три месяца всего на нескольких сотнях чипов GB300. В 2026 году это уже не передовой рубеж.
Определение также учитывает совокупные вычисления: к ним прибавляются FLOPs, затраченные на дообучение, обучение с подкреплением и другие существенные модификации. На практике это охватывает почти всё значимое обучение после первоначального этапа — работу, которая становится обычным делом в корпоративном секторе.
В корпоративном секторе набирает силу тенденция создавать тысячи небольших специализированных моделей для конкретных задач. Они не несут рисков, связанных с передовыми моделями. Если считать их передовыми системами, это повлечёт значительные расходы на соблюдение требований для американских компаний, не повысив безопасность.
Дарио утверждал, что Anthropic разрабатывает правила, которые ставят такие передовые компании, как его собственная, в невыгодное положение и дают преимущество небольшим конкурентам. Это определение приводит к обратному результату.
Устаревший порог 2023 года выгоден действующим игрокам, которые уже ему соответствуют и могут покрыть связанные с этим расходы. Он сдерживает развитие экосистемы открытых моделей, угрожающей ценовой власти Anthropic.
Передовой рубеж постоянно меняется. Любое определение, призванное отслеживать риски, должно меняться вместе с ним.
Anthropic следует уточнить, действительно ли компания считает, что 10²⁵ FLOPs соответствуют передовому рубежу.