Законодатели в Нью-Йорке приняли законопроект, чтобы ограничить катастрофы, вызванные искусственным интеллектом. Согласно законопроекту, штат хочет предотвратить создание ИИ-моделей фирмами, такими как OpenAI, Google и Anthropic, которые могут способствовать катастрофическим сценариям.

Согласно законопроекту, эти сценарии включают смерть или травму более 100 человек или ущерб или убытки более 1 миллиарда долларов. Законопроект, известный как закон RAISE, представляет собой победу для движений, продвигающих безопасность ИИ. Эти движения потеряли поддержку за последние несколько лет, поскольку Кремниевая долина и администрация Трампа продолжали приоритизировать скорость и инновации.

За законом RAISE стоят сторонники безопасности, включая лауреата Нобелевской премии Джеффри Хинтона и пионера исследований ИИ Ёшу Бенгио. Если он в конечном итоге будет подписан в закон, законопроект установит первый набор юридически обязательных стандартов прозрачности для ведущих лабораторий искусственного интеллекта в Соединенных Штатах Америки.

Нью-Йорк рассматривает закон RAISE для ограничения катастроф, вызванных ИИ

Закон RAISE имеет некоторые из тех же положений и целей, что и спорный законопроект о безопасности ИИ SB 1047 в Калифорнии, который в конечном итоге был наложен вето.

Тем не менее, соавтор закона RAISE, сенатор штата Нью-Йорк Эндрю Гуонардеc, упомянул в интервью, что он разработал законопроект таким образом, чтобы он не подавлял инновации среди стартапов или академических исследователей, что является распространенной критикой, с которой столкнулся SB 1047. "Окно для установления ограждений быстро сокращается, учитывая, как быстро развиваются эти технологии," сказал сенатор Гуонардеc.

Сенатор также заявил, что большинство людей, хорошо разбирающихся в секторе ИИ, также признали эти риски, что он назвал "тревожным". Тем временем закон RAISE сейчас движется к столу губернатора Нью-Йорка Кэти Хочул, где она может либо подписать его в закон, либо вернуть на доработку. Другим вариантом может стать его наложение вето, что, вероятно.

Если закон в конечном итоге будет подписан, закон RAISE потребует от некоторых из крупнейших лабораторий ИИ в мире публиковать отчеты о безопасности и надежности своих передовых ИИ-моделей. Законопроект также обязывает лаборатории ИИ сообщать о случаях безопасности, касающихся поведения ИИ-моделей или недобросовестных акторов, похищающих ИИ-модель, если это произойдет.

Если технологические компании не будут соответствовать этим стандартам, закон RAISE наделяет генерального прокурора Нью-Йорка полномочиями налагать гражданские штрафы до 30 миллионов долларов на них.

Закон RAISE стремится регулировать лаборатории ИИ

Закон RAISE был разработан для регулирования крупнейших ИИ-компаний в мире, включая те, которые находятся в Калифорнии, такие как OpenAI и Google, и те, которые находятся в Китае, такие как DeepSeek и Alibaba. Требования законопроекта включают обязательный пункт для компаний, которые использовали более 100 миллионов долларов на вычислительные ресурсы для обучения своих ИИ-моделей и доступны жителям Нью-Йорка.

Хотя закон RAISE в некоторых отношениях похож на SB 1047, он рассматривает некоторые предыдущие законопроекты о безопасности ИИ.

Например, ни одно положение не требует от разработчиков ИИ-моделей наличия аварийного выключателя на своих моделях, и компании, которые пост-тренируют свои модели, не несут ответственности за критические ущербы. Тем не менее, согласно соавтору закона RAISE, члену Ассамблеи штата Нью-Йорк Алексу Боресу, был выражен протест против законопроекта Нью-Йорка. Он назвал сопротивление неудивительным, но добавил, что закон RAISE не ограничит разработки технологических компаний никаким образом.

"Закон NY RAISE - это еще один глупый, глупый законопроект о ИИ на уровне штата, который только навредит США в то время, когда наши противники опережают нас," сказал главный партнер Andreessen Horowitz Анжней Мидха в посте в X в пятницу.

Andreessen Horowitz и стартап-инкубатор Y Combinator яростно выступали против SB 1047. Кроме того, соучредитель Anthropic Джек Кларк также выразил свои недовольства по поводу того, насколько широкий закон RAISE, отметив, что он может представлять риски для более мелких компаний.

Ваши новости о криптовалютах заслуживают внимания - KEY Difference Wire размещает вас на 250+ лучших сайтах