Мнения представителей отрасли разделились по поводу спорного законопроекта Калифорнии об искусственном интеллекте, принятого 28 августа.
Новое законодательство обяжет компании, занимающиеся разработкой ИИ, внедрять новые протоколы безопасности, включая кнопку «аварийной остановки» для моделей ИИ.
Закон о безопасных и надежных инновациях для передовых моделей искусственного интеллекта (SB 1047) был принят Сенатом Калифорнии 29 голосами против 9 28 августа.
Теперь законопроект передан на ратификацию губернатору Гэвину Ньюсону.
Илон Маск был среди тех, кто высказался в поддержку законопроекта. В X он сказал, что это «трудный выбор», но поддержал законопроект из-за «потенциального риска» ИИ.
Источник: Илон Маск
Однако не все деятели сферы технологий разделяют эту точку зрения. Среди тех, кто раскритиковал законопроект, — директор по стратегии OpenAI Джейсон Квон.
Калантия Мэй, соучредитель децентрализованной сети искусственного интеллекта Masa, заявила, что не поддерживает новые правила, предположив, что они являются результатом неоправданной спешки с принятием законов.
«Подобные преждевременные правила не только выгонят таланты из Калифорнии, но и из Америки», — сказала Мэй Cointelegraph. Она добавила:
«Риск заключается в вероятной возможности того, что нынешняя и предлагаемая нормативная база Америки ограничит рост индустрии ИИ».
Рахиль Говинджи, генеральный директор децентрализованного проекта искусственного интеллекта DecideAI, придерживается противоположной точки зрения.
«Мы выступаем за принятие законодательства», — сказал Говинджи в интервью Cointelegraph.
Говинджи заявил, что DecideAI поддерживает функцию аварийного отключения, контролируемую децентрализованной автономной организацией (DAO), и именно таким образом они предлагают демократизировать и децентрализовать аварийную остановку.
ИИ — быстроразвивающаяся отрасль
Стремительный характер развития отрасли ИИ породил опасения относительно ее беспрепятственного развития.
В письме от 22 августа бывшие сотрудники и информаторы OpenAI предупредили: «Разработка передовых моделей ИИ без адекватных мер безопасности несет в себе предсказуемые риски катастрофического вреда для общественности».
Однако для других быстрые темпы развития ИИ — это нечто, что следует радовать, а не бояться.
Недавние: Решения без проблем: Какое количество Ethereum layer 2 считается слишком большим?
«В отличие от других преобразующих технологий скорость инноваций в области ИИ не имеет себе равных. Разработчики каждый день выпускают новые продукты, функции и приложения», — сказал Мэй.
«Мы, как строители, даже не знаем, где находится потолок ИИ; откуда правительству знать потолок ИИ? Устанавливать ограничения для технологий с высоким потенциалом неразумно».
Мэй предупредил, что конечной ценой принятия этого закона станет «вытеснение талантов из США», как это «случилось с криптовалютой».
Те, кто за
Говинджи предполагает, что «контролируемый DAO аварийный выключатель» мог бы соответствовать требованиям законодательства, сохраняя при этом «коллективное и прозрачное принятие решений».
В законопроекте говорится, что любая модель ИИ должна иметь возможность «мгновенно инициировать полное отключение», однако не дается определения слову «мгновенно», что оставляет значительный простор для толкования.
Пока неизвестно, будет ли модель DAO и ее демократическая система голосования достаточно быстрой, чтобы удовлетворить законодателей. Говинджи уверен, что так и будет. По словам Говинджи, DecideAI «будет впереди в предоставлении ИИ, который является общественным благом».
Компания Anthropic, занимающаяся разработкой искусственного интеллекта, также публично поддержала законопроект.
В открытом письме губернатору Ньюсому генеральный директор Anthropic Дарио Амодеи сказал: «Системы искусственного интеллекта развиваются в возможностях чрезвычайно быстро, что обещает как большие перспективы для экономики Калифорнии, так и существенный риск [...] Мы считаем, что законопроект SB 1047, особенно после недавних поправок, вероятно, представляет собой осуществимое бремя соблюдения для таких компаний, как наша, в свете важности предотвращения катастрофических злоупотреблений».
Более ранняя версия законопроекта предусматривала уголовные санкции для компаний, которые не соблюдали требования. После консультаций с отраслью это положение было смягчено до гражданских санкций.
Законопроект SB 1047
Законопроект SB 1047 будет применяться только к «охваченным моделям», при этом определение того, какие модели подпадают под действие закона, со временем будет меняться.
При внедрении охватываемая модель будет представлять собой ИИ, разработка которого обойдется более чем в 100 миллионов долларов, или «модель искусственного интеллекта, обученную с использованием вычислительной мощности, превышающей 10^26 целочисленных операций или операций с плавающей точкой».
Любые изменения порога вычислительной мощности будут рассматриваться Агентством правительственных операций федерального правительства.
Недавнее: Пять прогнозов относительно рынка криптовалют, которые пока не сбылись
В письме губернатору Ньюсому Квон из OpenAI утверждал, что законодательство в отношении ИИ должно разрабатываться только на федеральном уровне, «а не на уровне отдельных законов штатов».
Учитывая подавляющую концентрацию технологических и ИИ-компаний в Калифорнии, законопроект SB 1047, возможно, на данный момент может стать фактическим национальным законодательством.
Ситуация может измениться, если законодательство заставит компании, занимающиеся ИИ, переехать в другие штаты, но чтобы полностью избежать законопроекта SB 1047, компаниям также придется прекратить всю деятельность и предоставление услуг в Калифорнии.