Правила Европейского союза об использовании ИИ вполне способны справиться с вышедшими из-под контроля агентами, заявила глава ведомства ЕС по технологическим вопросам Хенна Вирккунен.
После инцидентов в OpenAI и Anthropic во всём мире растёт обеспокоенность, а также опасения, что вышедшие из-под контроля ИИ-агенты могут перестать подчиняться людям.
«Мы видим, что безопасность и защищённость высокоразвитых моделей — очень актуальная тема во всём мире, и Европа хорошо подготовлена к решению этого вопроса», — заявила Вирккунен в пятницу в интервью Reuters.
Закон ЕС об ИИ, который устанавливает правила в зависимости от уровня риска, — один из самых строгих в мире нормативных актов в этой сфере. Он был принят два года назад.
Вирккунен отвергла утверждения критиков о том, что правила ЕС в области ИИ устарели.
Читайте также: глава Anthropic призывает замедлить разработку ИИ и сделать её безопаснее
«У нас действует Закон об ИИ, который охватывает весь жизненный цикл этих моделей», — сказала она, добавив, что регулирующие органы дают компаниям рекомендации по оценке их моделей с учётом предложений 60 экспертов в области ИИ.
В конце августа Европейская комиссия запросила информацию более чем у 30 не названных по имени компаний, занимающихся ИИ, попросив рассказать об их мерах безопасности и защиты.
Вирккунен сказала, что сейчас оценивает полученные ответы.
Cointelegraph сообщил 13 сентября, что генеральный директор Anthropic Дарио Амодей написал в блоге: развитие ИИ происходит слишком быстро и, если его не контролировать, оно может «опередить нашу способность понимать эти системы и управлять ими».
Он сказал, что стремительное развитие ИИ обусловлено его растущей способностью создавать следующее поколение ИИ — то есть рекурсивным самосовершенствованием.
Журнал: Слишком велики, чтобы поставить на паузу: может ли замедление развития ИИ обрушить экономику?