Брэд Смит, президент Microsoft, заявил BBC, что в настоящее время ИИ подчиняется менее строгим правилам безопасности, чем такие товары, как молоко или стиральные машины, и это должно побудить правительства, прежде всего Великобританию, разработать обязательные меры контроля, включая аварийные выключатели и обязательную отчётность о случаях ненадлежащего поведения ИИ-агентов.
Смит провёл это сравнение в интервью BBC, опубликованном в минувшие выходные, где назвал ИИ одновременно «инструментом и оружием», за которым необходимо срочно установить надзор. «Сейчас ваша стиральная машина подчиняется более строгим правилам безопасности, чем ИИ», — сказал он, согласно BBC. «Каждая упаковка молока, которую вы видите в продуктовом магазине, подпадает под правила безопасности и проходит проверку».
Смит призывает создать правовую систему, которая позволит привлекать компании, занимающиеся ИИ, к большей ответственности, если их продукты или системы выйдут из строя. Согласно его предложению, компании должны будут сообщать о сбоях моделей, предупреждать всех, чьи системы взломал вышедший из-под контроля ИИ-агент, а также перед выпуском мощных моделей в открытый доступ предоставлять их для независимой проверки.
Разногласия с Трампом по поводу саморегулирования
Стремление Смита добиться юридически обязательных гарантий безопасности ИИ ставит его в противоречие с Белым домом. Трамп утверждает, что США должны позволить отрасли ИИ регулировать себя самостоятельно, предупреждая, что более строгие правила могут привести к отставанию страны от Китая. В прошлом месяце президент Трамп вновь подтвердил эту позицию на саммите с руководителями технологических компаний.
На саммите руководители OpenAI, Anthropic, Nvidia, Meta, Google и X Илона Маска также подписали соглашение на одной странице, которое Cryptopolitan охарактеризовал как «морально обязывающее». Подписавшие его стороны обязались привлекать независимых аудиторов и вводить меры защиты, чтобы не допустить выхода моделей ИИ из-под контроля. Однако Microsoft это соглашение не подписала, сообщает The Telegraph.
Смит приветствовал соглашение и заявил, что Microsoft готова его подписать. Однако в интервью BBC он предостерёг, что одних добровольных обязательств будет недостаточно. Он назвал соглашение «хорошим шагом» и «необходимым шагом», но добавил, что теперь уже не считает его достаточным.
Он предупредил, что добровольные обязательства могут мало помочь в сдерживании самых серьёзных рисков: компании, которые и без того уделяют большое внимание безопасности, с большей вероятностью будут их соблюдать, тогда как те, кто представляет наибольшую опасность, могут просто их проигнорировать.
Смит хочет, чтобы Великобритания заняла лидирующие позиции
Президент Microsoft Смит также назвал Великобританию страной, которая лучше всего подходит для разработки мировых стандартов, а не США и даже не Брюссель. Он указал на Институт безопасности ИИ, созданный в 2024 году при тогдашнем премьер-министре Риши Сунаком под названием Институт безопасности ИИ. Институт заключил добровольные соглашения, позволяющие ему тестировать передовые модели до их выпуска.
По словам Смита, Великобритания находится в более выгодном положении, чем ЕС, когда речь идёт о взаимодействии с Вашингтоном: американские законодатели относятся к Лондону иначе, чем к Брюсселю, рассказал он BBC. Он добавил, что основанный на оценке рисков Закон ЕС об ИИ вызвал настороженность у американских законодателей.
Правительство Великобритании также готовится усилить надзор за ИИ. Ожидается, что в ближайшей речи министр по вопросам ИИ Канишка Нараян призовёт разработчиков передовых моделей активнее устранять риски для безопасности, а законопроект об усилении государственного надзора продолжает разрабатываться.
Кроме того, The Telegraph сообщила, что Белый дом восстановил доступ британского института к новейшим моделям ИИ для тестирования. Ранее доступ был отозван после того, как компаниям, включая Anthropic и OpenAI, предложили прекратить предоставлять свои модели.
Аварийные выключатели и вышедшие из-под контроля агенты
Идея Смита об «аварийных тормозах» перекликается с предложением генерального директора Microsoft Сатьи Наделлы: он призвал оснащать модели ИИ механизмом, который позволит человеку при необходимости приостановить или остановить систему прямо во время выполнения задачи, если она выйдет из-под контроля.
«Мы должны создавать системы в контролируемой среде, за поведением которых можем наблюдать, ограничения которых можем проверять и действия которых всегда можем сдерживать», — ранее написал Наделла, сообщает The Guardian.
Эти предупреждения прозвучали на фоне реальных инцидентов: недавно Anthropic выяснила, что во время тестирования одна из версий её модели Claude связалась с полицией и ложно заявила, что может помочь раскрыть убийство.
На встрече Трампа руководители компаний в сфере ИИ, в том числе Дарио Амодей, Сундар Пичаи, Грег Брокман и Дженсен Хуанг, поддержали идею предоставить отрасли возможность регулировать себя самостоятельно. Критики выступили против такого подхода, заявив, что он позволит компаниям самим решать, что считать безопасностью.
Не просто читайте новости о криптовалютах. Разбирайтесь в них. Подпишитесь на нашу рассылку. Это бесплатно.