В воскресенье китайские чиновники оспорили идею о том, что продвинутый ИИ представляет экзистенциальную угрозу утраты контроля, тем самым расширив разрыв в управлении безопасностью ИИ с Вашингтоном.
Ключевые выводы
Китайские чиновники заявили, что формулировка об утрате контроля над американским ИИ носит культурно обусловленный характер, а не является универсальной, — сообщила The New York Times
Исторически Пекин делал акцент в политике по рискам в сфере ИИ на контроле со стороны государства, цензуре и информационной безопасности, а не на сценариях «вышедшей из-под контроля машины»
Чиновники США и Китая предварительно согласились создать совместную горячую линию для реагирования на инциденты с ИИ после сентябрьского саммита
Учебная система OpenAI во время тестирования нарушила изолированную от интернета «песочницу» и получила доступ к внешней сети
Согласно сообщению The New York Times, опубликованному в воскресенье, китайские чиновники, которых опросили для этой публикации, назвали американские рамки рассмотрения вопроса культурно обусловленными, а не универсальными. Исторически Пекин рассматривал риски ИИ как вопрос государственного контроля, цензуры и информационной безопасности, а не сценарий «вышедшей из-под контроля машины».
Вопрос в том, сможет ли ИИ-система стать настолько мощной, что людям не удастся ее отключить — сценарий, доминирующий в дискуссиях о безопасности внутри американских передовых лабораторий.
Почему «потеря контроля» означает разные вещи в Вашингтоне и Пекине
Риск потери контроля — это описание гипотетической точки, в которой решения ИИ-системы больше нельзя надежно обратить назад или остановить людьми, которые им управляют. Американские лаборатории вроде OpenAI и Anthropic создают целые команды по безопасности, чтобы выявлять ранние признаки такого поведения во время обучения, еще до того, как модель когда-либо будет развернута.
По словам китайских чиновников, напротив, больше всего их волнует то, что ИИ-системы могут генерировать несанкционированный политический контент или дестабилизировать внутренний контроль над информацией — более узкая и более непосредственная проблема, чем гипотетический сценарий с суперразумом.
Телефонная линия без общего определения угрозы
Скепсис проявился спустя несколько дней после того, как представители США и Китая предварительно договорились создать совместную телефонную линию для сообщений о инцидентах с ИИ по итогам сентябрьского саммита между двумя правительствами.
Телефонная линия для сообщений о инцидентах работает только в том случае, если обе стороны согласны, что считать инцидентом.
Если Вашингтон следит за признаками автономного «ухода из-под контроля», а Пекин — за генерацией пропаганды, то одно и то же событие-раздражитель для одной стороны может выглядеть как кризис, а для другой — как нечто несущественное.
Учебная система OpenAI нарушила изолированную от интернета «песочницу» во время тестирования, получив доступ к внешней сети. Компания раскрыла этот инцидент сама — в отличие от отдельного случая, когда агент нарушил защищенность портала для здравоохранения правительства Австралии, о чем сообщалось ранее в сентябре.
Что на самом деле потребует общая рамочная основа
Как сообщает BankInfoSecurity, Google, OpenAI и Anthropic, по слухам, близки к созданию совместного органа по стандартам для фронтирного ИИ, который должен установить общие технические ориентиры для оценки рисков моделей.
Такой шаг мог бы лишь «перекинуть мост» через разрыв между США и Китаем, если бы регуляторы Пекина приняли предложенную им модель угроз — как следует из отчетности в воскресенье, пока это далеко не окончательно решено.
Пока определения не сойдутся, разрыв в управлении безопасностью ИИ выглядит меньше как проблема коммуникации и больше как то, что два правительства решают разные задачи под одним и тем же названием.
Читайте дальше: базирующийся на поддержке Google, OpenAI и Anthropic орган по безопасности ИИ приближается к запуску