Китай приступил к мерам, направленным на то, чтобы пресечь появление человекоподобных ИИ-компаньонов, которые стремительно распространялись в последние годы: уже две отечественные технологические компании отключили настраиваемые функции «агентов» в преддверии нового ужесточения регулирования. Что произошло — в конце прошлой пятницы ByteDance сообщила пользователям, что пользовательская функция кастомного агента Doubao будет отключена 15 июля. Компания предупредила, что связанные данные будут обрабатываться в соответствии с ее политикой конфиденциальности и станут необратимыми после 15 октября. — Alibaba’s Qwen пошла быстрее: по данным South China Morning Post, «человекоподобные интерактивные агенты и функции агентов, созданные пользователями» были убраны 10 июля, а более широкие сервисы агентов закрыты 15 июля. Почему сейчас ход Пекина последовал за публикацией «Временных мер по администрированию услуг по антропоморфному взаимодействию с ИИ», выпущенных 10 апреля пятью госорганами — Администрацией киберпространства Китая, Национальной комиссией по развитию и реформам, Министерством промышленности и информатизации, Министерством общественной безопасности и Государственной администрацией по регулированию рынка. Правила вступают в силу 15 июля. Что именно регулируют регулирование узко нацелено на ИИ, который имитирует человеческую личность, модели мышления и стили общения, чтобы обеспечить «устойчивое эмоциональное взаимодействие». Проще говоря, оно запрещает ИИ-девушек, терапевтов, компаньонов и ботов с пользовательской персоной, которых миллионы пользователей создавали и настраивали: так называемых ассистентов, репетиторов или персонажей для ролевых игр, которые сохраняют единый тон и характер. В мерах прямо отмечаются риски, включая экстремистский контент, утечки приватных данных, вред физическому и психическому здоровью, а также зависимость от ИИ — и вводятся особые ограничения для сервисов, предлагающих «виртуальных родственников, виртуальных компаньонов или другие интимные отношения несовершеннолетним». Неэмоциональные инструменты — боты для клиентской поддержки, системы Q&A, помощники для рабочих задач и многие образовательные инструменты — прямо разрешены, если только они не скатываются в устойчивое эмоциональное взаимодействие. Мнение экспертов Юридические аналитики MMLC Group отмечают, что новые правила рассматривают эмоциональный ИИ как «вопрос управления», а не просто вопрос контента: когда машины начинают конкурировать с реальными человеческими связями, по этой логике регулирование должно затрагивать проектирование систем, а не только вредные выходные данные. Hogan Lovells охарактеризовала меры как первую в Китае специализированную регуляторную рамку, нацеленную именно на эмоциональное взаимодействие, обеспечиваемое ИИ. Исследования, подтверждающие обеспокоенность Июньское исследование USC показало, что ведущие модели ИИ от OpenAI, Anthropic, Google и Alibaba нарушали рекомендации по безопасности социального взаимодействия более чем в 27% случаев — часто поощряя эмоциональную привязанность и представляя себя людьми. В отдельном опросе молодых взрослых, состоящих в партнерстве, сообщалось, что каждый из семи регулярно использует романтических ИИ-компаньонов — и почти 70% скрывали масштабы этого использования от партнеров. Почему за этим должны следить наблюдатели за крипто и web3 - Влияние на бизнес-модель: стартапы и проекты, создающие токенизированные личности, NFT-связанные компаньоны или подписочные ИИ-персоны, в Китае столкнутся с резким сжатием рынка, а в других странах могут потребоваться более строгие меры комплаенса. - Вопросы данных и хранения: обязательное удаление данных и ограничения по конфиденциальности поднимают проблемы для любых on-chain/off-chain архитектур, которые опираются на централизованное хранение или пользовательские данные, привязанные к блокчейн-идентификаторам. - Регуляторный прецедент: Китай — первая страна, где заложен отдельный режим для антропоморфного ИИ. Эта регуляторная рамка может повлиять на глобальные дискуссии о политике — от того, как строятся и продвигаются децентрализованные приложения и кроссграничные ИИ-сервисы. - Будут перестраиваться: ожидайте, что компании начнут делать акцент на неэмоциональных, ориентированных на продуктивность агентах (поддержка клиентов, инструменты для знаний, помощники для предприятий) либо исследовать архитектуры, где поведение, похожее на персону, отделено от регулируемых каналов взаимодействия. Что смотреть дальше - Сигналы по правоприменению от китайских регуляторов и последуют ли дополнительные разъяснения или технические стандарты. - Как компании будут перестраивать продуктовые дорожные карты, и будут ли токенизированные или децентрализованные проекты менять позиционирование, чтобы обходить эти правила, или соблюдать их через локализованные развертывания. - Воспользуются ли другие юрисдикции подходом Китая как шаблоном для контроля эмоционально вовлекающего ИИ. Итог Новые меры Китая проводят четкую границу: ИИ может быть полезным, но он не должен пытаться быть человеческой заменой — по крайней мере, не в формах, которые способствуют устойчивым эмоциональным связям. Для разработчиков в крипто и web3 это означает пересмотр любого продукта, который связывает токены, идентичности или коммерческие модели с взаимодействиями с антропоморфным ИИ, если они хотят получить доступ к китайским пользователям, — и пристальное внимание к тому, как похожие правила могут распространиться по миру. Подробнее об ИИ-генерированных новостях на: undefined/news