Автор / IT时报 Хэ Чжэнььюань
редактировать / Хао Цзюньхуэй Сунь Янь
Когда компании используют ИИ, обычно нужно заплатить два раза.
Первый раз — это видимые расходы, включая подписку, вычислительные мощности и создание системы. Второй раз трудно отразить в финансовой отчетности, но он может оказаться дороже. Чтобы ИИ действительно понял бизнес компании, сотрудники должны постоянно объяснять ему бизнес-правила, предпочтения клиентов, критерии оценки, опыт неудач и способы исправления ошибок — вроде бы без этого никак, но при этом кроется риск.
Глава Microsoft Сатья Наделла назвал это явление «парадоксом обратной информации» (The Reverse Information Paradox), чтобы отличить его от «парадокса информации» экономиста Кеннета Эрроу (Kenneth Arrow). Эрроу указывает, что «покупатель может оценить, стоит ли покупка того, только сначала увидев информацию; но стоит ему увидеть — и он уже получает информацию».
В эпоху искусственного интеллекта направление риска изменилось: даже если предприятие уже приобрело интеллектуальные сервисы, оно всё равно должно отдать свои знания, чтобы эта услуга стала действительно полезной.
Когда модель отвечает неверно, сотрудник говорит ей, в чём именно ошибка; агент не понимает клиента — продавец дополняет контекст, накопленный за годы общения с клиентами; сгенерированный системой договор оказывается непригодным — сотрудники юротдела правят его построчно. Каждая подсказка, корректировка и оценка могут оставить новый, ценный след. Наделла называет такие следы искусственным интеллектом «выхлопными газами».
Этот образ очень точный. Автомобильные выхлопные газы часто означают мусор, а интеллектуальные выхлопные газы, возможно, несут в себе ценное знание компании. Автомобильные выхлопные газы требуют утилизации и контроля — интеллектуальные выхлопные газы требуют того же.
То, что по-настоящему трудно воспроизвести у банка, — это не опубликованные условия кредитования и не процессы, а «шестое чувство» опытного менеджера по работе с ключевыми клиентами, которое срабатывает, когда он видит определённую комбинацию цифр. Преимущество ритейл-компании — не только в её торговой базе данных: оно может скрываться в интуиции руководителя магазина, который понимает, стоит ли снижать цену на конкретный товар, перестраивать витрины или подождать ещё неделю. И когда один и тот же клиент жалуется, опытный руководитель службы поддержки знает, когда нужно немедленно сделать возврат денег и какой клиент больше всего заботится о том, чтобы ему дали честное и вдумчивое объяснение.
Эти знания редко полностью прописываются в правилах: они разбросаны по конкретной работе, скрыты в том, как сотрудники оценивают сложные ситуации; однако, когда люди исправляют искусственный интеллект, они постепенно проявляются.
Проблемы возникают вслед за этим. Сотрудники считают, что они просто выполняют задачу, но объективно они тем самым обучают систему; предприятия думают, что нужно лишь купить интеллектуальные сервисы, но на самом деле они продолжают «скармливать» системе новые знания организации. Если эти подсказки, корректировки, оценка и рабочие траектории не имеют чётких границ, предприятие будет трудно понять, как долго они сохранятся, с какой целью и возможно ли использовать их для улучшения сервиса для других клиентов.
Это не означает, что предприятия должны держаться подальше от искусственного интеллекта. Но важно также чётко сказать компаниям: нужно осторожно выбирать только заслуживающие доверия интеллектуальные сервисы. И это, помимо всего, означает, что у поставщиков сервисов есть ответственность помогать клиентам удерживать границы знаний. Предприятиям нужно быть смелыми в использовании искусственного интеллекта, но поставщикам сервисов нужно в первую очередь сделать такое использование заслуживающим доверия.
Если у компании TA есть дом, то с самого начала она рассматривает интеллектуальные выхлопные газы как «второй капитал» предприятия и, начиная с первоначального этапа проектирования агента, устанавливает строгие ограничения и границы. Какие данные агент может получать, какие инструменты он может вызывать, какие действия ему разрешены, какие вопросы должны подтверждаться человеком — всё должно работать строго в рамках предоставленных полномочий. Бизнес-информация клиента, следы взаимодействий и собственный опыт строго гарантируют, что всё хранится в среде взаимной изоляции; без явного разрешения это не попадает в процессы обучения и познания, ориентированные на других клиентов. Тогда компания TA заслуживает большего доверия и вверения, чем компания, у которой нет такой базовой механики. Потому что в проектировании компании TA отражён важный принцип: интеллектуальные сервис-провайдеры могут предоставлять модели, платформы и базовые возможности, но эксклюзивные воспоминания, стандарты оценки, рабочие траектории и результаты обучения, которые формируются у предприятия в процессе использования, всё равно остаются под контролем предприятия.
По-настоящему надёжный интеллектуальный сервис не будет требовать от предприятия выбирать между «получением интеллекта» и «сохранением знаний». Это также открывает для «интеллектуальных выхлопных газов» другую возможность: поставщик не собирает выхлопные газы клиента и не выводит их в публичную среду, а помогает предприятию построить собственную «систему утилизации выхлопных газов». После высококачественной переработки интеллектуальные выхлопные газы переходят в собственную базу знаний предприятия, в систему оценки и в замкнутый цикл обучения (Closed Loop). Там они накапливаются и со временем становятся долгосрочным активом и возможностью компании.
Роль компании TA здесь выходит за рамки традиционного поставщика ПО. Она предоставляет не только интеллектуальные инструменты, но и целый набор доверенной среды для работы — чтобы предприятию было проще управлять идентичностью агента, его правами, памятью и границами поведения. Чем глубже клиент использует продукт, тем яснее предприятие должно контролировать собственные знания и результаты обучения.
Правовая система тоже должна поспевать за такими изменениями. Существующие законы уже обеспечивают защиту с разных точек зрения — персональные данные, безопасность данных, коммерческая тайна, интеллектуальная собственность и договорные обязательства; однако границы прав для памяти, оценочных данных, рабочих траекторий и результатов адаптации, которые непрерывно формируются в ходе человеко-машинного взаимодействия, всё ещё недостаточно ясны. Проблемы, которые приносит искусственный интеллект, идут ещё дальше. Потому что если смотреть на отдельную подсказку, в ней может не быть много коммерческой ценности; но когда собрать тысячи подсказок, записи корректировок и результаты оценок вместе, становится возможно достаточно чётко восстановить, как компания обслуживает клиентов, как оценивает риски, как определяет ценность и как принимает решения.
Поэтому в процессе интеллектуализации права предприятия должны расширяться от прав на данные до прав на обучение. Предприятие должно иметь право знать, чему система учится из каких взаимодействий, иметь право отказать в использовании собственных бизнес-траекторий для внешнего обучения, а также иметь право экспортировать, хранить, переносить или удалять воспоминания, оценочные данные и результаты адаптации, которые порождаются его собственным бизнесом.
Сервисный договор нужно прописать так, чтобы эти вопросы были объяснены полностью и ясно. Что именно предоставляет предприятие, до какой степени поставщик может использовать сервис, какие действия по обучению требуют отдельного разрешения, какие данные следует удалить после завершения сотрудничества, какие результаты клиент может забрать с собой — всё это не должно прятаться в туманных формулировках.
Пример компании TA представляет собой тип доверенной сервисной модели: когда модель доказала эффективность, интересы предприятия и интеллектуальные сервисы могут сосуществовать. Чем яснее права клиента, тем проще поставщику сервиса заслужить долгосрочное доверие; чем строже границы, тем смелее предприятие будет вводить искусственный интеллект в действительно важные бизнес-процессы. Защита знаний клиента не снижает ценность интеллектуальных сервисов — она превращает разовую покупку инструментов в устойчивые партнёрские отношения.
Всемирная конференция по искусственному интеллекту (WAIC2026), которая проходит сейчас в Шанхае, под девизом «Интеллектуальные партнёры — совместно создаём будущее». Слова «партнёр» и «совместно создавать» — прямо-таки находка. «Партнёр» уже само по себе выдаёт оттенок персонификации, а «совместно создавать» подразумевает «общее». Если бы те интеллектуальные агенты, что появляются, как грибы после дождя, и впрямь могли бы это почувствовать, вероятно, они были бы растроганы до слёз и взялись бы за работу ещё усерднее!
«Партнёр» означает сотрудничество, а также означает равенство в правах, обязанностях и ответственности; означает признание цифровой личности интеллектуальных агентов — даже если это признание остаётся частичным, ограниченным и пока не закреплено в праве. Интеллектуальные партнёры и цифровые сотрудники, относящиеся к поставщику сервиса, должны работать под авторизацией предприятия и оставлять предприятию эксклюзивный опыт, который сформировался у них в контексте бизнес-сценариев предприятия.
Чем больше интеллектуальных агентов, тем ближе управленческие проблемы к организационным. Если сотрудник входит в компанию, значит ему нужны учётная запись, должность, полномочия, обучение и аттестация; тогда агент, который может считывать данные клиента, отправлять письма, менять код или обрабатывать заказы, также должен иметь чёткую идентификацию личности и границы полномочий. Он действует от чьего имени, кем направляется и кем регулируется, до какого шага может дойти, кто остановит при ошибке, можно ли откатить процесс назад и как вести трассировку — всё это должно стать частью системы интеллектуального управления предприятием.
В будущем предприятия будут конкурировать не только тем, насколько сильные модели можно подключить. Нужна ещё проверка того, кто умеет эффективно защищать свои интеллектуальные «выхлопные газы», кто сохраняет опыт, разбросанный по реальным сценариям и процессам, и кто гарантирует, что каждое человеко-машинное сотрудничество наращивает долгосрочные способности организации.
Корпоративное управление ИИ ни в коем случае не сводится к фразе «запретить распространять конфиденциальные документы». Оно также должно управлять областью действий интеллектуальных агентов, способом их обучения, отношениями ответственности и принадлежностью знаний. Компания TA с самого начала проектирования агента чётко задаёт ограничения и границы — именно чтобы, войдя в бизнес-процессы, агент оставался в состоянии, которое можно знать, контролировать и отслеживать.
Когда интеллектуальные партнёры появляются один за другим, они, как будто по договорённости, получают собственные имена: кто-то — с более размытым звучанием, вроде «финансовый робот» или «интеллектуальный помощник по продажам», а кто-то уже начинает носить такие живые и понятные имена, как «Чэнь Цзя-нань» или «Ма Жун». У отдельного человека имя есть, но у группы — пока нет. Когда я оглядываюсь на этот текст, становится видно: в одних местах я называю интеллектуальных партнёров «он/она (его/её)» — «он», в других — «они». Если говорить откровенно, у меня не получается взять «животное “оно”» и применить это к интеллектуальному объекту!
Сто сорок пятьдесят лет назад Го Цзаньшэн соотнёс иероглиф «伊» со словом «She», использовав его как женский третий падеж/местоимение: «Он в саду, но она — в библиотеке», и это звучало очень занимательно. А спустя сорок лет Лю Бан-нюань ещё более тонко использовал древнее слово в современном смысле: «она» — это родина. (Научите меня, как не думать о ней) — тонкая и изящная традиция дошла до наших дней. Не знающие люди думают, что так и должно быть, что всё естественно и правильно.
В этой полемической эссе-зарисовке (про проблему иероглифа «她») Лю Бан-нюань выдвигает два опорных тезиса: «во-первых, нужно ли в китайской письменности третье местоимение женского рода; во-вторых, если оно нужно, можем ли мы использовать иероглиф “她”.» Позвольте мне занять ту же манеру и тоже предложить два опорных тезиса: во-первых, если у интеллектуальных партнёров есть имя, нужно ли единое третьеличное обозначение, удобное для письма; во-вторых, если нужно — взять широко используемое для обозначения не по признаку пола “TA” и заимствовать это слово, чтобы называть интеллектуальных партнёров!
верстка／Цзи Я-ин
Фото／IT时报 WAIC
источник／официальный аккаунт в WeChat IT时报 vittimes