Несколько дней назад я разговаривал(а) с другом, который работает в крупной компании электронной коммерции. Посреди нашего разговора она сказала кое-что, что с тех пор не выходит у меня из головы.
Она рассказала мне, что много лет назад, если бренд хотел, чтобы продукт стал популярным, очевидной стратегией было заставить знаменитость или fashion-инфлюенсера рассказать о нём. Сегодня это уже не самый главный фактор. Чаще всего алгоритм тихо решает, какой продукт должен попасть на виду у миллионов людей.
Она привела пример, который действительно привлёк моё внимание.
Была обычная сумка, которая уже несколько недель продавалась с совершенно средним темпом. А потом — почти мгновенно — она начала появляться везде. Люди решили, что её продвинул инфлюенсер, или что кто-то из знаменитостей был замечен с ней.
Ни то, ни другое не было правдой.
На самом деле всё оказалось гораздо проще. Относительно небольшая группа покупателей кликнула по этой сумке, добавила её в корзины и завершила покупки с гораздо более высокой скоростью, чем ожидалось. Рекомендательная система истолковала эти действия как сильный сигнал и начала показывать продукт гораздо более широкой аудитории. Чем больше он получал показов, тем больше людей его покупали. Чем больше его покупали, тем активнее алгоритм его продвигал.
В итоге все верили, что наблюдают за трендом.
На самом деле этот тренд существовал только потому, что алгоритм сначала решил, что ему нужно больше внимания.
Эта история сразу напомнила мне о том, куда может двигаться крипто, когда ИИ-агенты смогут принимать решения самостоятельно и автоматически выполнять транзакции.
Я не думаю, что влияние в первую очередь будет принадлежать человеку с самой большой аудиторией. Скорее, оно будет принадлежать тому, кто определит рамки, по которым ИИ-агенту разрешено доверять, оценивать и действовать ещё до того, как будет выполнена любая транзакция.
Это одна из причин, почему меня заинтересовал @NewtonProtocol.
Не потому, что это создаёт лучший контент или даёт лучший анализ, а потому что это слой, где правила поведения ИИ можно задать ещё до того, как автономное выполнение вообще начнётся.
Много лет назад успешный инфлюенсер принимал решения, опираясь на личность и репутацию. Завтра же миллионы ИИ-агентов могут получать ориентиры от стандартизированных, проверяемых политик, которые вообще не зависят от харизмы. Это совершенно другой тип влияния.
Но мой друг также рассказал, как развивалась эта история.
Как только бренды поняли, какие сигналы вознаграждает рекомендательная система, некоторые из них перестали фокусироваться на реальном спросе и начали вместо этого «конструировать» фальшивые сигналы. Чтобы убедить алгоритм, что продукт заслуживает более широкой видимости, использовались искусственные клики, арендуемые аккаунты и скоординированные покупки.
Алгоритм был не обязательно сломан.
Просто принимали решения на основе подменённых входных данных.
Мне кажется, тот же вопрос в конечном итоге станет важным и для инфраструктуры ИИ.
Если однажды политики для @NewtonProtocol начнут влиять на поведение миллионов ИИ-агентов, главная сложность, возможно, будет не в том, чтобы написать хорошие политики. Возможно, труднее будет обеспечить, чтобы сигналы, определяющие, какие политики получат широкое распространение, вообще нельзя было подменить или манипулировать ими.
Для меня именно так $NEWT в конечном счёте и следует оценивать — не по тому, сколько существует политик и сколько ИИ-агентов подключается к сети, а по тому, насколько система устойчива, когда кто-то пытается «сконструировать доверие», а не заслужить его.