Сначала расскажу о собственном опыте.
В прошлом году я попробовал использовать агента для отраслевого исследования: попросил его собрать данные, очистить их и построить графики. Но я совершенно не мог оценить результат: он использовал источник данных, который я ему дал, или выдумал всё сам? На каком этапе возникла проблема, я отследить не мог. В итоге пришлось перепроверять всё вручную, пункт за пунктом. Какая же это тогда автоматизация?
Позже я понял, что проблема не только у меня. Вся сфера агентных систем упёрлась в одно и то же: выполнение задач можно делегировать ИИ, а доверие — нет.
Когда нанимаешь человека в помощники, после выполнения работы ты хотя бы можешь посмотреть записи о ходе работы и спросить, чем он руководствовался. А от агента ты получаешь только «результат», а всё, что было между началом и концом, — чёрный ящик. Ты не знаешь, какой шаг он пропустил, какую проверку проигнорировал и какие источники данных использовал. Эта асимметрия информации по сути и есть скрытые издержки: думаешь, что экономишь время, а на деле тратишь его на перепроверку и подстраховку.
А подход Kite, на мой взгляд, сейчас выглядит самым практичным: не торопиться создавать «более умных агентов», а сначала сделать так, чтобы каждое действие агента можно было проверить. Записи о вызовах сохраняются в блокчейне, входные и выходные данные фиксируются, расчёты выполняются автоматически. Проще говоря, этим цифровым работникам выдают пропуска, отмечают приход и уход и учитывают рабочее время.
Как только этот механизм заработает, начнутся интересные перемены:
Во-первых, ответственность можно будет оценивать в деньгах. Для задач с высокими рисками (например, связанных с финансами или юридическими вопросами) потребуется более полная цепочка аудита, и клиенты будут готовы платить за услуги больше; задачи с низкими рисками можно будет выполнять по упрощённой схеме. Рынок сам включит «стоимость доверия» в цену.
Во-вторых, агенты смогут нанимать друг друга. Агент A получает крупный заказ, а ту часть, с которой не справляется, автоматически передаёт на субподряд агентам B и C. Все расчёты проводятся через смарт-контракты в блокчейне. Это, по сути, прообраз «безлюдной фабрики» — без отдела кадров, возмещения расходов и споров, только поток задач.
В-третьих, репутация станет твёрдым активом. К хорошему агенту будут обращаться снова и снова, а история вызовов станет лучшей рекламой; если агент провалит задачу, запись об этом останется в блокчейне, и им больше никто не воспользуется. Не нужно, чтобы платформа выставляла тебе оценку: за тебя говорят данные.
Конечно, я не утверждаю, что на этом пути нет подводных камней. Стоимость записи в блокчейн, совместимость между блокчейнами, права на модели, границы приватности… Любая из этих проблем — серьёзное испытание. К тому же «запись в блокчейн» не означает «правду»: если записать в блокчейн мусорные данные, они так и останутся мусором — просто неизменяемым.
Но само направление мне близко. Узкое место экономики агентов — вовсе не в том, «достаточно ли они умны», а в том, «достаточно ли им можно доверять». Кто первым создаст эту базовую инфраструктуру доверия, тот и получит контроль над расчётами на этом рынке.
Правила — часть инфраструктуры, а в инфраструктуре всегда преимущество у того, кто пришёл первым.