Одной из вещей, о которых я в последнее время думаю, является то, что имеет совсем мало общего с тем, насколько умным становится ИИ. Дело в кое-чем гораздо более тихом. По мере того как эти системы принимают всё больше решений за нас, мы становимся лучше в том, чтобы замечать, что они сделали, но хуже в понимании того, почему они это сделали. Эта разница сегодня кажется небольшой, однако я подозреваю, что по мере распространения автоматизации она будет только расти. Именно поэтому меня заинтересовал Newton Protocol. Не потому, что он обещает больше автоматизации, а потому, что он ставит более глубокий вопрос о том, будут ли будущие рынки заботиться об истории решений так же сильно, как и о самих решениях.
Криптография всегда хорошо справлялась с тем, чтобы доказывать исходы. Произошла транзакция. Сделка была урегулирована. Средства переместились. Все эти вещи относительно легко проверить. Но ИИ добавляет ещё один слой. Решения больше не принимаются напрямую людьми. Они возникают в системах, реагирующих на меняющуюся информацию, сдвигающиеся стимулы и предыдущие действия. Где-то в этом процессе контекст начинает исчезать. Машина действует, но рассуждения почти сразу же затухают. Мне кажется, мы недостаточно об этом говорим.
Здесь есть странное противоречие. Мы продолжаем строить ИИ, чтобы убрать человеческие усилия, но каждый слой автоматизации также делает людям сложнее понять, что происходит “под капотом”. Всё становится более эффективным, но и менее заметным. Возможно, это приемлемая цена. Возможно, нет. Честно говоря, я не уверен. Просто это ощущается как одно из тех тихих изменений, которые становятся очевидными только после того, как мы уже к ним адаптировались.
Это делает верификацию более интересной, чем кажется на первый взгляд. В проектах вроде Newton Protocol верификация — это не только подтверждение того, что что-то произошло корректно. Это ещё и обеспечение будущих участников достаточной уверенностью, чтобы понять, как автоматизированные системы пришли к ключевым моментам. Конечно, у этого есть предел. Криптография может сохранить доказательства. Но она не может доказать мудрость. Даже идеально верифицированная ошибка остаётся ошибкой.
Я также думаю о том, не медленно ли мы меняем само значение репутации. Для людей репутация обычно складывается из повторяющегося поведения со временем. ИИ, возможно, не так уж отличается. Одно успешное решение говорит очень мало. Важно, остаётся ли поведение понятным на протяжении сотен или тысяч взаимодействий. Возможно, “машинное доверие” не появится только из-за интеллекта. Возможно, оно возникает из последовательности, которую другие люди могут проверять, не полагаясь на слепую веру.
Это создаёт проблему координации, которая кажется больше, чем любая отдельная модель. ИИ-системы больше не работают в изоляции. Решение одного агента меняет среду для другого. Отдельные стратегии начинают влиять друг на друга так, как никто до конца не планировал. Внезапно задача уже не в том, чтобы генерировать более качественные выходные данные. Задача — сделать так, чтобы тысячи независимых систем сосуществовали, не создавая непреднамеренной нестабильности. Это совсем другая проблема инфраструктуры.
Рынки обычно не вознаграждают такую работу сразу. Они, как правило, отмечают видимые продукты, а не невидимые защитные механизмы. Если инфраструктура тихо предотвращает проблемы, люди часто предполагают, что это и не требовалось вовсе. Я видел, как этот шаблон повторяется в крипто. Надёжность редко становится захватывающей, пока однажды её не хватает.
С усложнением участия ИИ в экономических системах усложняется и управление. Возможно, управлению придётся тратить меньше времени на принятие решений по отдельным действиям и больше — на определение допустимых границ. Звучит разумно, но возникает ещё одно противоречие. Разработчики естественным образом хотят гибкости. Учреждения обычно хотят предсказуемости. Эти стимулы не всегда ведут в одном направлении. Я подозреваю, что экосистемам вроде NEWT в конечном счёте придётся научиться балансировать между этим, не решая задачу полностью раз и навсегда.
Меня ещё кое-что не отпускает. Мы часто предполагаем, что более качественная верификация автоматически создаёт больше доверия. Но, как мне кажется, это не так просто. Верификация говорит нам, что произошло. Доверие всё равно остаётся человеческим суждением. Два человека могут посмотреть на совершенно одни и те же доказательства и прийти к совершенно разным выводам. Технологии уменьшают неопределённость вокруг фактов. Но они не устраняют разногласия о смысле.
После того как я наблюдал, как криптовалюта развивается через множество разных нарративов, я стал осторожным всякий раз, когда кто-то говорит, что доверие может исчезнуть полностью. Обычно оно не исчезает. Оно просто перемещается в другое место. Возможно, именно поэтому Newton Protocol мне кажется интересным: не потому что он доказывает конкретное будущее, а потому что он тихо задаёт вопрос о том, куда уходит доверие, когда машины начинают принимать всё больше решений, формирующих наши рынки. У меня нет уверенного ответа. Я лишь знаю, что на этот вопрос становится всё труднее не обращать внимания.@NewtonProtocol #Newt #newt $NEWT 
