Чем больше я думаю об автоматизации, тем меньше я верю, что главная ее обещаемая ценность — экономия людям времени.
Время всегда было легко измерить.
Намерения нет.
Каждая финансовая система, которую мы построили, исходит из простого предположения: если действие правильно санкционировано, то оно должно произойти. Это разумное допущение, пока люди находятся рядом с каждым решением. Мы нажимаем кнопку. Мы проверяем транзакцию. Мы принимаем последствия.
ИИ незаметно меняет эти отношения.
Человек, принимающий решение, и момент, когда решение выполняется, больше не обязаны существовать одновременно.
Сначала это ощущается как прогресс.
И тут появилась еще одна мысль.
Возможно, главная задача не в том, чтобы учить ИИ принимать более правильные решения.
Возможно, дело в том, чтобы гарантировать: решение вчерашнего дня по-прежнему отражает намерение завтрашнего.
Человеческие намерения не статичны.
Мы меняем свое мнение.
Рынки меняются.
Появляются риски.
Информация, которая вчера казалась полной, сегодня может ощущаться опасно неполной.
И все же у автоматизации есть склонность продолжать движение, если только что-то явно не скажет ей остановиться.
Это заставило меня задуматься: от чего зависит будущее финансовой автоматизации — меньше от того, чтобы делать ИИ умнее, и больше от того, чтобы проще было сохранять человеческий замысел по мере изменения обстоятельств.
И именно тогда мне начало казаться, что Протокол Ньютона становится по-настоящему интересным.
Не потому, что она обещает идеальную автоматизацию.
Но потому что она вводит идею: важные действия можно оценивать по политикам еще до того, как они произойдут, а не предполагать, что любое технически корректное действие автоматически должно продолжаться.
Разница кажется небольшой.
Философски — нет.
Возникает вопрос: может ли действие вообще произойти.
Тогда второй вопрос — нужно ли это вообще продолжать.
Это не один и тот же вопрос.
И мне интересно, не потратили ли мы столько времени на то, чтобы убрать трение из цифровых финансов, что начали считать любую задержку проблемой.
Иногда пауза — это не неэффективность.
Иногда последняя возможность — заметить, что мир изменился со времени первоначального решения.
Технологии часто превозносят скорость, потому что скорость легко продемонстрировать.
Суждение дается сложнее.
Нельзя измерять мудрость так же, как вы измеряете пропускную способность транзакций.
Обычно вы замечаете ее ценность только тогда, когда отсутствие становится дорогим.
Возможно, поэтому автоматизация на основе разрешений кажется более значимой, чем это сначала представляется.
Это не заставляет людей исчезнуть из процесса принятия решений.
Это создает способ для того, чтобы их первоначальный замысел оставался присутствующим, даже когда их самих уже нет.
Станет ли это необходимым или останется нишевой идеей — зависит от вещей, гораздо более далеких от криптографии.
Все зависит от того, станет ли автономный ИИ достаточно могущественным, чтобы люди меньше беспокоились о том, что он может сделать, и больше — о том, что он продолжает делать после того, как они перестают обращать внимание.
Возможно, будущее доверия не будет строиться на том, чтобы заставить ИИ думать больше как люди.
Возможно, это будет построено на том, чтобы гарантировать: ИИ никогда не забудет то, что люди изначально имели в виду.
Как вы думаете? По мере того как ИИ становится более автономным, сохранение человеческого замысла станет важнее, чем улучшение самого интеллекта ИИ?