Раньше я думал, что самая большая конкуренция в AI будет происходить между моделями. Быстрее, больше, дешевле, точнее. Каждая беседа казалась направленной в этом направлении. Каждая заголовок фокусировался на производительности. Каждый бенчмарк отмечал очередное улучшение. Но чем дольше я наблюдаю за эволюцией этой индустрии, тем больше я чувствую, что под поверхностью происходит нечто гораздо более важное. Я все чаще отвлекаюсь от интеллекта, который создается, и все больше обращаю внимание на условия, которые определяют, кто будет признан за его создание.
Я думаю, что у ИИ есть проблема видимости, которую большинство людей всё еще недооценивают. Мы постоянно говорим о результатах, потому что результаты легко наблюдать. Мы видим ответ. Мы видим изображение. Мы видим прогноз. Мы видим сгенерированный результат. Но мы редко видим длинную цепь участников, решений, оценок, проверок, коррекций и источников данных, которые существовали до того, как этот результат стал возможным. Финальный ответ виден. История, которая его произвела, - нет.
Мне интересно, что большинство отраслей в конечном итоге становятся одержимыми отслеживаемостью. Производство хочет знать, откуда произошли материалы. Финансовый сектор хочет знать, откуда пришли транзакции. Системы питания хотят знать, откуда были получены ингредиенты. Здравоохранение хочет знать, как были приняты решения. Тем не менее, ИИ часто ведет себя так, будто конечный результат является достаточным доказательством создания ценности. Система говорит. Пользователь получает. Процесс исчезает.
Я продолжаю задаваться вопросом, может ли такое предположение выжить на следующем этапе развития ИИ. Чем больше экономической активности ИИ влияет, тем больше людей будут задавать вопросы о происхождении. Откуда пришла эта информация? Кто способствовал её созданию? Кто проверил её точность? Кто должен получить кредит, если результат становится ценным? Эти вопросы звучат просто, пока не осознаешь, что современные системы ИИ построены на огромных слоях скрытого участия.
Я думаю, что OpenLedger становится интересным именно потому, что смещает внимание к этому скрытому слою участия. Не потому, что он волшебным образом решает проблему атрибуции. Не потому, что он гарантирует справедливость. Не потому, что он устраняет сложности. Что привлекает моё внимание, так это то, что он рассматривает саму атрибуцию как инфраструктуру. Это кажется принципиально другим взглядом по сравнению со многими проектами ИИ, которые сосредоточены почти исключительно на производительности моделей.
Я замечаю, что как только атрибуция становится важной, весь разговор меняется. Задача больше не просто в генерации интеллекта. Задача заключается в документировании пути, который интеллект прошёл, прежде чем дойти до пользователя. Каждый участник становится частью большей цепи. Каждый набор данных становится зависимостью. Каждый процесс проверки становится доказательством. Каждая коррекция становится частью исторической записи, которая может повлиять на будущие вознаграждения.
Я думаю, что это создает необычное изменение в мотивации. Люди часто предполагают, что создание ценности и признание ценности - это одно и то же. Это не так. Человек может создать огромное количество ценности и оставаться невидимым. Другой человек может создать меньшую ценность, но занимать позицию, которую легче проверить. Видимость и вклад часто движутся в разных направлениях. Эта реальность существует почти в каждой отрасли, но ИИ может усилить её, потому что так много производственного процесса происходит за кулисами.
Я часто думаю о том, сколько полезных вкладов исчезает до того, как системы признания когда-либо с ними столкнутся. Исследователи отказываются от многообещающих идей. Аннотаторы улучшают наборы данных небольшими, но значимыми способами. Члены сообщества выявляют слабости. Специалисты предоставляют контекст. Оценщики обнаруживают ошибки. Большинство из этих вкладов редко становятся видимыми для конечных пользователей. Тем не менее, без них многие системы ИИ работали бы значительно хуже. Их важность существует, даже когда их признание отсутствует.
Я думаю, что здесь идея цепочек поставок ИИ становится всё более актуальной. Интеллект не возникает из вакуума. Он проходит через несколько слоёв, прежде чем добраться до кого-либо. Сбор данных, проверка, организация, обработка, оценка, оптимизация, развертывание, мониторинг и обратная связь все влияют на конечный результат. То, что пользователи испытывают, часто является конечной точкой гораздо большего пути.
Я замечаю, что цепочки поставок создают странную психологическую иллюзию. Люди естественным образом сосредотачиваются на объекте, который они могут видеть. Потребитель видит продукт на полке. Они не видят каждую фабрику, поставщика, транспортный маршрут, процесс инспекции или логистическую зависимость, которые сделали возможным этот продукт. ИИ, похоже, развивает аналогичную структуру. Пользователи взаимодействуют с ответами, оставаясь при этом отключёнными от сети участников, которые произвели эти ответы.
Я думаю, что OpenLedger исследует будущее, в котором это разрыв становится труднее игнорировать. Если атрибуция становится экономически значимой, тогда участники будут всё чаще конкурировать, чтобы их вклады оставались видимыми на протяжении всего производственного процесса. Признание становится частью инфраструктуры. Читаемость становится частью экономики. Документация становится частью самого создания ценности.
Я продолжаю возвращаться к вопросу, который кажется неудобным. Что происходит, когда системы могут вознаграждать только то, что они могут проверить? На одном уровне это звучит разумно. Проверка создает доверие. Доказательства создают подотчетность. Записи создают последовательность. Но проверка также создает границы. Всё, что находится за пределами этих границ, становится трудным для распознавания. Ценные вклады могут существовать за пределами того, что система может наблюдать.
Я думаю, что каждая инфраструктурная система сталкивается с этой напряжённостью. Простота требует сжатия. Записи требуют стандартизации. Доказательства требуют структуры. Реальность, однако, редко бывает достаточно структурированной, чтобы аккуратно вписываться в эти требования. В момент, когда система решает, что считается доказательством, она также решает, что останется невидимым. Эта сделка представляется неизбежной.
Я замечаю, что многие обсуждения о децентрализации сосредотачиваются на собственности. Меньше обсуждений сосредоточено на признании. Собственность важна, но признание может стать столь же важным в экосистемах ИИ. Участник не может извлечь выгоду из вклада, который никто не может идентифицировать. Вклад не может войти в экономическую систему, если в системе отсутствуют механизмы для его наблюдения. Видимость становится предпосылкой для участия.
Я думаю, что именно поэтому атрибуция кажется более крупной, чем техническая проблема. Это также экономическая проблема, проблема управления и социальная проблема. Каждая система атрибуции неявно отвечает на вопросы о том, чья работа имеет значение, чьи доказательства считаются, и чьи вклады заслуживают сохранения в исторических записях. Эти решения формируют мотивацию задолго до распределения вознаграждений.
Мне кажется увлекательным, что ИИ в конечном итоге может заставить общество более тщательно задуматься о невидимом труде. На протяжении многих лет большая часть обсуждения сосредотачивалась на автоматизации, заменяющей человеческий труд. Но возникает другая проблема. Человеческие вклады всё больше существуют внутри систем, которые затемняют их происхождение. Вопрос может заключаться не только в том, заменят ли людей. Вопрос также может заключаться в том, остаются ли люди видимыми.
Я думаю, что будущее инфраструктуры ИИ связано с растущей борьбой между эффективностью и прозрачностью. Эффективные системы хотят сжатия. Прозрачные системы хотят отслеживаемости. Эффективные системы хотят абстракции. Прозрачные системы хотят деталей. Ни одна из задач не является неправильной. Проблема заключается в том, чтобы определить, сколько видимости можно сохранить, не жертвуя удобством.
Я замечаю, что доверие часто зависит меньше от интеллекта, чем люди предполагают. Высокоинтеллектуальная система все равно может вызвать скептицизм, если никто не понимает, откуда возникли её выводы. Между тем, менее способная система может заслужить доверие, если её процесс остается наблюдаемым. Люди всегда заботились о объяснениях, подотчетности и происхождении. ИИ не исключает эти проблемы. Во многих отношениях он их усиливает.
Я думаю, что OpenLedger стоит наблюдать, потому что он поощряет другой разговор о ИИ. Вместо того чтобы спрашивать только, как генерируется интеллект, он спрашивает, как фиксируется участие. Вместо того чтобы сосредотачиваться исключительно на результатах, он фокусируется на цепочке зависимостей, стоящих за этими результатами. Вместо того чтобы рассматривать атрибуцию как нечто второстепенное, он исследует, что происходит, когда атрибуция становится частью фундамента.
Я всё время чувствую, что самое важное преобразование в ИИ может заключаться не в самом интеллекте. Интеллект будет продолжать улучшаться. Модели будут продолжать развиваться. Возможности будут продолжать расширяться. Но более глубокий вопрос может вращаться вокруг видимости. Кто получает признание? Кто запоминается? Кто становится частью постоянной записи, на которую будут полагаться будущие системы?
Я думаю, что следующий этап ИИ может определяться этим вопросом больше, чем многие люди осознают. Не потому что интеллект перестает иметь значение, а потому что сам по себе интеллект не может объяснить, откуда берется ценность. По мере того как системы ИИ становятся более влиятельными, способность отслеживать вклад может стать такой же важной, как способность генерировать результаты. Будущее может принадлежать не только системам, которые создают интеллект, но и системам, которые раскрывают, как интеллект был создан изначально.
