Недавно общался с одним знакомым, который занимается алгоритмами, и он сказал такую фразу, которая заставила меня задуматься: современные AI модели полны вторичных данных. Что это значит? Сейчас на рынке те большие модели, что мы видим, обучены на данных, которые были собраны с разных уголков интернета: некоторые из них из форумов, другие из рекламных аккаунтов, а некоторые просто являются вторичными данными, созданными другим AI. Как говорит мой друг, ты учишь AI жевать то, что уже жевали другие. Что же можно ожидать от таких результатов?

Случай с адвокатом, который в 2024 году пострадал от AI, это только верхушка айсберга. Настоящая проблема в том, что ты не знаешь, какая информация от AI надежна, а какая — выдумка.

Поэтому сейчас, изучая рынок AI, меня больше всего интересует не кто из моделей показывает высокие результаты, а кто решает вопрос о правдивости информации.

@OpenLedger — это проект, который работает над этой проблемой. Он разработал систему доказательства принадлежности, которая маркирует каждый источник данных, и если AI использует эти данные, ты получаешь вознаграждение в $OPEN токенов. В техническом плане они создали фреймворк OpenLoRA, который позволяет запускать множество моделей на одном GPU, что значительно снижает порог входа. В основе используется двойная архитектура EigenDA, плюс случайная выборка для валидации: не каждая строчка данных проверяется жестко, а выборочно, и при обнаружении ошибки — штраф. Логика звучит довольно убедительно.

Конечно, риски тоже присутствуют. Чем больше стимулов, тем больше мошенников: необходимо следить за фейковыми данными и атаками со стороны поддельных аккаунтов.

Как опытный трейдер, я буду наблюдать. AI нуждается в надежной правде, эта область стоит внимания, но прежде чем в нее входить, нужно убедиться, что их система валидации может выдержать реальные условия. #OpenLedger