Недавно я читал о заражении данных, и это подтолкнуло меня к вопросу, который кажется гораздо более серьезным, чем сама атака.
Большинство разговоров об ИИ сосредоточено на его возможностях. Каждую неделю обсуждаются более мощные модели, большие окна контекста, улучшенные бенчмарки, более низкие затраты на вывод и больше вычислительной мощности. Эти разработки важны, но меня всё время интересует, не заслуживает ли другая проблема гораздо больше внимания.
Что происходит, когда данные, от которых зависит ИИ, больше нельзя доверять?
Потому что один лишь интеллект не гарантирует надёжность.
Даже самый продвинутый модель может выдавать слабые результаты, если информация, лежащая в её основе, неточна, подделана, устарела или имеет низкое качество. Более того, более высокий интеллект иногда может усугубить проблему, потому что ошибочные входные данные обрабатываются быстрее и в больших масштабах.
Это одна из причин, по которой @OpenLedger обратила на себя моё внимание.
Больше всего в Datanets меня впечатляет то, что они, похоже, сосредоточены на организации знаний, а не просто на накоплении огромных объёмов данных. Интернет уже производит больше информации, чем кто-либо может разумно использовать. Сейчас более сложная задача — определить, какие сведения остаются надёжными.
И эта задача только растёт, когда сети становятся больше.
Чтобы ИИ-системы оставались эффективными, им нужно нечто большее, чем постоянные потоки новых данных. Им также необходимы способы понять, откуда появилась информация, как она попала в систему и заслуживает ли она доверия. Без таких мер предосторожности плохие сигналы могут незаметно распространяться по экосистеме, пока не проявятся их последствия.
И вот тогда мне стало интересно, что такое Proof of Attribution.
Эта идея ощущается меньше как функция и больше как основа для поддержания доверия. Не потому что она может предотвратить каждую проблему, а потому что она вводит прозрачность. Она даёт более ясное представление о том, кто является вкладчиком, о происхождении данных и о том, какой путь проходит информация, влияя на будущие результаты.
Вывод, к которому я снова и снова возвращаюсь, довольно прост.
ИИ-системам нужна не только «интеллектуальность».
Им нужны механизмы, помогающие сохранять целостность.
Самые сильные экосистемы обычно строятся вокруг подотчётности, прозрачности, репутации и прослеживаемости. Когда эти элементы исчезают, доверие становится трудно поддерживать. Когда же они сохраняются, сети гораздо лучше подготовлены к тому, чтобы выдерживать испытание временем.
Поэтому $OPEN выделяется в моих исследованиях.
Похоже, её роль связана с более широкой работой, направленной на доверенные данные, указание вклада участников, подотчётность и скоординированные системы знаний — а не только с активностью ИИ.
Меня особенно убеждает то, что #OpenLedger не построено вокруг идеи создания единственной идеальной модели. Похоже, акцент сделан на создании среды, в которой знания могут оставаться надёжными даже по мере роста участия и масштаба.
Если эта задумка осуществится, долговременная ценность может заключаться не в создании самых «умных» ответов.
Это может быть связано с тем, чтобы помочь экосистемам ИИ сохранять уверенность в информации, от которой зависят эти выходные данные.
Моё мнение простое.
Следующий этап конкуренции в ИИ может и не принадлежать тем сетям, которые собирают наибольшие объёмы данных.
Ей, возможно, и принадлежат те, кто лучше всего умеет поддерживать доверие внутри своих систем знаний.
И именно поэтому $OPEN интересно мне.
Не потому что это стремится к большей «интеллектуальности».
Потому что они стремятся к более сильному доверию.