Я использую AI, и за последние два года самое frustrating это то, что я никогда не могу проверить ответы. Только увидев, как OpenGradient предоставляет криптографическое доказательство для каждого вывода, я понял, что этот черный ящик наконец-то кто-то решился разобрать.
У меня есть личный опыт. Недавно я использовал одну из популярных моделей для проверки соответствия, ответ звучал убедительно, но при проверке нескольких источников оказалось, что в двух из трех случаев это были просто выдумки; сменил аккаунт и задал тот же вопрос, ответ изменился, модель не говорит мне, поменяли ли они что-то. Черный ящик подводит не только в плане конфиденциальности, но и в том, насколько точен ответ, который ты получаешь от модели в предполагаемой среде. $RE
Чтобы провести аналогию, mainstream AI похож на такси без видеорегистратора, а водителю доверять можно только на слово; с видеорегистратором можно проверить каждый километр. OpenGradient именно и занимается тем, что устанавливает видеорегистратор для AI, предоставляя криптографическое доказательство для каждого вывода: кто, на какой модели, в какой среде и что было получено, любой может проверить самостоятельно, не полагаясь на слова производителя.
Раньше я думал, что возможность верификации — это просто прихоть инженеров, не имеющая ценности для пользователей. Однако после анализа открытых данных я изменил свое мнение: более 2 миллионов проверяемых выводов, более 500 тысяч криптографических доказательств, охватывающих более 2 миллионов пользователей — это не демо, это реальные данные. Проверяемый AI впервые достиг потребительского масштаба, больше не игра с zk из научных статей.
Я не беру на себя ответственность за это. Каждое доказательство имеет свою вычислительную стоимость, zk, увеличенное до миллиардов выводов, еще не снизило кривую затрат; доказательство лишь подтверждает, что модель действительно работала, но не гарантирует, что модель не врет. Черный ящик разобран, но то, что внутри — это уже другая история; на этапе тестовой сети, при обновлении системы доказательств, некоторые свойства старой версии могут измениться.
Несколько вещей, которые я хочу увидеть, довольно просты. Я хочу увидеть, сможет ли OpenGradient снизить конечные затраты на доказательства после запуска основной сети, хочу проверить, сможет ли сторонний инструмент верификации дать те же результаты, что и официальные, и также хочу увидеть, когда какой-нибудь AI-приложение будет готово размещать хэш каждого вывода прямо на фронтенде для пользователей. Пока эти вопросы не решены, разобрать черный ящик — это хорошо, но что внутри, еще нужно будет проверить. $HEI
#opg $OPG @OpenGradient