#零知识证明 Эта новость довольно любопытная 🧐🧐 За топовую модель платят большие деньги — а вдруг за кулисами её тайком подменяют дешёвой? Теперь Anthropic хочет использовать технологии из криптомира, чтобы «проверять товар» 🔍
В своей новейшей открытой разработке FlashProve Anthropic перенесла доказательства с нулевым разглашением, широко применяемые в блокчейне, в сферу вывода ИИ.
Сначала поставщик сервиса создаёт зашифрованный отпечаток весов модели, чтобы зафиксировать, какую именно модель он использует. Затем к каждому результату прикладывается математическое доказательство. Пользователю не нужно получать веса или самостоятельно повторно запускать модель, чтобы проверить, получен ли результат именно с помощью обещанного набора весов. Говорят, Claude тоже участвовал в разработке и оптимизации этой системы.
Но до практического применения ещё далеко: одним доказательством можно проверить лишь один выходной токен, а целый ответ — пока нет; вычислительные мощности GPU для генерации доказательств в 70–95 раз выше, чем для обычного вывода. Проверить один символ стоит в десятки раз дороже, чем сгенерировать его, так что вряд ли какой-нибудь поставщик услуг захочет за это платить, ха-ха #Anthropic #AI