😂😂 Вы тратите большие деньги на премиальную модель ИИ, но как убедиться, что поставщик тайно не подменяет её более дешёвой альтернативой?

Anthropic представила проект с открытым исходным кодом FlashProve, который призван решить эту проблему с помощью идеи из мира криптографии: доказательств с нулевым разглашением (ZKP).

Концепция невероятно интересная! Поставщики создают уникальный цифровой отпечаток своей модели, и каждый ответ сопровождается криптографическим доказательством того, что его сгенерировала именно эта модель, — при этом сама модель не раскрывается, а пользователям не нужно запускать её самостоятельно.

Ещё интереснее то, что Claude помог разработать этот проект! 🤖

Однако впереди ещё долгий путь. Сейчас доказательства охватывают только один токен за раз, а для их создания требуется примерно в 70–95 раз больше вычислительных ресурсов, чем для генерации самого ответа.

Но если эти ограничения удастся преодолеть, проверка моделей ИИ может стать настоящим прорывом и значительно усложнить скрытую подмену моделей. 🚀

#Anthropic #ИИ #ДоказательстваСНулевымРазглашением #Криптовалюта #ArtificialIntelligence