Ты платишь бешеные деньги за передовую модель. Но как узнать, что тебе незаметно не подсунули модель подешевле? 😂😂
Сейчас — никак. Anthropic только что открыла исходный код FlashProve, чтобы решить эту проблему. В основе — приём прямо из криптографии: доказательства с нулевым разглашением. Та же технология позволяет блокчейну подтвердить подлинность транзакции, не раскрывая её содержимое.
Идея довольно проста. Провайдер заранее «отпечатком» фиксирует свою модель, а к каждому ответу прилагается доказательство. Ты можешь проверить, что ответ действительно получен именно от этой модели, даже не видя её и не запуская самостоятельно. Забавный факт: Claude помогла её создать.
Но есть нюанс: до готовности ещё далеко. Каждое доказательство охватывает только один токен, а не весь ответ, и на его создание уходит в 70–95 раз больше вычислительных ресурсов, чем на простую генерацию ответа.
И всё же, когда эти затраты снизятся, игре с подменой моделей придёт конец #Anthropic #AI #ZeroKnowledgeProofs
Сейчас — никак. Anthropic только что открыла исходный код FlashProve, чтобы решить эту проблему. В основе — приём прямо из криптографии: доказательства с нулевым разглашением. Та же технология позволяет блокчейну подтвердить подлинность транзакции, не раскрывая её содержимое.
Идея довольно проста. Провайдер заранее «отпечатком» фиксирует свою модель, а к каждому ответу прилагается доказательство. Ты можешь проверить, что ответ действительно получен именно от этой модели, даже не видя её и не запуская самостоятельно. Забавный факт: Claude помогла её создать.
Но есть нюанс: до готовности ещё далеко. Каждое доказательство охватывает только один токен, а не весь ответ, и на его создание уходит в 70–95 раз больше вычислительных ресурсов, чем на простую генерацию ответа.
И всё же, когда эти затраты снизятся, игре с подменой моделей придёт конец #Anthropic #AI #ZeroKnowledgeProofs
