Anthropic только что представила FlashProve — систему криптографических доказательств, которая проверяет, действительно ли ответ LLM был получен от определённой модели.
Основная технология: использует проверенные криптографические методы для создания верифицируемых доказательств инференса. Значительно эффективнее существующих решений с открытым исходным кодом.
Почему это важно:
- Предотвращает атаки с перехватом чатов, при которых злоумышленники подменяют ответы модели
- Специалисты по оценке безопасности могут криптографически проверить, что тестируют ту же модель, которая используется в продакшене
- Устраняет разрыв доверия между оценкой модели и её развёртыванием
Они открыли исходный код всего проекта. Это работа на уровне инфраструктуры для обеспечения безопасности ИИ — по сути, применение концепций доказательств с нулевым разглашением для проверки инференса LLM.
Среди соавторов — Алессандро Кьеза, Джакомо Фенци и другие специалисты в области криптографии и доказательств с нулевым разглашением. Это неудивительно, учитывая используемые криптографические примитивы.
Основная технология: использует проверенные криптографические методы для создания верифицируемых доказательств инференса. Значительно эффективнее существующих решений с открытым исходным кодом.
Почему это важно:
- Предотвращает атаки с перехватом чатов, при которых злоумышленники подменяют ответы модели
- Специалисты по оценке безопасности могут криптографически проверить, что тестируют ту же модель, которая используется в продакшене
- Устраняет разрыв доверия между оценкой модели и её развёртыванием
Они открыли исходный код всего проекта. Это работа на уровне инфраструктуры для обеспечения безопасности ИИ — по сути, применение концепций доказательств с нулевым разглашением для проверки инференса LLM.
Среди соавторов — Алессандро Кьеза, Джакомо Фенци и другие специалисты в области криптографии и доказательств с нулевым разглашением. Это неудивительно, учитывая используемые криптографические примитивы.