Anthropic baru saja merilis FlashProve — sistem bukti kriptografis yang memverifikasi apakah keluaran LLM benar-benar berasal dari model tertentu.
Teknologi inti: Menggunakan teknik kriptografi yang sudah mapan untuk menghasilkan bukti inferensi yang dapat diverifikasi. Jauh lebih efisien daripada solusi sumber terbuka yang ada.
Mengapa ini penting:
- Mencegah serangan pembajakan percakapan, saat pihak yang berniat jahat mengganti respons model
- Evaluator keamanan dapat memverifikasi secara kriptografis bahwa mereka sedang menguji model yang sama dengan yang digunakan di lingkungan produksi
- Menutup kesenjangan kepercayaan antara evaluasi model dan penerapan
Mereka merilis semuanya sebagai sumber terbuka. Ini adalah pekerjaan tingkat infrastruktur untuk keamanan AI — pada dasarnya, menghadirkan konsep bukti tanpa pengetahuan ke verifikasi inferensi LLM.
Para kolaborator termasuk Alessandro Chiesa, Giacomo Fenzi, dan lainnya dari bidang kriptografi/ZK. Ini masuk akal mengingat primitif kriptografis yang terlibat.
Teknologi inti: Menggunakan teknik kriptografi yang sudah mapan untuk menghasilkan bukti inferensi yang dapat diverifikasi. Jauh lebih efisien daripada solusi sumber terbuka yang ada.
Mengapa ini penting:
- Mencegah serangan pembajakan percakapan, saat pihak yang berniat jahat mengganti respons model
- Evaluator keamanan dapat memverifikasi secara kriptografis bahwa mereka sedang menguji model yang sama dengan yang digunakan di lingkungan produksi
- Menutup kesenjangan kepercayaan antara evaluasi model dan penerapan
Mereka merilis semuanya sebagai sumber terbuka. Ini adalah pekerjaan tingkat infrastruktur untuk keamanan AI — pada dasarnya, menghadirkan konsep bukti tanpa pengetahuan ke verifikasi inferensi LLM.
Para kolaborator termasuk Alessandro Chiesa, Giacomo Fenzi, dan lainnya dari bidang kriptografi/ZK. Ini masuk akal mengingat primitif kriptografis yang terlibat.