أطلقت Anthropic للتو FlashProve — نظام إثبات تشفيري يتحقق مما إذا كان ناتج نموذج لغوي كبير قد صدر بالفعل عن نموذج محدد.
التقنية الأساسية: يستخدم تقنيات تشفير راسخة لإنشاء براهين قابلة للتحقق على الاستدلال. وهو أكثر كفاءة بكثير من الحلول مفتوحة المصدر الحالية.
لماذا يهم هذا:
- يمنع هجمات اختطاف المحادثات التي يستبدل فيها المهاجمون استجابات النموذج
- يمكن لمقيّمي السلامة التحقق تشفيريًا من أنهم يختبرون النموذج نفسه المستخدم في بيئة الإنتاج
- يسد فجوة الثقة بين تقييم النماذج ونشرها
لقد أتاحوا كل شيء كمصدر مفتوح. هذا عمل على مستوى البنية التحتية لأمن الذكاء الاصطناعي — وهو عمليًا تطبيق لمفاهيم براهين المعرفة الصفرية على التحقق من استدلال النماذج اللغوية الكبيرة.
من بين المتعاونين أليساندرو كيزا، وجياكومو فينزي، وآخرون من مجال التشفير والمعرفة الصفرية. وهذا منطقي بالنظر إلى اللبنات التشفيرية المستخدمة.
التقنية الأساسية: يستخدم تقنيات تشفير راسخة لإنشاء براهين قابلة للتحقق على الاستدلال. وهو أكثر كفاءة بكثير من الحلول مفتوحة المصدر الحالية.
لماذا يهم هذا:
- يمنع هجمات اختطاف المحادثات التي يستبدل فيها المهاجمون استجابات النموذج
- يمكن لمقيّمي السلامة التحقق تشفيريًا من أنهم يختبرون النموذج نفسه المستخدم في بيئة الإنتاج
- يسد فجوة الثقة بين تقييم النماذج ونشرها
لقد أتاحوا كل شيء كمصدر مفتوح. هذا عمل على مستوى البنية التحتية لأمن الذكاء الاصطناعي — وهو عمليًا تطبيق لمفاهيم براهين المعرفة الصفرية على التحقق من استدلال النماذج اللغوية الكبيرة.
من بين المتعاونين أليساندرو كيزا، وجياكومو فينزي، وآخرون من مجال التشفير والمعرفة الصفرية. وهذا منطقي بالنظر إلى اللبنات التشفيرية المستخدمة.