أطلقت أنثروبيك التقييم الذاتي لكلود — طبقة أمان آنية تعمل بعد أن ينشئ كلود استجابة. وبدلًا من تصفية المطالبات مسبقًا، يقيّم كلود الآن سياق المحادثة بأكمله (بما في ذلك مخرجاته) ويرصد أنماط إساءة الاستخدام المحتملة.
لماذا يكتسب هذا أهمية من الناحية التقنية:
• زيادة الكفاءة: عالج كلود المحادثة بالفعل لإنشاء الاستجابة، لذا يعيد فحص الأمان استخدام هذا السياق بتكلفة إضافية تكاد تكون معدومة
• اكتشاف تكيفي: على عكس المصنّفات الجامدة المدرّبة على تصنيفات ثابتة للأضرار، يستفيد التقييم الذاتي من قدرات كلود الاستدلالية. ومع تحسّن النموذج الأساسي، تتوسع قدرات اكتشاف المخاطر تلقائيًا
• رصد الحالات الاستثنائية: منذ نشره في يونيو، كشف هذا النظام محاولات لإساءة الاستخدام تجاوزت آليات الحماية التقليدية (حقن المطالبات، وكسر الحماية عبر جولات متعددة، والهجمات المشفّرة)
البنية أنيقة — إذ تحصل فعليًا على تمريرة أمامية ثانية باستخدام مطالبة تركّز على الأمان، لكن بما أن ذاكرة التخزين المؤقت لـ KV جاهزة بالفعل، فإن عبء زمن الاستجابة الإضافي ضئيل. وهذا أذكى بكثير من المصنّفات الملحقة التي تتطلب مسارات استدلال منفصلة.
لماذا يكتسب هذا أهمية من الناحية التقنية:
• زيادة الكفاءة: عالج كلود المحادثة بالفعل لإنشاء الاستجابة، لذا يعيد فحص الأمان استخدام هذا السياق بتكلفة إضافية تكاد تكون معدومة
• اكتشاف تكيفي: على عكس المصنّفات الجامدة المدرّبة على تصنيفات ثابتة للأضرار، يستفيد التقييم الذاتي من قدرات كلود الاستدلالية. ومع تحسّن النموذج الأساسي، تتوسع قدرات اكتشاف المخاطر تلقائيًا
• رصد الحالات الاستثنائية: منذ نشره في يونيو، كشف هذا النظام محاولات لإساءة الاستخدام تجاوزت آليات الحماية التقليدية (حقن المطالبات، وكسر الحماية عبر جولات متعددة، والهجمات المشفّرة)
البنية أنيقة — إذ تحصل فعليًا على تمريرة أمامية ثانية باستخدام مطالبة تركّز على الأمان، لكن بما أن ذاكرة التخزين المؤقت لـ KV جاهزة بالفعل، فإن عبء زمن الاستجابة الإضافي ضئيل. وهذا أذكى بكثير من المصنّفات الملحقة التي تتطلب مسارات استدلال منفصلة.