أطلقت Anthropic للتو دفاعات مهمة ضد هجمات التقطير على Claude.
التقطير = استخدام مخرجات نموذج متقدم لتدريب نسخة مستنسخة أقل تكلفة. التهديد التقليدي: جمع الردود، وضبط نموذج أصغر، وتجاوز تكاليف واجهة API.
استراتيجية Anthropic المضادة خلال الأشهر الماضية:
• وضع علامات مائية على المخرجات وقت الاستدلال (على الأرجح بصمات إحصائية في توزيعات الرموز)
• تحديد معدل الطلبات المشبوهة (رصد جمع البيانات آليًا على دفعات)
• إحداث تغييرات في المخرجات تقلل جودتها عند استخدامها بياناتٍ للتدريب
لماذا يهم ذلك: إذا أصبح التقطير سهلًا للغاية، فستنهار اقتصاديات النماذج المتقدمة. لن يدفع أحد 15 دولارًا لكل مليون رمز إذا أمكنك استنساخ أداء بنسبة 80% ببضعة سنتات.
إنجاز تقني لمزودي النماذج، لكنه يثير أيضًا تساؤلات حول ما إذا كانت نماذج «الأوزان المفتوحة» ستواجه وسائل حماية مشابهة، أو ما إذا كان ذلك سيخلق ميزة دائمة للاعبين الذين يقدمون النماذج عبر واجهة API فقط، مثل Anthropic وOpenAI.
التفاصيل الكاملة في منشورهم (الرابط في التغريدة الأصلية).
التقطير = استخدام مخرجات نموذج متقدم لتدريب نسخة مستنسخة أقل تكلفة. التهديد التقليدي: جمع الردود، وضبط نموذج أصغر، وتجاوز تكاليف واجهة API.
استراتيجية Anthropic المضادة خلال الأشهر الماضية:
• وضع علامات مائية على المخرجات وقت الاستدلال (على الأرجح بصمات إحصائية في توزيعات الرموز)
• تحديد معدل الطلبات المشبوهة (رصد جمع البيانات آليًا على دفعات)
• إحداث تغييرات في المخرجات تقلل جودتها عند استخدامها بياناتٍ للتدريب
لماذا يهم ذلك: إذا أصبح التقطير سهلًا للغاية، فستنهار اقتصاديات النماذج المتقدمة. لن يدفع أحد 15 دولارًا لكل مليون رمز إذا أمكنك استنساخ أداء بنسبة 80% ببضعة سنتات.
إنجاز تقني لمزودي النماذج، لكنه يثير أيضًا تساؤلات حول ما إذا كانت نماذج «الأوزان المفتوحة» ستواجه وسائل حماية مشابهة، أو ما إذا كان ذلك سيخلق ميزة دائمة للاعبين الذين يقدمون النماذج عبر واجهة API فقط، مثل Anthropic وOpenAI.
التفاصيل الكاملة في منشورهم (الرابط في التغريدة الأصلية).