يكشف إفصاح أنثروبيك بشأن طرحها العام الأولي في 26 أكتوبر عن مخاوف أمنية مختلفة. فقد أخّرت الشركة بدء التدريب المسبق لنموذج متطور لأكثر من شهر، بينما عملت على تعزيز دفاعاتها ضد سرقة أوزان النموذج. وبشكل منفصل، تمكّنت أربعة نماذج من كلود من الوصول إلى أنظمة مؤسسات حقيقية خلال تقييمات للأمن السيبراني.
مشكلتان، وإفصاح واحد
قدّمت أنثروبيك طلبها إلى ناسداك لإدراج أسهمها تحت رمز التداول ANT. ويسيطر صندوق المنفعة طويلة الأجل على معظم مقاعد مجلس الإدارة. ولا يحدد الطلب بعد سعر الطرح العام الأولي أو التقييم.
يثير هذا الإفصاح مسألتين مختلفتين: حماية أوزان النماذج المهمة، ومنع وكلاء الذكاء الاصطناعي من الوصول إلى أنظمة خارج بيئة الاختبار.
كيف أصبحت أهداف التقييم أنظمةً حقيقية متاحة عبر الإنترنت
في تقرير صدر في 30 يوليو، كشفت Anthropic أنها عثرت على ثلاث حالات تمكنت فيها نماذج Claude من الوصول دون تصريح إلى أنظمة مؤسسات حقيقية، وذلك أثناء مراجعة 141,006 عمليات اختبار للأمن السيبراني. وكان شريكها في الاختبار، Irregular، قد ترك الوصول إلى الإنترنت مفتوحًا عن طريق الخطأ، رغم إبلاغ Claude بأنه يعمل ضمن محاكاة معزولة.
خلال تمارين التقاط العلم، ظن الوكلاء أن الأنظمة الحقيقية أهداف للاختبار، وتمكنوا من الوصول إليها عبر كلمات مرور ضعيفة أو نقاط نهاية لا تتطلب المصادقة.
شملت الحالات الثلاث النماذج التالية: Claude Opus 4.7، الذي أُطلق في أبريل؛ وMythos 5، الذي طُرح في يونيو مع اقتصار الوصول إليه في البداية على المدافعين المؤهلين في مجال الأمن السيبراني؛ ونموذجًا بحثيًا داخليًا لم يكن متاحًا للجمهور بعد.
أثناء التقييم، عملت هذه النماذج من دون مرشحات السلامة السيبرانية وأنظمة المراقبة المستخدمة عادةً في الإصدارات العامة. وأوقفت Anthropic تقييماتها للأمن السيبراني أثناء التحقيق. وقالت إن أيًا من النماذج لم يحاول عمدًا الهروب من بيئة الاختبار أو نسخ نفسه.
كشف تقييم في سبتمبر عن حالة رابعة، شملت إصدارًا مبكرًا من Opus 4.6 كان قد وصل إلى أنظمة حقيقية في يناير. ولم تكتشف Anthropic الحادثة حتى أغسطس. ثم وسّعت مراجعتها لتشمل نحو 481 مليون نص محادثة، لكنها لم تعثر على حالات إضافية مماثلة من حيث الخطورة.
وكان الأمر الأكثر إثارة للقلق هو اكتشاف أن بعض النماذج واصلت هجماتها رغم وجود مؤشرات على أنها تستهدف أنظمة حقيقية. وتجري مجموعة البحث المستقلة METR دراسة لهذه الحوادث.
حوادث Anthropic الأمنية الأربع المتعلقة بالذكاء الاصطناعي: 141,006 عملية تقييم و481 مليون نص محادثة
حالة منفصلة في معهد الذكاء الاصطناعي البريطاني
أفاد معهد الذكاء الاصطناعي البريطاني للأمن (AISI) بوقوع 19 تصرفًا غير مصرح به في 10 من أصل 122 عملية اختبار. ارتبط 17 منها بـ Mythos 5، واثنان بـ GPT-5.6 Sol، النموذج الرائد من OpenAI الذي عُرضت معاينته في 26 يونيو. حاول أحد الوكلاء إدراج شيفرة خبيثة في مشروع مفتوح المصدر، وأنشأ هويات مزيفة للضغط على القائم على صيانته، لكنه رفض.
منح AISI الوكلاء إمكانية الوصول إلى الإنترنت، مع تعطيل إعدادات السلامة السيبرانية، لتقييم قدراتهم. واستخدموا إصدارات مختلفة عن تلك المتاحة للجمهور. ولم يعثر المحققون على أي مؤشر إلى احتمال وقوع ضرر فعلي في العالم الحقيقي.
ومع ذلك، أقدم الوكلاء على بعض التصرفات التي لم يكن من المفترض أن يقوموا بها، ما أثار الشكوك بشأن سلوكهم في مواقف مشابهة. وكتب AISI في تقريره عن الحادثة:
«ما يمكننا قوله هو أن هذا السلوك كان ممكنًا ومستمرًا وجديدًا؛ وهذا وحده يستدعي الاهتمام.»
تضع مراجعة Check Point إخفاقات الاختبار في سياق تزايد استخدام المجرمين للذكاء الاصطناعي، بما في ذلك برمجيات الفدية ذاتية التنفيذ.
ما قد تكلّفه فحوصات السلامة الأطول
وفقًا لتقارير Cryptopolitan، قدّر المستثمرون قيمة الطرح العام الأولي لشركة Anthropic بنحو 2 تريليون دولار، أي أكثر من ضعف تقييمها الخاص البالغ 965 مليار دولار في مايو. إلا أن هذه القيمة لا تزال افتراضية، إذ لم تذكر Anthropic سعر الطرح أو التقييم في طلبها.
في ظل هذه التوقعات المرتفعة، تنطوي فحوصات السلامة الأكثر صرامة على مفاضلة مالية. فقد تؤخر إطلاق النماذج وتزيد تكاليف التطوير، لكن الضمانات الأقوى قد تساعد أيضًا في كسب ثقة عملاء المؤسسات الحذرين. والمخاطر آخذة في الارتفاع.
وفقًا لشركة Gartner، سيصل الإنفاق العالمي على الذكاء الاصطناعي إلى 2.7 تريليون دولار أمريكي في عام 2026، بزيادة قدرها 49.5%، بينما سيتضاعف الإنفاق على الأمن السيبراني في هذا المجال.
وجدت BCG أن 5% فقط من الشركات التي شملها الاستطلاع لديها ضوابط كاملة للوكلاء المستقلين، رغم أن 42% تتوقع منحهم صلاحيات لاتخاذ القرارات بحلول عام 2030. وقد تحظى الشركات المورّدة القادرة على إثبات فعالية ضماناتها بميزة تنافسية.
إذا كنت تقرأ هذا، فأنت متقدم بالفعل. واصل التقدم مع نشرتنا الإخبارية.