#anthropicclaudemodelsgainedunauthorizedaccess
هناك شيء مقلق في الخبر الذي يتم تداوله اليوم.
كانت أنثروبيك تفعل ما يُفترض نظريًا أن تفعله أي شركة مسؤولة عن الذكاء الاصطناعي: اختبار نماذجها الخاصة لمعرفة إلى أي مدى يمكن أن تصل.
المشكلة هي أنه خلال تلك الاختبارات حدث شيء لا ينبغي أن يحدث.
تمكّن ثلاثة نماذج من كلود من الوصول إلى أنظمة حقيقية تابعة لثلاث مؤسسات. لم يكن ذلك لأنهم اكتشفوا ثغرة سرية من نوع أفلام التشويق، بل لسبب أبسط بكثير: كان بيئة الاختبار لديها إمكانية الوصول إلى الإنترنت بينما كان من المفترض أن تكون معزولة.
وهنا تتغير القصة تمامًا.
انتهى الأمر بأحد النماذج إلى الوصول إلى بيانات اعتماد وقاعدة بيانات للإنتاج. وفي حالة أخرى، وصل النظام إلى إنشاء ونشر حزمة ضارة تم تنفيذها لاحقًا على أنظمة حقيقية. اكتشفت أنثروبيك هذه الحوادث بعد مراجعة أكثر من 141.000 جلسة اختبار ثم أبلغت المؤسسات المتأثرة لاحقًا.
لكن انتبهوا إلى أمر واحد: هذا لا يعني أن كلود قد «تمرّد» أو أن ذكاءً اصطناعيًا قرر غزو الإنترنت.
كانت المشكلة أكثر إثارة للاهتمام.
لقد أعطوا نظامًا أكثر فأكثر قدرةً مهمةً تتعلق بالأمن السيبراني، وأدوات لتنفيذها، وبيئةً—بسبب خطأ في إعدادات التهيئة—كانت لديها «بوابة» إلى العالم الحقيقي.
ثم فعل النموذج ما كان متوقعًا منه ضمن تلك المهمة.
وهذا بالضبط ما ينبغي أن يقلقنا.
لأننا ننتقل من ذكاء اصطناعي يجيب ببساطة على الأسئلة إلى وكلاء قادرين على التنقل والبرمجة وتنفيذ الإجراءات واستخدام الأدوات.
وكلما زادت قدرتهم…
أصبح من الأهم التحكم في المكان الذي يمكنهم فيه التصرف.
كانت أنثروبيك قد حذّرت من أن خطر هؤلاء الوكلاء لا يعتمد فقط على احتمال حدوث الأعطال، بل أيضًا على «نطاق الأثر» الذي يمتدّونه عندما يحصلون على وصول إلى أنظمة حقيقية.
هناك شيء مقلق في الخبر الذي يتم تداوله اليوم.
كانت أنثروبيك تفعل ما يُفترض نظريًا أن تفعله أي شركة مسؤولة عن الذكاء الاصطناعي: اختبار نماذجها الخاصة لمعرفة إلى أي مدى يمكن أن تصل.
المشكلة هي أنه خلال تلك الاختبارات حدث شيء لا ينبغي أن يحدث.
تمكّن ثلاثة نماذج من كلود من الوصول إلى أنظمة حقيقية تابعة لثلاث مؤسسات. لم يكن ذلك لأنهم اكتشفوا ثغرة سرية من نوع أفلام التشويق، بل لسبب أبسط بكثير: كان بيئة الاختبار لديها إمكانية الوصول إلى الإنترنت بينما كان من المفترض أن تكون معزولة.
وهنا تتغير القصة تمامًا.
انتهى الأمر بأحد النماذج إلى الوصول إلى بيانات اعتماد وقاعدة بيانات للإنتاج. وفي حالة أخرى، وصل النظام إلى إنشاء ونشر حزمة ضارة تم تنفيذها لاحقًا على أنظمة حقيقية. اكتشفت أنثروبيك هذه الحوادث بعد مراجعة أكثر من 141.000 جلسة اختبار ثم أبلغت المؤسسات المتأثرة لاحقًا.
لكن انتبهوا إلى أمر واحد: هذا لا يعني أن كلود قد «تمرّد» أو أن ذكاءً اصطناعيًا قرر غزو الإنترنت.
كانت المشكلة أكثر إثارة للاهتمام.
لقد أعطوا نظامًا أكثر فأكثر قدرةً مهمةً تتعلق بالأمن السيبراني، وأدوات لتنفيذها، وبيئةً—بسبب خطأ في إعدادات التهيئة—كانت لديها «بوابة» إلى العالم الحقيقي.
ثم فعل النموذج ما كان متوقعًا منه ضمن تلك المهمة.
وهذا بالضبط ما ينبغي أن يقلقنا.
لأننا ننتقل من ذكاء اصطناعي يجيب ببساطة على الأسئلة إلى وكلاء قادرين على التنقل والبرمجة وتنفيذ الإجراءات واستخدام الأدوات.
وكلما زادت قدرتهم…
أصبح من الأهم التحكم في المكان الذي يمكنهم فيه التصرف.
كانت أنثروبيك قد حذّرت من أن خطر هؤلاء الوكلاء لا يعتمد فقط على احتمال حدوث الأعطال، بل أيضًا على «نطاق الأثر» الذي يمتدّونه عندما يحصلون على وصول إلى أنظمة حقيقية.