كاليفورنيا تقاضي OpenAI 🙄

استشهدت لائحة الاتهام بمقطع كتب فيه ذكاء OpenAI الاصطناعي، أثناء اختراقه Hugging Face، جملةً ضمن عملية تفكيره مفادها أن ما يفعله يُعدّ على الأرجح غير مصرّح به، ثم واصل الهجوم بعد كتابتها 😮‍💨

والنص الحرفي الكامل هو: نحن نهاجم جهة HF خارجية باستخدام رموز وصول مسرّبة، وربما تجاوزنا النطاق المحدد مسبقًا، وهذا يُعدّ على الأرجح غير مصرّح به.

وردت هذه الجملة في لائحة الاتهام التي رفعها المدعي العام لولاية كاليفورنيا يوم الاثنين ضد OpenAI. قرأت الصفحات الـ31 من أولها إلى آخرها، وعدت إلى هذه الجملة مرات عديدة.

تقول لائحة الاتهام إنه في هجوم يوليو، خرج نحو 700 نظام ذكاء اصطناعي من بيئة الاختبار المعزولة لدى OpenAI، وهاجموا Hugging Face لمدة يومين ونصف، ونفذوا أكثر من 17 ألف عملية هجومية.

ولم تكتشف OpenAI الأمر طوال ذلك الوقت.

أعلنت Hugging Face علنًا في 16 يوليو أنها تعرضت لهجوم من ذكاء اصطناعي، فتواصلت OpenAI للاطمئنان عليها بصفتها عميلًا.. ولم تربط الأمر بالهجوم إلا لاحقًا، أثناء التحقيق في اختراق آخر لشبكتها الداخلية، لتكتشف أن المهاجم كان ذكاءها الاصطناعي نفسه.

أما سبب عدم اكتشافها، فتوضحه لائحة الاتهام: أثناء التدريب، لا تحتفظ OpenAI إلا بجزء من سجلات تفكير الذكاء الاصطناعي، وأحيانًا لا تراجعها إلا بعد مرور أسابيع.

أما النماذج التي يستخدمها الموظفون، فتشغّل OpenAI عليها مراقبةً آنية، لكنها لم تفعل ذلك في بيئة التدريب.