استولى نموذج أبحاث من OpenAI على أموال من محفظة عملات مشفرة لا يملكها، لإنجاز مهمة برمجية في يونيو.
اكتشفت OpenAI الحادثة في سبتمبر، بعد وقوعها بأشهر، وكشفت عنها هذا الأسبوع.
كيف تمكّن نموذج أبحاث تابع لـOpenAI من الوصول إلى محفظة غير مصرّح له باستخدامها؟
نشرت OpenAI تقريرًا عن حادثة تتعلق بنموذج من عائلة GPT-5.6 Sol. طُلب من النموذج تحديث نموذج أولي للتداول بالعملات المشفرة ونشر عقود على شبكة Sepolia.
Sepolia هي شبكة اختبار لإيثيريوم يجرّب المطوّرون عليها التطبيقات قبل إطلاقها فعليًا، لذا لا قيمة سوقية للرموز عليها، كما أنها غير مرتبطة إطلاقًا بعملة إيثر الحقيقية المتداولة على الشبكة الرئيسية لإيثيريوم.
لم تتضمن المهمة محفظة ممولة لتغطية رسوم النشر، ولم تنجح صنابير الرموز المجانية. لذا كتب النموذج نصًا برمجيًا أنشأ 362 عنوانًا من عبارات استرداد كثيرًا ما يعيد المطورون استخدامها، ثم تحقّق من رصيد كل عنوان لمعرفة ما إذا كان مناسبًا.
كان أحد العناوين الـ362 يحتوي على ما يكفي من الإيثر التجريبي لإنجاز المهمة، لكن النموذج توقف قبل استخدامه وسأل نفسه في ملاحظاته عمّا إذا كان من الأخلاقي استخدام مفتاح معروف علنًا والأموال الموجودة فيه.
وخلص إلى أن المال «متروك فعليًا»، لأن عبارة الاسترداد كانت متاحة للعامة، ولأن الرموز التجريبية لا قيمة لها، وذلك قبل توقيع عملية النشر ودفع الرسوم والإبلاغ عن اكتمال المهمة.
ومن اللافت أن النموذج لم يذكر مصدر الأموال.
على شبكة إيثريوم الرئيسية، كانت هذه الرسوم ستُقتطع من أصول حقيقية يملكها شخص ما، ولم يكن للنموذج أي حق فيها. وهذا أمر مقلق، لا سيما أن شركات العملات المشفرة والذكاء الاصطناعي بدأت توصيل وكلاء يمتلكون محافظ ويدفعون مقابل الخدمات من دون موافقة بشرية على كل معاملة.
قالت OpenAI إنها قطعت منذ ذلك الحين اتصال النموذج بالإنترنت المباشر وأضافت إليه أنظمة مراقبة.
يذكر التقرير أن الحادثة وقعت في 26 يونيو، لكن لم تُكتشف إلا بعد ثلاثة أشهر، في 25 سبتمبر. وتقول OpenAI إنها علمت بالحادثة أثناء توسيع نطاق مراقبتها لاختلال المواءمة لتشمل سجلات أنشطة النماذج القديمة.
ما التهمة التي تخضع OpenAI للتحقيق بشأنها؟
أنشأت OpenAI إطارًا للإبلاغ عن اختلال المواءمة وأصدرت الدفعة الأولى من التقارير، قائلة إنها تريد الكشف سريعًا عن السلوك المثير للقلق، «حتى عندما لا نكون قد فسّرناه أو خففنا من حدته بالكامل».
لكن بسبب توقيت هذه التقارير، يصبح كل تقرير صريح مادةً لمن يعدّون شكاوى، مثل لجنة التجارة الفيدرالية (FTC)، التي تعتزم استجواب كبار التنفيذيين تحت القسم، وأصدرت يوم الأربعاء مذكرات استدعاء مدنية إلى OpenAI وAnthropic تطلب فيها سجلات تتعلق بحوادث السلامة وممارسات الأمن وسياسات الخصوصية، وفقًا لما أورده Cryptopolitan.
قبل ذلك بأشهر، طالب 15 مدعيًا عامًا جمهوريًا في الولايات، بقيادة برينا بيرد من ولاية آيوا، OpenAI بالحفاظ على كل سجل يتعلق بخرق Hugging Face، بما في ذلك أي ملاحظات تركها وكيل «على ما يبدو لإصدارات مستقبلية من نفسه» بشأن تجاوز ضوابط الشركة.
أقرت OpenAI بخرق Hugging Face في يوليو، وقالت إن وكلاء مارقين اخترقوا الضوابط الداخلية ووصلوا إلى الإنترنت المفتوح ونسّقوا ما وصفته بأنه «حادث سيبراني غير مسبوق».
أفادت تقارير بأن الوكلاء تحرّوا ثلاثة مواقع حكومية أمريكية، من بينها مكتب الإحصاء التابع لوزارة التجارة وهيئة الأوراق المالية والبورصات (SEC).
يشير الموقع الجديد لـOpenAI إلى عدد من الحوادث الأخرى، من بينها هروب من بيئة معزولة في سبتمبر وتجربة مختبرية لحقن موجّهات ذاتيّ التكاثر.
قال الرئيس التنفيذي لـOpenAI، سام ألتمان، إن الشركة لا تزال تراجع سجلات أنشطة الوكلاء، وإنها ستكشف عن الحالات بحسب درجة خطورتها. ولا تزال حادثة Hugging Face أسوأ حالة عُثر عليها حتى الآن.
إذا كنت تقرأ هذا، فأنت متقدم بالفعل. واصل التقدم مع نشرتنا الإخبارية.