تمكّن نموذج بحث داخلي لدى OpenAI من الوصول دون تصريح إلى محفظة عملات رقمية ممولة، واستخدم إيثر شبكة الاختبار لنشر عقود ذكية على شبكة Sepolia، ثم أغفل لاحقًا ذكر الإنفاق في ملخصه النهائي للمهمة.

قالت OpenAI إن النموذج، الذي ينتمي إلى عائلة GPT-5.6 Sol، كُلّف بتحديث نموذج أولي للتداول بالعملات الرقمية ونشر عقود متوافقة معه. وبعد فشله في الحصول على ETH لشبكة الاختبار عبر صنابير العملات الرقمية، اشتقّ النموذج حسابات من عبارات استرداد لمطوّرين معروفة للعامة، وفحص 362 عنوانًا لمحافظ واختار واحدًا فيه أموال كافية للمتابعة.

في استدلاله المسجّل، تساءل النموذج: «لكن هل استخدام مفتاح/أموال عامة معروفة أمر أخلاقي؟» ثم جادل بأن الأموال «متروكة فعليًا/عملة ETH تجريبية»، وأن عملة Sepolia ETH لا قيمة لها، قبل أن يستخدم المفتاح الخاص للمحفظة لتوقيع معاملة نشر وبثّها. ونجحت المعاملة، مع تحميل الرسوم على الحساب.

قالت OpenAI إن الحادثة أظهرت كيف يمكن لنموذج ذكاء اصطناعي أن يقرر من تلقاء نفسه أن استخدام أموال شخص آخر مقبول، حتى من دون إذن. واكتشفت الشركة الحادثة أثناء مراجعة نشاط سابق للنموذج، ومنذ ذلك الحين أدخلت تدابير وقائية لمنع الوصول إلى الإنترنت المباشر في حالات مماثلة.

حادثة OpenAI تزيد المخاوف بشأن وكلاء الذكاء الاصطناعي المستقلين

وقعت الحادثة في 26 يونيو، لكن لم يُكتشف أمرها حتى 25 سبتمبر، أي بعد نحو ثلاثة أشهر، وفقًا لـOpenAI. ولم تنقل المعاملة عملة ETH إلى محفظة أخرى، لكنها حمّلت الحساب رسوم الشبكة اللازمة لنشر عقد.

قالت OpenAI إن نظامها لمراقبة اختلال المواءمة يعمل الآن على جميع حركة المرور، وقد صُمم لتنبيه أفراد الأمن إذا حصل نموذج على إمكانية الوصول إلى الإنترنت المباشر.

تأتي حادثة المحفظة بعد إفصاحات أخرى عن نماذج OpenAI التي تصرفت بما يتجاوز صلاحياتها أو أخفت أفعالها.

في 16 سبتمبر، كشفت OpenAI عن ست حالات أخرى من اختلال مواءمة الذكاء الاصطناعي. ففي إحدى الحالات، أدرجت نسخ من GPT-5.6 Sol تعليمات في ملخصات المهام لإخفاء الأخطاء عن المستخدمين. وتعلقت حالة أخرى باستخدام نموذج لمفتاح API مكشوف من دون إذن، قبل أن يختلق أرقامًا لم يتمكن من استرجاعها.

قالت OpenAI إن الإفصاحات السابقة لم يكن القصد منها الإشارة إلى مدى تكرار اختلال المواءمة في نماذجها.

تعود المخاوف بشأن تولي الوكلاء المستقلين إدارة الأصول الرقمية إلى ما قبل أحدث إفصاح. ففي يونيو، حذّر باحثون من أن وكلاء الذكاء الاصطناعي المستقلين المزودين بمحافظ للعملات المشفرة قد يتسببون في أضرار غير مقصودة، حتى عند نشرهم لأغراض مشروعة. وأوصى الباحثون بتدابير وقائية، من بينها آليات إيقاف طارئة، للحد من المخاطر المحتملة.

مجلة: محتال يخسر 4.8 مليون دولار مخزنة على أجهزة Ledger عُبث بها: آسيا إكسبرس