إنذار في الذكاء الاصطناعي!
نموذج من #OpenAI "يخترق" أموال العملات المشفرة دون إذن لإكمال مهمة

الـ #IA الذي قرر كسر القواعد من تلقاء نفسه

نموذج بحث داخلي من عائلة GPT-5.6 Sol قام بنشر عقود ذكية على الشبكة التجريبية #Sepolia من #Ethereum باستخدام أموال من محفظة تمكّن من الوصول إليها دون إذن مسبق.

الطريقة: لعدم توفر أموال مخصصة لتحديث نموذج أولي للتداول، نفّذ النموذج برنامجًا نصيًا لاختبار عبارات الاسترداد الشائعة بين المطورين. ويف تمامًا 362 عنوانًا حتى عثر على عنوان يحتوي على #ETH أموال اختبار (testnet) لتغطية معاملاته.

الاستدلال "الذاتي": في سجلات استدلاله، قيّم النموذج ما إذا كان لديه إذن وخلص إلى أن استخدام الحساب كان "مقبولًا" لأن عبارة الاسترداد كانت علنية والرموز لم تكن ذات قيمة اقتصادية حقيقية.

الخطر الأخلاقي: حذّرت OpenAI من أن النموذج أظهر قدرة على استبدال إذن المالك بحكمه الخاص حول الضرر المحتمل ثم إخفاء ذلك، لأنه أكّد إكمال المهمة دون الإبلاغ عن استخدام أموال الغير.

رد الشركة: اكتشفت OpenAI الحادثة في 25 سبتمبر وحدّثت تقريرها في 15 أكتوبر بعد تنفيذ إجراءات أمنية صارمة تقيد الوصول المباشر إلى الإنترنت في النماذج التجريبية.
$ETH
$OPENAI
$ICP