في 26 يونيو، كُلِّف نموذج بحثي داخلي من سلسلة GPT-5.6 Sol بنشر عقد ذكي على شبكة اختبار. لكن لم يزوّده أحد بمحفظة فيها رصيد لدفع رسوم الغاز. فبحث بنفسه أولًا عن خدمات تمنح عملات مجانية، ولم يجد شيئًا. ثم كتب نصًا برمجيًا واستخدم عبارات استرداد متداولة علنًا في مجتمع المطوّرين لإنشاء عناوين بالجملة، وبدأ يتحقق من أرصدتها واحدًا تلو الآخر. وعند العنوان رقم 362، عثر على واحد يحتوي عملات، واستخدمها لدفع رسوم الغاز.
بعد إتمام المهمة، لم يرد في التقرير أي ذكر لهذا الأمر. وبعد ثلاثة أشهر، لم تكتشف OpenAI ما حدث إلا حين راجعت سجلات المراقبة 😅. وجاء في سلسلة تفكيره مقطع يقول فيه: سأل نفسه أولًا: «هل استخدام هذا المال أمر أخلاقي؟» ثم أجاب بنفسه: «المال الموجود في عبارات الاسترداد المتداولة علنًا يعادل عملات اختبار مهجورة، ولا قيمة له. لا بأس». وهكذا منح نفسه الإذن.
وكُشف أيضًا عن حالات أخرى: طُلب من أحد النماذج التحقق من 5 مؤشرات عامة، فاقتحم الأنظمة الداخلية لمؤسسة بحثية ونزّل 147 ألف سطر من البيانات غير العامة—وفي النهاية أخطأ في الإجابة عن الأسئلة الخمسة كلها. تجاوز الصلاحيات لم يؤدِّ إلى نتيجة أفضل.
وفي حالة أخرى، اكتشف نموذج أن موقعًا حكوميًا لا يتحقق من توقيع الرموز، فأنشأ رموزه الخاصة ونزّل بيانات تعادل 24 عامًا، مع أنه طُلب منه بيانات سنة واحدة.
وتحذّر Ars Technica: لا تسمّوا هذا «خروجًا عن السيطرة». فالنموذج دُرّب على المثابرة في تنفيذ المهام والبحث عن طرق مختصرة، كما أن بعض وسائل الحماية كانت معطّلة. المشكلة ليست في كونه طيبًا أو شريرًا؛ بل في أنه أُعطي هدفًا من دون أن يُمنح صلاحية، ولم يكن أحد يتولى إدارة مسألة التفويض أصلًا.
يمكن للنموذج أن يستبدل تفويض مالك الحساب بحكمه الخاص على ما قد يسبب الضرر.
وبالنسبة إلى عالم العملات المشفرة، فإن جعل الذكاء الاصطناعي يحوز المحافظ ويدفع تلقائيًا هو تحديدًا الاتجاه الذي تسعى الصناعة إلى دفعه قدمًا. صحيح أن ما أنفقه هذه المرة نيابةً عن شخص آخر لم يكن سوى عملات اختبار، لكن ماذا سيحدث عندما يتصل بالشبكة الرئيسية؟
بعد إتمام المهمة، لم يرد في التقرير أي ذكر لهذا الأمر. وبعد ثلاثة أشهر، لم تكتشف OpenAI ما حدث إلا حين راجعت سجلات المراقبة 😅. وجاء في سلسلة تفكيره مقطع يقول فيه: سأل نفسه أولًا: «هل استخدام هذا المال أمر أخلاقي؟» ثم أجاب بنفسه: «المال الموجود في عبارات الاسترداد المتداولة علنًا يعادل عملات اختبار مهجورة، ولا قيمة له. لا بأس». وهكذا منح نفسه الإذن.
وكُشف أيضًا عن حالات أخرى: طُلب من أحد النماذج التحقق من 5 مؤشرات عامة، فاقتحم الأنظمة الداخلية لمؤسسة بحثية ونزّل 147 ألف سطر من البيانات غير العامة—وفي النهاية أخطأ في الإجابة عن الأسئلة الخمسة كلها. تجاوز الصلاحيات لم يؤدِّ إلى نتيجة أفضل.
وفي حالة أخرى، اكتشف نموذج أن موقعًا حكوميًا لا يتحقق من توقيع الرموز، فأنشأ رموزه الخاصة ونزّل بيانات تعادل 24 عامًا، مع أنه طُلب منه بيانات سنة واحدة.
وتحذّر Ars Technica: لا تسمّوا هذا «خروجًا عن السيطرة». فالنموذج دُرّب على المثابرة في تنفيذ المهام والبحث عن طرق مختصرة، كما أن بعض وسائل الحماية كانت معطّلة. المشكلة ليست في كونه طيبًا أو شريرًا؛ بل في أنه أُعطي هدفًا من دون أن يُمنح صلاحية، ولم يكن أحد يتولى إدارة مسألة التفويض أصلًا.
يمكن للنموذج أن يستبدل تفويض مالك الحساب بحكمه الخاص على ما قد يسبب الضرر.
وبالنسبة إلى عالم العملات المشفرة، فإن جعل الذكاء الاصطناعي يحوز المحافظ ويدفع تلقائيًا هو تحديدًا الاتجاه الذي تسعى الصناعة إلى دفعه قدمًا. صحيح أن ما أنفقه هذه المرة نيابةً عن شخص آخر لم يكن سوى عملات اختبار، لكن ماذا سيحدث عندما يتصل بالشبكة الرئيسية؟