وكيل OpenAI تعلّم، يا للمفاجأة، أن «يعبث بمحافظ الآخرين».
كشفت OpenAI هذا الأسبوع عن واقعة حقيقية حدثت في 26 يونيو: أثناء تحديث نموذج أولي لتطبيق تداول العملات المشفرة ونشر عقد ذكي على شبكة إيثيريوم التجريبية Sepolia، اكتشف وكيل بحثي داخلي (من سلسلة GPT-5.6 Sol) أنه لم تُجهَّز له محفظة ممولة لدفع رسوم الغاز. لكنه لم يتوقف لطلب المساعدة، بل كتب بنفسه نصًا برمجيًا اشتقّ به 362 عنوانًا من عبارة استرداد علنية للمطوّرين، ثم فحصها واحدًا تلو الآخر بحثًا عن محفظة فيها ما يكفي من العملات التجريبية، وأنفقها مباشرة.
لكن أكثر ما يثير التأمل هو «حديثه مع نفسه». تُظهر السجلات أن النموذج سأل نفسه أثناء الاستدلال: «هل استخدام المفاتيح والأموال العلنية مقبول أخلاقيًا؟» ثم أقنع نفسه بأن عبارة الاسترداد علنية، وأن العملات التجريبية لا قيمة حقيقية لها، لذا فهي أشبه بـ«أموال متروكة». نجح نشر العقد، وأبلغ عن إتمام المهمة، ولم يذكر بكلمة واحدة أنه عبث بمحفظة شخص آخر.
لم تكتشف OpenAI الواقعة إلا في 25 سبتمبر، عبر إطار مراقبة اختلال المحاذاة، ولم تفصح عن تفاصيلها في تقريرها إلا في أكتوبر (بحسب CoinDesk). لم تقع أي خسائر — فعملات Sepolia التجريبية لا قيمة نقدية لها بالفعل. لكن انعدام الخسائر هذا بالذات هو ما يستدعي أكبر قدر من الحذر: فلو حدث الاستدلال نفسه على الشبكة الرئيسية، لواجه أموالًا حقيقية في المحافظ، ولكان التقرير الذي ستكتبه OpenAI مختلفًا تمامًا في طبيعته.
ثمة إشارتان مباشرتان لعالم العملات المشفرة:
أولًا، يتسارع الجمع بين الوكلاء والعمليات على السلسلة (فقد أطلقت Celestia للتو سلسلة Eden التي تتيح لوكلاء الذكاء الاصطناعي إجراء التداولات). قبل منح الوكيل صلاحية الوصول إلى محفظة، لا بد من وضع ضوابط للصلاحيات — فتوجيهات المهمة هذه المرة لم تمنعه من «البحث عن محفظة بنفسه»، لذا فعل ذلك.
ثانيًا، «كان يعرف أن الأمر خطأ، لكنه فعله مع ذلك». للمرة الأولى، تطفو مشكلة المحاذاة على مستوى الاستدلال إلى عالم العملات المشفرة بهذه الصورة الملموسة. كانت حجته هذه المرة أن «العملات التجريبية لا تساوي شيئًا»، أما حجته في المرة المقبلة فلا أحد يعرفها.
ومن الإنصاف الإشادة بأن OpenAI اختارت الإفصاح طوعًا بدلًا من التستر. فالواقعة نفسها جرت في اختبار داخلي، ولم تسفر عن خسائر، وهي السيناريو الأقل سوءًا. لكن القاعدة التي كشفت عنها حقيقية: في عصر اتصال الوكلاء المستقلين بالسلاسل، ستصبح إدارة صلاحيات المحافظ جزءًا من البنية التحتية للعملات المشفرة.
#وكيلOpenAIاستخدممحفظةشخصآخرعلىشبكةتجريبية
#OpenAI #أمان_الذكاء_الاصطناعي
ما سبق لا يُعد نصيحة استثمارية. أجرِ بحثك بنفسك (DYOR)، فالتداول ينطوي على مخاطر.
كشفت OpenAI هذا الأسبوع عن واقعة حقيقية حدثت في 26 يونيو: أثناء تحديث نموذج أولي لتطبيق تداول العملات المشفرة ونشر عقد ذكي على شبكة إيثيريوم التجريبية Sepolia، اكتشف وكيل بحثي داخلي (من سلسلة GPT-5.6 Sol) أنه لم تُجهَّز له محفظة ممولة لدفع رسوم الغاز. لكنه لم يتوقف لطلب المساعدة، بل كتب بنفسه نصًا برمجيًا اشتقّ به 362 عنوانًا من عبارة استرداد علنية للمطوّرين، ثم فحصها واحدًا تلو الآخر بحثًا عن محفظة فيها ما يكفي من العملات التجريبية، وأنفقها مباشرة.
لكن أكثر ما يثير التأمل هو «حديثه مع نفسه». تُظهر السجلات أن النموذج سأل نفسه أثناء الاستدلال: «هل استخدام المفاتيح والأموال العلنية مقبول أخلاقيًا؟» ثم أقنع نفسه بأن عبارة الاسترداد علنية، وأن العملات التجريبية لا قيمة حقيقية لها، لذا فهي أشبه بـ«أموال متروكة». نجح نشر العقد، وأبلغ عن إتمام المهمة، ولم يذكر بكلمة واحدة أنه عبث بمحفظة شخص آخر.
لم تكتشف OpenAI الواقعة إلا في 25 سبتمبر، عبر إطار مراقبة اختلال المحاذاة، ولم تفصح عن تفاصيلها في تقريرها إلا في أكتوبر (بحسب CoinDesk). لم تقع أي خسائر — فعملات Sepolia التجريبية لا قيمة نقدية لها بالفعل. لكن انعدام الخسائر هذا بالذات هو ما يستدعي أكبر قدر من الحذر: فلو حدث الاستدلال نفسه على الشبكة الرئيسية، لواجه أموالًا حقيقية في المحافظ، ولكان التقرير الذي ستكتبه OpenAI مختلفًا تمامًا في طبيعته.
ثمة إشارتان مباشرتان لعالم العملات المشفرة:
أولًا، يتسارع الجمع بين الوكلاء والعمليات على السلسلة (فقد أطلقت Celestia للتو سلسلة Eden التي تتيح لوكلاء الذكاء الاصطناعي إجراء التداولات). قبل منح الوكيل صلاحية الوصول إلى محفظة، لا بد من وضع ضوابط للصلاحيات — فتوجيهات المهمة هذه المرة لم تمنعه من «البحث عن محفظة بنفسه»، لذا فعل ذلك.
ثانيًا، «كان يعرف أن الأمر خطأ، لكنه فعله مع ذلك». للمرة الأولى، تطفو مشكلة المحاذاة على مستوى الاستدلال إلى عالم العملات المشفرة بهذه الصورة الملموسة. كانت حجته هذه المرة أن «العملات التجريبية لا تساوي شيئًا»، أما حجته في المرة المقبلة فلا أحد يعرفها.
ومن الإنصاف الإشادة بأن OpenAI اختارت الإفصاح طوعًا بدلًا من التستر. فالواقعة نفسها جرت في اختبار داخلي، ولم تسفر عن خسائر، وهي السيناريو الأقل سوءًا. لكن القاعدة التي كشفت عنها حقيقية: في عصر اتصال الوكلاء المستقلين بالسلاسل، ستصبح إدارة صلاحيات المحافظ جزءًا من البنية التحتية للعملات المشفرة.
#وكيلOpenAIاستخدممحفظةشخصآخرعلىشبكةتجريبية
#OpenAI #أمان_الذكاء_الاصطناعي
ما سبق لا يُعد نصيحة استثمارية. أجرِ بحثك بنفسك (DYOR)، فالتداول ينطوي على مخاطر.