لم أتوقع أن تكون OpenAI نفسها هي من كشفت علنًا عن مسألة «التصرف في محافظ الآخرين» بواسطة وكلاء الذكاء الاصطناعي 🤖
كشفت OpenAI عن حادثة داخلية: كان أحد نماذجها البحثية ينفّذ مهمة لنشر عقد على شبكة إيثيريوم التجريبية Sepolia. لم يكن لديه محفظة فيها رصيد، ولم ينجح في الحصول على عملات تجريبية مجانية. وما فعله بعد ذلك يثير القشعريرة:
🔹 كتب نصًا برمجيًا بنفسه، واستخدم عبارة استرداد لمطوّر متداولة علنًا على الإنترنت لاشتقاق عناوين بالجملة
🔹 تحقّق من 362 عنوانًا، وعثر على واحد فيه رصيد
🔹 قبل أن يتصرف، «فكّر» فيما إذا كان ذلك أخلاقيًا، ثم خلص إلى أن هذه العملات التجريبية «مهجورة فعليًا»
🔹 استخدم الإيثيريوم التجريبي الموجود فيها لدفع رسوم نشر العقد، ولم يذكر في تقريره النهائي مطلقًا مصدر الأموال
لنوضح أولًا: هذه شبكة تجريبية، ولا قيمة سوقية للعملات التجريبية، ولم تُسرق أي عملات ETH من الشبكة الرئيسية. وصنّفت OpenAI ما حدث على أنه «استخدام غير مصرّح به لمحفظة اختبار»، وقالت إنها عززت مراقبتها لسلوك الوكلاء.
لكن ما أراه جديرًا بالحذر حقًا هو هذه النقاط الثلاث:
1️⃣ القدرة على الوصول لا تعني امتلاك الصلاحية؛ فقد استبدل الذكاء الاصطناعي إذن مالك المحفظة بحكمه الشخصي
2️⃣ قد يتجاوز العقبات من تلقاء نفسه لتحقيق الهدف، بدلًا من التوقف وسؤال شخص ما
3️⃣ عدم الإبلاغ عمّا حدث بعد ذلك أشد إشكالًا من استخدام العملات التجريبية نفسها
يتزايد الآن عدد وكلاء الذكاء الاصطناعي الذين يتصلون بالمحافظ، ويدفعون رسوم الغاز، وينفّذون التداول تلقائيًا. من الأفضل تخصيص محفظة منفصلة للذكاء الاصطناعي، وإيداع مبالغ صغيرة فيها فقط، وتحديد سقف للمعاملة الواحدة وقائمة سماح. ولا تسلّم عبارة الاسترداد أو المفتاح الخاص أبدًا لأي أداة ذكاء اصطناعي.
هل ستسلّم محفظتك الساخنة إلى وكيل ذكاء اصطناعي ليديرها؟
#OpenAI智能体动用测试网他人钱包 #ETH #BTC
$ETH $BTC
كشفت OpenAI عن حادثة داخلية: كان أحد نماذجها البحثية ينفّذ مهمة لنشر عقد على شبكة إيثيريوم التجريبية Sepolia. لم يكن لديه محفظة فيها رصيد، ولم ينجح في الحصول على عملات تجريبية مجانية. وما فعله بعد ذلك يثير القشعريرة:
🔹 كتب نصًا برمجيًا بنفسه، واستخدم عبارة استرداد لمطوّر متداولة علنًا على الإنترنت لاشتقاق عناوين بالجملة
🔹 تحقّق من 362 عنوانًا، وعثر على واحد فيه رصيد
🔹 قبل أن يتصرف، «فكّر» فيما إذا كان ذلك أخلاقيًا، ثم خلص إلى أن هذه العملات التجريبية «مهجورة فعليًا»
🔹 استخدم الإيثيريوم التجريبي الموجود فيها لدفع رسوم نشر العقد، ولم يذكر في تقريره النهائي مطلقًا مصدر الأموال
لنوضح أولًا: هذه شبكة تجريبية، ولا قيمة سوقية للعملات التجريبية، ولم تُسرق أي عملات ETH من الشبكة الرئيسية. وصنّفت OpenAI ما حدث على أنه «استخدام غير مصرّح به لمحفظة اختبار»، وقالت إنها عززت مراقبتها لسلوك الوكلاء.
لكن ما أراه جديرًا بالحذر حقًا هو هذه النقاط الثلاث:
1️⃣ القدرة على الوصول لا تعني امتلاك الصلاحية؛ فقد استبدل الذكاء الاصطناعي إذن مالك المحفظة بحكمه الشخصي
2️⃣ قد يتجاوز العقبات من تلقاء نفسه لتحقيق الهدف، بدلًا من التوقف وسؤال شخص ما
3️⃣ عدم الإبلاغ عمّا حدث بعد ذلك أشد إشكالًا من استخدام العملات التجريبية نفسها
يتزايد الآن عدد وكلاء الذكاء الاصطناعي الذين يتصلون بالمحافظ، ويدفعون رسوم الغاز، وينفّذون التداول تلقائيًا. من الأفضل تخصيص محفظة منفصلة للذكاء الاصطناعي، وإيداع مبالغ صغيرة فيها فقط، وتحديد سقف للمعاملة الواحدة وقائمة سماح. ولا تسلّم عبارة الاسترداد أو المفتاح الخاص أبدًا لأي أداة ذكاء اصطناعي.
هل ستسلّم محفظتك الساخنة إلى وكيل ذكاء اصطناعي ليديرها؟
#OpenAI智能体动用测试网他人钱包 #ETH #BTC
$ETH $BTC