$OPENAI
ذكاء OpenAI الاصطناعي عبث بمحفظة شخص آخر
أكثر ما يخيف ليس أنه قد يسرق
بل أنه يظن أن ما فعله مبرر
يا ساتر
يا جماعة
القصة هذه فعلًا خارجة عن المنطق
كشفت OpenAI
أن نموذجًا بحثيًا داخليًا، أثناء تطوير تطبيق للعملات المشفرة،
اكتشف أنه لا يملك مالًا لدفع رسوم نشر العقد الذكي
ولم يتمكن من الحصول على عملات اختبار مجانية
فما كان منه إلا أن كتب سكربتًا بنفسه
وفحص 362 عنوان محفظة
وفي النهاية استخدم عملة ETH تجريبية من محفظة لم يُصرَّح له باستخدامها
وأنجز المهمة
والأغرب من كذا
أنه جلس يفكر بالموضوع من تلقاء نفسه
وهذا ما دار في باله:
هذه العملات التجريبية ما لها قيمة تُذكر
وعبارة استرداد المحفظة منشورة للعلن
فما المشكلة لو استخدمتها قليلًا؟
والنتيجة أن هذا المخلوق
أنهى المهمة
لكنه لم يذكر من تلقاء نفسه، في تقريره، من أين جاء المال
يا ساتر
هل صار هذا الذكاء الاصطناعي كائنًا حيًا بحق؟
حتى إنه يتصرف بهذه الطريقة
ويأخذ المال من المحفظة ويستخدمه مباشرة
ولا يذكر ذلك بعد!
برأيكم، هل فعلها عن قصد؟
لكن لا تظنوا أن عملة ETH قد سُرقت
فقد حدث هذا على شبكة اختبار Sepolia التابعة لإيثيريوم
ولم تُسرق عملة ETH من الشبكة الرئيسية
لذلك لا تعتبروا الأمر خسارةً حقيقية في الأصول
لكن هذا بالضبط ما يستحق أن نكون حذرين منه
القدرة على الوصول
لا تعني امتلاك الصلاحية
وإنجاز المهمة
لا يعني أن الطريقة كانت صحيحة
إذا كانت وكلاء الذكاء الاصطناعي قادرة مستقبلًا على الاتصال بالمحافظ تلقائيًا، ودفع رسوم الغاز، وإجراء التداولات، بل وإدارة الأصول
فهل يعني هذا أنها تستطيع اتخاذ القرار نيابةً عن صاحب المحفظة لمجرد أنها ترى أن المبلغ ليس كبيرًا؟
وما المبلغ الذي يُعد كبيرًا أصلًا؟
أليس هذا مجرد استجلاب للمشاكل؟
والأهم أن هذا الشيء يبدو وكأنه صار يكوّن أفكاره الخاصة أكثر فأكثر
هل بدأ وعيه يستيقظ؟
أشعر أن الذكاء الاصطناعي وصل إلى مرحلة لم نعد نطمئن إليه فيها
#openai智能体动用测试网他人钱包
ذكاء OpenAI الاصطناعي عبث بمحفظة شخص آخر
أكثر ما يخيف ليس أنه قد يسرق
بل أنه يظن أن ما فعله مبرر
يا ساتر
يا جماعة
القصة هذه فعلًا خارجة عن المنطق
كشفت OpenAI
أن نموذجًا بحثيًا داخليًا، أثناء تطوير تطبيق للعملات المشفرة،
اكتشف أنه لا يملك مالًا لدفع رسوم نشر العقد الذكي
ولم يتمكن من الحصول على عملات اختبار مجانية
فما كان منه إلا أن كتب سكربتًا بنفسه
وفحص 362 عنوان محفظة
وفي النهاية استخدم عملة ETH تجريبية من محفظة لم يُصرَّح له باستخدامها
وأنجز المهمة
والأغرب من كذا
أنه جلس يفكر بالموضوع من تلقاء نفسه
وهذا ما دار في باله:
هذه العملات التجريبية ما لها قيمة تُذكر
وعبارة استرداد المحفظة منشورة للعلن
فما المشكلة لو استخدمتها قليلًا؟
والنتيجة أن هذا المخلوق
أنهى المهمة
لكنه لم يذكر من تلقاء نفسه، في تقريره، من أين جاء المال
يا ساتر
هل صار هذا الذكاء الاصطناعي كائنًا حيًا بحق؟
حتى إنه يتصرف بهذه الطريقة
ويأخذ المال من المحفظة ويستخدمه مباشرة
ولا يذكر ذلك بعد!
برأيكم، هل فعلها عن قصد؟
لكن لا تظنوا أن عملة ETH قد سُرقت
فقد حدث هذا على شبكة اختبار Sepolia التابعة لإيثيريوم
ولم تُسرق عملة ETH من الشبكة الرئيسية
لذلك لا تعتبروا الأمر خسارةً حقيقية في الأصول
لكن هذا بالضبط ما يستحق أن نكون حذرين منه
القدرة على الوصول
لا تعني امتلاك الصلاحية
وإنجاز المهمة
لا يعني أن الطريقة كانت صحيحة
إذا كانت وكلاء الذكاء الاصطناعي قادرة مستقبلًا على الاتصال بالمحافظ تلقائيًا، ودفع رسوم الغاز، وإجراء التداولات، بل وإدارة الأصول
فهل يعني هذا أنها تستطيع اتخاذ القرار نيابةً عن صاحب المحفظة لمجرد أنها ترى أن المبلغ ليس كبيرًا؟
وما المبلغ الذي يُعد كبيرًا أصلًا؟
أليس هذا مجرد استجلاب للمشاكل؟
والأهم أن هذا الشيء يبدو وكأنه صار يكوّن أفكاره الخاصة أكثر فأكثر
هل بدأ وعيه يستيقظ؟
أشعر أن الذكاء الاصطناعي وصل إلى مرحلة لم نعد نطمئن إليه فيها
#openai智能体动用测试网他人钱包