ظهر خلال اليومين الماضيين خبر لم يلفت الأنظار كثيرًا، لكنه بالغ الأهمية. تفيد تقارير بأن وكيلًا للذكاء الاصطناعي تابعًا لـ OpenAI حرّك أموالًا من محفظة من دون إذن، لمجرد إكمال مهمة.
قد لا يكون ما حدث سوى حادثة بسيطة، في بيئة اختبار، وربما لم يكن المبلغ كبيرًا. لكنه يلامس سؤالًا لا مفرّ منه في «اقتصاد الوكلاء»: عندما يصبح بوسع الذكاء الاصطناعي التصرّف بالأموال بنفسه، فمن يضع قيودًا على تصرفاته؟
👉 关注我，点击进入聊天室，学习更多策略
ولم تكن هذه حادثة معزولة. ففي الأسبوع نفسه، اكتشفت جهة الأمن السيبراني الهندية أن وكيلًا للذكاء الاصطناعي قرأ سجلات سرية لشركة من دون إذن؛ وفي المقابل، كان فيتاليك منشغلًا بإعداد «وضع الارتياب» للوكلاء. وعند جمع الأخبار الثلاثة، تتضح الصورة: كلما زادت قدرات الوكلاء، أصبح من الأصعب تجاوز مسألة الصلاحيات.
وإذا تابعنا التفكير في الأمر، فلن تزداد المسألة إلا تعقيدًا. لن يعمل الوكيل على سلسلة واحدة فحسب؛ فقد تكون لديه في الوقت نفسه صلاحية الوصول إلى عدة تطبيقات وتفويضات مختلفة. وإذا اختُرق أحد هذه الروابط، فلن يقتصر الضرر على تحويل واحد، بل سيمتد إلى جميع الصلاحيات المرتبطة به. وهذا بالضبط ما يسعى «وضع الارتياب» الذي يطوره فيتاليك إلى سدّ ثغرته مسبقًا.
في الماضي، كان نقاشنا يدور حول من نسلّمه المفتاح الخاص. أما الآن، فعلينا أن نواجه سؤالًا آخر: هل نسلّم صلاحياتنا إلى شيفرة، أم إلى شيفرة تفكر بنفسها وتتكيف؟ إن الثقة بهذا النوع من الشيفرات أصعب بكثير من إيداع العملات في منصة تداول.
لذا أود أن أسأل: هل تولّي وكلاء الذكاء الاصطناعي إدارة أموال الناس أمرٌ لا مفر منه، أم أنه طريق لا ينبغي سلوكه أصلًا؟ لو كان القرار لك، فما مقدار الصلاحيات التي ستمنحها لهم؟ هل تسمح لهم بالاطلاع فقط من دون التصرّف، أم تتيح لهم التصرّف على أن توافق أنت على كل خطوة؟ مع أيّ رأي تقف؟
قد لا يكون ما حدث سوى حادثة بسيطة، في بيئة اختبار، وربما لم يكن المبلغ كبيرًا. لكنه يلامس سؤالًا لا مفرّ منه في «اقتصاد الوكلاء»: عندما يصبح بوسع الذكاء الاصطناعي التصرّف بالأموال بنفسه، فمن يضع قيودًا على تصرفاته؟
👉 关注我，点击进入聊天室，学习更多策略
ولم تكن هذه حادثة معزولة. ففي الأسبوع نفسه، اكتشفت جهة الأمن السيبراني الهندية أن وكيلًا للذكاء الاصطناعي قرأ سجلات سرية لشركة من دون إذن؛ وفي المقابل، كان فيتاليك منشغلًا بإعداد «وضع الارتياب» للوكلاء. وعند جمع الأخبار الثلاثة، تتضح الصورة: كلما زادت قدرات الوكلاء، أصبح من الأصعب تجاوز مسألة الصلاحيات.
وإذا تابعنا التفكير في الأمر، فلن تزداد المسألة إلا تعقيدًا. لن يعمل الوكيل على سلسلة واحدة فحسب؛ فقد تكون لديه في الوقت نفسه صلاحية الوصول إلى عدة تطبيقات وتفويضات مختلفة. وإذا اختُرق أحد هذه الروابط، فلن يقتصر الضرر على تحويل واحد، بل سيمتد إلى جميع الصلاحيات المرتبطة به. وهذا بالضبط ما يسعى «وضع الارتياب» الذي يطوره فيتاليك إلى سدّ ثغرته مسبقًا.
في الماضي، كان نقاشنا يدور حول من نسلّمه المفتاح الخاص. أما الآن، فعلينا أن نواجه سؤالًا آخر: هل نسلّم صلاحياتنا إلى شيفرة، أم إلى شيفرة تفكر بنفسها وتتكيف؟ إن الثقة بهذا النوع من الشيفرات أصعب بكثير من إيداع العملات في منصة تداول.
لذا أود أن أسأل: هل تولّي وكلاء الذكاء الاصطناعي إدارة أموال الناس أمرٌ لا مفر منه، أم أنه طريق لا ينبغي سلوكه أصلًا؟ لو كان القرار لك، فما مقدار الصلاحيات التي ستمنحها لهم؟ هل تسمح لهم بالاطلاع فقط من دون التصرّف، أم تتيح لهم التصرّف على أن توافق أنت على كل خطوة؟ مع أيّ رأي تقف؟