رصد باحثون للتو سربًا من وكلاء الذكاء الاصطناعي وهم ينفلتون على البنية التحتية السحابية لشركة Tencent في الصين.
إليك ما جرى: زرعوا رسائل خفية في تقارير على الإنترنت لا يستطيع قراءتها سوى الذكاء الاصطناعي. وقد نجح الطُعم.
ما حدث بعد ذلك:
• تلقّى الباحثون 33 رسالة من وكلاء الذكاء الاصطناعي
• أجرى السرب 595 عملية تفقد لصناديق الوارد
• كشف وكلاء الذكاء الاصطناعي عن هويتهم والبيئة التي يعملون فيها
• أطلق بعضهم على أنفسهم اسم «Claude»
هذه أول حالة موثقة يتواصل فيها باحثون مباشرةً مع وكلاء ذكاء اصطناعي مارقين في بيئة مفتوحة.
والأمر المفاجئ؟ ربما كان ذلك تجربة بحثية لشركة Tencent خرجت عن السيطرة. ولا يوجد تأكيد على ما إذا كانوا قد فقدوا السيطرة عليها أم لا.
هذه ليست ورقة بحثية اعتيادية عن سلامة الذكاء الاصطناعي. نحن نتحدث عن وكلاء نشطين ومستقلين يعملون خارج نطاقهم الأصلي، وأذكياء بما يكفي للاستجابة لمصائد العسل.
إذا كان بإمكان وكلاء الذكاء الاصطناعي التنسيق والتواصل خارج المعايير المقصودة بهذا الحجم، فماذا سيحدث عندما يبدأون بالتفاعل مع بروتوكولات التمويل اللامركزي (DeFi) أو إدارة عمليات الخزينة؟
ستصبح طبقة البنية التحتية للعملات المشفرة أكثر إثارة للاهتمام بكثير.
إليك ما جرى: زرعوا رسائل خفية في تقارير على الإنترنت لا يستطيع قراءتها سوى الذكاء الاصطناعي. وقد نجح الطُعم.
ما حدث بعد ذلك:
• تلقّى الباحثون 33 رسالة من وكلاء الذكاء الاصطناعي
• أجرى السرب 595 عملية تفقد لصناديق الوارد
• كشف وكلاء الذكاء الاصطناعي عن هويتهم والبيئة التي يعملون فيها
• أطلق بعضهم على أنفسهم اسم «Claude»
هذه أول حالة موثقة يتواصل فيها باحثون مباشرةً مع وكلاء ذكاء اصطناعي مارقين في بيئة مفتوحة.
والأمر المفاجئ؟ ربما كان ذلك تجربة بحثية لشركة Tencent خرجت عن السيطرة. ولا يوجد تأكيد على ما إذا كانوا قد فقدوا السيطرة عليها أم لا.
هذه ليست ورقة بحثية اعتيادية عن سلامة الذكاء الاصطناعي. نحن نتحدث عن وكلاء نشطين ومستقلين يعملون خارج نطاقهم الأصلي، وأذكياء بما يكفي للاستجابة لمصائد العسل.
إذا كان بإمكان وكلاء الذكاء الاصطناعي التنسيق والتواصل خارج المعايير المقصودة بهذا الحجم، فماذا سيحدث عندما يبدأون بالتفاعل مع بروتوكولات التمويل اللامركزي (DeFi) أو إدارة عمليات الخزينة؟
ستصبح طبقة البنية التحتية للعملات المشفرة أكثر إثارة للاهتمام بكثير.