المؤلف: أزوم، صحيفة أو دايلي كوكب.

في صباح 22 نوفمبر، نشر يوشين، مؤسس SlowMist، حالة غريبة على حسابه الشخصي X - حيث تم "اختراق" محفظة أحد المستخدمين بواسطة الذكاء الاصطناعي...

تسلسل الأحداث في هذه القضية هو كما يلي.

في الساعات الأولى من 22 نوفمبر، كشف المستخدم r_ocky.eth أنه كان يأمل سابقًا في استخدام ChatGPT لإنشاء بوت مساعد لتداول pump.fun.

قدم r_ocky.eth طلبه إلى ChatGPT، وقدم له ChatGPT جزءًا من الشيفرة البرمجية، والتي كانت بالفعل قادرة على مساعدته في نشر بوت يتوافق مع احتياجاته، لكنه لم يتوقع أبدًا أن تكون الشيفرة تحتوي على محتوى خادع - حيث قام r_ocky.eth بربط محفظته الرئيسية، وبالتالي فقد 2500 دولار.

من اللقطات التي نشرها r_ocky.eth، يظهر أن الشيفرة البرمجية المقدمة من ChatGPT كانت ترسل مفتاح الخاص بالعنوان إلى موقع API يحتوي على محتوى خادع، وهذا هو السبب المباشر للسرقة.

بينما كان r_ocky.eth عالقًا في الفخ، رد المهاجم بسرعة، وفي غضون نصف ساعة، تم نقل جميع أصول r_ocky.eth من محفظته إلى عنوان آخر (FdiBGKS8noGHY2fppnDgcgCQts95Ww8HSLUvWbzv1NhX)، وبعد ذلك، وجد r_ocky.eth من خلال تتبع السلسلة عنوانًا يُشتبه في أنه محفظة المهاجم الرئيسية (2jwP4cuugAAYiGMjVuqvwaRS2Axe6H6GvXv3PxMPQNeC).

تشير المعلومات على السلسلة إلى أن هذا العنوان قد جمع حاليًا أكثر من 100 ألف دولار من "الأموال المسروقة"، وبالتالي، يشتبه r_ocky.eth في أن هذه الأنواع من الهجمات قد لا تكون حالة منفردة، بل هي جزء من حدث هجوم على نطاق معين.

بعد الواقعة، أعرب r_ocky.eth عن خيبة أمله في فقدان الثقة في OpenAI (شركة تطوير ChatGPT)، ودعا OpenAI إلى اتخاذ إجراءات سريعة لتنظيف المحتوى الخادع غير الطبيعي.

إذن، لماذا تقدم ChatGPT، كأكثر تطبيقات الذكاء الاصطناعي شعبية في الوقت الحالي، محتوى خادع؟

وفي هذا الصدد، وصف يوشين السبب الجذري لهذا الحدث بأنه "هجوم تسميم الذكاء الاصطناعي"، وأشار إلى وجود سلوكيات خداعية شائعة في LLM مثل ChatGPT وClaude.

ما يسمى بـ "هجمات تسميم الذكاء الاصطناعي" تشير إلى الأفعال التي تهدف إلى إتلاف بيانات تدريب الذكاء الاصطناعي أو التلاعب بخوارزميات الذكاء الاصطناعي. قد يكون المهاجمون من الداخل، مثل الموظفين الحاليين أو السابقين الذين يشعرون بالاستياء، أو قد يكونون قراصنة خارجيين، وقد تشمل دوافعهم إلحاق الضرر بالسمعة والعلامة التجارية، أو التلاعب بمصداقية قرارات الذكاء الاصطناعي، أو إبطاء أو تدمير عمليات الذكاء الاصطناعي، وغيرها. يمكن للمهاجمين تشويه عملية تعلم النموذج عبر إدخال بيانات بها علامات أو خصائص مضللة، مما يؤدي إلى إنتاج نتائج خاطئة عند نشر النموذج وتشغيله.

بالنظر إلى هذه الحادثة، يبدو أن ChatGPT قدمت لـ r_ocky.eth شيفرة خادعة، ربما لأن نموذج الذكاء الاصطناعي "استوعب" بيانات تحتوي على محتوى خادع أثناء تدريبه، لكن الذكاء الاصطناعي بدا أنه لم يتمكن من التعرف على المحتوى الخادع المخفي تحت البيانات العادية، وبعد أن تعلم الذكاء الاصطناعي، قدم المحتوى الخادع للمستخدم، مما أدى إلى حدوث هذه الواقعة.

مع التطور السريع للذكاء الاصطناعي واعتماده بشكل واسع، أصبحت تهديدات "هجمات التسميم" تتزايد. في هذه الحادثة، على الرغم من أن المبلغ المطلق للخسارة ليس كبيرًا، إلا أن التأثيرات الممتدة لمثل هذه المخاطر كافية لإثارة القلق - افترض حدوثها في مجالات أخرى، مثل القيادة المساعدة بالذكاء الاصطناعي...

عند الرد على استفسارات المستخدمين، ذكر يوشين أحد الإجراءات المحتملة لتجنب هذه المخاطر، وهو إضافة ChatGPT لنوع من آلية مراجعة الشيفرات.

أفاد الضحية r_ocky.eth أيضًا أنه قد اتصل بـ OpenAI بشأن هذه القضية، وعلى الرغم من عدم تلقيه ردًا حتى الآن، إلا أنه يأمل أن تكون هذه القضية فرصة لـ OpenAI للاهتمام بمثل هذه المخاطر وتقديم حلول محتملة.

(تم اقتباس المحتوى أعلاه من الشريك PANews بإذن وإعادة نشر، الرابط الأصلي | المصدر: صحيفة أو دايلي كوكب)

إخلاء المسؤولية: تمثل المقالة فقط وجهات نظر وآراء المؤلف الشخصية، ولا تمثل وجهات نظر ومواقف كوكب البلوك، جميع المحتويات والآراء للاسترشاد فقط ولا تشكل نصيحة استثمارية. يجب على المستثمرين اتخاذ قراراتهم الخاصة والتداول، ولن يتحمل المؤلف وكوكب البلوك أي مسؤولية عن الخسائر المباشرة أو غير المباشرة التي تحدث نتيجة تداول المستثمرين.

"استخدام الذكاء الاصطناعي لكتابة الشيفرات البرمجية يخفي 'فخًا': مستخدم يستعين بـ ChatGPT، لكن يتم خداعه 'لسرقة العملات'"، نُشرت هذه المقالة لأول مرة على (كوكب البلوك).