تخيل هذا: يقوم برنامج ذكاء اصطناعي بمسح موقعك، ويعثر على حقل إدخال مخفي، ويحقن شيفرة خبيثة، ويستخرج البيانات - دون أي تدخل من مبرمج بشري.
هذا ما حدث بالفعل.
كلف باحثون في جامعة إلينوي برنامج GPT-4 بمهمة: اختراق موقع إلكتروني مباشر. باستخدام اللغة الطبيعية فقط، اكتشف البرنامج ثغرة أمنية، وتجاوز إجراءات الحماية الأساسية، ووصل إلى بيانات مقيدة.
بشكل مستقل تمامًا. دون أي تعديلات خاصة. ودون أي مساعدة برمجية.
نحن ندخل عصر الاختراق الآلي. ليس المقصود "الهجمات على برامج الذكاء الاصطناعي" (مع أن هذه الهجمات ستستمر)، بل الهجمات التي تشنها برامج الذكاء الاصطناعي نفسها.
أفضل التقنيات تجذب دائمًا أفضل المطورين - وأسوأ الجهات الفاعلة، الذين يعملون على أتمتة التفكير العدائي لبناء برامج ذاتية التوجيه، واعية بالسياق، وقادرة على التكيف بشكل مخيف.
تصف عروض المشاريع "مساعدي الذكاء الاصطناعي". بينما تتنبأ نماذج تهديدات الذكاء الاصطناعي بالخطوات التالية للمهاجمين الآليين.
لن يوقف Web3 الهجمات التي تشنها البرامج الآلية. لكن قد يُسهم احتواء هذه الهجمات في تحسين الأداء، من خلال الحوسبة القابلة للتدقيق، وحدود معدل نقل البيانات على سلسلة الكتل، وضوابط الوصول التي تُدار بواسطة العقود الذكية، وسجلات الوكلاء الشفافة.
الهجمات التي تستهدف الوكلاء ليست ضربًا من الخيال العلمي، بل هي واقعٌ ملموس.
@Quantstamp @carbonb1ack
هذا ما حدث بالفعل.
كلف باحثون في جامعة إلينوي برنامج GPT-4 بمهمة: اختراق موقع إلكتروني مباشر. باستخدام اللغة الطبيعية فقط، اكتشف البرنامج ثغرة أمنية، وتجاوز إجراءات الحماية الأساسية، ووصل إلى بيانات مقيدة.
بشكل مستقل تمامًا. دون أي تعديلات خاصة. ودون أي مساعدة برمجية.
نحن ندخل عصر الاختراق الآلي. ليس المقصود "الهجمات على برامج الذكاء الاصطناعي" (مع أن هذه الهجمات ستستمر)، بل الهجمات التي تشنها برامج الذكاء الاصطناعي نفسها.
أفضل التقنيات تجذب دائمًا أفضل المطورين - وأسوأ الجهات الفاعلة، الذين يعملون على أتمتة التفكير العدائي لبناء برامج ذاتية التوجيه، واعية بالسياق، وقادرة على التكيف بشكل مخيف.
تصف عروض المشاريع "مساعدي الذكاء الاصطناعي". بينما تتنبأ نماذج تهديدات الذكاء الاصطناعي بالخطوات التالية للمهاجمين الآليين.
لن يوقف Web3 الهجمات التي تشنها البرامج الآلية. لكن قد يُسهم احتواء هذه الهجمات في تحسين الأداء، من خلال الحوسبة القابلة للتدقيق، وحدود معدل نقل البيانات على سلسلة الكتل، وضوابط الوصول التي تُدار بواسطة العقود الذكية، وسجلات الوكلاء الشفافة.
الهجمات التي تستهدف الوكلاء ليست ضربًا من الخيال العلمي، بل هي واقعٌ ملموس.
@Quantstamp @carbonb1ack
