ماذا لو كان بإمكان الذكاء الاصطناعي أن يفعل أكثر من مجرد الإجابة عن الأسئلة — ماذا لو كان بإمكانه أن ينتشر إلى أجهزة أخرى؟
تسلّط دراسة جديدة من Anthropic الضوء على هذا التهديد السيبراني المحتمل. ويخشى الباحثون أن تتمكن نماذج الذكاء الاصطناعي الأصغر من اكتساب هذه القدرة خلال بضعة أشهر فقط.
إليك ما تُظهره البيانات:
# تم اختبار نموذج ذكاء اصطناعي يحتوي على 9 مليارات معامل على تسعة أنواع مختلفة من العتاد؛ وقد تم نشره بنجاح على ثمانية منها.
# تم تشغيل نموذج ذكاء اصطناعي يحتوي على 26 مليار معامل عبر 15 جهاز Android TV box متصلاً (تبلغ تكلفة كل جهاز منها نحو 55 دولارًا)، مستفيدًا من القدرة الحاسوبية المجمّعة لها.
# وفي تجربة أخرى، تمكن نموذج قوي يُدعى GLM-5.2 من نسخ نفسه عبر جميع أجهزة الاختبار الثمانية داخل شبكة خاضعة للرقابة — ونجح في ذلك أربع مرات من أصل خمس.
ما هو بالضبط "دودة الذكاء الاصطناعي"؟
# "الدودة" الحاسوبية هي نوع من البرمجيات الخبيثة القادرة على الانتشار من جهاز إلى آخر عبر شبكة دون الحاجة إلى تدخل بشري في كل خطوة.
# ما يميّز الدودة المعتمدة على الذكاء الاصطناعي هو قدرتها على التكيّف مع العتاد والبرمجيات الخاصة بالأجهزة غير المألوفة.
# تبدأ أولًا بمسح الشبكة بحثًا عن أجهزة أخرى وتحاول الحصول على الوصول عبر استغلال الثغرات الأمنية.
# وبمجرد الدخول، تقوم بتثبيت البرامج والملفات اللازمة لتشغيل نموذج ذكاء اصطناعي.
# وبعد أن يصبح الذكاء الاصطناعي نشطًا على الجهاز الجديد، يمكنه عندئذٍ استخدام ذلك الجهاز لتكرار العملية، والانتشار أكثر.
إذًا، هل بدأت ديدان الذكاء الاصطناعي بالانتشار بالفعل؟
هذه هي النقطة الأكثر أهمية لفهم هذا البحث.
لم يُظهر الباحثون بعد أن نموذج ذكاء اصطناعي صغيرًا قادرًا على اختراق أجهزة تلفاز ذكية حقيقية ومؤمّنة أو غيرها من الأجهزة المنزلية لينتشر ذاتيًا بطريقة مستقلة بالكامل.
لكن التجارب أثبتت مع ذلك نتيجتين أساسيتين:
# من الممكن تشغيل نماذج ذكاء اصطناعي صغيرة على أنواع مختلفة من العتاد؛ e، ويمكن لنموذج قوي أن ينشر نفسه بنجاح وأن يتكاثر عبر أجهزة متعددة ضمن بيئة تجريبية مبسطة. # ومع ذلك، في التجربة الثانية، جرى إضعاف الإجراءات الأمنية على الأجهزة عمدًا للسماح بالوصول.
$NVDAB
تسلّط دراسة جديدة من Anthropic الضوء على هذا التهديد السيبراني المحتمل. ويخشى الباحثون أن تتمكن نماذج الذكاء الاصطناعي الأصغر من اكتساب هذه القدرة خلال بضعة أشهر فقط.
إليك ما تُظهره البيانات:
# تم اختبار نموذج ذكاء اصطناعي يحتوي على 9 مليارات معامل على تسعة أنواع مختلفة من العتاد؛ وقد تم نشره بنجاح على ثمانية منها.
# تم تشغيل نموذج ذكاء اصطناعي يحتوي على 26 مليار معامل عبر 15 جهاز Android TV box متصلاً (تبلغ تكلفة كل جهاز منها نحو 55 دولارًا)، مستفيدًا من القدرة الحاسوبية المجمّعة لها.
# وفي تجربة أخرى، تمكن نموذج قوي يُدعى GLM-5.2 من نسخ نفسه عبر جميع أجهزة الاختبار الثمانية داخل شبكة خاضعة للرقابة — ونجح في ذلك أربع مرات من أصل خمس.
ما هو بالضبط "دودة الذكاء الاصطناعي"؟
# "الدودة" الحاسوبية هي نوع من البرمجيات الخبيثة القادرة على الانتشار من جهاز إلى آخر عبر شبكة دون الحاجة إلى تدخل بشري في كل خطوة.
# ما يميّز الدودة المعتمدة على الذكاء الاصطناعي هو قدرتها على التكيّف مع العتاد والبرمجيات الخاصة بالأجهزة غير المألوفة.
# تبدأ أولًا بمسح الشبكة بحثًا عن أجهزة أخرى وتحاول الحصول على الوصول عبر استغلال الثغرات الأمنية.
# وبمجرد الدخول، تقوم بتثبيت البرامج والملفات اللازمة لتشغيل نموذج ذكاء اصطناعي.
# وبعد أن يصبح الذكاء الاصطناعي نشطًا على الجهاز الجديد، يمكنه عندئذٍ استخدام ذلك الجهاز لتكرار العملية، والانتشار أكثر.
إذًا، هل بدأت ديدان الذكاء الاصطناعي بالانتشار بالفعل؟
هذه هي النقطة الأكثر أهمية لفهم هذا البحث.
لم يُظهر الباحثون بعد أن نموذج ذكاء اصطناعي صغيرًا قادرًا على اختراق أجهزة تلفاز ذكية حقيقية ومؤمّنة أو غيرها من الأجهزة المنزلية لينتشر ذاتيًا بطريقة مستقلة بالكامل.
لكن التجارب أثبتت مع ذلك نتيجتين أساسيتين:
# من الممكن تشغيل نماذج ذكاء اصطناعي صغيرة على أنواع مختلفة من العتاد؛ e، ويمكن لنموذج قوي أن ينشر نفسه بنجاح وأن يتكاثر عبر أجهزة متعددة ضمن بيئة تجريبية مبسطة. # ومع ذلك، في التجربة الثانية، جرى إضعاف الإجراءات الأمنية على الأجهزة عمدًا للسماح بالوصول.
$NVDAB