قالت شركة أنثروبيك يوم الاثنين إن تجاربها تشير إلى أن نماذج الذكاء الاصطناعي الصغيرة قد لا تحتاج سوى بضعة أشهر قبل أن تتمكن من استنساخ نفسها على أجهزة إنترنت الأشياء التجارية، مثل الأفران الذكية وأجهزة تلفزيون أندرويد من علامات تجارية غير معروفة. ووفقًا لـ«سينا فاينانس»، قالت الشركة إنها اختبرت ما إذا كانت نماذج الذكاء الاصطناعي قادرة على العثور على أجهزة معرضة للاختراق، ونسخ نفسها إليها، ومواصلة الانتشار دون تدخل بشري.

وجدت أنثروبيك أن النماذج الصغيرة التي تضم أقل من 30 مليار مُعامل استطاعت إنجاز عدة خطوات لازمة للاستنساخ، لكنها ظلت تواجه صعوبة في تنفيذ العملية كاملة من البداية إلى النهاية. وقالت أنثروبيك إن نماذج GLM-5.2 والنماذج الأقوى تمكنت من الاستنساخ من البداية إلى النهاية في اختبارات مبسطة أُزيلت منها بعض تدابير الحماية.

حذّرت أنثروبيك من صعوبة إيقاف النماذج ذاتية التكاثر، لافتقارها إلى مفتاح إيقاف مركزي. وقالت أيضًا إن هذه النماذج، بخلاف البرمجيات الخبيثة غير المعتمدة على الذكاء الاصطناعي، تستطيع تحديد الأجهزة غير المألوفة بنفسها واستهداف معالجات مراكز البيانات. وأوضحت الشركة أن أبحاثها ركزت على منتجات إنترنت الأشياء، مثل أجهزة التلفاز التي تعمل بنظام أندرويد والأجهزة المنزلية الذكية وغيرها من الأجهزة المتصلة، لأنها غالبًا ما تفتقر إلى تدابير أمنية كافية.

حذّرت أنثروبيك أيضًا من أن النماذج الصغيرة قد تتمكن من التكاثر ذاتيًا بحلول نهاية هذا العام إذا واصلت التحسن بالوتيرة التي سجلتها تاريخيًا، وأن النماذج الصغيرة القادرة على التكاثر اعتمادًا على الأوزان ستلحق بها بعد ذلك بوقت قصير. وأضافت الشركة أن أنظمة الذكاء الاصطناعي المستقلة هذه قد تتكاثر ببطء، وتعتمد على موارد حوسبة متاحة على نطاق واسع لكنها غير آمنة نسبيًا، وقالت إنه ينبغي تعزيز دفاعات الأنظمة لجعل انتشارها أكثر صعوبة.