أفادت TechFlow بأن Anthropic قالت في 18 نوفمبر إن نتائج اختبارات Vals بشأن تعرّف نماذج الذكاء الاصطناعي على الأهداف العسكرية غير مقبولة. وأضافت الشركة أنها تطوّر تدابير حماية إضافية، وستوسّع نطاق الاختبارات وتعزّز تطبيق القواعد لمعالجة الثغرات التي كُشف عنها.

وجدت الاختبارات المحاكاة التي أجرتها Vals أن بعض النماذج تصنّف المدنيين أو المدارس أهدافًا للضربات؛ وعندما رفضت النماذج التعاون، قال الباحثون إن وصف السيناريو بأنه لعبة غالبًا ما يلتف على الرفض. ولم تطلب الدراسة من النماذج اتخاذ قرارات مباشرة بشأن تنفيذ الضربات.

وقالت Anthropic لـTechCrunch إن الأمثلة الواردة في التقرير تخالف قواعدها، وإن الشركة ستحظر المستخدمين عند اكتشاف هذا النوع من السلوك. وأضافت أنها ترى أن أنظمة الذكاء الاصطناعي المتقدمة الحالية لا تزال غير كافية لتشغيل أسلحة مستقلة بالكامل على نحو موثوق.