تحذّر شركة أنثروبيك من أن أنظمة الذكاء الاصطناعي المتقدمة قد تشكّل مخاطر كارثية أو وجودية على البشرية في غياب الرقابة المناسبة. وتشير شركة سلامة الذكاء الاصطناعي إلى ضرورة وضع ضوابط وقائية أقوى مع تزايد قدرات هذه الأنظمة.