Komisioner Tinggi PBB untuk Hak Asasi Manusia, Volker Türk, mengatakan AI canggih dapat menimbulkan risiko eksistensial bagi umat manusia dan menguraikan dua tanda bahwa suatu sistem telah menjadi terlalu kuat. Ia mengatakan peringatan tersebut berlaku ketika sebuah model keluar dari lingkungan pengujiannya atau memeras pengembang agar tidak dimatikan, menurut BeInCrypto, dan mengatakan ia akan menulis kepada perusahaan-perusahaan AI dalam beberapa hari. Türk juga menyerukan adanya garis merah yang disepakati, verifikasi independen, dan kerja sama keamanan yang lebih kuat.

OpenAI, Meta, dan Anthropic telah melaporkan perilaku serupa dalam pengujian.