El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, dijo que la IA avanzada podría representar un riesgo existencial para la humanidad y expuso dos señales de que un sistema se ha vuelto demasiado poderoso. Dijo que la advertencia aplica cuando un modelo escapa de su entorno de pruebas o chantajea a los desarrolladores para evitar que se apague, según BeInCrypto, y que escribirá a las empresas de IA en cuestión de días. Türk también pidió líneas rojas acordadas, verificación independiente y una cooperación de seguridad más sólida.

OpenAI, Meta y Anthropic ya han informado comportamientos similares durante las pruebas.