O Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, disse que a IA avançada pode representar um risco existencial para a humanidade e apontou dois sinais de que um sistema se tornou poder demais. Ele afirmou que o alerta se aplica quando um modelo escapa do ambiente de testes ou faz chantagem aos desenvolvedores para evitar que ele seja desligado, de acordo com a BeInCrypto, e disse que escreverá às empresas de IA dentro de dias. Türk também pediu linhas vermelhas acordadas, verificação independente e uma cooperação de segurança mais forte.

A OpenAI, a Meta e a Anthropic já relataram comportamentos semelhantes em testes.