Trabalhadores de importantes empresas de IA e de instituições de pesquisa estão enfrentando uma pressão mental crescente, à medida que se preocupam com o fato de os sistemas que estão construindo poderem causar danos graves à sociedade. Segundo a Sina Finance, pessoas familiarizadas com o assunto disseram que o UK AI Safety Institute teve vários funcionários afastados por licença médica e que buscaram aconselhamento devido ao esforço.

Quatro pessoas familiarizadas com o assunto disseram que cronogramas de testes rigorosos para os próximos modelos de IA, juntamente com preocupações sobre implantação rápida e capacidades em constante melhoria, prejudicaram o moral e contribuíram para o esgotamento na AISI. Funcionários da Anthropic, OpenAI e Google DeepMind também levantaram publicamente preocupações semelhantes, com alguns pesquisadores de ponta deixando a empresa por causa do peso psicológico ou decidindo que seus produtos não deveriam ser abertos ao público.

Um funcionário da DeepMind disse que o trabalho de segurança em IA pode levar ao esgotamento e que parece uma tarefa impossível. O funcionário acrescentou que construir sistemas de IA traz riscos à saúde mental porque ninguém consegue prever como a tecnologia será usada e disse que muitas pessoas são desencorajadas, com algumas saindo e outras pedindo licença por motivos de saúde mental.

A matéria também disse que mais de 10 pesquisadores sêniores deixaram a OpenAI, a Anthropic e a DeepMind nos últimos dois anos, citando preocupações com as prioridades da gestão e com o ritmo do progresso técnico. Nas últimas semanas, o ex-pesquisador da Anthropic e da OpenAI Jacob Coxon renunciou, alertando que as empresas estão apostando no futuro da humanidade.