A Anthropic perdeu mais um pesquisador de segurança, Joe Tenton. Tenton disse que deixou a empresa há duas semanas e vai se juntar à METR, um grupo independente que testa riscos em sistemas avançados de IA. Joe planejava explicar a mudança mais tarde, mas a renúncia de Jacob Coxon nesta semana fez com que isso acontecesse antes.

Ele disse: “Eu planejava escrever sobre essa decisão com mais detalhes em algum momento, mas a renúncia do Jacob nesta semana me fez querer dizer mais agora.” Tenton acredita que os principais laboratórios de IA estão criando um nível de perigo que a sociedade nunca enfrentou, dizendo que as capacidades de IA estão melhorando em um ritmo extremo enquanto as empresas tentam avançar ainda mais rápido. O objetivo deles é construir sistemas que possam melhorar a própria pesquisa em IA e, eventualmente, alcançar a ‘superinteligência’. Joe alertou que o sucesso poderia fazer o progresso ultrapassar o controle humano. Joe disse que, nos próximos poucos anos, as pessoas podem estar vivendo com agentes de IA mais inteligentes do que qualquer humano.