Segundo o ChainCatcher, que cita o The Defiant, a OpenAI contratou a organização de avaliação de segurança de IA METR para analisar a segurança de seu maior treinamento de aprendizado por reforço até hoje. A análise é um projeto-piloto que abrange um único treinamento, e a METR receberá snapshots do modelo e registros internos de treinamento.
As duas organizações não chegaram a um acordo sobre avaliações de monitoramento mais amplas, cujo escopo ainda não foi definido. Anteriormente conhecida como ARC Evals, a METR realizou avaliações independentes antes da implantação para laboratórios de IA de ponta e, no passado, submeteu a testes adversariais o sistema interno de monitoramento de desalinhamento da OpenAI.
