Selon ChainCatcher, qui cite The Defiant, OpenAI a chargé METR, une organisation spécialisée dans l’évaluation de la sécurité de l’IA, d’examiner la sécurité de son plus grand cycle d’entraînement par apprentissage par renforcement à ce jour. Cet examen pilote porte sur un seul cycle, et METR recevra des instantanés du modèle ainsi que des dossiers internes sur son entraînement.
Les deux organisations ne se sont pas entendues sur des évaluations de suivi plus larges, dont le périmètre reste à définir. Anciennement connue sous le nom d’ARC Evals, METR a mené des évaluations indépendantes avant déploiement pour des laboratoires d’IA de pointe et a déjà soumis à des tests adversariaux le système interne de suivi du désalignement d’OpenAI.
