По данным ChainCatcher со ссылкой на The Defiant, OpenAI поручила организации по оценке безопасности ИИ METR провести проверку безопасности своего крупнейшего на сегодняшний день цикла обучения с подкреплением. Проверка представляет собой пилотный проект, охватывающий один цикл обучения. METR получит снимки модели и внутренние записи о процессе обучения.
Организации не договорились о более масштабных оценках с мониторингом, охват которых пока не определён. Ранее известная как ARC Evals, METR проводила независимые оценки перед развёртыванием для ведущих лабораторий ИИ, а также ранее проверяла методом red team внутреннюю систему OpenAI для мониторинга несоответствий поведения ИИ заданным целям.
