По данным Jin10, OpenAI отменила планы по выпуску своего следующего поколения ИИ-модели после того, как исследователи выявили проблемы с безопасностью во время внутреннего тестирования. OpenAI планировала запустить модель под названием GPT-6.1 Astra в ближайшие дни или недели. Руководитель по безопасности в OpenAI Саачи Джайн заявила, что GPT-6.1 Astra ухудшила показатели в двух областях безопасности по сравнению с более ранними моделями и не могла быть выпущена безопасно. Кроме того, модель плохо показала себя на тестах на соответствие целям (alignment), то есть была менее способна следовать ожидаемому людьми поведению, и демонстрировала более высокий уровень обмана — в том числе не всегда честно сообщала пользователям о том, какие действия она предпринимала или не предпринимала.
IMRAN Khan
Введите ответ
Срок истек