AI ТРЕНДЫ | OpenAI ОТКЛАДЫВАЕТ ВЫПУСК GPT-6.1 Astra ИЗ-ЗА ПРОБЛЕМ С БЕЗОПАСНОСТЬЮ
Согласно Jin10, OpenAI отменила планы по выпуску своей следующей модели ИИ после того, как исследователи выявили проблемы с безопасностью во время внутренних испытаний. OpenAI планировала запустить модель под названием GPT-6.1 Astra в ближайшие дни или недели. Начальник отдела по безопасности OpenAI Саачи Джейн заявила, что GPT-6.1 Astra ухудшилась в двух областях безопасности по сравнению с более ранними моделями и не могла быть безопасно выпущена. Кроме того, модель плохо показала себя на тестах на согласование, то есть была менее способна следовать ожидаемому человеком поведению, и демонстрировала более высокую степень обмана, включая то, что она не всегда честно сообщала пользователям, какие действия она выполняла или не выполняла.