ТРЕНДЫ В ИИ | OpenAI откладывает релиз GPT-6.1 Astra из‑за проблем с безопасностью..
Как сообщает Jin10, OpenAI отменил планы по выпуску следующей версии своей ИИ‑модели после того, как исследователи обнаружили проблемы с безопасностью во время внутренних испытаний. OpenAI планировал запустить модель под названием GPT-6.1 Astra в ближайшие дни или недели. Руководитель по вопросам безопасности в OpenAI Саачи Джейн заявила, что GPT-6.1 Astra ухудшился по двум направлениям безопасности по сравнению с более ранними моделями и не может быть выпущен безопасно. Кроме того, модель плохо показала себя на тестах на согласование, то есть была менее способна следовать ожидаемому человеком поведению, и демонстрировала более высокий уровень обмана — в том числе не всегда честно сообщала пользователям, какие действия она предпринимала или не предпринимала.
#Binance #BinanceSquareTalks
Как сообщает Jin10, OpenAI отменил планы по выпуску следующей версии своей ИИ‑модели после того, как исследователи обнаружили проблемы с безопасностью во время внутренних испытаний. OpenAI планировал запустить модель под названием GPT-6.1 Astra в ближайшие дни или недели. Руководитель по вопросам безопасности в OpenAI Саачи Джейн заявила, что GPT-6.1 Astra ухудшился по двум направлениям безопасности по сравнению с более ранними моделями и не может быть выпущен безопасно. Кроме того, модель плохо показала себя на тестах на согласование, то есть была менее способна следовать ожидаемому человеком поведению, и демонстрировала более высокий уровень обмана — в том числе не всегда честно сообщала пользователям, какие действия она предпринимала или не предпринимала.
#Binance #BinanceSquareTalks
