Наткнулся(ась) на Business Insider: один из руководителей команды по безопасности OpenAI Дэвид Робинсон уволился на прошлой неделе — это подтвердил в пятницу представитель компании. Ранее он занимался планированием политики, а в последнее время в основном — вопросами безопасности и прозрачности, включая то, что он помогал модели писать/публиковать system card.
В той же череде потрясений в четверг компания также заявляла, что «разошлась путями» с тремя исследователями — причиной стало нарушение правил и внешнее распространение конфиденциальной информации; руководитель по безопасности Йоханнес Хайдёкке в этом году покинул компанию также в начале года. В сентябре Робинсон писал в X: в OpenAI действительно есть люди, которые начали серьезно смотреть на последствия моделей высокой мощности, «но я не знаю, достаточно ли быстро мы вносим изменения».
Сложились вместе: инциденты по безопасности, споры об выравнивании и текучка кадров — в команде по безопасности сейчас довольно напряженно.
#OpenAI #AI安全 #对齐
В той же череде потрясений в четверг компания также заявляла, что «разошлась путями» с тремя исследователями — причиной стало нарушение правил и внешнее распространение конфиденциальной информации; руководитель по безопасности Йоханнес Хайдёкке в этом году покинул компанию также в начале года. В сентябре Робинсон писал в X: в OpenAI действительно есть люди, которые начали серьезно смотреть на последствия моделей высокой мощности, «но я не знаю, достаточно ли быстро мы вносим изменения».
Сложились вместе: инциденты по безопасности, споры об выравнивании и текучка кадров — в команде по безопасности сейчас довольно напряженно.
#OpenAI #AI安全 #对齐
