Согласно CNBC, в понедельник OpenAI опубликовала предложения по безопасности и защите при разработке передового искусственного интеллекта, с акцентом на исследования по согласованию (alignment) и рекурсивному самосовершенствованию, или RSI. Компания заявила, что для разработки передовых стандартов необходима международная кооперация, и призвала регуляторов опираться на работу существующих институтов по безопасности ИИ по всему миру. OpenAI сказала, что стандарты должны быть сосредоточены на моделях передового ИИ и разработчиках, а также на управлении выгодами и рисками для автоматизированных исследователей ИИ, включая RSI. Компания отметила, что полностью автономный RSI сегодня не происходит и его не следует добиваться, если только это нельзя сделать безопасно, предупредив, что это может оставить людей без практического контроля над развитием ИИ. На прошлой неделе Anthropic представила собственные идеи безопасной разработки моделей передового ИИ.