OpenAI публикует предложения по безопасности для разработки ИИ нового уровня
Согласно CNBC, в понедельник OpenAI разместила предложения по безопасности и защите при разработке ИИ нового уровня, уделяя особое внимание исследованиям по согласованию и рекурсивному самоулучшению, или RSI. Компания заявила, что для создания передовых стандартов необходима международная кооперация, и призвала регуляторов опираться на работу существующих институтов по безопасности ИИ по всему миру. OpenAI отметила, что стандарты должны быть сосредоточены на моделях ИИ нового уровня и разработчиках, а также включать управление пользой и рисками для автоматизированных исследователей ИИ, включая RSI. Компания подчеркнула, что полностью автономное RSI сегодня не происходит и его не следует добиваться, если это нельзя сделать безопасно, предупредив, что это может оставить людей без практического контроля над разработкой ИИ. На прошлой неделе Anthropic опубликовала собственные идеи по безопасной разработке моделей ИИ нового уровня.
$OPENAI
Согласно CNBC, в понедельник OpenAI разместила предложения по безопасности и защите при разработке ИИ нового уровня, уделяя особое внимание исследованиям по согласованию и рекурсивному самоулучшению, или RSI. Компания заявила, что для создания передовых стандартов необходима международная кооперация, и призвала регуляторов опираться на работу существующих институтов по безопасности ИИ по всему миру. OpenAI отметила, что стандарты должны быть сосредоточены на моделях ИИ нового уровня и разработчиках, а также включать управление пользой и рисками для автоматизированных исследователей ИИ, включая RSI. Компания подчеркнула, что полностью автономное RSI сегодня не происходит и его не следует добиваться, если это нельзя сделать безопасно, предупредив, что это может оставить людей без практического контроля над разработкой ИИ. На прошлой неделе Anthropic опубликовала собственные идеи по безопасной разработке моделей ИИ нового уровня.
$OPENAI
