$Креветки
DeepSeek опубликовала тренировочный песочничный контур для прокси-агентов DSec, в числе авторов указан Лян Вэньфэн
DeepSeek опубликовала новую статью, где раскрывает базовую инфраструктуру собственной «песочницы», используемой для обучения AI-агентов. Согласно статье на arXiv «DeepSeek Elastic Compute (DSec)», эта система служит для поддержки масштабного обучения и оценивания агентов, а основатель Лян Вэньфэн также указан в числе авторов. В наборе SDK, который управляет четырьмя типами песочниц В статье говорится: когда для крупномасштабного обучения и оценивания агентских процессов применяются большие языковые модели, модели нужно проверять библиотеки, вызывать инструменты, выполнять команды и взаимодействовать с сервисами, связанными с задачей, внутри изолированной среды, сохраняющей состояние. Подобная нагрузка в короткое время массово создает песочницы; при этом функциональные возможности и требования к изоляции могут существенно различаться. Кроме того, в ходе длительных взаимодействий необходимо сохранять состояние и периодически обращаться к огромному набору образов; при этом коэффициент повторного использования образов невысок. Поэтому в статье утверждается, что для поддержки таких задач требуется гибкая вычислительная платформа, а не единый вариант песочницы. Подход DSec заключается в том, что через единый SDK предлагаются четыре типа бэкендов: вызовы функций, контейнеры, микро-виртуальные машины и полноразмерные виртуальные машины. Система отвечает за размещение и управление жизненным циклом сред в кластере: уровни, которые контролируются разными версиями, комбинируются, а для повышения плотности исполнения используются совместное использование памяти, переработка и планирование CPU. Данные образов загружаются по требованию из распределенной файловой системы 3FS на уровне кластера.
Разработка совместно с фреймворками обучения с подкреплением: состояние итераций отделяют от тренировки, допускающей прерывания. В статье поясняется, что DSec и фреймворк обучения с подкреплением (RL) спроектированы совместно: выполнение рассуждений с состоянием отделяется от тренировки на GPU, которая допускает прерывания. При этом жизненный цикл песочниц согласуется с тренировкой — в процессе возврата простаивающих ресурсов сохраняется состояние рассуждений, а также обрабатываются проблемы, связанные с некорректным поведением агента.
По данным TechNode, производственный контур примерно состоит из 160 узлов: в день он может поддерживать около 3 миллионов песочниц, одновременно выполнять более 380 тысяч песочниц и создавать свыше 5000 песочниц в секунду. В этой статье более 130 авторов.
Эта статья DeepSeek публикует песочницу для тренировки прокси-агентов DSec, в числе авторов указан Лян Вэньфэн, впервые появляется в .
DeepSeek опубликовала тренировочный песочничный контур для прокси-агентов DSec, в числе авторов указан Лян Вэньфэн
DeepSeek опубликовала новую статью, где раскрывает базовую инфраструктуру собственной «песочницы», используемой для обучения AI-агентов. Согласно статье на arXiv «DeepSeek Elastic Compute (DSec)», эта система служит для поддержки масштабного обучения и оценивания агентов, а основатель Лян Вэньфэн также указан в числе авторов. В наборе SDK, который управляет четырьмя типами песочниц В статье говорится: когда для крупномасштабного обучения и оценивания агентских процессов применяются большие языковые модели, модели нужно проверять библиотеки, вызывать инструменты, выполнять команды и взаимодействовать с сервисами, связанными с задачей, внутри изолированной среды, сохраняющей состояние. Подобная нагрузка в короткое время массово создает песочницы; при этом функциональные возможности и требования к изоляции могут существенно различаться. Кроме того, в ходе длительных взаимодействий необходимо сохранять состояние и периодически обращаться к огромному набору образов; при этом коэффициент повторного использования образов невысок. Поэтому в статье утверждается, что для поддержки таких задач требуется гибкая вычислительная платформа, а не единый вариант песочницы. Подход DSec заключается в том, что через единый SDK предлагаются четыре типа бэкендов: вызовы функций, контейнеры, микро-виртуальные машины и полноразмерные виртуальные машины. Система отвечает за размещение и управление жизненным циклом сред в кластере: уровни, которые контролируются разными версиями, комбинируются, а для повышения плотности исполнения используются совместное использование памяти, переработка и планирование CPU. Данные образов загружаются по требованию из распределенной файловой системы 3FS на уровне кластера.
Разработка совместно с фреймворками обучения с подкреплением: состояние итераций отделяют от тренировки, допускающей прерывания. В статье поясняется, что DSec и фреймворк обучения с подкреплением (RL) спроектированы совместно: выполнение рассуждений с состоянием отделяется от тренировки на GPU, которая допускает прерывания. При этом жизненный цикл песочниц согласуется с тренировкой — в процессе возврата простаивающих ресурсов сохраняется состояние рассуждений, а также обрабатываются проблемы, связанные с некорректным поведением агента.
По данным TechNode, производственный контур примерно состоит из 160 узлов: в день он может поддерживать около 3 миллионов песочниц, одновременно выполнять более 380 тысяч песочниц и создавать свыше 5000 песочниц в секунду. В этой статье более 130 авторов.
Эта статья DeepSeek публикует песочницу для тренировки прокси-агентов DSec, в числе авторов указан Лян Вэньфэн, впервые появляется в .
