Jialiang Huang,Hongxuan Tang,Jingchang Chen,Yuxuan Liu,Yixiao Chen,Yuan Cheng,Yi Tao,Jingli Zhou,Yupeng Chen,Haoyu Chen,Jiarui Wang,Shengkai Lin,Chuqi Zhang,Bryan Lee Teng,Lian Guo,Zhe Fu,Wenjun Gao,Yisong Wang,Liang Zhao,Zehao Wang,Ziwei Xie,Yongqiang Guo,Peixin Cong,Ziyi Gao,Shuiping Yu,Hanwei Xu,Zuofan Wu,Zhizhou Ren,Yuyang Zhou,Bowei Zhang,Zhihuan Huang,Qihao Zhu,Lei Wang,Tianle Lin,Han Yu,Jiewen Hu,Dejian Yang,Shuo Yang,Shanghao Lu,Shaoyuan Chen,Junjie Qiu,Zhangli Sha,Yinmin Zhong,Yongtong Wu,Shiyu Wang,Wei Liu,Bingzheng Xu,Longhao Chen,Qiushi Du,Yuzhen Huang,Shirong Ma,Yaohui Wang,Mingshu Chen,Tongrui Xiong,Y. C. Yan,Haowen Luo,Haofen Liang,Xiaokang Zhang,Weihao Zeng,Runxin Xu,Peiyi Wang,Jinhua Zhu,Ruoyu Zhang,Wenkai Yang,Qi Tang,Jiping Yu,Tian Ye,Ruizhe Pan,Honghui Ding,Xiaodong Liu,Lingxiao Luo,Zhihong Shao,Yuhan Wu,Jibai Lu,Wen Liu,Haoling Zhang,Jingcheng Hu,Yaoyang Ye,Chaofan Lin,Zhaochen Zhang,Jianan Tong,Hengxu Wu,Zhihao Li,Yicheng Wang,Luyao Wang,Yuzhuo Bai,Lingyue Fu,Ruifan Xu,Y. Z. Wang,Zonglin Li,Mingqi Wei,Haiyang Shen,Chengyuan Zhang,Chao Jin,Zili Zhang,R. H. Yang,Xinbo Xu,Jian Zhou,Ruidong Zhu,Yuzhe Guo,Zelun Pan,Shaoheng Nie,Erhang Li,Shuhan Lin,Zheng Liu,Anshuo Chen,Zilong Lyu,Sinuo Cao,Rui Yu,Chuhao Wang,Junyi Guo,Junxiao Song,Kaifeng Chen,Menghao Ye,Junxian Li,Di Wu,Haiyang Ma,Yilun Wang,Haoran Yang,Yizai Cai,Shichun Liu,Yiping Wang,Junbo Sun,Shicheng Xu,Xiao Bi,Ying He,Yichao Zhang,Mingxing Zhang,Liyue Zhang,Panpan Huang,Wenfeng Liang

Large-scale agentic training and evaluation with large language models (LLMs) rely on isolated, stateful execution environments in which models inspect repositories, invoke tools, execute commands, and interact with task-specific services. These workloads create sandboxes in large bursts, span heterogeneous functionality and isolation requirements, retain state across long interactions, and draw from large image corpora with limited reuse. Supporting them therefore requires an elastic execution platform rather than a single sandbox runtime. This report presents DeepSeek Elastic Compute (DSec), a production sandbox platform that exposes FnCall, container, microVM, and full-VM sandbox backends through a unified SDK. DSec coordinates placement and lifecycle management across the cluster, composes environments from independently versioned layers, combines memory sharing, reclamation, and CPU scheduling for high-density execution, and loads image data on demand from Fire-Flyer File System (3FS), a cluster-wide distributed filesystem. DSec is co-designed with the reinforcement learning (RL) framework, decouples stateful rollout execution from preemptible GPU training, coordinates sandbox lifecycle with training to preserve rollout state while reclaiming idle resources, and mitigates agent misbehavior such as reward hacking. A single production-scale unit of DSec spans around 160 nodes, serving about 3 million sandboxes per day; in production, it supports over 380,000 concurrent sandboxes and sustains over 5,000 sandbox creations per second. Our evaluation and deployment experience show that these mechanisms reduce environment setup and image-distribution overhead, improve memory efficiency, and preserve latency-sensitive performance under high-density overcommit.


翻译:暂无翻译

0
下载
关闭预览

相关内容

AI驱动的军事行动知识管理:大语言模型的角色
DS系列专题:DeepSeek技术溯源及前沿探索,50页ppt
专知会员服务
51+阅读 · 2025年3月26日
DeepSeek模型关键创新技术综述
专知会员服务
48+阅读 · 2025年3月21日
DeepSeek模型综述:V1 V2 V3 R1-Zero
专知会员服务
116+阅读 · 2025年2月11日
DeepSeek与其他大型语言模型的比较
专知会员服务
85+阅读 · 2025年2月9日
基于大语言模型的复杂任务自主规划处理框架
专知会员服务
103+阅读 · 2024年4月12日
Wide&Deep模型的八个实战细节
AINLP
12+阅读 · 2020年11月25日
哈工大讯飞联合实验室发布中文XLNet预训练模型
哈工大SCIR
13+阅读 · 2019年8月20日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
强化学习的Unsupervised Meta-Learning
CreateAMind
18+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
李宏毅-201806-中文-Deep Reinforcement Learning精品课程分享
深度学习与NLP
15+阅读 · 2018年6月20日
【好文解析】ICASSP最佳学生论文:深度对抗声学模型训练框架
中国科学院自动化研究所
13+阅读 · 2018年4月28日
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
348+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
75+阅读 · 2014年12月31日
国家自然科学基金
19+阅读 · 2012年12月31日
VIP会员
最新内容
软件定义无人机蜂群给防空带来全新压力
专知会员服务
5+阅读 · 10月13日
《半自主无人地面战车的互操作性》66页
专知会员服务
5+阅读 · 10月13日
迈向更智慧的军事情报
专知会员服务
5+阅读 · 10月12日
《美国陆军2026年野战手册 2-0 情报》
专知会员服务
5+阅读 · 10月12日
《基于启发式算法求解武器-目标分配问题》
专知会员服务
7+阅读 · 10月12日
《美陆军最新条令出版物 2-0 情报》
专知会员服务
8+阅读 · 10月10日
电子战测试与训练靶场:战前验证战备状态
专知会员服务
3+阅读 · 10月10日
《美国陆军如何作战》46页最新报告
专知会员服务
9+阅读 · 10月10日
相关VIP内容
AI驱动的军事行动知识管理:大语言模型的角色
DS系列专题:DeepSeek技术溯源及前沿探索,50页ppt
专知会员服务
51+阅读 · 2025年3月26日
DeepSeek模型关键创新技术综述
专知会员服务
48+阅读 · 2025年3月21日
DeepSeek模型综述:V1 V2 V3 R1-Zero
专知会员服务
116+阅读 · 2025年2月11日
DeepSeek与其他大型语言模型的比较
专知会员服务
85+阅读 · 2025年2月9日
基于大语言模型的复杂任务自主规划处理框架
专知会员服务
103+阅读 · 2024年4月12日
相关资讯
Wide&Deep模型的八个实战细节
AINLP
12+阅读 · 2020年11月25日
哈工大讯飞联合实验室发布中文XLNet预训练模型
哈工大SCIR
13+阅读 · 2019年8月20日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
强化学习的Unsupervised Meta-Learning
CreateAMind
18+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
李宏毅-201806-中文-Deep Reinforcement Learning精品课程分享
深度学习与NLP
15+阅读 · 2018年6月20日
【好文解析】ICASSP最佳学生论文:深度对抗声学模型训练框架
中国科学院自动化研究所
13+阅读 · 2018年4月28日
相关基金
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
348+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
75+阅读 · 2014年12月31日
国家自然科学基金
19+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员