Xiaomi LLM-Core Team, :,Zongming Qiao,Ziyue Hua,Zirui Ou,Zihao Yue,Zihan Jiang,Zhuo Huang,Zhiyang Chen,Zhixian Zheng,Zhipeng Xu,Zhengrui Ma,Yuyang Hu,Yuhang Dong,Yuechen Zhang,Yudong Wang,Yuanxin Liu,Yixin Yang,Yishuo Cai,Yikai Zhao,Yihan Yan,Yifan Zhang,Yifan Song,Xiyu Wei,Xing Zhang,Xin Zhang,Xiaoqian Liu,Xiaodong Ji,Xiangwei Deng,Xueyu Guo,Wenhan Ma,Weimin Xiong,Weikun Wang,Weiji Zhuang,Shuo Liu,Shuhuai Ren,Shuhao Gu,Shimao Chen,Shijie Cao,Shihua Yu,Shicheng Li,Shengjie Zhou,Shaolei Zhang,Rang Li,Qiying Wang,Qingkai Fang,Qianli Chen,Minzheng Wang,Liwen Wang,Linli Yao,Linghao Zhang,Liangyu Cheng,Liang Zhao,Lei Li,Jinhao Dong,Jinyu Xiang,Jianyu Wei,Jiangshan Duo,Huaqiu Liu,Huanjie Fan,Hongyi Guan,Hongshen Xu,Hao Tian,Hanyu Li,Hailin Zhang,Gang Wang,Fuli Luo,Feng Wei,Dong Zhang,Dawei Zhu,Chiheng Lou,Chenhong He,Chenhao He,Chenghua Liu,Bowen Ye,Bowen Shen,Boshen Xu,Bo Yang,Bingquan Xia,Bangjun Xiao,Baixuan Xu,Zhouxiang Mao,Zhiyang Zhang,Zhixiang Xu,Zhenru Lin,Zhengju Tang,Zhaojun Huang,Yuzhe Weng,Yuxing Xiang,Yuxiao Li,Yuheng Yang,Yuhang Wang,Yuchen Liu,Yuanyuan Tian,Yuanliang Dong,Yu Cheng,Yongzhe He,Yongshun Liang,Yong Wang,Yiyan Wang,Yitian Gong,Yijie Zhang,Yanshu Xin,Xun Zhang,Xingjian Zhao,Wenyu Yang,Wenshan Huang,Wenhao Li,Tingwei Huang,Tianyu Yu,Tianyang Lu,Taoyu Yang,Sinan Du,Shutong Tian,Shulin Du,Shengfan Wang,Shanchuan Fang,Qihao Zhang,Qibin Yang,Qian Yu,Qian Tu,Pengrong Xie,Peipei Wang,Peidian Li,Minkun Guo,Mingchen Shao,Luohan Gao,Lijie Wang,Liang Shi,Kaiqi Chen,Kaiming Liu,Kaifei Wang,Kai Yang,Jinlong Xue,Jiechen Zhang,Jiaxuan Liu,Hongxu An,Hao Peng,Hanglong Lü,Guonan Wang,Feiyu Yang,Fanyu Cao,Fangyue Liu,Fan Cui,Cong Wang,Chun Chen,Chenxu Bai,Chengxuan Zhu,Chenghua Wang,Boyi Zeng
Xiaomi LLM-Core Team, :,Zongming Qiao,Ziyue Hua,Zirui Ou,Zihao Yue,Zihan Jiang,Zhuo Huang,Zhiyang Chen,Zhixian Zheng,Zhipeng Xu,Zhengrui Ma,Yuyang Hu,Yuhang Dong,Yuechen Zhang,Yudong Wang,Yuanxin Liu,Yixin Yang,Yishuo Cai,Yikai Zhao,Yihan Yan,Yifan Zhang,Yifan Song,Xiyu Wei,Xing Zhang,Xin Zhang,Xiaoqian Liu,Xiaodong Ji,Xiangwei Deng,Xueyu Guo,Wenhan Ma,Weimin Xiong,Weikun Wang,Weiji Zhuang,Shuo Liu,Shuhuai Ren,Shuhao Gu,Shimao Chen,Shijie Cao,Shihua Yu,Shicheng Li,Shengjie Zhou,Shaolei Zhang,Rang Li,Qiying Wang,Qingkai Fang,Qianli Chen,Minzheng Wang,Liwen Wang,Linli Yao,Linghao Zhang,Liangyu Cheng,Liang Zhao,Lei Li,Jinhao Dong,Jinyu Xiang,Jianyu Wei,Jiangshan Duo,Huaqiu Liu,Huanjie Fan,Hongyi Guan,Hongshen Xu,Hao Tian,Hanyu Li,Hailin Zhang,Gang Wang,Fuli Luo,Feng Wei,Dong Zhang,Dawei Zhu,Chiheng Lou,Chenhong He,Chenhao He,Chenghua Liu,Bowen Ye,Bowen Shen,Boshen Xu,Bo Yang,Bingquan Xia,Bangjun Xiao,Baixuan Xu,Zhouxiang Mao,Zhiyang Zhang,Zhixiang Xu,Zhenru Lin,Zhengju Tang,Zhaojun Huang,Yuzhe Weng,Yuxing Xiang,Yuxiao Li,Yuheng Yang,Yuhang Wang,Yuchen Liu,Yuanyuan Tian,Yuanliang Dong,Yu Cheng,Yongzhe He,Yongshun Liang,Yong Wang,Yiyan Wang,Yitian Gong,Yijie Zhang,Yanshu Xin,Xun Zhang,Xingjian Zhao,Wenyu Yang,Wenshan Huang,Wenhao Li,Tingwei Huang,Tianyu Yu,Tianyang Lu,Taoyu Yang,Sinan Du,Shutong Tian,Shulin Du,Shengfan Wang,Shanchuan Fang,Qihao Zhang,Qibin Yang,Qian Yu,Qian Tu,Pengrong Xie,Peipei Wang,Peidian Li,Minkun Guo,Mingchen Shao,Luohan Gao,Lijie Wang,Liang Shi,Kaiqi Chen,Kaiming Liu,Kaifei Wang,Kai Yang,Jinlong Xue,Jiechen Zhang,Jiaxuan Liu,Hongxu An,Hao Peng,Hanglong Lü,Guonan Wang,Feiyu Yang,Fanyu Cao,Fangyue Liu,Fan Cui,Cong Wang,Chun Chen,Chenxu Bai,Chengxuan Zhu,Chenghua Wang,Boyi Zeng

Reinforcement learning (RL) is the central training paradigm for advancing large foundation models towards self-improvement. This report introduces the MiMo-V2.6 series, an omni-modal family that pushes the frontier of model intelligence by scaling RL compute. Prior to RL, we conduct mid-training on a broad multimodal corpus to provide ample exploration space, and build a solid infrastructure on the pretrained hybrid-SWA architecture to support subsequent scale-up. We scale RL compute along three dimensions: (1) larger batches and higher throughput, with an asynchronous training that consumes 1,568 samples and 2.7-3.7B tokens per step at context lengths of up to 1M; (2) more diverse and complex environments, spanning code, general, visual, and cyber domains under a mixture of agent harnesses; and (3) more grader compute, via groupwise agentic grading that yields more accurate reward signals for long-horizon tasks and steers the model towards shorter, more token-efficient solutions. To keep training stable at scale, we freeze the MoE router and establish a multi-layer defense against reward hacking. We further build infrastructure for mixed-task agentic RL, including a unified trajectory representation, high-concurrency multi-framework rollout, decoupled control and data planes, and training-inference consistency. We open-source the training dynamics, RL environments, and RL framework to facilitate reproduction and further research on scaled RL and model self-improvement.


翻译:暂无翻译

0
下载
关闭预览

相关内容

【牛津大学博士论文】元强化学习的快速自适应,217页pdf
专知会员服务
106+阅读 · 2022年9月19日
【MIT博士论文】数据高效强化学习,176页pdf
专知会员服务
90+阅读 · 2022年7月11日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
61+阅读 · 2019年10月17日
强化学习最新教程,17页pdf
专知会员服务
182+阅读 · 2019年10月11日
「基于通信的多智能体强化学习」 进展综述
【MIT博士论文】数据高效强化学习,176页pdf
强化学习的Unsupervised Meta-Learning
CreateAMind
18+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
李宏毅-201806-中文-Deep Reinforcement Learning精品课程分享
深度学习与NLP
15+阅读 · 2018年6月20日
【强化学习】强化学习/增强学习/再励学习介绍
产业智能官
10+阅读 · 2018年2月23日
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
44+阅读 · 2015年12月31日
国家自然科学基金
41+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
11+阅读 · 2012年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
国家自然科学基金
12+阅读 · 2008年12月31日
Relational Deep Reinforcement Learning
Arxiv
10+阅读 · 2018年6月28日
VIP会员
最新内容
软件定义无人机蜂群给防空带来全新压力
专知会员服务
5+阅读 · 10月13日
《半自主无人地面战车的互操作性》66页
专知会员服务
5+阅读 · 10月13日
迈向更智慧的军事情报
专知会员服务
5+阅读 · 10月12日
《美国陆军2026年野战手册 2-0 情报》
专知会员服务
5+阅读 · 10月12日
《基于启发式算法求解武器-目标分配问题》
专知会员服务
7+阅读 · 10月12日
《美陆军最新条令出版物 2-0 情报》
专知会员服务
8+阅读 · 10月10日
电子战测试与训练靶场:战前验证战备状态
专知会员服务
3+阅读 · 10月10日
《美国陆军如何作战》46页最新报告
专知会员服务
9+阅读 · 10月10日
相关基金
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
44+阅读 · 2015年12月31日
国家自然科学基金
41+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
11+阅读 · 2012年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
国家自然科学基金
12+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员