As agentic systems increasingly rely on reinforcement learning from verifiable rewards, standardized ``gym'' infrastructure has become essential for rapid iteration, reproducibility, and fair comparison. Vision agents lack such infrastructure, limiting systematic study of what drives their learning and where current models fall short. We introduce \textbf{Gym-V}, a unified platform of 179 procedurally generated visual environments across 10 domains with controllable difficulty, enabling controlled experiments that were previously infeasible across fragmented toolkits. Using it, we find that observation scaffolding is more decisive for training success than the choice of RL algorithm, with captions and game rules determining whether learning succeeds at all. Cross-domain transfer experiments further show that training on diverse task categories generalizes broadly while narrow training can cause negative transfer, with multi-turn interaction amplifying all of these effects. Gym-V is released as a convenient foundation for training environments and evaluation toolkits, aiming to accelerate future research on agentic VLMs.


翻译:随着智能系统日益依赖可验证奖励的强化学习,标准化的“gym”基础设施已成为快速迭代、可复现性与公平比较的关键要素。视觉智能体目前缺乏此类基础设施,这限制了对驱动其学习的关键因素及现有模型不足之处的系统性研究。本文提出**Gym-V**——一个涵盖10个领域、包含179个程序生成视觉环境的统一平台,其难度可调控,使得以往在碎片化工具包中难以实现的受控实验成为可能。通过该平台,我们发现观测支架对训练成功的影响比强化学习算法的选择更具决定性,其中图像描述与游戏规则甚至决定了学习能否成功。跨领域迁移实验进一步表明,多样化任务类别的训练能实现广泛泛化,而狭窄训练可能导致负迁移,且多轮交互会放大所有这些效应。Gym-V已作为便捷的训练环境与评估工具包基础发布,旨在加速未来关于智能视觉语言模型的研究。

0
下载
关闭预览

相关内容

迈向智能体系统规模化的科学
专知会员服务
22+阅读 · 2025年12月12日
面向视觉的强化学习综述
专知会员服务
21+阅读 · 2025年8月12日
PlaNet 简介:用于强化学习的深度规划网络
谷歌开发者
13+阅读 · 2019年3月16日
【知识图谱】知识图谱+人工智能=新型网络信息体系
产业智能官
14+阅读 · 2018年11月18日
视觉里程计:起源、优势、对比、应用
计算机视觉life
18+阅读 · 2017年7月17日
国家自然科学基金
7+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
50+阅读 · 2009年12月31日
VIP会员
最新内容
《Palantir任务保障性软件安全标准(MA-S2)》
专知会员服务
0+阅读 · 14分钟前
基于声学的无人机检测技术综述
专知会员服务
1+阅读 · 26分钟前
《当代混合战争分析框架:俄乌战争经验教训》
专知会员服务
1+阅读 · 52分钟前
战略前沿人工智能的再思考(中文)
专知会员服务
7+阅读 · 5月29日
《量化地基防空系统间接效应的博弈论方法》
专知会员服务
5+阅读 · 5月29日
“史诗怒火行动”中美军损失的作战飞机
专知会员服务
6+阅读 · 5月29日
ICML 2026 | 理解上下文持续学习中的泛化与遗忘
专知会员服务
5+阅读 · 5月28日
Agent Harness综述:大模型智能体执行器工程全景
专知会员服务
15+阅读 · 5月28日
相关基金
国家自然科学基金
7+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
50+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员