Federated fine-tuning has emerged as a promising approach for adapting foundation models (FMs) to diverse downstream tasks in edge environments. In Internet of Vehicles (IoV) systems, enabling efficient and low-latency multi-task adaptation is particularly challenging due to client mobility, heterogeneous resources, and intermittent connectivity. This paper proposes a hierarchical federated fine-tuning framework that coordinates roadside units (RSUs) and vehicles to support resource-aware and mobility-resilient learning across dynamic IoV scenarios. Leveraging Low-Rank Adaptation (LoRA), we introduce a decentralized, energy-aware rank adaptation mechanism formulated as a constrained multi-armed bandit problem. A novel UCB-DUAL algorithm is developed to enable adaptive exploration under per-task energy budgets, achieving provable sublinear regret. To evaluate our method, we construct a large-scale IoV simulator based on real-world trajectories, capturing dynamic participation, RSU handoffs, and communication variability. Extensive experiments show that our approach achieves the best accuracy-efficiency trade-off among all baselines, reducing latency by over 24\% and improving average accuracy by more than 2.5\%.


翻译:联邦微调已成为一种有前景的方法,用于在边缘环境中将基础模型适应到多样的下游任务。在车联网系统中,由于客户端移动性、异构资源和间歇性连接,实现高效且低延迟的多任务适应尤为具有挑战性。本文提出了一种分层联邦微调框架,该框架协调路侧单元与车辆,以支持动态车联网场景中资源感知和移动鲁棒的学习。利用低秩适应,我们引入了一种去中心化的能量感知秩适应机制,该机制被建模为受约束的多臂老虎机问题。我们开发了一种新颖的UCB-DUAL算法,以在每任务能量预算下实现自适应探索,并达到可证明的亚线性遗憾。为评估我们的方法,我们基于真实轨迹构建了一个大规模车联网模拟器,捕捉动态参与、路侧单元切换和通信可变性。大量实验表明,我们的方法在所有基线中实现了最佳的精度-效率权衡,延迟降低超过24%,平均精度提升超过2.5%。

0
下载
关闭预览

相关内容

联邦图学习的全面数据中心化综述
专知会员服务
23+阅读 · 2025年7月23日
联邦学习中基础模型参数高效微调综述
专知会员服务
17+阅读 · 2025年5月5日
【ACL2024】DoRA:通过动态秩分布增强参数高效微调
专知会员服务
21+阅读 · 2024年5月28日
移动边缘网络中联邦学习效率优化综述
专知会员服务
50+阅读 · 2022年7月9日
专知会员服务
37+阅读 · 2021年7月8日
专知会员服务
66+阅读 · 2021年5月3日
《“边缘计算+”技术白皮书》,82页pdf
专知
11+阅读 · 2022年8月28日
高精地图在车路协同中的应用
智能交通技术
10+阅读 · 2019年7月11日
【边缘计算】边缘计算面临的问题
产业智能官
17+阅读 · 2019年5月31日
车路协同应用场景分析
智能交通技术
24+阅读 · 2019年4月13日
基于车路协同的群体智能协同
智能交通技术
10+阅读 · 2019年1月23日
边缘计算应用:传感数据异常实时检测算法
计算机研究与发展
11+阅读 · 2018年4月10日
边缘计算:万物互联时代新型计算模型
计算机研究与发展
15+阅读 · 2017年5月19日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
最新内容
美国从乌克兰无人机战争中学习经验
专知会员服务
6+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
2+阅读 · 6月21日
学习数据的几何:形状空间分析数学综述
专知会员服务
10+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
12+阅读 · 6月17日
相关资讯
《“边缘计算+”技术白皮书》,82页pdf
专知
11+阅读 · 2022年8月28日
高精地图在车路协同中的应用
智能交通技术
10+阅读 · 2019年7月11日
【边缘计算】边缘计算面临的问题
产业智能官
17+阅读 · 2019年5月31日
车路协同应用场景分析
智能交通技术
24+阅读 · 2019年4月13日
基于车路协同的群体智能协同
智能交通技术
10+阅读 · 2019年1月23日
边缘计算应用:传感数据异常实时检测算法
计算机研究与发展
11+阅读 · 2018年4月10日
边缘计算:万物互联时代新型计算模型
计算机研究与发展
15+阅读 · 2017年5月19日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员