Dense wireless deployments face co-channel interference from heterogeneous sources that vary across base stations (gNBs in 5G). While centralized DNN-based approaches to interference mitigation have shown strong performance, deploying and adapting these models across distributed gNBs via federated learning (FL) requires transmitting full model updates each round, resulting in a cost that scales poorly with network density. Parameter-efficient fine-tuning (PEFT) reduces this burden by training and communicating only a small fraction of parameters. While traditionally applied to large foundation models, we adapt Low-Rank Adaptation (LoRA) to temporal convolutional neural network architectures for interference suppression, placing low-rank adapters on the dilated convolutional layers. This placement enables LoRA to learn local interference-specific temporal patterns, while the frozen backbone retains the shared signal extraction capability. These lightweight adapters (5.1\% of backbone parameters) are federated via FedAvg, reducing per-round communication by up to 20$\times$ compared to federating full model updates. We evaluate various PEFT strategies across simulated distributed gNBs with non-IID interference environments. Results show that local LoRA achieves 12.8\% average BER improvement over the frozen backbone, while Fed-LoRA achieves comparable performance (12.6\%). Fed-LoRA outperforms local adaptation on data-starved nodes where federated knowledge transfer compensates for limited samples, all while avoiding the catastrophic degradation observed with full-model FedAvg under heterogeneous conditions.


翻译:密集无线部署面临来自异构源的共信道干扰,这些干扰源在不同基站(5G中的gNB)间存在差异。尽管基于集中式深度神经网络的干扰抑制方法展现出强大性能,但通过联邦学习在分布式gNB间部署与适配这些模型需每轮传输完整模型更新,导致成本随网络密度增大而急剧上升。参数高效微调通过仅训练和通信少量参数来减轻这一负担。虽然该方法传统上应用于大型基础模型,我们创新性地将低秩适配适配到用于干扰抑制的时域卷积神经网络架构中,在扩张卷积层上部署低秩适配器。这种部署使LoRA能学习局部干扰特有的时域模式,而冻结的主干网络保留共享信号提取能力。这些轻量级适配器(占主干网络参数的5.1%)通过FedAvg进行联邦学习,相比完整模型更新的联邦化,每轮通信量降低达20倍。我们在具有非独立同分布干扰环境的模拟分布式gNB上评估了多种PEFT策略。结果表明,本地LoRA相比冻结主干网络实现平均误码率提升12.8%,而Fed-LoRA达到可比性能(12.6%)。在数据匮乏节点上,Fed-LoRA通过联邦知识迁移补偿有限样本,其性能优于本地适配,同时避免了异构条件下完整模型FedAvg出现的灾难性退化。

0
下载
关闭预览

相关内容

【CMU博士论文】通信高效且差分隐私的优化方法
专知会员服务
16+阅读 · 2025年8月2日
异构联邦学习在无人系统中的研究综述
专知会员服务
12+阅读 · 2025年5月25日
【MIT博士论文】联邦学习实用方法,143页pdf
专知会员服务
66+阅读 · 2022年9月24日
移动边缘网络中联邦学习效率优化综述
专知会员服务
50+阅读 · 2022年7月9日
6G中联邦学习的应用、挑战和机遇
专知会员服务
53+阅读 · 2022年3月14日
联邦学习安全与隐私保护研究综述
专知
12+阅读 · 2020年8月7日
联邦学习或将助力IoT走出“数据孤岛”?
中国计算机学会
20+阅读 · 2019年3月16日
【边缘智能】边缘计算驱动的深度学习加速技术
产业智能官
20+阅读 · 2019年2月8日
边缘计算应用:传感数据异常实时检测算法
计算机研究与发展
11+阅读 · 2018年4月10日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2012年12月31日
VIP会员
相关主题
最新内容
重新思考无人机时代的生存能力
专知会员服务
4+阅读 · 今天7:44
装甲突击旅:现代战争思考、战斗与组织
专知会员服务
4+阅读 · 今天7:28
在人工智能加速决策环境中拓展OODA循环
专知会员服务
4+阅读 · 今天7:18
军事欺骗:供作战战术指挥官使用的工具
专知会员服务
4+阅读 · 今天7:03
综述 | 世界动作模型:少做梦,多行动
专知会员服务
5+阅读 · 6月23日
美以伊冲突:无人机与人工智能的运用
专知会员服务
10+阅读 · 6月23日
《特种部队在透明战场中的生存力》最新报告
专知会员服务
5+阅读 · 6月23日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员