Recent advancements in foundation models (FMs) have attracted increasing attention in the wireless communication domain. Leveraging the powerful multi-task learning capability, FMs hold the promise of unifying multiple tasks of wireless communication with a single framework. Nevertheless, existing wireless FMs face limitations in the uniformity to address multiple tasks with diverse inputs/outputs across different communication scenarios. In this paper, we propose a MUlti-taSk Environment-aware FM (MUSE-FM) with a unified architecture to handle multiple tasks in wireless communications, while effectively incorporating scenario information. Specifically, to achieve task uniformity, we propose a unified prompt-guided data encoder-decoder pair to handle data with heterogeneous formats and distributions across different tasks. Besides, we integrate the environmental context as a multi-modal input, which serves as prior knowledge of environment and channel distributions and facilitates cross-scenario feature extraction. Simulation results illustrate that the proposed MUSE-FM outperforms existing methods for various tasks, and its prompt-guided encoder-decoder pair facilitates few-shot adaptation to new task configurations. Moreover, the incorporation of environment information improves the ability to adapt to different scenarios.


翻译:近年来,基础模型在无线通信领域的发展日益受到关注。凭借其强大的多任务学习能力,基础模型有望通过单一框架统一处理无线通信中的多项任务。然而,现有的无线基础模型在处理不同通信场景下输入/输出形式各异的多种任务时,其统一性仍存在局限。本文提出一种具有统一架构的多任务环境感知基础模型,能够在有效融入场景信息的同时,处理无线通信中的多种任务。具体而言,为实现任务统一性,我们设计了一种基于提示引导的统一数据编码器-解码器对,以处理不同任务间格式与分布异构的数据。此外,我们将环境上下文作为多模态输入进行融合,其作为环境与信道分布的先验知识,有助于跨场景特征提取。仿真结果表明,所提出的MUSE-FM在多项任务上优于现有方法,且其基于提示引导的编码器-解码器对能够有效支持对新任务配置的少样本适应。此外,环境信息的融入提升了模型适应不同场景的能力。

0
下载
关闭预览

相关内容

FM 2019是正式方法欧洲(FME)组织的系列国际研讨会中的第23次,该协会是一个独立的协会,旨在促进软件开发正式方法的使用和研究。官网链接:http://formalmethods2019.inesctec.pt/?page_id=565
《在多无人机系统中利用软件定义无线电共享位置信息》
视觉通用模型综述
专知会员服务
28+阅读 · 2025年6月12日
遥感基础模型发展综述与未来设想
专知会员服务
20+阅读 · 2024年8月13日
【ICML2023】基于最优多任务插值的多模态基础模型迁移
专知会员服务
31+阅读 · 2023年4月29日
多语言语音识别声学模型建模方法最新进展
专知会员服务
36+阅读 · 2022年2月7日
机器学习在信道建模中的应用综述
专知会员服务
29+阅读 · 2021年3月16日
专访俞栋:多模态是迈向通用人工智能的重要方向
AI科技评论
26+阅读 · 2019年9月9日
这可能是「多模态机器学习」最通俗易懂的介绍
计算机视觉life
113+阅读 · 2018年12月20日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
24+阅读 · 2011年12月31日
VIP会员
相关VIP内容
《在多无人机系统中利用软件定义无线电共享位置信息》
视觉通用模型综述
专知会员服务
28+阅读 · 2025年6月12日
遥感基础模型发展综述与未来设想
专知会员服务
20+阅读 · 2024年8月13日
【ICML2023】基于最优多任务插值的多模态基础模型迁移
专知会员服务
31+阅读 · 2023年4月29日
多语言语音识别声学模型建模方法最新进展
专知会员服务
36+阅读 · 2022年2月7日
机器学习在信道建模中的应用综述
专知会员服务
29+阅读 · 2021年3月16日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
24+阅读 · 2011年12月31日
Top
微信扫码咨询专知VIP会员