Brain-computer interfaces aim to decode naturalistic stimuli from neural signals, yet most progress to date has focused on vision and language. In this article, we study a more challenging but far less explored setting, EEG-to-music reconstruction, where signals are weak, distributed, and highly susceptible to noise and channel variability. Our central finding is that early channel mixing destroys weak but discriminative EEG signals. To address this, we propose a channel-oriented design with three key components. Specifically, channel-wise tokenization treats each electrode as an explicit token to retain spatially localized neural evidence, channel-wise multi-view self-distillation enforces consistency across temporal crops and random channel subsets to learn robust and distributed representations, and channel-wise data augmentation introduces structured channel dropout to improve invariance to noise, artifacts, and missing electrodes. Together, these components preserve weak yet informative signals across channels and enable stable alignment to a semantic music representation space. We integrate this channel-oriented design within an encoding-alignment-decoding pipeline for EEG-to-music reconstruction. Theoretically, we characterize when preserving channel-level structure leads to improved alignment. Empirically, we compare with a range of state-of-the-art baselines and demonstrate consistent and significant performance gains.


翻译:脑机接口旨在从神经信号中解码自然刺激,但迄今为止的进展主要集中于视觉和语言领域。本文研究了一个更具挑战性却远未充分探索的场景——脑电信号到音乐的重建,其中信号微弱、分布广泛且极易受噪声和通道变异性影响。我们的核心发现是:早期通道混合会破坏微弱但具有判别性的脑电信号。为解决这一问题,我们提出了一种面向通道的设计方案,包含三个关键组件。具体而言,逐通道令牌化将每个电极视为显式令牌以保留空间局部的神经证据;逐通道多视角自蒸馏通过时间裁剪和随机通道子集强制一致性约束,从而学习鲁棒且分布式的表示;逐通道数据增强引入结构化通道丢弃以提升对噪声、伪迹和缺失电极的鲁棒性。这些组件共同保留跨通道的微弱信息信号,并实现与语义音乐表示空间的稳定对齐。我们将该面向通道的设计集成到编码-对齐-解码流水线中,用于脑电信号到音乐的重建。理论上,我们刻画了保留通道级结构能够改善对齐的条件;实验上,我们与一系列最先进基线方法进行比较,并展示了持续且显著的性能提升。

0
下载
关闭预览

相关内容

脑机接口技术和应用
专知会员服务
23+阅读 · 2024年12月28日
【斯坦福博士论文】建模用于脑机接口的电气神经刺激
专知会员服务
16+阅读 · 2024年12月25日
脑网络通信综述:概念、模型和应用
专知会员服务
34+阅读 · 2023年9月7日
脑机接口研究综述
专知会员服务
78+阅读 · 2023年4月18日
自适应脑机接口研究综述
专知会员服务
42+阅读 · 2022年11月27日
语音信号处理:基本方法与前沿技术
AINLP
10+阅读 · 2020年10月14日
三维重建 3D reconstruction 有哪些实用算法?
极市平台
13+阅读 · 2020年2月23日
计算机视觉方向简介 | 三维重建技术概述
计算机视觉life
26+阅读 · 2019年6月13日
书单 | 语音研究进阶指南
微软研究院AI头条
12+阅读 · 2019年3月22日
专访 | Recurrent AI:呼叫系统的「变废为宝」
机器之心
12+阅读 · 2018年11月28日
【AAAI专题】论文分享:以生物可塑性为核心的类脑脉冲神经网络
中国科学院自动化研究所
15+阅读 · 2018年1月23日
国家自然科学基金
0+阅读 · 2016年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 5月13日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
4+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
6+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
3+阅读 · 6月17日
相关VIP内容
脑机接口技术和应用
专知会员服务
23+阅读 · 2024年12月28日
【斯坦福博士论文】建模用于脑机接口的电气神经刺激
专知会员服务
16+阅读 · 2024年12月25日
脑网络通信综述:概念、模型和应用
专知会员服务
34+阅读 · 2023年9月7日
脑机接口研究综述
专知会员服务
78+阅读 · 2023年4月18日
自适应脑机接口研究综述
专知会员服务
42+阅读 · 2022年11月27日
相关基金
国家自然科学基金
0+阅读 · 2016年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员