网易首页 > 网易号 > 正文 申请入驻

ICLR 2026 | NeuroAdapter:直接从大脑信号“画”出你所见

0
分享至



如果人类的大脑能直接连接打印机,将我们脑海中闪过的画面实时还原出来,这个世界会变成什么样?

这听起来像是在致敬《盗梦空间》,一项名为 NeuroAdapter 的视觉解码框架正让这一幕变得触手可及。

来自哥伦比亚大学研究团队的最新成果表明,我们不仅能从 fMRI(功能磁共振成像)信号中高保真地重建视觉图像,还能第一次看清:到底是哪块脑区在“指挥”这场艺术创作。



01 告别“中间商”:脑信号直接转化

传统的脑电图像重建就像玩“传声筒”游戏:先要把大脑信号翻译成一段文字或中间特征,再交给 AI 去画图。 痛点很明显:信息在层层转手间失真了,而且你根本分不清哪些细节来自大脑,哪些又是 AI 自己的瞎编。



左图:典型的两阶段解码流程首先将大脑活动映射至中间特征空间(例如 CLIP/DINO),随后利用这些嵌入向量来引导生成模型。右图:我们的端到端方法直接以大脑活动为条件来驱动潜在扩散模型,从而实现了对图像空间与大脑空间中生成动态的解读。

NeuroAdapter 选择了最硬核的路线:端到端直连。它舍弃了冗余的中间特征空间,直接让大脑表征去“约束”潜在扩散模型(LDM)的生成过程。下图为NeuroAdapter 训练流程。皮层分区 + 线性映射 + 扩散控制。通过将脑皮层顶点数据直接映射为“大脑标记(tokens)”,AI 就像直接读取了大脑的底层逻辑,重构质量直接比肩目前最前沿的复杂算法。



(a) fMRI 数据采集范式;(b) 皮层分区;(c) 基于分区的线性映射,将顶点数据映射为大脑表征标记(tokens);以及 (d) 利用这些标记对潜在扩散模型(Latent Diffusion Model)进行条件控制,以实现图像重构。

该框架的另一个重要组件是大脑编码器。受 Kneeland 等人的启发,研究人员使用了一个基于相同 fMRI 图像训练数据集训练的全脑编码器,以在评估过程中识别最佳解码刺激。



(a) 基于大脑编码器的图像选择示例:针对一个 NSD 测试样本,利用预测的 fMRI 响应与实测的 fMRI 响应之间的皮尔逊相关系数进行图像筛选。(b) 红色曲线:由解码图像预测出的大脑活动与实测大脑活动之间的相关性。蓝色曲线:针对测试集中的刺激图像所预测的大脑活动与对应的 fMRI 响应之间的相关性。

02 IBBI 框架:给大脑解码装上监测器

光能画出来还不够,科学家更想知道“为什么”。 研究团队引入了一种“图像—大脑双向可解释性框架”(IBBI),通过分析扩散去噪过程各阶段的交叉注意力模式,来揭示不同皮层脑区如何影响生成过程的演进轨迹。本研究不仅突显了端到端“大脑—图像”重建技术的巨大潜力,更为实现可解释的神经解码确立了一条可行路径。

通过监控扩散去噪过程中的“交叉注意力模式”,IBBI 就像一台高速摄影机,捕捉到了惊人的动态:

早期阶段:图像还是一团混沌时,大脑的注意力是“漫射”的,在广泛搜寻结构。

中后期阶段:随着轮廓显现,注意力迅速“收敛”,精准锁定在图像的核心内容上。

团队甚至给脑区排了序,划分出五个层级。 这种可视化方案让我们一眼就能识别出谁是主导生成的“高影响力脑区”,谁又是打酱油的“次要脑区”。



03 因果扰动实验:遮住“高级语义区”会怎样?

为了验证这套逻辑的可靠性,研究者探索了其“因果扰动”。 他们尝试对特定的感兴趣区域(ROI)进行遮蔽:

遮掉低层级脑区:生成的图像语义基本没变,就像少了点无关紧要的噪点。

遮掉高层级脑区:图像瞬间崩塌,内容发生彻底改变!



模型对比。在八项图像质量指标上,对现有方法与本方法(NeuroAdapter)的解码性能进行了对比。为确保对比的公平性,图中结果均以相对于“特定受试者的 ImageNet 检索基线”的相对提升幅度形式呈现。



图示为去噪过程中平均脑区贡献向量在皮层表面的投影示例。黄色区域表示在去噪过程中影响较大的脑区,蓝色区域则表示影响较小的脑区。

实验数据证明,NeuroAdapter 在高级语义指标上表现尤为强悍,甚至在没有独立低级通路的情况下,依然跑出了极其扎实的性能指标。

04 未来:如何从形似走向神似

论文团队在讨论中提到一个深刻的观点:目前的脑解码基准测试已经快“饱和”了。 很多时候得分高只是因为 AI 模型更强,而不是我们更懂大脑。

NeuroAdapter 的意义在于,它提供了一个“神经活动—生成过程”的交互界面。当我们能以双向互联的方式将脑活动与图像特征紧密耦合,脑机接口将不再是一个黑盒,而是一条通往理解人类意识的透明路径。

下一步,团队将致力于解决扩散模型自带的随机性波动,让“大脑画笔”更加稳定、一致。

也许不久后的未来,我们分享梦境的方式,将不再是苍白的文字,而是一张精准重构的快照。



脑机接口社区是国内首家脑机接口(BCI)产业服务平台、国内脑机接口新媒体开创者与引领者。主要为企业、科研团队、投资机构和从业者提供以下服务:

宣传报道:图文、短视频、直播形式报道企业动态、技术解读、产品介绍等内容,提升曝光和行业影响力。

资源对接:根据需求匹配资本、供应链、临床机构、渠道方等资源,完成真实对接,促进合作。

成果转化:协助技术团队寻找产业方、投资人及落地场景,推动技术到产品的转化。

活动策划执行:承接线上线下路演、沙龙、论坛等活动的策划与执行。

其他定制需求:包括报告定制、市场调研、人才招聘支持等个性化服务。


合作洽谈,请联系微信:ZuoLeiLeiya

(备注:姓名-单位-合作)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
曹可凡公开发文,出手揭开刘翔私下人品,其实孙海平早有爆料

曹可凡公开发文,出手揭开刘翔私下人品,其实孙海平早有爆料

阿銍武器装备科普
2026-09-16 05:24:52
中央明确:公职人员出差伙食费、交通费、住宿费、会议费标准

中央明确:公职人员出差伙食费、交通费、住宿费、会议费标准

新理财杂志
2026-09-17 17:32:35
不服就干!韩国打响反华第一枪,通告全球,妄想掐断中方退路?

不服就干!韩国打响反华第一枪,通告全球,妄想掐断中方退路?

影孖看世界
2026-09-16 22:38:51
北美足联冠军杯夺冠,迈阿密国际荣获队史第四座冠军奖杯

北美足联冠军杯夺冠,迈阿密国际荣获队史第四座冠军奖杯

懂球帝
2026-09-17 10:22:10
可抑制儿童近视,日本参天制药这款滴眼液已申请在中国上市

可抑制儿童近视,日本参天制药这款滴眼液已申请在中国上市

风向观察
2026-09-15 19:32:43
央视军事通报,又一例策反手段被曝!这起间谍案太经典,防不胜防

央视军事通报,又一例策反手段被曝!这起间谍案太经典,防不胜防

萧狡科普解说
2026-09-17 13:41:49
意外!赵松源和蹇韬离开国足现身新去处挑大梁,赵松源为此发声

意外!赵松源和蹇韬离开国足现身新去处挑大梁,赵松源为此发声

振刚说足球
2026-09-17 09:04:38
老公大我11岁,圆房前他问我怕不怕,我说不怕他轻轻吻下我额头

老公大我11岁,圆房前他问我怕不怕,我说不怕他轻轻吻下我额头

小影的娱乐
2026-09-17 13:54:50
印度耕地27亿亩,年产3.7亿吨粮食,我国耕地19.18亿亩,年产多少

印度耕地27亿亩,年产3.7亿吨粮食,我国耕地19.18亿亩,年产多少

抽象派大师
2026-09-17 14:15:46
戴安娜王妃死因再掀风波!弟弟新书爆料查尔斯曾说“她很快会被遗忘”,白金汉宫强硬回应

戴安娜王妃死因再掀风波!弟弟新书爆料查尔斯曾说“她很快会被遗忘”,白金汉宫强硬回应

粉红冻奶的观影日记
2026-09-17 18:35:10
王尔晴就算再优秀,也对不起敬一丹,因为她早就步入康辉的后尘

王尔晴就算再优秀,也对不起敬一丹,因为她早就步入康辉的后尘

林轻吟
2026-09-15 19:21:51
当场掀桌子?美专家逼台湾打仗,台军退役军官一句话怼到差点动手

当场掀桌子?美专家逼台湾打仗,台军退役军官一句话怼到差点动手

北海史记
2026-09-16 10:59:11
“10岁就有九个洞了!”小学女孩早熟视频火了,中学生都看不下去

“10岁就有九个洞了!”小学女孩早熟视频火了,中学生都看不下去

妍妍教育日记
2026-09-11 15:24:51
美众议院监督委员会41比0通过认定莱昂·布莱克藐视国会

美众议院监督委员会41比0通过认定莱昂·布莱克藐视国会

追星雷达站
2026-09-17 03:36:27
申花vs淡滨尼流浪者:双外援PK六外援,特谢拉、阿苏埃首发

申花vs淡滨尼流浪者:双外援PK六外援,特谢拉、阿苏埃首发

懂球帝
2026-09-17 18:54:17
李乃文带妻子法国购物,2人5个孩子!怪不得劝刘宇宁王勉早婚早育

李乃文带妻子法国购物,2人5个孩子!怪不得劝刘宇宁王勉早婚早育

阿库财经
2026-06-21 09:44:05
S妈赴金宝山探望大S,风雨寄哀思,言语间满是母亲的牵挂

S妈赴金宝山探望大S,风雨寄哀思,言语间满是母亲的牵挂

老吴教育课堂
2026-09-17 09:03:46
斯大林接到志愿军伤亡惨重的密电后,脸色骤变,当即怒令部下:立刻将36个师的武器装备装车,火速运往彭德怀前线。

斯大林接到志愿军伤亡惨重的密电后,脸色骤变,当即怒令部下:立刻将36个师的武器装备装车,火速运往彭德怀前线。

人生录
2026-09-12 10:37:44
喜讯!西甲俱乐部官宣签约17岁的中国新星,未来或能比肩武磊

喜讯!西甲俱乐部官宣签约17岁的中国新星,未来或能比肩武磊

懂个球
2026-09-17 00:00:46
61岁蒋雯丽现状:曾定居英国,如今回国看病,衰老许多不敢认

61岁蒋雯丽现状:曾定居英国,如今回国看病,衰老许多不敢认

动物奇奇怪怪
2026-09-12 00:06:44
2026-09-17 19:32:49
脑机接口社区 incentive-icons
脑机接口社区
关注脑机前沿,分享脑机技术
397文章数 32关注度
往期回顾 全部

科技要闻

影视飓风Tim反掰iPhoneDuo被质疑

头条要闻

100岁老人每天睡觉超18个小时:顿顿吃肉 每天喝冰糖水

头条要闻

100岁老人每天睡觉超18个小时:顿顿吃肉 每天喝冰糖水

体育要闻

逆转朝鲜,国足亚运队“啃老”过关

娱乐要闻

rapper赵涛恋情曝光!带甜馨妈妈散步

财经要闻

缺钱的追觅 隐藏的债务?

汽车要闻

20秒一键纯平大床+华为全栈智驾 启境GX7官宣9月23日上市

态度原创

健康
旅游
本地
时尚
公开课

剧烈头痛伴呕吐,警惕脑动脉瘤破裂

旅游要闻

藏在重庆市区的云端梯田,已变成金黄的海洋!

本地新闻

不止胖东来!许昌藏着半部三国史

初秋衣服不用买得太多,准备几件针织衫,温柔大方又显气质

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版