网易首页 > 网易号 > 正文 申请入驻

ICLR 2026 | NeuroAdapter:直接从大脑信号“画”出你所见

0
分享至



如果人类的大脑能直接连接打印机,将我们脑海中闪过的画面实时还原出来,这个世界会变成什么样?

这听起来像是在致敬《盗梦空间》,一项名为 NeuroAdapter 的视觉解码框架正让这一幕变得触手可及。

来自哥伦比亚大学研究团队的最新成果表明,我们不仅能从 fMRI(功能磁共振成像)信号中高保真地重建视觉图像,还能第一次看清:到底是哪块脑区在“指挥”这场艺术创作。



01 告别“中间商”:脑信号直接转化

传统的脑电图像重建就像玩“传声筒”游戏:先要把大脑信号翻译成一段文字或中间特征,再交给 AI 去画图。 痛点很明显:信息在层层转手间失真了,而且你根本分不清哪些细节来自大脑,哪些又是 AI 自己的瞎编。



左图:典型的两阶段解码流程首先将大脑活动映射至中间特征空间(例如 CLIP/DINO),随后利用这些嵌入向量来引导生成模型。右图:我们的端到端方法直接以大脑活动为条件来驱动潜在扩散模型,从而实现了对图像空间与大脑空间中生成动态的解读。

NeuroAdapter 选择了最硬核的路线:端到端直连。它舍弃了冗余的中间特征空间,直接让大脑表征去“约束”潜在扩散模型(LDM)的生成过程。下图为NeuroAdapter 训练流程。皮层分区 + 线性映射 + 扩散控制。通过将脑皮层顶点数据直接映射为“大脑标记(tokens)”,AI 就像直接读取了大脑的底层逻辑,重构质量直接比肩目前最前沿的复杂算法。



(a) fMRI 数据采集范式;(b) 皮层分区;(c) 基于分区的线性映射,将顶点数据映射为大脑表征标记(tokens);以及 (d) 利用这些标记对潜在扩散模型(Latent Diffusion Model)进行条件控制,以实现图像重构。

该框架的另一个重要组件是大脑编码器。受 Kneeland 等人的启发,研究人员使用了一个基于相同 fMRI 图像训练数据集训练的全脑编码器,以在评估过程中识别最佳解码刺激。



(a) 基于大脑编码器的图像选择示例:针对一个 NSD 测试样本,利用预测的 fMRI 响应与实测的 fMRI 响应之间的皮尔逊相关系数进行图像筛选。(b) 红色曲线:由解码图像预测出的大脑活动与实测大脑活动之间的相关性。蓝色曲线:针对测试集中的刺激图像所预测的大脑活动与对应的 fMRI 响应之间的相关性。

02 IBBI 框架:给大脑解码装上监测器

光能画出来还不够,科学家更想知道“为什么”。 研究团队引入了一种“图像—大脑双向可解释性框架”(IBBI),通过分析扩散去噪过程各阶段的交叉注意力模式,来揭示不同皮层脑区如何影响生成过程的演进轨迹。本研究不仅突显了端到端“大脑—图像”重建技术的巨大潜力,更为实现可解释的神经解码确立了一条可行路径。

通过监控扩散去噪过程中的“交叉注意力模式”,IBBI 就像一台高速摄影机,捕捉到了惊人的动态:

早期阶段:图像还是一团混沌时,大脑的注意力是“漫射”的,在广泛搜寻结构。

中后期阶段:随着轮廓显现,注意力迅速“收敛”,精准锁定在图像的核心内容上。

团队甚至给脑区排了序,划分出五个层级。 这种可视化方案让我们一眼就能识别出谁是主导生成的“高影响力脑区”,谁又是打酱油的“次要脑区”。



03 因果扰动实验:遮住“高级语义区”会怎样?

为了验证这套逻辑的可靠性,研究者探索了其“因果扰动”。 他们尝试对特定的感兴趣区域(ROI)进行遮蔽:

遮掉低层级脑区:生成的图像语义基本没变,就像少了点无关紧要的噪点。

遮掉高层级脑区:图像瞬间崩塌,内容发生彻底改变!



模型对比。在八项图像质量指标上,对现有方法与本方法(NeuroAdapter)的解码性能进行了对比。为确保对比的公平性,图中结果均以相对于“特定受试者的 ImageNet 检索基线”的相对提升幅度形式呈现。



图示为去噪过程中平均脑区贡献向量在皮层表面的投影示例。黄色区域表示在去噪过程中影响较大的脑区,蓝色区域则表示影响较小的脑区。

实验数据证明,NeuroAdapter 在高级语义指标上表现尤为强悍,甚至在没有独立低级通路的情况下,依然跑出了极其扎实的性能指标。

04 未来:如何从形似走向神似

论文团队在讨论中提到一个深刻的观点:目前的脑解码基准测试已经快“饱和”了。 很多时候得分高只是因为 AI 模型更强,而不是我们更懂大脑。

NeuroAdapter 的意义在于,它提供了一个“神经活动—生成过程”的交互界面。当我们能以双向互联的方式将脑活动与图像特征紧密耦合,脑机接口将不再是一个黑盒,而是一条通往理解人类意识的透明路径。

下一步,团队将致力于解决扩散模型自带的随机性波动,让“大脑画笔”更加稳定、一致。

也许不久后的未来,我们分享梦境的方式,将不再是苍白的文字,而是一张精准重构的快照。



脑机接口社区是国内首家脑机接口(BCI)产业服务平台、国内脑机接口新媒体开创者与引领者。主要为企业、科研团队、投资机构和从业者提供以下服务:

宣传报道:图文、短视频、直播形式报道企业动态、技术解读、产品介绍等内容,提升曝光和行业影响力。

资源对接:根据需求匹配资本、供应链、临床机构、渠道方等资源,完成真实对接,促进合作。

成果转化:协助技术团队寻找产业方、投资人及落地场景,推动技术到产品的转化。

活动策划执行:承接线上线下路演、沙龙、论坛等活动的策划与执行。

其他定制需求:包括报告定制、市场调研、人才招聘支持等个性化服务。


合作洽谈,请联系微信:ZuoLeiLeiya

(备注:姓名-单位-合作)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
又是复仇之战!中国男篮12年爆冷不敌日本刷新亚运会最差战绩

又是复仇之战!中国男篮12年爆冷不敌日本刷新亚运会最差战绩

狼叔评论
2026-09-16 20:32:14
俄兵单日损失破纪录,美通过最严厉对俄制裁法案

俄兵单日损失破纪录,美通过最严厉对俄制裁法案

名人苟或
2026-09-17 14:11:15
土耳其新历史教科书,竟公然篡改中国地理,想给谁上眼药?

土耳其新历史教科书,竟公然篡改中国地理,想给谁上眼药?

罗富强说
2026-09-17 11:55:59
亚运会大冷门!中国女足1-1丢分,首次不胜弱旅,也无缘提前出线

亚运会大冷门!中国女足1-1丢分,首次不胜弱旅,也无缘提前出线

侃球熊弟
2026-09-17 14:56:36
高晓松要拍《林徽因传》,被梁再冰警告:“你要是拍我妈和徐志摩的感情线,我告你破产!”高晓松满脸不快

高晓松要拍《林徽因传》,被梁再冰警告:“你要是拍我妈和徐志摩的感情线,我告你破产!”高晓松满脸不快

背包旅行
2026-09-15 10:01:19
中国免签捅马蜂窝了?韩国近6万人突然联署,要求叫停中国团客免签,发生了什么?

中国免签捅马蜂窝了?韩国近6万人突然联署,要求叫停中国团客免签,发生了什么?

青青子衿
2026-09-16 16:58:57
借壳6年造假6年,一家四口套现十几亿,国资接盘才发现踩了大坑

借壳6年造假6年,一家四口套现十几亿,国资接盘才发现踩了大坑

青眼财经
2026-09-14 14:09:42
陈建州还原发病过程「像大石压胸」! 王力宏、唐志中现身医院暖陪伴

陈建州还原发病过程「像大石压胸」! 王力宏、唐志中现身医院暖陪伴

ETtoday星光云
2026-09-17 18:11:02
已击毙!乌克兰宣布重大战果!

已击毙!乌克兰宣布重大战果!

故事终将光明磊落
2026-09-17 08:13:53
实锤了!隔壁班同学证实杨景媛确实在西班牙读博了,网友:让她无处可逃

实锤了!隔壁班同学证实杨景媛确实在西班牙读博了,网友:让她无处可逃

小徐讲八卦
2026-09-17 14:59:38
“中国人不来也没关系”?打脸了!

“中国人不来也没关系”?打脸了!

环球时报国际
2026-09-17 17:15:36
敬一丹女儿王尔晴现身,在追悼会现场发言!王梓木站一旁神情哀伤

敬一丹女儿王尔晴现身,在追悼会现场发言!王梓木站一旁神情哀伤

娱乐圈圈圆
2026-09-17 15:20:29
南方医科大博士生跳楼背后的秘密

南方医科大博士生跳楼背后的秘密

现实的声音
2026-09-17 11:44:24
首批上手反馈令人失望?iPhone Duo接连翻车,轻掰机身外屏出现闪屏

首批上手反馈令人失望?iPhone Duo接连翻车,轻掰机身外屏出现闪屏

泡泡网
2026-09-17 10:11:45
天塌了!女子捏废2008年金福娃,吐槽像纸皮。人果然赚不到认知以外的钱!

天塌了!女子捏废2008年金福娃,吐槽像纸皮。人果然赚不到认知以外的钱!

品牌新
2026-09-17 12:50:00
宪法规定:中国公民享有人身自由权利。

宪法规定:中国公民享有人身自由权利。

abc350514
2026-09-13 16:14:58
快讯!印尼认栽了!

快讯!印尼认栽了!

故事终将光明磊落
2026-09-17 13:49:41
“你想毁掉自己的职业生涯吗?”

“你想毁掉自己的职业生涯吗?”

中国新闻周刊
2026-09-17 16:50:58
台州100岁阿公每天睡觉超18个小时!顿顿不离肉,一个月冰糖要吃好几斤!女儿透露长寿秘诀

台州100岁阿公每天睡觉超18个小时!顿顿不离肉,一个月冰糖要吃好几斤!女儿透露长寿秘诀

鲁中晨报
2026-09-17 16:27:03
苹果新品官宣,9月18日,正式发售

苹果新品官宣,9月18日,正式发售

科技堡垒
2026-09-17 11:07:17
2026-09-17 18:59:00
脑机接口社区 incentive-icons
脑机接口社区
关注脑机前沿,分享脑机技术
397文章数 32关注度
往期回顾 全部

科技要闻

影视飓风Tim反掰iPhoneDuo被质疑

头条要闻

100岁老人每天睡觉超18个小时:顿顿吃肉 每天喝冰糖水

头条要闻

100岁老人每天睡觉超18个小时:顿顿吃肉 每天喝冰糖水

体育要闻

逆转朝鲜,国足亚运队“啃老”过关

娱乐要闻

rapper赵涛恋情曝光!带甜馨妈妈散步

财经要闻

缺钱的追觅 隐藏的债务?

汽车要闻

20秒一键纯平大床+华为全栈智驾 启境GX7官宣9月23日上市

态度原创

游戏
家居
本地
艺术
公开课

《火焰纹章》新作只给一个存档!一切为了玩家体验

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

不止胖东来!许昌藏着半部三国史

艺术要闻

欧阳询极不常见的一幅字,这才是“楷圣”水准,比印刷体高级太多

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版