网易首页 > 网易号 > 正文 申请入驻

Nat Human Behav|觉得“做得好”也是一种奖励:内在奖赏如何改变视觉资源分配

0
分享至


● 认知神经科学前沿文献分享

论文信息:Intrinsic rewards guide visual resource allocation via reinforcement learning

发表时间:2026-10-01

发表期刊:Nature Human Behaviour




奖赏和视觉资源分配

外部奖赏与视觉资源分配:先前的研究已知,与金钱或食物等外部奖赏(external rewards)挂钩的视觉刺激会获得优先的注意力和视觉工作记忆资源分配。

研究空白——内在奖赏的作用:人类在日常生活中很多行为缺乏直接的外部奖赏。大脑内部产生的“胜任感”或对准确性的主观自信(subjective confidence / perceived competence)是否可以作为一种内在奖赏(intrinsic reward),并像外部奖赏一样影响强化学习(reinforcement learning, RL),进而偏置视觉资源的分配呢?

基于此,来自剑桥大学(University of Cambridge)的研究团队,设计了一系列的视觉实验,并结合计算模型,对如下两个具体问题进行了研究:

第一,内在奖赏是否会改变视觉资源的分配?

第二,这种基于奖赏的资源分配策略,是否符合总体误差最小化/收益最大化的“最优策略”(optimal allocation strategy)?



实验设计与结果

研究团队设计了一系列运动方向再现任务(analogue report motion reproduction task),通过操控不同条件来探索外部与内在奖赏对视觉资源分配的影响。

● 实验 1:外部奖赏操控(验证基线效应)

方法:呈现两种颜色的运动刺激(random dot kinematograms, RDK),若被试的再现误差 $< 50^\circ$,某种颜色可获得高分奖赏(15分),另一种颜色获得低分奖赏(5分)。

结果:被试对高奖赏颜色的再现误差(mean absolute deviation, MAD)显著更小,说明高奖赏颜色获得了更多视觉编码资源。

最优策略对比:被试对高/低奖赏刺激的资源分配比(高奖赏∶低奖赏)为 1∶0.695(倾向高奖赏)。但这比达到得分最大化的“最优分配”(1∶0.34)更为平均。


Fig. 1 中,作者展示了实验1对外部奖赏的操控;结果显示,被试对高奖赏颜色的再现误差更小,资源分配比(高奖赏∶低奖赏)为 1∶0.695,比最优分配(1∶0.34)更为平均。

● 实验 2:感知准确度操控(通过欺骗性反馈操控内在奖赏)

方法:不给予积分/金钱等外部奖赏,但对两种颜色刺激的试次反馈进行系统性操控——对一种颜色故意缩小显示误差(minified error,使被试感觉更简单),对另一种颜色放大显示误差(magnified error,使被试感觉更难)。

结果:

实验 2a(双刺激同时呈现):被试对“缩小反馈误差(感觉更易)”的真实目标方向再现更精确(MAD 显著更低)。

实验 2b(双刺激顺序呈现):当消除了编码阶段的注意竞争后,两者的再现精度差异消失,提示这一偏置主要来自编码阶段的注意竞争;竞争减弱后,不再按感知难度偏好编码。

实验 2c(与真实反馈对比):结果支持:只缩小误差就足以使资源向该刺激倾斜;而放大误差的刺激并不比真实反馈的刺激更差。

反常的非最优现象:若要最小化整体反馈误差,最优策略应当把资源多给“感觉更难(误差被放大)”的一方。按 minified(更易)∶magnified(更难)计,最优分配为 0.52∶1。然而被试的分配方向与最优策略相反,将更多资源(1.18∶1)投向了本就“表现更好”的刺激,总体误差高于最优策略的预测。


Fig. 2 中,作者展示了实验2a对感知准确度的操控;结果显示,被试对缩小反馈误差的刺激再现更精确,并将更多资源(minified∶magnified = 1.18∶1)投向该刺激,与最优策略的方向相反。

● 实验 3:客观估计难度操控(无反馈,纯粹基于内在自信)

方法:不提供任何反馈。在大部分试次中,两种颜色的刺激分别对应高相干度(85%,简单)和低相干度(45%,困难);在少量试次中,两种颜色的刺激相干度相同(65%,难度一致)。

结果:

在难度一致的测试试次中,被试对历史上总是较简单(高相干度)的那种颜色表现出更高的再现精度。

神经群体编码(归一化)模型估计显示,被试的资源分配比(简单∶困难)约为 1.76∶1。

再次偏离最优:为了最小化总体估计误差,最优策略应当是平均分配资源(1∶1),而被试对“简单”刺激的过分倾斜再次使总体误差高于最优策略的预测。


Fig. 4 中(对应实验3),作者展示了对客观估计难度的操控;结果显示,在难度一致的测试试次中,被试对历史上较简单的颜色再现精度更高,资源分配比(简单∶困难)约为 1.76∶1,而最优分配为 1∶1。



群体编码-强化学习计算模型

为阐明上述行为现象的计算机制,研究者将神经群体编码(归一化)模型(Normalization model)与强化学习规则结合:

第一,群体归一化编码:刺激由具有 von Mises 调谐曲线的神经元群体编码,总神经发放率(总增益)保持恒定,增益因子 $\alpha$ 控制两个刺激间分配的比例。

第二,复合奖赏价值更新(relative value updating)机制:定义逐个试次的相对价值 $v_t = (1-\gamma) v_{t-1} + \Delta_t$,其中 $\gamma$ 是泄漏系数,决定过去奖赏保留多少。复合奖赏 $\Delta_t$ 整合了外部奖赏($r_{\text{ext}}$)、反馈误差($\epsilon_{\text{fb}}$)以及内部信心估计所对应的内在奖赏($\hat{\kappa}_r$)。

第三,从相对价值到神经资源的映射:相对价值通过指数变换转化为下一试次的增益因子 $\alpha_{t+1} = e^{2v_t}$。

第四,拟合表现:完全不基于奖赏、仅凭行为误差自由拟合得到的分配参数 $\alpha_{\text{observed}}$,与纯粹基于奖赏积累历史推算出的 $\alpha_{\text{predicted}}$ 高度相关($r = 0.833 \sim 0.976$),且能够成功预测试次间行为误差的起伏。


Fig. 5 中,作者展示了强化学习模型示意:神经资源分配、相对价值更新、泄漏与奖赏权重对资源分配轨迹的影响;结果显示,模型把外部奖赏、反馈误差和内部信心估计所对应的内在奖赏整合为相对价值,再映射为下一试次的增益因子。



核心结论

第一,内在奖赏与视觉资源分配:作者提出,主观自信与感知到的准确性可作为内在奖赏信号,经强化学习规则塑造刺激特征的价值,进而调节编码阶段的资源分配;该结论依赖实验操纵与模型拟合。

第二,资源分配偏离了误差最小化策略:在这些任务中,基于奖赏的倾斜没有使总体误差最小,反而使本来更准的刺激更准、更差的更差;作者指出这类偏置可能具有适应意义,但在这里使总体准确率下降。结果支持资源分配随累积奖赏历史变化,不支持“按全局误差最小化来规划”。

原文信息
Tomić, I., Raimundo, R. & Bays, P.M. Intrinsic rewards guide visual resource allocation via reinforcement learning. Nat Hum Behav (2026).
DOI: https://doi.org/10.1038/s41562-026-02573-7

分享人:tianyu
审核:PsyBrain 脑心前沿编辑部

● 原文信息与获取方式

DOI:10.1038/s41562-026-02573-7

获取原文:

1. 三连后添加小助手:PSY-Brain-Frontier 获取

版权归属作者团队和出版社,本文仅做分享






特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
年薪2200万欧锁到2032年,皇马把贝林厄姆摆上维尼修斯同档

年薪2200万欧锁到2032年,皇马把贝林厄姆摆上维尼修斯同档

赛场速报局
2026-11-20 00:17:13
哈里梅根带娃到游乐场享家庭时光,却有几十名记者随行,坚称无意抢风头

哈里梅根带娃到游乐场享家庭时光,却有几十名记者随行,坚称无意抢风头

译言
2026-11-20 08:03:37
这一刀终于是落下来了!!不砍美国,不砍日本,德法英澳菲都绕开

这一刀终于是落下来了!!不砍美国,不砍日本,德法英澳菲都绕开

果妈聊娱乐
2026-11-20 09:45:59
把反华做成生意的Anthropic 上市了,封号不退钱,一年收割中国用户 200 亿

把反华做成生意的Anthropic 上市了,封号不退钱,一年收割中国用户 200 亿

起点财经
2026-11-20 09:50:54
天呐,原来爱自己有这么多方式!神评:永远把自己放在第一位!

天呐,原来爱自己有这么多方式!神评:永远把自己放在第一位!

夜深爱杂谈
2026-10-31 21:24:43
多名院士呼吁停止食用:高胆固醇“加速器”,上了年纪尽早戒掉

多名院士呼吁停止食用:高胆固醇“加速器”,上了年纪尽早戒掉

健康科普365
2026-11-08 18:30:10
沈丁立教授为何在国际会议上提出损害中国南海主权的主张?

沈丁立教授为何在国际会议上提出损害中国南海主权的主张?

李光满说
2026-11-19 20:25:37
传北京大厂多模态训练骨干要出走;杭州大模型公司新模型技术报告外流,遭英伟达质问;传某大模型基模团队降薪,或引发离职潮丨AI情报局

传北京大厂多模态训练骨干要出走;杭州大模型公司新模型技术报告外流,遭英伟达质问;传某大模型基模团队降薪,或引发离职潮丨AI情报局

雷峰网
2026-11-19 18:40:57
张柏芝现身江苏盐城参加拼盘演唱会,三十秒入场视频先火了,披风一脱、背头一梳,评论区当场吵翻

张柏芝现身江苏盐城参加拼盘演唱会,三十秒入场视频先火了,披风一脱、背头一梳,评论区当场吵翻

勺哥乡村味道
2026-11-17 20:38:41
上海一奥迪女销售请客户吃饭,细节被爆出,父母:脸都被丢尽了

上海一奥迪女销售请客户吃饭,细节被爆出,父母:脸都被丢尽了

红豆讲堂
2025-04-14 12:25:10
中国正式改口!以后不叫“日本政府”了,新称呼传递的信号不一般

中国正式改口!以后不叫“日本政府”了,新称呼传递的信号不一般

潘冹旅行浪子
2026-06-23 00:04:49
曼联签下新帅波切蒂诺22岁阿根廷小老乡帕斯的计划,大概率落空;因为皇马计划8000万欧回购

曼联签下新帅波切蒂诺22岁阿根廷小老乡帕斯的计划,大概率落空;因为皇马计划8000万欧回购

福酱的小时光
2026-11-20 11:46:20
最大危机来袭!火箭登顶第三后迎魔鬼赛程,打不好直接跌进附加赛

最大危机来袭!火箭登顶第三后迎魔鬼赛程,打不好直接跌进附加赛

爱尔爱电影
2026-11-20 08:40:50
中俄通婚在不断增加,若不了解俄罗斯女性生理缺陷,婚后可能会很痛苦。

中俄通婚在不断增加,若不了解俄罗斯女性生理缺陷,婚后可能会很痛苦。

回京历史梦
2026-09-30 18:24:01
神舟二十四号将发射:空间站6人同飞准备,一起太空出差够住吗?

神舟二十四号将发射:空间站6人同飞准备,一起太空出差够住吗?

环球科学猫
2026-11-20 10:46:09
没招了!高校老师课堂突发不适,非故意离岗仍被通报批评、取消评优!网友直言,某些高校的管理已经呈现耗材化的趋势

没招了!高校老师课堂突发不适,非故意离岗仍被通报批评、取消评优!网友直言,某些高校的管理已经呈现耗材化的趋势

学术眺望
2026-11-19 10:00:03
没有库里,联盟垫底

没有库里,联盟垫底

只关于篮球
2026-11-20 13:08:05
高三男孩喀纳斯湖失踪,母亲守岸7天后直言放弃,意外竟在此时发生

高三男孩喀纳斯湖失踪,母亲守岸7天后直言放弃,意外竟在此时发生

古怪奇谈录
2025-10-16 10:53:42
李在明落地深圳画面流出,不止韩国,所有人都疯狂盛赞中国排面

李在明落地深圳画面流出,不止韩国,所有人都疯狂盛赞中国排面

古书奇谈
2026-11-19 12:22:04
不再电话轰炸,改用“合法”外衣:重庆催收套路变了!

不再电话轰炸,改用“合法”外衣:重庆催收套路变了!

朗威谈星座
2026-11-20 07:53:25
2026-11-20 13:24:49
PsyBrain脑心前沿
PsyBrain脑心前沿
追踪脑科学新动态,聚焦认知与神经新研究
806文章数 24关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

旅游
亲子
时尚
游戏
公开课

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

亲子要闻

宝宝气人但是聪明的4个行为

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

PC Gamer试玩GTA6百小时:双主角出色但任务重复

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版