网易首页 > 网易号 > 正文 申请入驻

Nat Human Behav|觉得“做得好”也是一种奖励:内在奖赏如何改变视觉资源分配

0
分享至


● 认知神经科学前沿文献分享

论文信息:Intrinsic rewards guide visual resource allocation via reinforcement learning

发表时间:2026-10-01

发表期刊:Nature Human Behaviour




奖赏和视觉资源分配

外部奖赏与视觉资源分配:先前的研究已知,与金钱或食物等外部奖赏(external rewards)挂钩的视觉刺激会获得优先的注意力和视觉工作记忆资源分配。

研究空白——内在奖赏的作用:人类在日常生活中很多行为缺乏直接的外部奖赏。大脑内部产生的“胜任感”或对准确性的主观自信(subjective confidence / perceived competence)是否可以作为一种内在奖赏(intrinsic reward),并像外部奖赏一样影响强化学习(reinforcement learning, RL),进而偏置视觉资源的分配呢?

基于此,来自剑桥大学(University of Cambridge)的研究团队,设计了一系列的视觉实验,并结合计算模型,对如下两个具体问题进行了研究:

第一,内在奖赏是否会改变视觉资源的分配?

第二,这种基于奖赏的资源分配策略,是否符合总体误差最小化/收益最大化的“最优策略”(optimal allocation strategy)?



实验设计与结果

研究团队设计了一系列运动方向再现任务(analogue report motion reproduction task),通过操控不同条件来探索外部与内在奖赏对视觉资源分配的影响。

● 实验 1:外部奖赏操控(验证基线效应)

方法:呈现两种颜色的运动刺激(random dot kinematograms, RDK),若被试的再现误差 $< 50^\circ$,某种颜色可获得高分奖赏(15分),另一种颜色获得低分奖赏(5分)。

结果:被试对高奖赏颜色的再现误差(mean absolute deviation, MAD)显著更小,说明高奖赏颜色获得了更多视觉编码资源。

最优策略对比:被试对高/低奖赏刺激的资源分配比(高奖赏∶低奖赏)为 1∶0.695(倾向高奖赏)。但这比达到得分最大化的“最优分配”(1∶0.34)更为平均。


Fig. 1 中,作者展示了实验1对外部奖赏的操控;结果显示,被试对高奖赏颜色的再现误差更小,资源分配比(高奖赏∶低奖赏)为 1∶0.695,比最优分配(1∶0.34)更为平均。

● 实验 2:感知准确度操控(通过欺骗性反馈操控内在奖赏)

方法:不给予积分/金钱等外部奖赏,但对两种颜色刺激的试次反馈进行系统性操控——对一种颜色故意缩小显示误差(minified error,使被试感觉更简单),对另一种颜色放大显示误差(magnified error,使被试感觉更难)。

结果:

实验 2a(双刺激同时呈现):被试对“缩小反馈误差(感觉更易)”的真实目标方向再现更精确(MAD 显著更低)。

实验 2b(双刺激顺序呈现):当消除了编码阶段的注意竞争后,两者的再现精度差异消失,提示这一偏置主要来自编码阶段的注意竞争;竞争减弱后,不再按感知难度偏好编码。

实验 2c(与真实反馈对比):结果支持:只缩小误差就足以使资源向该刺激倾斜;而放大误差的刺激并不比真实反馈的刺激更差。

反常的非最优现象:若要最小化整体反馈误差,最优策略应当把资源多给“感觉更难(误差被放大)”的一方。按 minified(更易)∶magnified(更难)计,最优分配为 0.52∶1。然而被试的分配方向与最优策略相反,将更多资源(1.18∶1)投向了本就“表现更好”的刺激,总体误差高于最优策略的预测。


Fig. 2 中,作者展示了实验2a对感知准确度的操控;结果显示,被试对缩小反馈误差的刺激再现更精确,并将更多资源(minified∶magnified = 1.18∶1)投向该刺激,与最优策略的方向相反。

● 实验 3:客观估计难度操控(无反馈,纯粹基于内在自信)

方法:不提供任何反馈。在大部分试次中,两种颜色的刺激分别对应高相干度(85%,简单)和低相干度(45%,困难);在少量试次中,两种颜色的刺激相干度相同(65%,难度一致)。

结果:

在难度一致的测试试次中,被试对历史上总是较简单(高相干度)的那种颜色表现出更高的再现精度。

神经群体编码(归一化)模型估计显示,被试的资源分配比(简单∶困难)约为 1.76∶1。

再次偏离最优:为了最小化总体估计误差,最优策略应当是平均分配资源(1∶1),而被试对“简单”刺激的过分倾斜再次使总体误差高于最优策略的预测。


Fig. 4 中(对应实验3),作者展示了对客观估计难度的操控;结果显示,在难度一致的测试试次中,被试对历史上较简单的颜色再现精度更高,资源分配比(简单∶困难)约为 1.76∶1,而最优分配为 1∶1。



群体编码-强化学习计算模型

为阐明上述行为现象的计算机制,研究者将神经群体编码(归一化)模型(Normalization model)与强化学习规则结合:

第一,群体归一化编码:刺激由具有 von Mises 调谐曲线的神经元群体编码,总神经发放率(总增益)保持恒定,增益因子 $\alpha$ 控制两个刺激间分配的比例。

第二,复合奖赏价值更新(relative value updating)机制:定义逐个试次的相对价值 $v_t = (1-\gamma) v_{t-1} + \Delta_t$,其中 $\gamma$ 是泄漏系数,决定过去奖赏保留多少。复合奖赏 $\Delta_t$ 整合了外部奖赏($r_{\text{ext}}$)、反馈误差($\epsilon_{\text{fb}}$)以及内部信心估计所对应的内在奖赏($\hat{\kappa}_r$)。

第三,从相对价值到神经资源的映射:相对价值通过指数变换转化为下一试次的增益因子 $\alpha_{t+1} = e^{2v_t}$。

第四,拟合表现:完全不基于奖赏、仅凭行为误差自由拟合得到的分配参数 $\alpha_{\text{observed}}$,与纯粹基于奖赏积累历史推算出的 $\alpha_{\text{predicted}}$ 高度相关($r = 0.833 \sim 0.976$),且能够成功预测试次间行为误差的起伏。


Fig. 5 中,作者展示了强化学习模型示意:神经资源分配、相对价值更新、泄漏与奖赏权重对资源分配轨迹的影响;结果显示,模型把外部奖赏、反馈误差和内部信心估计所对应的内在奖赏整合为相对价值,再映射为下一试次的增益因子。



核心结论

第一,内在奖赏与视觉资源分配:作者提出,主观自信与感知到的准确性可作为内在奖赏信号,经强化学习规则塑造刺激特征的价值,进而调节编码阶段的资源分配;该结论依赖实验操纵与模型拟合。

第二,资源分配偏离了误差最小化策略:在这些任务中,基于奖赏的倾斜没有使总体误差最小,反而使本来更准的刺激更准、更差的更差;作者指出这类偏置可能具有适应意义,但在这里使总体准确率下降。结果支持资源分配随累积奖赏历史变化,不支持“按全局误差最小化来规划”。

原文信息
Tomić, I., Raimundo, R. & Bays, P.M. Intrinsic rewards guide visual resource allocation via reinforcement learning. Nat Hum Behav (2026).
DOI: https://doi.org/10.1038/s41562-026-02573-7

分享人:tianyu
审核:PsyBrain 脑心前沿编辑部

● 原文信息与获取方式

DOI:10.1038/s41562-026-02573-7

获取原文:

1. 三连后添加小助手:PSY-Brain-Frontier 获取

版权归属作者团队和出版社,本文仅做分享






特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
热火6连胜已升东区第四!字母场均30+13+5太猛 美媒晒1纪录赞不绝口

热火6连胜已升东区第四!字母场均30+13+5太猛 美媒晒1纪录赞不绝口

颜小白的篮球梦
2026-11-19 19:35:40
凌晨3:00,美联储全面宣战!50基点加息重回视野

凌晨3:00,美联储全面宣战!50基点加息重回视野

魏家东
2026-11-19 17:23:35
旭日旗事件越闹越大!陈宇昕三代都是亲日分子,母亲身份已澄清

旭日旗事件越闹越大!陈宇昕三代都是亲日分子,母亲身份已澄清

平老师666
2026-10-27 20:56:19
当下 “发不出工资” 的 4 个行业!比想象中还严重!

当下 “发不出工资” 的 4 个行业!比想象中还严重!

职场资深秘书
2026-11-20 10:16:31
中美会晤1小时,特朗普说出真心话,这句美妙的祝福,中国收下了

中美会晤1小时,特朗普说出真心话,这句美妙的祝福,中国收下了

讲者普拉斯
2026-11-19 21:44:27
中美关系本就已很难缓和,经过美国与伊朗这一战,中国几乎彻底放弃了对美国的幻想,中美关系早已不是“能不能缓和”的问题了

中美关系本就已很难缓和,经过美国与伊朗这一战,中国几乎彻底放弃了对美国的幻想,中美关系早已不是“能不能缓和”的问题了

人生录
2026-11-08 04:27:14
学历贬值,日本的剧本已经演完了,我们几乎在逐页重演

学历贬值,日本的剧本已经演完了,我们几乎在逐页重演

起点人文
2026-10-15 13:07:03
2027年最会赚钱的3个生肖:贵人深度绑定,生意一路顺

2027年最会赚钱的3个生肖:贵人深度绑定,生意一路顺

星缘生肖
2026-11-19 11:50:47
美、英、俄、澳等外媒争相发声:中国已崛起,伟大复兴势不可挡

美、英、俄、澳等外媒争相发声:中国已崛起,伟大复兴势不可挡

锅锅爱历史
2026-10-10 14:32:55
深圳“三巨头”掀了谁的桌?一份宣言,四把刀,刀刀切在真正要害

深圳“三巨头”掀了谁的桌?一份宣言,四把刀,刀刀切在真正要害

淡然小司
2026-11-19 19:35:21
短短3天3笔续约!曝皇马和34岁门神新签1年合同 为他3个月2拒新援

短短3天3笔续约!曝皇马和34岁门神新签1年合同 为他3个月2拒新援

风过乡
2026-11-20 06:58:42
现货黄金跌破3600美元!实探深圳水贝:买家等到了心理价位,商家却喊“补早了”

现货黄金跌破3600美元!实探深圳水贝:买家等到了心理价位,商家却喊“补早了”

澎湃新闻
2026-11-20 08:32:53
画面不堪入目!百万粉丝女网红被捕,36部污秽视频藏儿童学习机里

画面不堪入目!百万粉丝女网红被捕,36部污秽视频藏儿童学习机里

寒士之言本尊
2026-07-28 15:27:31
股市:大家不用等了!如无意外,股票或将历史重演

股市:大家不用等了!如无意外,股票或将历史重演

星语者056
2026-11-20 08:55:26
DeepSeek,千亿融资落地:外部股东囊括腾讯、中国移动、宁德时代、兆易创新等

DeepSeek,千亿融资落地:外部股东囊括腾讯、中国移动、宁德时代、兆易创新等

每日经济新闻
2026-11-19 14:51:05
恭喜宏远!NBA2米03锋线大杀器接近加盟,广东队成最大潜在下家?

恭喜宏远!NBA2米03锋线大杀器接近加盟,广东队成最大潜在下家?

绯雨儿
2026-11-20 13:03:48
这就是号称让CBA大结局的外援?22投20分,自家球迷直言受不了

这就是号称让CBA大结局的外援?22投20分,自家球迷直言受不了

弄月公子
2026-11-20 05:35:06
5-1横扫!就在刚刚,斯诺克德国大师赛爆大冷:世界第65名掀翻世界第52!48岁老将打疯了,中国军团4胜2负,28岁黑马太憋屈

5-1横扫!就在刚刚,斯诺克德国大师赛爆大冷:世界第65名掀翻世界第52!48岁老将打疯了,中国军团4胜2负,28岁黑马太憋屈

锐评利物浦
2026-11-19 14:40:43
《GTA6》取消招妓机制 服务情侣故事

《GTA6》取消招妓机制 服务情侣故事

3DM游戏
2026-11-19 06:10:04
欢迎晚宴合影期间,普京和特朗普互动握手

欢迎晚宴合影期间,普京和特朗普互动握手

每日经济新闻
2026-11-19 20:43:37
2026-11-20 13:44:49
PsyBrain脑心前沿
PsyBrain脑心前沿
追踪脑科学新动态,聚焦认知与神经新研究
806文章数 24关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

特朗普返美途中发文:这是一次伟大且意义深远的访问

头条要闻

特朗普返美途中发文:这是一次伟大且意义深远的访问

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

袁茵却用事实证明 活得并不差!

财经要闻

Anthropic敲钟 美股跳水:AI狂欢结束?

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

亲子
家居
游戏
旅游
公开课

亲子要闻

二宝出生后,大宝突然要抱要喂,怎么引导?

家居要闻

2026建博会(广州) 公装联探展交流活动

《GTA6》广告遭网友解读 疑似调侃动保团体与漫威

旅游要闻

约雄冰川的生态密码

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版