网易首页 > 网易号 > 正文 申请入驻

越聪明的AI越没主见?研究揭示Agent“羊群效应”,无意义选项也会跟着选

0
分享至



使用 AI 时,你是否也有过这样的感觉,它似乎总在顺着你说?那么,如果把 1,000 个 AI Agent 放进一个没有群主的群聊,它们会坚持各自的判断,还是站到人数更多的一边?

2026 年 8 月 14 日,发表于《Science Advances》的一项研究将目光聚焦 AI Agent 之间的群体协调问题。研究人员让多个大语言模型驱动的 Agent 反复参与投票,考察在没有正确答案、奖励和统一指挥的情况下,它们能否仅凭观察其他 Agent 的选择,自发形成一致意见。

研究人员设计了一场没有答案的二选一投票,调用 GPT、Claude 和 Llama 三个系列的 10 款模型,让不同规模的 Agent 群体在两个无实际含义的选项间反复选择。实验发现,模型能力越强,跟随多数的倾向通常越明显。GPT-4 Turbo 的临界群体规模约为 1,000,Claude 3.5 Sonnet 在 1,000 个 Agent 时仍处于可以协调的区间。

研究还发现, Agent 群体可能会将微弱的人数优势不断放大,最终形成群体共识。这种自发协调效应既能够支撑大量 Agent 开展协作,也可能让一个已经占据多数但并不完美的选择得到持续强化。

一场没有答案的投票

为尽量排除知识、推理能力和事实判断的干扰,研究人员首先为 Agent 打造了一个极简的场景:实验提供两个选项,每个 Agent 只需在两个选项中选择一个。选项没有高下之分,也不存在客观正确答案,由此确保群体的变化主要来自成员之间的相互影响。

在具体的互动场景上,研究先将所有 Agent 被平均分配到两个意见阵营。每一轮操作中,程序会随机选中一名 Agent,向它展示当前其他所有 Agent 的意见分布情况,再让它做出选择。

全程提示词既没有要求 Agent 服从多数,也未设置达成共识的奖励机制,仅要求 Agent 按指定格式返回选择结果。

为确保 Agent 的决策仅受当前群体意见分布影响、不受自身历史选择的干扰,被选中的 Agent 无法查看自己此前的支持倾向,也不会保留过往作答的记忆。它每次决策的核心依据,只有当前群体中各选项的支持人数。

研究关注的是大语言模型实例在特定互动规则下呈现的集体行为。为此,每个 Agent 仅被分配随机名称,不具备真实身份和个人经历,当前意见由外部程序记录。

由于选项名称也可能干扰实验,当大语言模型面对“是”和“否”时,往往偏向含义更积极的“是”,普通字母之间也可能存在轻微偏好。研究团队因此使用“k”和“z”,并在更新时随机交换字母所代表的真实意见。

此外,为度量不同模型形成一致意见需要多长时间,研究人员还需要统一实验中的计时方式。由于程序每一步只更新一名 Agent,他们将连续完成与群体人数相同次数的更新记为一个时间单位。这意味着在一个时间单位内,每名 Agent 平均获得一次重新选择的机会。


图|群体分裂实验(来源:Science Advances)

为进一步验证群体规模是否影响协调能力,研究人员还设计了群体分裂实验,以此观察一个难以达成一致的大群体,能否在分成若干小组后逐渐稳定。他们让 150 个由 Llama 3 70B 驱动的 Agent 先进行投票。如果规定时间后两种意见仍然存在,原群体便按照 Agent 的选择分成两个小组,再让每个小组重复相同过程。

这套设计将复杂的社会协调压缩为可重复测量的问题,使研究人员能够单独考察一种基础机制,即 Agent 看到多数意见后,是否更容易加入多数一方。

群体越大,越难达成一致

研究首先比较了由 50 个 Agent 组成的群体。20 次重复实验中,Claude 3 Opus 和 GPT-4 Turbo 每次都形成了完全一致的意见。Claude 3 Haiku 和 GPT-3.5 Turbo 没有一次完全统一,群体协调程度始终处于波动状态。Llama 3 70B 表现居中,意见会逐渐向某个选项集中,但在规定时间内仍未全部站到同一边。

研究人员随后计算得出,随着某个选项在群体中逐渐占优,被选中的 Agent 采纳这一选项的概率如何变化。

结果显示,包括 GPT-4 系列、Claude 3 Sonnet、Claude 3 Opus 和 Llama 3 70B 在内的模型,都呈现出明显的多数跟随趋势。多数一方的优势越大,Agent 加入这一方的可能性越高。


(来源:Science Advances)

研究发现,不同模型的“群体意见占优程度与 Agent 采纳概率”大多呈相似的 S 形曲线,主要差异可由“多数力量”概括。曲线越陡,多数力量越强,较小的人数优势也越容易吸引后续 Agent,推动群体形成共识。

不过,GPT-3.5 Turbo 是较为明显的例外。它的选择概率没有很好地符合其他模型共有的曲线,在多数优势较小时,甚至表现出一定程度的逆多数倾向。因此,可以认为较先进模型的多数跟随模式通常更加稳定,能力较弱模型的群体行为则更为零散。

这种曲线与统计物理学中的居里-魏斯铁磁模型具有相同形式。铁磁材料中的“自旋”可以理解为一根根微小磁针,当较多磁针指向同一方向,其他磁针也更容易随之转向,微小优势因而被逐步放大。

研究将两种意见类比为自旋的两个方向。当某个选项稍占优势,后续 Agent 便更可能加入这一方,使最初很小的差距逐渐扩大,最终形成群体共识。

这说明,群体共识可以从一次偶然的局部波动中逐步形成,不需要领导者提前发布统一指令。它还帮助研究人员区分了三种状态:多数力量很弱时,两种意见长期并存;多数力量提高后,群体会偏向一方,但未必完全一致;只有多数力量足够强时,剩余的少数意见才可能在波动中转向多数。

研究还发现,多数力量会随群体规模变化。在多数模型中,Agent 数量越多,多数意见的影响反而越弱。论文举例称,同为 1 比 9 的比例,1000 个 Agent 中的 100 个少数成员,可能比 20 个 Agent 中的 2 个更稳定。

为排除大群体提示词过长、模型无法准确计数的干扰,研究人员额外测试了基础计数能力,未发现足以解释这一现象的性能差异。论文认为,多数力量下降与群体互动方式及提示语境关系更密切,具体原因仍待研究。

为了描述这种规模限制,研究人员提出了“临界群体规模”。它指的是一个模型仅依靠多数跟随还能较快形成共识的实际规模上限,也是研究人员判断不同模型能否协调大型 Agent 群体的重要指标。

当群体规模低于临界值时,Agent 达成共识所需的时间随人数增长较为平缓。一旦超过临界规模,群体达成协调的时间会随人数增加呈指数级上升。


(来源:Science Advances)

研究估算,Llama 3 70B 的临界规模约为 30,GPT-4o 约为 80,GPT-4 Turbo 约为 1,000。Claude 3.5 Sonnet 在实验考察的最大规模 1,000 个 Agent 时,多数力量仍高于协调所需的阈值,可以认为它的临界规模高于 1,000。

不过,大规模实验的重复次数相对有限。协调时间实验通常计算 5 次结果,规模达到 500 时部分实验缩减为 3 次,GPT-4 Turbo 在 1,000 个 Agent 时只运行了 1 次。Claude 3 Opus 也因调用成本较高,没有纳入不同群体规模的完整比较。

为检验临界规模是否与模型能力相关,研究人员将其与 MMLU 成绩比较。两者呈较强相关,相关系数为 0.8178,P 值为 0.013,表明能力越强的模型可能协调更大群体。

一致不等于智慧

但一群 Agent 能够迅速站到同一边,是否就意味着它们拥有集体智慧?

论文对此持谨慎态度,将多数跟随视为一种基础协调机制,没有将其等同于完整的社会智能。鱼群、鸟群和其他生物系统可以借助简单规则形成整齐行动,铁磁体也能在没有认知能力的情况下产生宏观秩序。

研究强调,实验观察到的只是行为模式上的相似性,不能据此推断 AI 具有类似人类或灵长类动物的认知过程。真实社会群体还涉及理解他人意图、策略推理、心理理论和情境适应等复杂情况。

此外,多数跟随行为为何出现,目前也没有得到确定解释。研究指出,它可能来自训练数据中有关群体行为的文本,也可能受到系统提示和人类反馈强化学习的影响,还可能是模型计算过程产生的特征,或是多种因素共同作用的结果。

在实验设置方面,由于 Agent 没有记忆、利益、风险和客观证据,所有成员都由同一种模型驱动,并且能够看到其他所有成员的选择,因此结果仅能代表极简条件下的自发协调行为。这种规律能否迁移到真实的多 Agent 协作任务,目前仍不清楚。


图|多 Agent 合作示意图(来源:AI 生成)

不过,这一发现依然具备明确的应用价值与风险警示意义。从正向价值来看,论文提出,在协作软件开发等场景中,数千个 Agent 有望在无需中央控制的前提下,自发统一部分行动步调,提升多 Agent 系统的协作效率。

而另一边,群体趋同也可能让系统锁定在次优方案上。例如,某种低效的函数实现或设计模式,仅仅因为已被广泛使用,就会持续被后续的 Agent 沿用,难以自发完成优化迭代。

这种多数跟随形成的影响也不局限于技术选择。如果 Agent 群体中自发产生的规范并不符合人类价值,而一个已经高度协调的 Agent 集体,将比相互独立的 Agent 更难重新引导。

此外,在股票市场等依赖参与者采取不同策略的场景中,由于大量 Agent 可能观察彼此并同时跟随多数,原本需要保持差异的交易决策容易迅速趋同,从而放大市场波动,甚至造成闪崩等群体性后果。

研究团队建议,未来可以在群体中加入坚持原有意见的 Agent、意见领袖和外部影响者,观察少数成员能否改变整体方向。研究还可以引入不同模型组成的异质群体、有限的信息网络和连续决策过程,并测试错误信息和定向干预如何影响集体选择。

针对此研究的局限性,研究团队建议,未来可以在群体中加入坚持原有意见的 Agent、意见领袖和外部影响者,观察少数成员能否改变整体方向。后续研究还可以引入不同模型组成的异质群体、有限的信息网络和连续决策过程,测试错误信息和定向干预如何影响集体选择。

总体而言,这项研究提供了一个可量化的研究起点,也抛出了一个更长远的问题:未来我们需要管理的或许不仅是 AI Agent 如何回答问题,还有它们如何互相影响。

参考资料:

1.https://www.science.org/doi/10.1126/sciadv.aea6091

2.https://phys.org/news/2026-08-ai-agents-behavior-based-majority.html

运营/排版:何晨龙

注:封面/首图由 AI 辅助生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“眼神都拉丝了!”家长晒母子互动视频,引全网不适:儿大不避母的结果

“眼神都拉丝了!”家长晒母子互动视频,引全网不适:儿大不避母的结果

妍妍教育日记
2026-08-31 23:54:51
19比1!中国不惯着特朗普,拒绝在联合声明上签字,不买这笔账

19比1!中国不惯着特朗普,拒绝在联合声明上签字,不买这笔账

丁铗惊悚影视解说
2026-09-02 14:49:13
广东队大名单正式揭晓,爆料杜润旺撕破脸,超级外援想降薪加入

广东队大名单正式揭晓,爆料杜润旺撕破脸,超级外援想降薪加入

宗介说体育
2026-09-02 16:21:47
劝退107名应届生引爆连锁反应!星宇事件后,有车企供应商怕丢欧美订单,不敢随便裁员

劝退107名应届生引爆连锁反应!星宇事件后,有车企供应商怕丢欧美订单,不敢随便裁员

火山詩话
2026-09-02 05:32:35
28岁内地女主播诬告强奸在澳门被捕,因与男子发生性关系索2万港元未果

28岁内地女主播诬告强奸在澳门被捕,因与男子发生性关系索2万港元未果

可达鸭面面观
2026-08-31 13:50:36
文章携女友凤莉看话剧,3年恋情线梳理!因话剧相识相恋,凤莉演艺经历亮眼

文章携女友凤莉看话剧,3年恋情线梳理!因话剧相识相恋,凤莉演艺经历亮眼

露珠聊影视
2026-09-02 15:26:33
小米迄今最高端手机:雷军晒18 Fold阔折叠真机,红色外壳吸睛

小米迄今最高端手机:雷军晒18 Fold阔折叠真机,红色外壳吸睛

IT之家
2026-09-02 13:01:07
美媒急了:中国重型战斗机数量超北约总和,美军连一半都不到

美媒急了:中国重型战斗机数量超北约总和,美军连一半都不到

瞩望云霄
2026-08-30 20:03:02
离婚的妇人都是咋和前夫相处的?网友:我就好奇,有没有睡在一起

离婚的妇人都是咋和前夫相处的?网友:我就好奇,有没有睡在一起

带你感受人间冷暖
2026-08-31 00:05:16
窦唯二女儿窦佳嫄举办画展,外公高飞和妈妈高原罕见现身支持!

窦唯二女儿窦佳嫄举办画展,外公高飞和妈妈高原罕见现身支持!

玖宇维
2026-09-02 15:07:37
美日澳军演在即,俄方就“堤丰”中导系统部署正式向日本交涉

美日澳军演在即,俄方就“堤丰”中导系统部署正式向日本交涉

生活观察员啊
2026-09-01 19:50:06
秘鲁宣布与伊朗断绝外交关系

秘鲁宣布与伊朗断绝外交关系

澎湃新闻
2026-09-02 08:16:08
26所学校一个学生都没招到!民办本科的“淘汰赛”正式打响

26所学校一个学生都没招到!民办本科的“淘汰赛”正式打响

起喜电影
2026-09-02 00:07:53
76人官宣签约!2米31的巨型中锋,时隔4年重返NBA

76人官宣签约!2米31的巨型中锋,时隔4年重返NBA

德译洋洋
2026-09-02 12:02:50
联邦警卫局第4次扩编,普京:他们会绞死我

联邦警卫局第4次扩编,普京:他们会绞死我

西楼饮月
2026-09-01 19:21:39
今晚,广州全市夜查!

今晚,广州全市夜查!

新快报新闻
2026-09-02 18:33:49
美股三大指数期货跳水,美股芯片股、中概股盘前下跌

美股三大指数期货跳水,美股芯片股、中概股盘前下跌

21世纪经济报道
2026-09-02 18:41:12
山东3分憾负北京!临沂双胞胎合砍30分,北京顶薪先生10中1拿5分

山东3分憾负北京!临沂双胞胎合砍30分,北京顶薪先生10中1拿5分

新杀猪的秀才
2026-09-02 19:33:59
上合峰会期间中方领导人与伊朗总统曾短暂交谈?外交部回应

上合峰会期间中方领导人与伊朗总统曾短暂交谈?外交部回应

澎湃新闻
2026-09-02 15:38:26
德国总理默茨:以色列是中东唯一民主国家,只要我还担任公职,就始终会对以色列的生存权予以军事支持,在捍卫以色列方面绝不会退让分毫

德国总理默茨:以色列是中东唯一民主国家,只要我还担任公职,就始终会对以色列的生存权予以军事支持,在捍卫以色列方面绝不会退让分毫

扬子晚报
2026-08-31 19:41:30
2026-09-02 22:19:00
DeepTech深科技 incentive-icons
DeepTech深科技
麻省理工科技评论独家合作
17180文章数 515198关注度
往期回顾 全部

科技要闻

凌晨最强模型上新,Claude Fable 5.1发布

头条要闻

7人豪宅楼盘看房被困电梯呼叫铃还无反应 售楼部回应

头条要闻

7人豪宅楼盘看房被困电梯呼叫铃还无反应 售楼部回应

体育要闻

一次有奖问答,让他成为欧冠主帅

娱乐要闻

香港武打影星陈观泰离世,终年80岁

财经要闻

北京首钢园数采中心停运,“百万小时”产能目标的账还算得过来吗?

汽车要闻

全新理想MEGA售50.98万 这一次“移动的家”更舒适更灵活

态度原创

旅游
游戏
本地
家居
军事航空

旅游要闻

「侠客岛」7500公里外遥远的相似

《GTA6》新截图暗示坏结局?主角穷途末路 绝境相拥

本地新闻

昆明的雨,解锁汪曾祺的浪漫雨季

家居要闻

2026建博会(广州) 公装联探展交流活动

军事要闻

特朗普威胁伊朗终极打击蓄势待发

无障碍浏览 进入关怀版