网易首页 > 网易号 > 正文 申请入驻

越聪明的AI越没主见?研究揭示Agent“羊群效应”,无意义选项也会跟着选

0
分享至



使用 AI 时,你是否也有过这样的感觉,它似乎总在顺着你说?那么,如果把 1,000 个 AI Agent 放进一个没有群主的群聊,它们会坚持各自的判断,还是站到人数更多的一边?

2026 年 8 月 14 日,发表于《Science Advances》的一项研究将目光聚焦 AI Agent 之间的群体协调问题。研究人员让多个大语言模型驱动的 Agent 反复参与投票,考察在没有正确答案、奖励和统一指挥的情况下,它们能否仅凭观察其他 Agent 的选择,自发形成一致意见。

研究人员设计了一场没有答案的二选一投票,调用 GPT、Claude 和 Llama 三个系列的 10 款模型,让不同规模的 Agent 群体在两个无实际含义的选项间反复选择。实验发现,模型能力越强,跟随多数的倾向通常越明显。GPT-4 Turbo 的临界群体规模约为 1,000,Claude 3.5 Sonnet 在 1,000 个 Agent 时仍处于可以协调的区间。

研究还发现, Agent 群体可能会将微弱的人数优势不断放大,最终形成群体共识。这种自发协调效应既能够支撑大量 Agent 开展协作,也可能让一个已经占据多数但并不完美的选择得到持续强化。

一场没有答案的投票

为尽量排除知识、推理能力和事实判断的干扰,研究人员首先为 Agent 打造了一个极简的场景:实验提供两个选项,每个 Agent 只需在两个选项中选择一个。选项没有高下之分,也不存在客观正确答案,由此确保群体的变化主要来自成员之间的相互影响。

在具体的互动场景上,研究先将所有 Agent 被平均分配到两个意见阵营。每一轮操作中,程序会随机选中一名 Agent,向它展示当前其他所有 Agent 的意见分布情况,再让它做出选择。

全程提示词既没有要求 Agent 服从多数,也未设置达成共识的奖励机制,仅要求 Agent 按指定格式返回选择结果。

为确保 Agent 的决策仅受当前群体意见分布影响、不受自身历史选择的干扰,被选中的 Agent 无法查看自己此前的支持倾向,也不会保留过往作答的记忆。它每次决策的核心依据,只有当前群体中各选项的支持人数。

研究关注的是大语言模型实例在特定互动规则下呈现的集体行为。为此,每个 Agent 仅被分配随机名称,不具备真实身份和个人经历,当前意见由外部程序记录。

由于选项名称也可能干扰实验,当大语言模型面对“是”和“否”时,往往偏向含义更积极的“是”,普通字母之间也可能存在轻微偏好。研究团队因此使用“k”和“z”,并在更新时随机交换字母所代表的真实意见。

此外,为度量不同模型形成一致意见需要多长时间,研究人员还需要统一实验中的计时方式。由于程序每一步只更新一名 Agent,他们将连续完成与群体人数相同次数的更新记为一个时间单位。这意味着在一个时间单位内,每名 Agent 平均获得一次重新选择的机会。


图|群体分裂实验(来源:Science Advances)

为进一步验证群体规模是否影响协调能力,研究人员还设计了群体分裂实验,以此观察一个难以达成一致的大群体,能否在分成若干小组后逐渐稳定。他们让 150 个由 Llama 3 70B 驱动的 Agent 先进行投票。如果规定时间后两种意见仍然存在,原群体便按照 Agent 的选择分成两个小组,再让每个小组重复相同过程。

这套设计将复杂的社会协调压缩为可重复测量的问题,使研究人员能够单独考察一种基础机制,即 Agent 看到多数意见后,是否更容易加入多数一方。

群体越大,越难达成一致

研究首先比较了由 50 个 Agent 组成的群体。20 次重复实验中,Claude 3 Opus 和 GPT-4 Turbo 每次都形成了完全一致的意见。Claude 3 Haiku 和 GPT-3.5 Turbo 没有一次完全统一,群体协调程度始终处于波动状态。Llama 3 70B 表现居中,意见会逐渐向某个选项集中,但在规定时间内仍未全部站到同一边。

研究人员随后计算得出,随着某个选项在群体中逐渐占优,被选中的 Agent 采纳这一选项的概率如何变化。

结果显示,包括 GPT-4 系列、Claude 3 Sonnet、Claude 3 Opus 和 Llama 3 70B 在内的模型,都呈现出明显的多数跟随趋势。多数一方的优势越大,Agent 加入这一方的可能性越高。


(来源:Science Advances)

研究发现,不同模型的“群体意见占优程度与 Agent 采纳概率”大多呈相似的 S 形曲线,主要差异可由“多数力量”概括。曲线越陡,多数力量越强,较小的人数优势也越容易吸引后续 Agent,推动群体形成共识。

不过,GPT-3.5 Turbo 是较为明显的例外。它的选择概率没有很好地符合其他模型共有的曲线,在多数优势较小时,甚至表现出一定程度的逆多数倾向。因此,可以认为较先进模型的多数跟随模式通常更加稳定,能力较弱模型的群体行为则更为零散。

这种曲线与统计物理学中的居里-魏斯铁磁模型具有相同形式。铁磁材料中的“自旋”可以理解为一根根微小磁针,当较多磁针指向同一方向,其他磁针也更容易随之转向,微小优势因而被逐步放大。

研究将两种意见类比为自旋的两个方向。当某个选项稍占优势,后续 Agent 便更可能加入这一方,使最初很小的差距逐渐扩大,最终形成群体共识。

这说明,群体共识可以从一次偶然的局部波动中逐步形成,不需要领导者提前发布统一指令。它还帮助研究人员区分了三种状态:多数力量很弱时,两种意见长期并存;多数力量提高后,群体会偏向一方,但未必完全一致;只有多数力量足够强时,剩余的少数意见才可能在波动中转向多数。

研究还发现,多数力量会随群体规模变化。在多数模型中,Agent 数量越多,多数意见的影响反而越弱。论文举例称,同为 1 比 9 的比例,1000 个 Agent 中的 100 个少数成员,可能比 20 个 Agent 中的 2 个更稳定。

为排除大群体提示词过长、模型无法准确计数的干扰,研究人员额外测试了基础计数能力,未发现足以解释这一现象的性能差异。论文认为,多数力量下降与群体互动方式及提示语境关系更密切,具体原因仍待研究。

为了描述这种规模限制,研究人员提出了“临界群体规模”。它指的是一个模型仅依靠多数跟随还能较快形成共识的实际规模上限,也是研究人员判断不同模型能否协调大型 Agent 群体的重要指标。

当群体规模低于临界值时,Agent 达成共识所需的时间随人数增长较为平缓。一旦超过临界规模,群体达成协调的时间会随人数增加呈指数级上升。


(来源:Science Advances)

研究估算,Llama 3 70B 的临界规模约为 30,GPT-4o 约为 80,GPT-4 Turbo 约为 1,000。Claude 3.5 Sonnet 在实验考察的最大规模 1,000 个 Agent 时,多数力量仍高于协调所需的阈值,可以认为它的临界规模高于 1,000。

不过,大规模实验的重复次数相对有限。协调时间实验通常计算 5 次结果,规模达到 500 时部分实验缩减为 3 次,GPT-4 Turbo 在 1,000 个 Agent 时只运行了 1 次。Claude 3 Opus 也因调用成本较高,没有纳入不同群体规模的完整比较。

为检验临界规模是否与模型能力相关,研究人员将其与 MMLU 成绩比较。两者呈较强相关,相关系数为 0.8178,P 值为 0.013,表明能力越强的模型可能协调更大群体。

一致不等于智慧

但一群 Agent 能够迅速站到同一边,是否就意味着它们拥有集体智慧?

论文对此持谨慎态度,将多数跟随视为一种基础协调机制,没有将其等同于完整的社会智能。鱼群、鸟群和其他生物系统可以借助简单规则形成整齐行动,铁磁体也能在没有认知能力的情况下产生宏观秩序。

研究强调,实验观察到的只是行为模式上的相似性,不能据此推断 AI 具有类似人类或灵长类动物的认知过程。真实社会群体还涉及理解他人意图、策略推理、心理理论和情境适应等复杂情况。

此外,多数跟随行为为何出现,目前也没有得到确定解释。研究指出,它可能来自训练数据中有关群体行为的文本,也可能受到系统提示和人类反馈强化学习的影响,还可能是模型计算过程产生的特征,或是多种因素共同作用的结果。

在实验设置方面,由于 Agent 没有记忆、利益、风险和客观证据,所有成员都由同一种模型驱动,并且能够看到其他所有成员的选择,因此结果仅能代表极简条件下的自发协调行为。这种规律能否迁移到真实的多 Agent 协作任务,目前仍不清楚。


图|多 Agent 合作示意图(来源:AI 生成)

不过,这一发现依然具备明确的应用价值与风险警示意义。从正向价值来看,论文提出,在协作软件开发等场景中,数千个 Agent 有望在无需中央控制的前提下,自发统一部分行动步调,提升多 Agent 系统的协作效率。

而另一边,群体趋同也可能让系统锁定在次优方案上。例如,某种低效的函数实现或设计模式,仅仅因为已被广泛使用,就会持续被后续的 Agent 沿用,难以自发完成优化迭代。

这种多数跟随形成的影响也不局限于技术选择。如果 Agent 群体中自发产生的规范并不符合人类价值,而一个已经高度协调的 Agent 集体,将比相互独立的 Agent 更难重新引导。

此外,在股票市场等依赖参与者采取不同策略的场景中,由于大量 Agent 可能观察彼此并同时跟随多数,原本需要保持差异的交易决策容易迅速趋同,从而放大市场波动,甚至造成闪崩等群体性后果。

研究团队建议,未来可以在群体中加入坚持原有意见的 Agent、意见领袖和外部影响者,观察少数成员能否改变整体方向。研究还可以引入不同模型组成的异质群体、有限的信息网络和连续决策过程,并测试错误信息和定向干预如何影响集体选择。

针对此研究的局限性,研究团队建议,未来可以在群体中加入坚持原有意见的 Agent、意见领袖和外部影响者,观察少数成员能否改变整体方向。后续研究还可以引入不同模型组成的异质群体、有限的信息网络和连续决策过程,测试错误信息和定向干预如何影响集体选择。

总体而言,这项研究提供了一个可量化的研究起点,也抛出了一个更长远的问题:未来我们需要管理的或许不仅是 AI Agent 如何回答问题,还有它们如何互相影响。

参考资料:

1.https://www.science.org/doi/10.1126/sciadv.aea6091

2.https://phys.org/news/2026-08-ai-agents-behavior-based-majority.html

运营/排版:何晨龙

注:封面/首图由 AI 辅助生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美军暴击伊朗,6个半小时压着打,已造成大量伤亡,伊朗激射10枚重型导弹反击!

美军暴击伊朗,6个半小时压着打,已造成大量伤亡,伊朗激射10枚重型导弹反击!

扶苏聊历史
2026-09-02 16:59:45
重磅!七部门出手,激活内需60万亿社零!

重磅!七部门出手,激活内需60万亿社零!

新浪财经
2026-09-02 06:57:57
不查不知道,一查吓一跳!43岁王鸥在北京的花园豪宅,私下有多壕

不查不知道,一查吓一跳!43岁王鸥在北京的花园豪宅,私下有多壕

揽星河的笔记
2026-09-02 18:57:52
太难选择了!成都27岁女生相亲陷入两难:要生理性喜欢,还是要2000万家底

太难选择了!成都27岁女生相亲陷入两难:要生理性喜欢,还是要2000万家底

火山詩话
2026-09-01 07:05:33
宋子文临终前终于松口:护送蒋介石回南京当天,最大的叛徒不是张学良

宋子文临终前终于松口:护送蒋介石回南京当天,最大的叛徒不是张学良

纪史行者
2026-08-31 00:30:06
少儿不宜!Netflix再推限制级神作,口碑炸裂了

少儿不宜!Netflix再推限制级神作,口碑炸裂了

乡野小珥
2026-09-02 08:34:08
58岁那英演唱会变“胸透秀”,上万票价观众听半场就跑

58岁那英演唱会变“胸透秀”,上万票价观众听半场就跑

草莓解说体育
2026-09-01 09:34:02
李春平身边23名员工联名写举报信!举报利益集团安排李春平假结婚

李春平身边23名员工联名写举报信!举报利益集团安排李春平假结婚

细品名人
2026-09-01 22:35:27
广东队大名单正式揭晓,爆料杜润旺撕破脸,超级外援想降薪加入

广东队大名单正式揭晓,爆料杜润旺撕破脸,超级外援想降薪加入

宗介说体育
2026-09-02 16:21:47
恒大供应商“伤亡名单”

恒大供应商“伤亡名单”

地产微资讯
2026-09-02 14:36:33
国内捞不动、美国待不住!53岁的国民影后终于还是活成了笑话

国内捞不动、美国待不住!53岁的国民影后终于还是活成了笑话

不似少年游
2026-09-02 19:36:38
网红“曲靖丽姐”涉嫌刑案被警方调查,其抖音账号被封禁,“曲靖市文旅推荐官”身份被取消

网红“曲靖丽姐”涉嫌刑案被警方调查,其抖音账号被封禁,“曲靖市文旅推荐官”身份被取消

红星新闻
2026-09-02 18:49:57
重磅!交易浓眉哥?奇才要搅动NBA……

重磅!交易浓眉哥?奇才要搅动NBA……

体育新角度
2026-09-02 10:37:42
6毫米结石堵住输尿管,27岁男子手术前夜自行排石:反复跳跃、蹲起,拿筋膜枪对着右侧腰部震了近半小时,“手术可以取消了”;致肾脏破裂

6毫米结石堵住输尿管,27岁男子手术前夜自行排石:反复跳跃、蹲起,拿筋膜枪对着右侧腰部震了近半小时,“手术可以取消了”;致肾脏破裂

大风新闻
2026-09-01 12:08:07
武则天退位前夜紧握李显的手说:速杀此人!这个人未来一定会造反

武则天退位前夜紧握李显的手说:速杀此人!这个人未来一定会造反

千秋文化
2026-08-29 20:18:50
终于知道为何各大车企疯狂降价了,原来是资本已嗅觉到大变化了

终于知道为何各大车企疯狂降价了,原来是资本已嗅觉到大变化了

心中的麦田
2026-09-01 20:38:18
俄罗斯第二大城市圣彼得堡大爆炸!彼尔姆工厂失火

俄罗斯第二大城市圣彼得堡大爆炸!彼尔姆工厂失火

项鹏飞
2026-09-02 19:17:30
一只值100元!成都农户深夜狂抓6156只被查获,总价值高达60多万

一只值100元!成都农户深夜狂抓6156只被查获,总价值高达60多万

阿讯说天下
2026-09-02 11:45:24
景甜背后纹身图片被疯传,张继科直播一番话,被指保护了景甜!

景甜背后纹身图片被疯传,张继科直播一番话,被指保护了景甜!

背包旅行
2026-08-31 10:01:31
“没有手艺都是科技”,青岛一烤羊店招牌被六旬师傅装反,店主:主打纯手艺无科技,视频太火了,正在犹豫要不要改过来

“没有手艺都是科技”,青岛一烤羊店招牌被六旬师傅装反,店主:主打纯手艺无科技,视频太火了,正在犹豫要不要改过来

扬子晚报
2026-09-01 12:22:59
2026-09-02 20:31:00
DeepTech深科技 incentive-icons
DeepTech深科技
麻省理工科技评论独家合作
17180文章数 515198关注度
往期回顾 全部

科技要闻

凌晨最强模型上新,Claude Fable 5.1发布

头条要闻

被星宇股份裁掉的107名应届生 损失远远不止一份工作

头条要闻

被星宇股份裁掉的107名应届生 损失远远不止一份工作

体育要闻

一次有奖问答,让他成为欧冠主帅

娱乐要闻

香港武打影星陈观泰离世,终年80岁

财经要闻

北京首钢园数采中心停运,“百万小时”产能目标的账还算得过来吗?

汽车要闻

10万级的满配B级车 试驾2027款比亚迪海豹06

态度原创

家居
健康
教育
艺术
亲子

家居要闻

2026建博会(广州) 公装联探展交流活动

越吃越爆痘?医生讲清7大真相

教育要闻

新生入学当天,成都这所学校办了一场“导师双选会”

艺术要闻

明代隐藏的“草书奇才”!水平不输张旭、怀素,当今知道他的人不足1%

亲子要闻

如何激发孩子的学习兴趣

无障碍浏览 进入关怀版