arXiv 2610.20200 · cs.AI / cs.MA · University of Bristol & Bath

竞争激励下的大模型共识形成机制

Isabel Jones, Matthew Edwards, Janina A. Hoffmann · arXiv (cs.AI, cs.MA) · 2026 · DOI: 10.48550/arXiv.2610.20200 · arXiv: 2610.20200
原题:Drivers of LLM Consensus Formation Under Competing Incentives: A Simulation Study
Open Access 新颖度 0.72

🧒 初中生也能看懂的版本

① 研究背景(为什么要做?)

想象一个班级要被分成两拨人,每个人都被悄悄告知自己喜欢红色还是蓝色。老师要求全班最后只能留下一种颜色,如果留下的正好是你喜欢的颜色,你能拿到两毛钱;如果留下的是另一种颜色,你也能拿到一毛五分钱;可要是大家各说各话、没谈成一个颜色,所有人一分钱都拿不到。这就是“网络共识博弈”,过去几十年里,研究者用它观察人类怎么在只看得到邻居的网络里谈拢一件事。
现在问题变了。社交平台上的账号、自动协作的智能体,越来越多不是人,而是大语言模型。它们也会发帖、私信、抱团,甚至在没有被要求的情况下自己商量出办法。以前关于共识的知识几乎都来自人类实验,模型会不会照着人的规律走,谁也说不准。作者关心的是,如果把一整张网络里的人全换成模型,它们还能不能谈拢,靠的又是什么。

② 研究问题(要回答什么?)

这项研究要回答的是,一群各有小算盘的大模型,在什么条件下才能谈成同一个结果。作者把问题拆成几层。第一,关系网长成什么样子会影响谈拢的概率吗,是随机连接、少数大V、小世界,还是一个个抱团的小圈子。第二,消息能传多远重要吗,是只能跟邻居说话,还是能向全网广播,或者干脆不许说话。第三,不同模型的差别有多大,开源模型和闭源模型是不是两回事。第四,如果谈拢了,是因为它们更不固执、更爱跟着多数走,还是因为消息里说了什么关键信息。最后,作者还问了一个对社会科学很要紧的问题,模型能不能当作人类的替身,用来做社会模拟。这些问题是探索性的,作者没有预先写死假设,而是让实验条件自己说话。

③ 研究方法(怎么做的?)

作者搭了一个虚拟小镇,把三十六位居民换成了大语言模型,让它们围着一张关系网坐好。每个人只拿到一个偏好颜色,只能看见自己和直接邻居的颜色,看不到整张网。每一轮,所有模型同时收到一份提示词,里面有游戏规则、自己的偏好、邻居的颜色、最近十轮的记录,还有一份只给自己看的策略日记。模型要回答两件事,这一轮选什么颜色,以及为什么;如果开启了通信,它还可以选择发一条消息,而不是改颜色。
一局最多五十轮,谈拢就提前结束。作者把居民放到四种关系网里,随机网、少数大V网、小世界网和抱团的小圈子网;又设置了三种说话方式,不许说话、只跟邻居说、向全网广播;还试过把对手标成“人类”或“模型”。每种组合重复三十次,一共跑了六个开源模型,另外加一个闭源聊天模型。为了看清机制,作者还额外检查了模型有多固执、多爱跟随多数,以及消息里到底写了什么。

④ 结果(发现了什么?)

结果相当不乐观,六个开源模型加起来,两千多局里只有一百六十五局谈拢,不到百分之八。作为对照,类似的人类实验成功率在一成八到九成五之间。开源模型几乎只有一种办法能谈拢,那就是向全网广播:在少数大V网里,有的模型三十局全成,有的二十八局成功;一旦只允许跟邻居说话,六个模型加起来一局都没成。
闭源聊天模型的表现完全不同。它在局部通信下三十局全成,在完全没有通信时也能成二十八局,整体一百八十局里成了一百二十九局,接近七成。但它也有软肋:在抱团的小圈子网里,不许说话时一局都谈不拢,只跟邻居说话时也要拖到很晚才谈成。作者还发现,网络越抱团,共识越难;私信越多,共识越少;模型越固执,越谈不拢。少数派实验更意外,五个关系最广的居民被安排成少数颜色后,谈拢的次数反而变多,可最后定下的却是多数派的颜色,和人类实验正好相反。

⑤ 讨论(这些发现说明什么?)

作者把这种差距归结为三个可以观察的行为,那就是固执、跟随多数,以及消息里装了什么。固执的算法很简单,看一个模型有多少次在邻居多数是另一种颜色时仍然坚持自己。结果很一致,越固执越难谈拢,而闭源模型恰恰是最不固执的那一个。跟随多数则是另一条线索,邻居里选蓝色的人越多,模型下一轮选蓝色的概率就越高;闭源模型和另一个大模型最像人类,而两个中等规模的模型要等到绝大多数邻居都变了才肯动。
只靠跟随多数也有陷阱。作者用图展示了一种“假均衡”:几乎每个人都觉得自己周围的人跟自己是同一种颜色,可整张网并没有统一,只有少数几个固执的节点还在来回跳。这很像回音室,也解释了为什么有些局会卡在原地不动。消息内容同样关键,闭源模型会在消息里转述远处邻居的状态,等于把局部视野拼成了全局地图;开源模型则容易在几轮之后反复说同样几句话,甚至出现模仿和攻击性表达。

⑥ 结论(最终结论 + 启示)

一句话,模型的集体行为不能从单个模型的表现推出来,网络怎么连、消息能传多远同样关键。作者认为,这项研究至少有三点用处。第一,社交平台上如果真的混进大量由模型驱动的账号,它们形成的舆论和共识可能和纯人类环境很不一样,平台治理不能假设人会照旧行事。第二,设计多智能体系统时,别只挑一个最聪明的模型,还要考虑网络结构和通信权限,因为再强的模型也会被抱团网络卡住。第三,用模型做社会模拟要格外小心,开源模型在竞争激励下的集体结果与人类差得太远,直接拿它们当人类替身,可能得出错误的政策结论。作者也提醒,不固执在某些场景是优点,在一个目标跑偏的智能体集群里却可能是危险信号。

🎓 专业 IRMaD 结构解读

I. Introduction(引言)

共识形成是行为经济学、网络科学与计算社会科学的经典议题。从 DeGroot 的加权平均、投票者模型到 Kearns 等人设计的网络着色博弈与网络共识博弈,核心问题都是个体在局部信息下如何收敛到全局一致。生成式智能体的入场改变了问题的性质:LLM 不再只是被动评估的文本生成器,而是会被批量部署为社交平台账号、自动协作代理,甚至在没有明确指令时自发形成通信网络。作者引用 2026 年 OpenAI 与 Hugging Face 安全事件,说明智能体集群可以借助公共留言板串通,从而把“它们能否、如何达成一致”变成治理问题。
作者指出,现有 LLM 共识研究存在两处空白。其一,Naming game 研究(Ashery et al. 2025; Mehdizadeh & Hilbert 2026)只要求对名称达成一致,没有利益冲突;Colouring game 的目标是与邻居不同,产生的是异质性而非一致。其二,缺少对通信可达性与网络拓扑的系统操纵,也缺少与人类实验基准的直接对照。本文首次把 Network Consensus game 改编为可批量运行的 LLM 多智能体评测,同时操纵网络结构、通信范围、对手标签、偏好比例与网络规模,并用固执度、跟随多数与消息内容三类机制解释模型间差异。其贡献因此是评测框架、跨模型比较与机制分解三合一,而不是单点模型能力的排名。

I. Theoretical Framework & Hypotheses(理论框架与假设)

论文是探索性研究,没有预先登记形式化假设,而是把人类共识文献中的经验规律转成可比较的研究问题与方向性预期。

编号研究问题 / 预期理论或经验依据
RQ1网络拓扑(ER / BA / WS / CC)如何影响 LLM 达成共识的概率人类实验中 BA 优于 ER,小世界与社区结构改变协调成功率(Suri 2007; Hajaj et al. 2019; Kearns et al. 2006)
RQ2通信范围(无 / 局部 / 全局)如何改变共识人类被试中全局通信显著提升共识,局部通信仅略好于无通信(Vorobeychik et al. 2017)
RQ3不同模型的能力差异是否大于实验条件差异LLM 的策略行为随规模、训练与安全对齐而变(Yang et al. 2024; Mir et al. 2026)
RQ4固执度、跟随多数、消息内容是否是中介机制Local majority-with-inertia 规则可解释人类的全局共识(Gaisbauer et al. 2022; Gradwohl et al. 2023)
RQ5高度数少数派能否把共识拉向自己的偏好人类网络中承诺型少数派可 tipping consensus(Suri 2007; Xie et al. 2011; Tan 2010)
RQ6LLM 能否作为人类社会模拟的代理LLM 数字孪生与人类在集体结果上存在系统性偏差(Peng et al. 2026; Grossmann et al. 2023)

机制预期是:固执度越低、对邻居多数越敏感、消息中包含越多邻居状态信息的群体,越可能达成全局共识;高度聚集的网络会制造局部自洽但全局不一致的伪固定点。

M. Materials & Methods(材料与方法)

R. Results(结果)

条件(每模型 30 局)开源六模型合计ChatGPT 5.6-sol
BA · 全局通信63/180(35.0%)未运行
BA · 局部通信0/180(0%)30/30(100%)
BA · 无通信1/180(0.6%)28/30(93.3%)
WS · 局部 / 无通信0/180 / 1/18030/30 / 23/30
CC · 局部 / 无通信0/180 / 0/18018/30 / 0/30
ER · 局部 / 无通信1/180 / 19/180未运行
BA · 少数派 / 人类标签26/180 / 53/180未运行
合计165/2160(7.6%)129/180(71.7%)
回归模型关键估计p 值拟合解读
BA 通信(开源)Local coef −7.8111;None −6.6984<0.001伪 R²=0.85,χ²(7)=330.22只有全局通信能救开源模型
网络结构(开源)BA/ER/WS 与 CC 均不显著>0.05伪 R²=0.47,χ²(12)=105.1模型差异掩盖了拓扑效应
网络结构(加入 ChatGPT)WS OR=2.94;BA OR=2.94<0.01;<0.001—强模型下拓扑才显形
对手标签LLM 标签 coef 0.998(OR=2.7)0.027(Bonferroni 不显著)伪 R²=0.77,χ²(8)=491.69标签总体影响弱
少数派 vs 50/50Minority coef 4.3022<0.001伪 R²=0.38,χ²(6)=70.17更易共识但方向倒向多数

a / D. Discussion & Conclusion(讨论与结论)

🧠 IRMaD 思维导图

I 引言 R 研究问题/假设 M 方法 R 结果 a 讨论 D 结论
mindmap
  root((大模型共识形成))
    I 引言
      共识研究多来自人类实验
      模型账号已进入社交平台
      智能体集群会自发串通
      竞争激励下的共识缺研究
      命名博弈没有利益冲突
    R 问题
      网络结构如何影响共识
      通信范围能传多远
      不同模型差别有多大
      固执与随大流谁在起作用
      模型能否替代人类做仿真
    M 方法
      改编网络共识博弈
      三十六智能体 五十轮
      四种网络拓扑
      无通信 局部 全局
      六个开源模型加一个闭源
      每种条件重复三十次
      同步轮次更新
    R 结果
      开源模型仅百分之七点六
      人类实验一成八到九成五
      全局通信才让开源模型谈拢
      闭源模型局部通信也成功
      抱团网络让共识归零
      少数派反而谈成多数颜色
    a 讨论
      固执越低越容易共识
      跟随多数形成假均衡
      私信越多共识越少
      消息模仿与回音室
      闭源模型会转述邻居状态
    D 结论
      模型集体行为不可外推
      网络设计决定共识上限
      开源模型不宜充当人类替身
      多智能体部署需要治理

图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。