🧒 初中生也能看懂的版本
① 研究背景(为什么要做?)
社会仿真里,研究者越来越喜欢让大语言模型扮演一个个普通人,看他们怎样交往、怎样形成共识、怎样被政策改变。可是有一个麻烦:别人照着论文重做一遍,常常得不到同样的结果。传统的智能体建模有一套叫 ODD 的文档协议,研究者按它的模板写清楚模型的目的、主体、状态变量和行为规则,别人就能照着重建。但大模型智能体的“行为规则”不是几条方程,而是一段在运行时才拼出来的提示词:系统指令、人设、一段历史记忆、环境状态、输出要求,拼好以后交给模型采样,再把输出解析成动作,解析失败还要重试。这一整套拼装和解析的过程,在旧协议里根本没有对应的格子。已有研究发现,光是把人设从一段散文改成一个表格,合作率就能相差七十多个百分点。所以“我们给智能体配了人口学人设”这句话,在两种写法下可以支撑完全相反的结论。这篇文章要解决的,就是给这些说不清的地方找一个固定的落脚处。
② 研究问题(要回答什么?)
作者把问题拆成三层。第一层是规范层面:一份关于大模型智能体社会仿真的文档,到底必须写清楚哪些东西,才能让独立的第三方在不看原始代码的情况下把模型重建出来。第二层是后果层面:如果漏掉其中某一项,结论会差多少,是数字上的小抖动,还是整个现象的定性结论都会翻过来。第三层是现状层面:已经发表的研究普遍写到什么程度,最容易漏的是哪几类信息。为了回答第二层,作者没有停在讲道理,而是找了一篇文档质量高于平均水平的已发表仿真,把它当成最保守的试验对象,逐项改动规格设定,看结果怎么变。为了回答第三层,作者又对二十八篇已发表的大模型智能体仿真逐篇编码,每一条都问同一个问题:只读这篇论文和它附带的材料,这一项你能不能确定。
③ 研究方法(怎么做的?)
作者做的第一件事,是给现有的 ODD 协议加五个新板块:认知架构、身份、推理配置、行为子模型、验证。前两个描述智能体是谁、脑子里有什么,后三个描述调用模型时到底发生了什么。其中最关键的是行为子模型:每一次模型调用都要写清楚它读哪些状态、输出什么格式、提示词怎么拼、历史怎么截断、输出怎么解析、解析失败怎么办。行为子模型和推理配置都按重复记录来写,一个模型角色一份、一个调用点一份,系统越复杂文档就越长。第二件事是一场多宇宙分析。作者挑了一篇已发表的命名游戏仿真:二十四个智能体,从两个字母里挑名字,挑一样得一百,挑不一样扣五十。他们从中找出六个必须由重建者自己拿主意的规格选项,做了一个基准版本加七个单变量变体,共八条实验臂,用同一个模型各跑一遍。实验分两段:先直接拿合成的记忆状态去问模型,看微观层面的偏好;再跑完整的群体仿真,每条臂二十个随机种子。
④ 结果(发现了什么?)
第一段探测的结果是:在基准设定下,模型被问到更倾向哪个名字时,偏向强约定的程度是正的,说明微观层面确实存在一点不对称。但只要把“以局外人身份预测”改成“以当事人身份回答”,这个方向就反过来了。第二段完整仿真更戏剧化:基准版本里,只有约三成半的运行最终统一到那个强约定上,而且部分运行压根没有统一;换成第一人称的那条臂,二十次全部统一到强约定,收敛速度快了三倍,它的置信区间和其余七条臂完全不重叠。其余六条改动记忆格式、记忆顺序、计分方式、配对方式的臂,结果都落在三成到五成半之间,彼此看不出差别。也就是说,在这个重建里,唯一能把定性结论翻过来的,是那条最容易被忽略的说明。第三部分是对二十八篇论文的编码:系统层面的二十九个项目平均得分一点五二分(满分两分);但一到每个模型角色、每个调用点这种重复记录,分数就掉到零点四八和零点九零。解析层几乎空白,重试策略在八成半的论文里得零分,解析失败率在九成三的论文里根本没有报告。把提示拼装和输出解析合起来算,七成七的评分项是不确定的,没有一篇论文的主调用点能拿满分。
⑤ 讨论(这些发现说明什么?)
作者特别强调,这不是在指责被复现的那篇论文。恰恰相反,那篇论文按现在的标准算是文档很齐全的:写了模型版本、做了对照、公开了提示词和代码。问题在于,即使信息都写了,它也没有一个固定的地方安放,读者很容易漏掉。被改掉的那条“以局外人身份回答”,原文其实写了,只是藏在不起眼的位置;而真正意义上没写的那一项,也就是解析失败后怎么办,因为解析失败率不到百分之一、几乎从不触发,改不改结果都一样。这就把“写没写”和“读没读到”两件事分开了。对公共管理和传播研究来说,这一点尤其要紧:政策沙盒、疫苗犹豫、舆论与意见动力学这类仿真,往往直接拿去支撑政策建议,可它们恰恰是调用链最长、角色最多、最难重建的一类。作者自己的编码也显示,下机制类结论的论文平均得分高一些,下政策类结论的反而更低,只是样本太小,没做统计检验。
⑥ 结论(最终结论 + 启示)
这篇文章给出的东西不复杂:五个板块、一张可以填的表格、一份可以直接写成配置文件的规范。作者估计,一个简单系统多写一页纸就够了,复杂系统按调用点数量线性增长;他们自己那八条实验臂,本身就是按这套规范写成的配置。它不能保证结果一定可复现,因为模型会更新、服务商会悄悄换版本、随机系统本来就有波动;但它能把研究者已经做过的选择固定下来,让后来的人少猜几次。对期刊和评审来说,这套东西也可以直接变成投稿清单:凡是拿大模型智能体做社会仿真、又要对公共政策或传播现象下结论的稿子,至少应该交代清楚模型版本、提示拼装、历史截断和输出解析这四件事。作者下一步打算做的,是让两位编码员独立重编码一部分论文,再请人只凭写好的规范去重建调用,看这套文档到底能不能真的省下猜的时间。
🎓 专业 IRMaD 结构解读
I. Introduction(引言)
ODD 协议(Grimm 等 2006;2010;2020)用目的、实体与状态变量、过程概览、设计概念、初始化、输入数据、子模型七个板块,把基于智能体的模型描述到“独立建模者可以重建并复现结果”的程度,其核心是子模型板块:智能体行为被写成方程或规则。此后的 ODD+D(2013)、ODD+2D(2018)、vODD-DD(2026)与 VISA(2026)都在同一路线增补,却都没有处理提示词拼装,因为这一问题在 LLM 智能体出现之前并不存在。LLM 智能体的动作不是方程,而是对一个运行时拼装出的词元序列做采样:系统提示、人设、交互历史的某个子集、环境状态的某种渲染、输出指令,拼接后送模型,再解析、可能被拒绝、可能重采样,最后映射为仿真动作。这套拼装与解析过程,正是 LLM 智能体缺失的“子模型”板块。YuLan-OneSim(Wang 等 2025b)已用 ODD 正向生成五十个社科场景的可执行模拟器,但其协议止步于智能体类型与交互模式,不涉及上下文如何组装、输出如何解析,需求存在而格子缺位。与此同时,有效性批评指出该领域的系统性缺口:Larooij 与 Törnberg(2025)评述三十五篇论文后发现普遍缺失验证;Zhou 等(2025)提出 PIMMUR 六项设计效度原则;Ye 等(2026)仅改变人设呈现形式(散文、项目符号、键值表)就使合作率相差七十六个百分点;Barrie 与 Törnberg(2025)则认为命名游戏结果与预训练数据泄露在观测上等价。本文是报告规范而非新算法,贡献方式近于 CONSORT、TRIPOD:规定写什么,并给出这些项目确实要紧的证据。
I. Theoretical Framework & Hypotheses(理论框架与假设)
ODD+LLM 在保留既有七个板块不变的前提下,于设计概念与初始化之间插入五个板块。板块 C 与 D 采用重复记录结构,一份记录对应一个模型角色或一个 LLM 调用点,因而文档随系统规模线性增长:两主体、单调用点的困境博弈仍是一页纸,而有九个不同调用的生成式架构论文就产生九份记录。评分构念把“断言存在”与“规定清楚”严格分开:只说“智能体有记忆模块”只得 1 分,永不 2 分;2 分要求独立实现者无需猜测即可复现。每个 0 分或 1 分都会生成一个“决策点”,其定义与多宇宙分析中的分支点完全相同——一个可以在不违反原文的前提下被两名实现者取不同值的选择。这套构念使可重建性从口号变成可计数的对象。重复记录的代价是文档随系统增长,收益是不再有“整篇论文只写了一段方法”的模糊地带。
| 板块 | 层级 | 条目数 | 记录内容 |
|---|---|---|---|
| A 认知架构 | 系统 | 9 | 每周期的作业记忆内容;长期记忆类型与后端;检索规则(公式、常数、基数);写入规则;内部与外部动作空间;决策程序(含每次激活的动作数);工具;主体间通道及可见度参数 |
| B 身份 | 系统 | 6 | 人设来源、内容、表面形式(逐字模板)、异质性方法、行为约束、身份稳定性(静态或漂移,含更新规则) |
| C 推理配置 | 系统 spine | 2 | CS1 提供方非确定性来源(批处理、路由、缓存)及处理;CS2 调用并发与时序 |
| C 角色记录 | 每个模型角色 | 6 | CR1–CR3 模型标识(精确版本或固定快照)、构建标识(系统指纹)、提供方与端点及访问日期;CR4 解码参数;CR5 服务精度与量化;CR6 训练或适配(现成使用记 NA) |
| D 行为子模型 | 系统 spine | 2 | DG1 时序耦合(第 t 步输出是否及以何形式进入第 t+1 步);DG2 调度与激活(时间步长、谁在何时行动、步内顺序) |
| D 调用点记录 | 每个调用点 | 15 | 签名 DS-1 输入绑定、DS-2 输出类型;绑定 DB-1 静态文本、DB-2 逐槽序列化、DB-3 组件顺序与角色位置、DB-4 历史策略与基数、DB-5 截断规则与常数、DB-6 词元预算与丢弃顺序、DB-7 动作空间编码;解析 DR-1 解析器、DR-2 有效性约束、DR-3 重试策略、DR-4 失败动作与级联、DR-5 失败率;委托 DF-1 第三方框架及固定版本 |
| E 验证 | 系统 | 10 | 行为参照;验证层级;重复次数(E3a)与方差报告单位(E3b);方差报告;表示敏感性;群体离散度;消融与非社会对照(E7a);非 LLM 或人类基线(E7b);纵向稳定性 |
三个来源支撑这套结构:Block A 直接采用 CoALA(Sumers 等 2024)的认知架构分类学作为本体,而非另造一套;Block D 的签名格式借鉴 DSPy(Khattab 等 2024)的机器可读签名;调度词汇采用 Concordia(Vezhnevets 等 2023)的 simultaneous / sequential / asynchronous 受控词表。满足该 schema 的 YAML 配置文件本身即为 Block D 文档,无需另写散文描述;本文的多宇宙实验臂配置就是现成的 Block D 规格。
M. Materials & Methods(材料与方法)
多宇宙分析的载体是 Flint Ashery 等(2025a,Science Advances)的命名游戏:N=24 个智能体从 W=2 个字母中反复选名,同名得 +100、异名扣 −50;原文报告个体层面无偏的智能体群体仍不成比例地收敛到某个“强”约定,机制来自“成功后坚持、失败后切换”的微观不对称。选它作案例的理由是它按现行规范已属文档优良:报告模型版本、设真实对照、公开补充材料中的提示词与代码,因此是保守检验。作者从编码工具给出的 21 个决策点中挑出六个行为相关的分支点,做一条基准臂加七条单变量变体(M1 有两个变体),共八条臂;所有臂共享 N=24、W=2、H=5、收益 +100/−50 与思维链提示,使用 Claude Sonnet 4.6(AWS Bedrock,temperature 0.7),而非原文的 temperature 0.5、top-k 10、max tokens 6(见原文补充材料表 S4)。
| 编号 | 分支轴 | 原文表述与歧义 | 水平 | 可判定性 |
|---|---|---|---|---|
| M1 | 记忆格式 | “dynamic memory prompt” 未说明以何种形式呈现 | 表格 / 叙述 / JSON | 补充材料可定 |
| M2 | 记忆顺序 | H 条记忆的排列顺序未说明 | 最近优先 / 最早优先 | 补充材料可定 |
| M3 | 计分语义 | “累计得分”未说明是窗口还是全程累加 | 滑动窗口 / 累加 | 补充材料可定 |
| M4 | 人称框架 | “外部观察者预测玩家一”易被读成当事人 | 第三人称 / 第一人称 | 正文写明但非显见 |
| M5 | 配对协议 | “两名智能体随机配对”未说明是否完美匹配 | 随机 / 完美匹配 | 补充材料可定 |
| M6 | 解析失败 | “保持格式一致”未说明失败后如何回退 | 重采样加均匀回退 / 仅均匀 | 真正开放 |
两阶段设计:阶段一用合成的记忆状态直接询问模型(7 状态 × 8 臂 × 300 样本 = 16,800 次调用),测量微观不对称量 R4;阶段二跑完整群体仿真(8 臂 × 20 种子 × 每种子约 200 次调用,约 32,000 次调用),主指标为 P(M),即最终收敛到 M 的运行占比,收敛轮次定义为群体平均成功率首次越过 0.95 的轮次,不确定区间用 Wilson 95% 置信区间,整体以 specification curve(Simonsohn 等 2020)呈现。文献部分:语料取自预设的十八个 venue(ACL、EMNLP、NAACL、COLING、NeurIPS、ICML、ICLR、AAAI、IJCAI、AAMAS、ICWSM、WWW、CHI、JASSS、Science Advances、Nature Human Behaviour、PNAS 及 arXiv cs.MA/cs.CL/physics.soc-ph),2023–2026 年;入选条件为至少一个 LLM 智能体在不少于两个时间步上被反复征询、状态跨步传递、并与其他主体互动。流程为 48 条记录经题名摘要筛除 16 条、细读 32 篇、再排除 4 篇,最终编码 28 篇(18 个 venue、7 个分层)。工具在 Pass 1 的 10 篇(9 篇合格)中成形并于 2026-08-15 冻结为 v1,Pass 2 用冻结版编码其余 19 篇,不合板块结构的决策点记为 miss 并报告。
R. Results(结果)
阶段一(表 2)显示,基准臂在空记忆条件下的 P(M|empty)=0.680,R4 不对称量为 +0.200,即微观层面确实偏向强约定 M。多数单变量变体只造成小幅移动:叙述式记忆 0.653(+0.063)、JSON 0.730(−0.040)、最早优先 0.690(+0.021)、累计计分 0.707(+0.217)、完美配对 0.693(+0.257)、均匀回退 0.663(+0.227);只有第一人称框架把方向翻了过来:0.587,不对称量 −0.243。M5、M6 属群体层机制,逻辑上不应影响直接探测,其波动属抽样噪声。
| 实验臂 | P(M | 空记忆) | R4 不对称量 |
|---|---|---|
| 基准(表格 / 最近优先 / 第三人称) | 0.680 | +0.200 |
| M1 叙述式记忆 | 0.653 | +0.063 |
| M1 JSON 记忆 | 0.730 | −0.040 |
| M2 最早优先 | 0.690 | +0.021 |
| M3 累计计分 | 0.707 | +0.217 |
| M4 第一人称 | 0.587 | −0.243 |
| M5 完美配对 | 0.693 | +0.257 |
| M6 均匀回退 | 0.663 | +0.227 |
阶段二(表 3)出现更有意思的张力:基准臂 P(M)=0.350(95% CI [0.18, 0.57]),三分之二的运行反而收敛到 Q,与阶段一“M 偏强”的方向相反;作者归因于 20 个种子下的随机动力学,且所有第三人称臂的 Wilson 区间都覆盖 0.5,无法与抛硬币区分。第一人称臂则 P(M)=1.000([0.84, 1.00]),二十个种子无一例外收敛到 M,收敛轮次 5.3,而基准为 16.1,其余臂在 14.9 至 19.9 之间,M2 最早优先最慢、接近第 35 轮才完成协调。六个第三人称臂的 P(M) 全部落在 [0.30, 0.55],与基准在统计噪声内。
| 实验臂 | P(M) | 95% Wilson CI | 收敛轮次 |
|---|---|---|---|
| 基准 | 0.350 | [0.18, 0.57] | 16.1 |
| M1 叙述式 | 0.450 | [0.26, 0.66] | 15.6 |
| M1 JSON | 0.300 | [0.15, 0.52] | 17.6 |
| M2 最早优先 | 0.450 | [0.26, 0.66] | 19.9 |
| M3 累计计分 | 0.350 | [0.18, 0.57] | 14.9 |
| M4 第一人称 | 1.000 | [0.84, 1.00] | 5.3 |
| M5 完美配对 | 0.550 | [0.34, 0.74] | 19.4 |
| M6 均匀回退 | 0.350 | [0.18, 0.57] | 15.3 |
文献编码(表 4、表 6):29 个系统层条目均分 1.52/2.00(76%);架构板块 1.63、验证 1.46 尚可,推理配置最差,按角色仅 0.48,系统指纹(CR2)在全部 28 篇中均为 0。绑定层(DB1–DB7)均分 1.14,其中词元预算(DB-6)仅 0.39、28 篇中 17 篇得 0;解析层(DR1–DR5)均分 0.37,重试策略在 85% 的论文中为 0、解析失败率在 93% 中未报告,DR3–DR5 从未有论文得 2 分。绑定与解析合计 306 个评分子项中 236 个低于 2 分,即 77% 不确定;没有任何一篇的主调用点在全部绑定与解析条目上得满分。28 篇共产生 705 个决策点(均值 25.2,范围 10–40),第 15 篇后每篇新增轴少于 2 个,说明由 Pass 1 归纳出的板块结构对留出集具有泛化性,且没有任何决策点需要冻结工具之外的板块。平均每篇 1.5 个模型角色(范围 1–3),但只正式编码主调用点;Block C 在 agent 角色上为 0.53、跨全部角色为 0.48,说明次级模型系统性不可见。
a / D. Discussion & Conclusion(讨论与结论)
解读的关键是把两类臂分开。六条“原文未说清或委托给补充材料”的臂落在 P(M)∈[0.30,0.55],与基准在统计噪声内;M4 不同质,它改的是一条原文写明但易被忽略的说明,检验的是信息没被读到,而不是第七种合理重建。因此主张是单项而非全项:漏掉人称框架足以让一个换了模型的重建给出定性不同的现象,其余五项可能在此检测力之下调节结果。规格显著性与规格缺失要区分:只有 M6 属真正未定义,而它恰好精确回到基准 0.350,因为解析失败率不足 1%、分支几乎从不触发,说明文档投入应优先放在高频高影响的条目上。分层比较显示,下机制类结论的论文(n=11)主调用点均分 1.00,下政策类结论的(n=9)仅 0.72,但分层是混杂因素(政策类论文集中在更复杂架构),样本量也不足以做统计检验。
对公共管理与传播类仿真的可复用意义。这套协议不止是机器学习工程规范。其一,语料本身覆盖大量公管与传播议题:政策沙盒层(PolicySim、疫苗犹豫、流行病中的 AI 政策者)、意见动力学层(回声室、网络舆论)、平台规模层与规范涌现层,正是公共政策评估与计算传播最常用的四类仿真,而它们恰恰是调用点最多、角色最多、最难重建的一类。其二,编码结果显示政策类结论的平均规格得分最低(0.72),意味着最直接面向决策者的那批仿真可重建性反而最弱,这对以仿真证据支撑政策建议的做法是直接警示。其三,Block B 把人设表面形式标为行为性而非装饰性,Block E 要求报告重复次数、方差单位、表示敏感性与非 LLM 或人类基线,两项都可直接嵌入传播学的预注册与公管期刊的补充材料清单。其四,协议把可重建性操作化为可计数的条目与决策点,使期刊、评审与复制研究可以据此设定最低披露门槛,而不必依赖作者自觉。
局限。演示是单案例、每臂 20 个种子,只能说明某项规格可以决定结果,不能估计这种情况发生的频率;只用一个模型且解码设置与原文不同,量级未必可移植;设计为单因子八臂而非 2^6=64 的全因子,轴间交互未检验;20 个种子下只有 M4 可统计分辨。协议覆盖方面,多宇宙只演练了六个条目(DB-1 至 DB-4、DG2、DR-3),其余条目由语料中的不确定频率与既有证据支撑,尚未逐项实验验证。证据方面,编码由单一编码员完成、未估计评分者间信度,77% 只能视为指示性而非已验证;作者也未测量作者负担或证明 ODD+LLM 确实提升重建成功率。协议目前只覆盖文本进、文本出的调用,视觉语言模型的多模态输入未纳入。需要强调,这不是对被复现论文的批评:该文按现行规范文档良好,缺的是让已做选择有固定安放之处的惯例。
🧠 IRMaD 思维导图
mindmap
root((大模型智能体仿真文档规范))
I 引言
ODD 是建模文档标准
行为靠提示词拼装
旧协议没有对应格子
换个写法结论就变
已有仿真难以重建
R 研究问题
文档该写清哪些项
漏一项会差多少
现有论文写到什么程度
重建者要在哪里猜
M 方法
五个板块扩展协议
按角色与调用点重复
命名游戏多宇宙分析
六条分支八条实验臂
直接探测加群体仿真
二十八篇逐项编码
零一二三档评分
R 结果
基准三成五选强约定
改当事人升到十成
收敛快了三倍
其余六条在噪声内
系统层均分一点五二
解析层几乎空白
七成七评分项不确定
a 讨论
写了不等于读到
真正空白只有一处
政策类文档更弱
单案例二十种子
单一模型未做全因子
只覆盖文本调用
D 结论
多写一页纸的成本
配置文件即文档
不保证复现但少猜
可作投稿评审清单
下一步双人编码重建
图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。