🧒 初中生也能看懂的版本
① 研究背景(为什么要做?)
大模型会一本正经地教人做坏事:怎么歧视某个群体、怎么骗取别人的隐私、怎么钻法律空子。为了让它“守规矩”,业界常用两种办法。一种是“宪法式对齐”:请人写一批原则,比如“要诚实、要无害”,让模型拿这些原则自我检查。问题是写原则很费人,而且原则往往很抽象——“要无害”到底什么意思?另一种是给一个宏大的价值口号,比如“对人类好”,听起来正确,落到具体场景几乎没法执行。作者的想法很朴素:既然人类社会已经把“什么不能做”写进了法律,为什么不直接拿法条当规矩?法律条文具体、有边界、可引用,比空泛的原则更适合教模型。
② 研究问题(要回答什么?)
论文要验证一个替代方案:能不能用成文法条文替代人手编写的伦理原则,来做大模型的安全对齐?具体问三件事:第一,把用户的问题先归类到某个法律主题,再调出对应条文让模型自我批判和改写,这套流程能不能真的减少有害输出?第二,它和常规的宪法式对齐相比,效果更好还是更差,成本高不高?第三,这种“依法对齐”在不同模型上都成立吗,还是只对某一个模型有效?
③ 研究方法(怎么做的?)
作者的做法叫 Statutory AI,分两步,两步都用“思维链”提示。第一步是分类:先把用户的问题扔给一个分类模型,判断它属于哪个法律主题——作者选了法国刑法里的五类:歧视、泄露机密信息、暴力、欺诈、侵害弱势者。第二步是批判与改写:根据主题调出法条库里相关的条文,连同原问题一起交给模型,让它先分析“这样回答违反了哪一条”,再重写一个合规版本。整个流程只跑一轮,因为相关法条在第一轮就全部提供了。测试用了一千条公开的红队攻击提示,覆盖上述五类主题;被测试的模型有三个:Mistral 7B、Gemini 2.5 Flash 和 Qwen3-VL-30B;评判由 GPT-5 主判、Gemini 2.5 Flash 辅判。
④ 结果(发现了什么?)
效果很明显:在三个模型上,Statutory AI 把有害回答的比例降低了 52 到 59 个百分点,比标准的宪法式对齐(Constitutional AI)还高出约 10 个百分点,同时把计算时间削减了一半以上。作者分析,优势来自两点:一是法条比原则具体,模型知道“红线”画在哪;二是分类之后只调相关条文,上下文更短、更聚焦,所以又快又准。值得注意的是,即便是原本很容易被攻破的 Mistral 7B,在这套流程下也有明显改善,说明方法不依赖某个特定模型的“天赋”。作者也做了人工抽查,确认判断质量不是评判模型自己“放水”。
⑤ 讨论(这些发现说明什么?)
作者认为,这项工作的意义不只是“效果好一点”,而是提供了一种可审计的对齐路径:模型为什么拒绝、依据哪一条法律,是可以被追溯和检查的,而不是黑箱里的一句“我觉得不安全”。这对监管尤其重要——监管者可以直接问“你依据哪条法规做的判断”。但作者也坦承局限:法条库需要专业维护和更新;跨法域迁移不是简单换语言,而是整套法律体系要重新映射;评判仍依赖大模型,存在偏好;此外,模型对法条的理解是否准确,本身也需要审计。
⑥ 结论(最终结论 + 启示)
结论是:用成文法条文做对齐,比抽象伦理原则更具体、更可执行,在减少有害内容上效果更好、成本更低,是一条值得监管机构与模型厂商合作的治理路径。但它不是“装上法条就万事大吉”:法条要持续维护,跨法域要重新适配,最终判断仍需人类与审计机制兜底。
🎓 专业 IRMaD 结构解读
I. Introduction(引言)
AI 对齐的主流路径有两类:以 Constitutional AI 为代表的人工编写原则 + 自我批判,以及以 GfH(Good-for-Humanity)为代表的宏观规范性框架。前者依赖大量人工监督且原则编写成本高,后者过于抽象、难以提供可操作的治理指引。本文提出 Statutory AI:以成文法条文作为宪法框架,让模型在具体法律主题下自我批判与修订输出。其治理意义在于把“合规判断”从模糊的价值判断转为可引用的法条适用,从而提升可审计性。
I. Theoretical Framework & Hypotheses(理论框架与假设)
理论出发点是法律规范相较于伦理原则的三点优势:具体性(条文界定构成要件与边界)、可引用性(判断可追溯到具体条款)、制度嵌入性(法律本身具有执行与解释机制)。方法据此设计为两阶段 Chain-of-Thought:第一阶段把用户提示分类到预定义法律主题;第二阶段检索该主题下的相关条文,要求模型先做合规批判、再做修订。研究假设为:法律条文的具体性可提升有害内容的抑制效果,同时因上下文聚焦而降低计算成本。
M. Materials & Methods(材料与方法)
- 法律语料:法国刑法典中五个主题的条文——歧视、泄露机密信息、暴力、欺诈、侵害弱势者(如 Article 223-15-2)。
- 两阶段流程:①分类模型(Gemini 2.5 Flash)按批处理,将每条提示归入一个主题;②批判/修订模型接收原提示 + 该主题相关条文,执行一次 CoT 批判与改写(仅一轮,因条文已在首轮全部提供)。
- 被测模型:Mistral 7B(预期高脆弱性)、Gemini 2.5 Flash(预算内商用模型)、Qwen3-VL-30B-A3B-Thinking。
- 数据:从公开 Adversarial Dataset 随机抽取 1,000 条红队提示;该数据集在 Gemini 2.5 Flash 上初始脆弱率 58%、Mistral 7B 超过 93%。
- 对照:标准 Constitutional AI 流程(同一 CoT 指令、人工原则)。
- 评测:LLM-as-a-judge,GPT-5 为主判、Gemini 2.5 Flash 为辅助判(并讨论其潜在偏倚);作者定期人工复核推理步骤。
R. Results(结果)
- 有害内容抑制:三个模型上有害回答下降 52–59 个百分点,较 Constitutional AI 高约 10 个百分点。
- 效率:计算时间削减 50% 以上,原因是分类后仅注入相关条文,上下文显著缩短。
- 跨模型稳健性:连初始脆弱率超过 93% 的 Mistral 7B 也获得显著改善,说明方法不依赖特定模型能力。
- 可审计性:每条拒绝/修订都可追溯到具体法条,形成“判断—依据”的对应关系。
- 评测效度:主判 GPT-5 与辅判 Gemini 2.5 结论一致;作者对推理步骤做人工抽查以降低 judge 偏差。
| 模型 | 相对基线有害内容变化 | 相对 Constitutional AI |
|---|---|---|
| Mistral 7B | −52 至 −59 pp | 约 +10 pp 优势 |
| Gemini 2.5 Flash | 同量级下降 | 约 +10 pp 优势 |
| Qwen3-VL-30B | 同量级下降 | 约 +10 pp 优势 |
| 计算时间 | 较基线减少 50% 以上 | |
a / D. Discussion & Conclusion(讨论与结论)
- 治理含义:把法条引入对齐,使拒绝行为具备可解释、可追溯的规范依据,便于监管审查与责任分配。
- 与原则式对齐的比较:法条更具体、边界更清晰,减少“原则正确但无法执行”的问题;但法条的适用范围与解释仍需专业判断。
- 局限:单一法域(法国刑法)与五个主题;法条库需专业维护与版本更新;跨法域需重新映射法律体系;judge 为 LLM,存在系统性偏好;模型对法条的理解准确性未被独立审计。
- 结论:成文法对齐在效果与成本上均优于原则式基线,为“可审计的合规对齐”提供了可行路径,但需制度化的法条维护与人类监督配套。
🧠 IRMaD 思维导图
mindmap
root((法定对齐))
I 引言
原则式对齐太抽象
人工编写成本高
法律条文更具体
R 框架
条文可引用
判断可追溯
两阶段思维链
M 方法
五类刑法主题
先分类再批判
对照宪法式对齐
一千条红队提示
R 结果
有害内容降 52 到 59 点
比宪法式高约 10 点
计算时间省一半
弱模型也受益
a 讨论
拒绝有法条依据
便于监管审计
跨法域需重映射
D 结论
可审计对齐路径
法条库要维护
人类监督兜底
图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。