🧒 初中生也能看懂的版本
① 研究背景(为什么要做?)
想象你是一个合规专员,面前摆着三百页的法规,要求是:把每一条都翻译成“如果出现A情况,就必须做B,除非C”这种机器能执行的话。这件事过去只能靠律师和工程师一条条手工做——慢、贵,而且不同人拆出来的结果还不一样。
为什么现在特别需要?因为越来越多的AI系统要“遵守法规”,比如欧盟人工智能法、医疗隐私规则。如果规则没有被拆成机器可读的形式,模型就只能读一坨长文,然后靠猜。
② 研究问题(要回答什么?)
作者要解决三个具体问题:
- Q1:在没有人工标注答案(没有“标准答案”可以对)的情况下,怎么判断抽取出来的规则好不好?
- Q2:能不能让同一套流程,不加任何领域定制,就同时适用于金融、医疗、AI治理三种完全不同的法规文体?
- Q3:抽出来的规则,真的能提升下游任务(比如合规问答)的表现吗?
③ 研究方法(怎么做的?)
De Jure 像一条四道工序的流水线:
第一道,整理:把PDF或网页法规转成结构化文本,按“§”“Article”“Rule”等标记切成一节一节,每节打上指纹,保证以后能追溯到原文哪一行。
第二道,抽取:让大模型对每一节填一张固定表格——章节信息、术语定义、规则单元。规则单元还要拆成九个字段:动作、动作对象、方式、条件、约束、例外、罚则、目的、原文出处。提示词是“只给表结构、不给示例”,避免模型照着例子抄。
第三道,打分:请另一个大模型当“裁判”,按十九项标准分三轮打分,顺序是:先判章节信息,再判定义,最后判规则。
第四道,返工:哪一轮平均分低于0.90,就把原文、当前结果、每项得分和裁判的批评意见一起丢回去,让它只改有问题的字段,最多重试三次,保留得分最高的一版。
④ 结果(发现了什么?)
作者用三套差异很大的法规来考它:美国证交会的《投资顾问法》(条文层层嵌套)、美国医保隐私规则(大量“原则禁止+例外许可”)、以及欧盟《人工智能法》(原则性表述多)。
三套语料总评分都在 4.70 以上(满分5)
证交会4.84 > 医保4.76 > 欧盟AI法4.71,恰好对应文本规整度
用抽出的规则做检索问答,裁判认为更好的比例从73.8%(单条检索)升到84.0%
再拆开看:章节信息最好抽(约4.96),定义次之(约4.82),规则最难(约4.65)——越细的语义越难。模型之间也有差距:最好的闭源模型在规则这一轮拿4.75,开源小模型4.53。
消融实验最有意思:只重试一次几乎没用;重试到第二次时,定义那一轮一下涨了1.25分(25%)——因为有了足够多的候选,才能“挑最好的”。再多重试,收益就饱和了。另外,切分方式比后续修补更重要:切得整齐,第一步就能多拿0.33分。
⑤ 讨论(这些发现说明什么?)
作者的核心洞察是解耦:把“抽取”和“验证”分开。这样同一套返工机制就能套用到任何文档、任何法规体系、任何模型上,不需要为每个领域重写规则。
第二是修复顺序:先修章节信息和定义,再修规则。因为定义错了,后面所有规则都会跟着错——这就像盖房子先打地基。
当然,裁判也是大模型,它会不会“护短”?作者用下游问答做了外部检验:在真实合规问题上,用他们规则的回答被判更优的比例显著高于此前工作,说明分数不是自己跟自己玩。
⑥ 结论(最终结论 + 启示)
这项工作的意义在于:监管条文可以被规模化地、可审计地翻译成机器规则。对监管者,这意味着法规可以以“可执行”的形式发布;对企业,意味着合规检查可以自动化;对研究者,它提供了一条“用明确标准替代人工标注”的路径。
但作者也提醒:整套评估依赖大模型判分,仍需要外部抽检和真实合规场景的验证来兜底。
🎓 专业 IRMaD 结构解读
I. Introduction(引言)
LLM对齐研究多聚焦“有用—无害”维度,而对“符合成文法规”这一约束关注不足。监管文本以嵌套条件、交叉引用与例外结构著称,直接将其作为上下文喂给模型,既不可审计也难以验证。既有规则抽取工作(Sleimi et al., 2018;Governatori et al., 2016)依赖人工标注金标准或领域专用的道义逻辑形式化,成本高且难以跨域迁移。
本文提出De Jure(Document Extraction with Judge-Refined Evaluation):一条无监督、领域无关的四阶段流水线,在无标注、无领域提示的条件下把原始法规转为结构化规则单元,并以LLM-as-a-judge的十九维标准驱动选择性重生成。作者以SEC投资顾问法、HIPAA隐私规则、EU AI Act三套语料检验跨域泛化,并以RAG合规问答做下游效用验证。
I. Theoretical Framework & Hypotheses(理论框架与假设)
设计原则有二:
| 原则 | 内容 | 作用 |
|---|---|---|
| 抽取—验证解耦 | 生成与评判由不同提示/模型承担,评判标准外显为19项可解释准则 | 同一返工回路可跨文档类型、监管体系与模型复用 |
| 分层修复顺序 | 按 schema 层级依次修复:章节元数据 → 定义 → 规则单元 | 下游阶段继承上游修正,保证定义性上下文最大程度准确 |
规则单元的本体结构借鉴道义逻辑与可废止规则传统,被操作化为九字段陈述分解:action, action object, method, conditions, constraints, exceptions, penalties, purpose, verbatim span。评价维度分三阶段:元数据6项、定义5项、规则8项(合计19项),每项1–5分。
M. Materials & Methods(材料与方法)
- 阶段1 预处理:Docling转Markdown,保留章节边界/列表/表格;按“§ / Article / Rule”等分隔符切分为有序 section–content 对,赋 SHA-256 指纹并附标准化元数据(标题、版本、生效日期)。
- 阶段2 规则生成:逐节以 schema-driven prompt 生成 JSON(无领域示例、无种子规则);对非规范性段落返回 null 以抑制规则膨胀;每节输出元数据、定义(术语/释义/范围/交叉引用)与规则单元(含九字段分解与逐字原文片段)。
- 阶段3 多准则评判:LLM-as-a-judge,三阶段顺序校验(元数据6项:完整性、忠实性、非幻觉、标题质量、引用与日期精度、可选字段;定义5项;规则8项)。
- 阶段4 选择性修复:某阶段均分 < θ=0.90 时触发,携带原文、当前抽取、逐项得分与自然语言批评重生成,仅修缺陷字段;每阶段至多 r=3 次,保留历史最优 → 质量单调不降,成本有界。
- 语料:SEC Investment Advisers Act(1940);HIPAA Privacy Rule(2003);EU AI Act(Regulation 2024/1689)。
- 骨干模型:Llama-3.1-8B-Instruct、Qwen3-VL-8B-Instruct(开源);Claude-3.5-Sonnet、GPT-5-mini(闭源)。
- 下游评测:以HIPAA抽取结果为RAG知识库,Qwen3-VL-8B 在 τ=0.8 生成100道可溯源合规问题;all-mpnet-base-v2 向量化;Claude-3.5-Sonnet 在检索深度 k∈{1,5,10} 作答;成对LLM裁判(τ=0.1)按完整性、事实依据等6项比较。
R. Results(结果)
- 抽取质量(SEC):评分单调下降——元数据≈4.96、定义≈4.82、规则≈4.65;J3 阶段 GPT-5-mini 4.75 领先,Llama-3.1-8B 4.53(Accuracy 4.95 为主要差异源)。
- 跨域泛化:不改任何设置,三域总分均 >4.70,极差仅0.14;SEC≈4.84 > HIPAA≈4.76 > EU AI Act≈4.71,与文本结构规整度的先验排序一致(非评分宽松所致)。
- 下游效用:以De Jure规则为知识库时,裁判在 k=1 有 73.8% 情形偏好其回答,扩大检索后升至 84.0%。
- 消融1(阈值θ):θ 从0.6升至0.9,定义阶段提升 +0.30(6.0%),θ=0.9 为最优。
- 消融2(重试预算r):r=1 收益可忽略;r=2 出现质变,定义阶段恢复 +1.25(25.0%);r>2 饱和,故取 r=3。
- 消融3(切分):section-aware 切分较 Datla et al. 总体 +0.16(3.2%),收益集中于早期阶段(+0.33,6.6%)。
- 消融4(触发粒度):均分触发 vs 逐项触发无显著差异——重试预算才是主导变量。
| 语料 | 总分(GPT-5-mini) | 结构特征 | 主要难点 |
|---|---|---|---|
| SEC 投资顾问法 | ≈4.84 | 刚性字母数字索引 | 嵌套条件与交叉引用 |
| HIPAA 隐私规则 | ≈4.76 | 原则禁止+例外许可 | 例外范围还原 |
| EU AI Act | ≈4.71 | 论述式、原则导向 | 软性条款是否可执行 |
a / D. Discussion & Conclusion(讨论与结论)
- 方法贡献:证明在高度复杂监管域中,外显、可解释的评判准则可以替代人工标注;将“评分—批评—定向修复”做成可复用控制回路,而非一次性提示技巧。
- 治理含义:为“法规即代码”提供可审计路径——每条规则可回溯到具体条文片段(SHA-256 + verbatim span),满足监管留痕要求;可与constitutional AI、合规检查引擎对接。
- 实践启示:切分质量优先于修补预算,工程上应先投入文档结构化;重试预算存在非线性拐点(r≈2),盲目加次数无益。
- 局限:①裁判与生成共享同一模型家族,存在自偏好风险,虽以下游RAG部分缓解,但未做人类标注对照;②三套语料均为英文、以规则结构清晰的法规为主,议会辩论式或判例法文本未测;③“规则正确性”以评分代理,缺少法律专家的效度检验;④下游评测限定在 Datla et al. 覆盖的HIPAA章节,样本受限。
- 结论:De Jure 提供了一条无标注、可迁移、可审计的监管规则结构化路径,其抽取保真度可转化为下游合规问答收益;但其评估闭环仍以LLM裁判为核心,需外部法律专家抽检与真实合规审计作为最终把关。
🧠 IRMaD 思维导图
mindmap
root((法规拆成机器规则))
I 引言
合规需要可执行规则
人工标注太贵
跨域迁移困难
T 设计
抽取与验证解耦
分层修复顺序
九字段规则分解
十九项评分标准
M 方法
结构化切分加指纹
表结构驱动抽取
三轮裁判打分
低于零点九就返工
R 结果
三域均超四点七
证交会四点八四
下游偏好七成三
重试两次才见效
a 讨论
切分比修补重要
裁判可能护短
需外部抽检兜底
规则可回溯原文
D 结论
法规即可执行代码
降低合规成本
仍需法律专家把关
图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。