arXiv 预印本 · 2026

政治轮替下的人工智能治理:合规设计的对齐面

Andrew J. Peterson · arXiv preprint · 2026 · arXiv: 2604.21103
原题:AI Governance under Political Turnover: The Alignment Surface of Compliance Design
Open Access 新颖度 0.80

🧒 初中生也能看懂的版本

① 研究背景(为什么要做?)

政府每天要做大量行政决定:谁能领补贴、哪家企业该被检查、某个申请能不能批。过去这些事由公务员逐件看材料,慢、贵,还容易前后不一致。现在很多政府想让人工智能来帮忙,因为机器可以不知疲倦地读文件、写通知、做初筛。

可是机器给出的答案常常是概率性的,错了也不容易解释。于是政府会在机器外面再套一层“合规程序”:规定什么分数算通过、什么情况要转人工、决定要留下哪些记录、当事人怎么申诉。你可以把它想成公司报销:发票、额度、审批链都定得清清楚楚,会计才敢签字。这层程序让决定可以被复查、被重复、被拿到法庭上说明理由,作者把它叫做合规层。

机器和普通软件还不一样。普通软件按固定规则运行,出错能查到哪一行;大模型是概率性的,同一个问题可能给出不同答案,也很难说清为什么。政府不能把一个说不清理由的答案直接当成法律决定,所以必须再加一层人可以检查、可以质疑的程序。

② 研究问题(要回答什么?)

作者关心的不是机器准不准,而是这套合规程序在政权更替之后会变成什么。想象一家公司换了老板:新老板发现,原来的报销制度虽然严格,却也把“什么能过”写得明明白白。他不必砸掉制度,只要照着制度反复修改单据,就能让想办的事一件件过关,而且账面上完全合规。

国家层面也是如此。新上台的政府可能不想公开违宪,而是想在灰色地带里一点点削弱监督。作者要问三件事:第一,什么样的自动化规模会让这种“照着规矩钻空子”变得容易?第二,把规则定得更细,究竟是在加强监督,还是在给继任者画一张更清楚的地图?第三,一次临时的效率压力过去后,这套系统能不能被拆回去?

这三个问题其实是一条链:规模决定试错机会有多少,细化决定试错反馈有多好用,而三道保险决定试错能不能被及时打断。

③ 研究方法(怎么做的?)

作者没有做问卷调查,也没有跑回归,而是搭了一个三阶段的形式模型,用数学把“今天的改革”和“明天的继任者”放在同一张桌子上。

第一阶段,社会先定下三道保险:谁能提交多少申请、评测的人能不能直接指挥执行、当事人多快能得到补救。第二阶段,政府面对提高效率的压力,选择两件事:把多少行政决定交给机器(规模),以及把审批标准写得多细、多统一(细化程度)。第三阶段,换了一个新政府,它可能是守规矩的,也可能想钻空子;它可以在明显违法和灰色地带之间选一条路。

作者把灰色地带里的行为写成“反复试探”:每多一个机器审查的窗口,就多一次试错机会;规则越稳定,试错得到的反馈越能用在下一版材料上。就像考试时知道了评分标准,学生就会照着标准改答案,而不是真的把知识学懂。

④ 结果(发现了什么?)

模型给出的第一个结果是一条临界线。自动化铺得越广、规则写得越细,继任者找到“能过关又有破坏力”的办法的概率就越高;三道保险越厚,这个概率就越低。当这条概率超过人们能接受的水平时,系统就进入了危险区。临界点可以算出来:它取决于可接受的失败概率、原本就存在的漏洞,以及“规模乘以细化”带来的额外风险。

第二个结果更像一个反转故事。刚开始把规则写细,确实能挡住明目张胆的违规,因为记录多了、痕迹清了。但挡到一定程度后,继续加细则的收益越来越小,而它给内部人提供的“通关地图”却越来越清楚。于是同一项改革,早期是保护,后期可能变成风险。作者把拐点叫做细化翻转。

第三个结果是,临时的高压也会留下长期后果。比如危机时为了快,政府大规模上线机器审批;危机过去后,新政府即便想修,也往往只修一部分,因为拆掉已经装好的系统太贵。结果系统停在“比原来危险、但还没回到安全线”的位置。

⑤ 讨论(这些发现说明什么?)

这项研究最有意思的地方,是它没有简单地说“人工智能危险”或“透明就好”。它指出,可审计和可学习是两件事。审计是让外面的人能看见;可学习是让里面的人能反复试出怎样过关。很多改革同时做了这两件事,所以看起来更透明,实际上也更好钻。

作者还提醒,防守方和进攻方并不对称。想守住制度的人,要把所有可能的漏洞都堵上;想钻空子的人,只要找到一个能用的办法就够了。而且机器让这种钻空子不再依赖某个愿意配合的公务员,换一个部门、换一批人,同样的办法还能再用。

这并不是说应当拒绝标准化。作者明确说,程序的规则性和审计是合法性与约束自由裁量所必需的。真正要问的是:这项改革在让外部人更容易监督的同时,是否也让内部人更容易学习?作者因此建议,把“外部审计”和“内部标准化”当成两个独立的旋钮,而不是一个“透明度”总开关。

⑥ 结论(最终结论 + 启示)

文章的结论可以概括成一句话:让机器变得可用的那套合规设计,也可能让后来的掌权者更容易利用它。问题不在于要不要透明,而在于透明和可学习性是否被同一次改革一起推高。

对政策制定者的启示有三点。第一,评估人工智能项目时,除了问“能不能提高效率”“有没有留痕”,还要问“它给继任者留下了多少可复用的过关路径”。第二,审计与标准化最好分开推进:可以保留记录和复核,但要限制内部反馈被反复利用。第三,保障建设往往慢于系统扩张,所以要在扩张之前而不是之后补上。

一句话,合规层本身没有错,错的是把它当成只有好处的工具。它既是一套让政府守规矩的装置,也是一张告诉后来者“怎样才算过关”的地图;设计者的任务,是让前者变强,同时让后者没那么好复制。

🎓 专业 IRMaD 结构解读

I. Introduction(引言)

民主治理依赖委托,而委托始终伴随控制难题:行政、立法与司法都无法逐案监督,只能借助规则、记录、复核与申诉等程序,使代理行为可被观察和挑战(McCubbins 等;Scott;Porter)。生成式人工智能进入公共部门后,这一逻辑被推到新高度。大语言模型可跨案件解释文本、起草公文、总结卷宗并生成执行代码,但其输出是概率性的、非范畴化的,且往往难以自证。要让它在法治行政中可用,政府必须外加一层合规层:把模型分数转换为阈值、例外规则、说明理由与审查记录,使决定可复核、可重复、可辩护。

既有文献分别讨论了官僚控制、民主倒退与算法治理,却很少把三者接起来:政治控制文献强调程序可降低代理损失,倒退文献指出当代威权化多走合法形式,算法治理文献关注透明与问责。本文的空白在于——程序精确化如何改变继任者“在形式内”找到可复制侵蚀路径的成本。文章提出对齐面(alignment surface)概念,指继承下来的通过/标记边界,并证明它既是监督工具,也是可被内部人学习的攻击面。

I. Theoretical Framework & Hypotheses(理论框架与假设)

模型把行政行动空间分为三块:A = P ⊔ U ⊔ I,即明显允许、明显禁止与法律争议的模糊集。合规程序给出二元判断 R_s(a) ∈ {Pass, Flag};所有通过/标记判断合起来就是对齐面。模型分三期:t=0 由法律、组织设计与长期投资设定保障 r=(r_m, r_κ, r_q);t=1 在现代化压力 λ 下选择自动化规模 x 与规则细化 s,并受可行性约束 s ≥ S(x);t=2 继任者以概率 δ 为威权型,可选择显性滥用或形式内侵蚀。

三类保障分别限制单边提交量、削弱“评测—部署”耦合、加快争议撤销。关键假设是:细化提高边界稳定性与可迁移性,因而提高内部人反复试错的回报;但它同时提高外部可审计性,降低显性滥用的成功率。正是这两个方向相反的边际,构成本文的核心张力。

这里的“对齐”特指监督意义上的对齐,即操作判断与监督者会执行的约束之间的对应,而不是人工智能安全文献中的价值对齐。继任者的策略空间因此被压缩为一个可计算的搜索问题:在模糊集 U 内反复提交、观察通过或标记的反馈、再修改形式与顺序,直到找到可部署的版本。

M. Materials & Methods(材料与方法)

本文是纯形式理论,不含实证样本、编码或参数校准;识别对象是采纳阶段的约简目标:

U₁(x,s;r,λ)=λG(x,s)−C(x,s)−δΩF(x,s,r),约束为 x∈[0,x̄]、s∈[0,1]、s≥S(x)。其中 G 为常规治理价值,C 为凸的实施与运行成本,Ω 为民主失败损失;λ 是每增加一单位行政能力的边际价值,即现代化压力。

形式内渠道用搜索微观基础刻画:规模 x 暴露 N(x) 个决策接口,每个接口可尝试 M(r_m) 个变体;单次尝试同时“过关且有侵蚀潜力”的概率为 ρ(s,r_κ),过关后持续到产生效果的概率为 ψ(r_q)。于是单接口成功率为 π=1−(1−ρψ)^M,全栈成功率为 p_wf=1−(1−π)^{N(x)}。取泊松基准 μ(x,s,r)=μ₀(r)+η(r)xs,得到 p_wf=1−exp(−μ)。总失败率为 F=1−(1−F₀)exp(−μ)。证明与比较静态见附录 B–G,稳健性见 H–I。

R. Results(结果)

命题一给出对齐面可被利用的阈值。只要 N′(x)≥0、ν_s≥0,p_wf 随规模与细化上升、随三类保障下降;给定关注水平 p̄,危险条件等价于单指数不等式 μ₀(r)+N(x)ν(s;r) ≤ −ln(1−p̄)。在泊松基准下可解出临界规模 x_crit=max{0,[−ln(1−p̄)−μ₀(r)]/[η(r)s]}。

命题二给出“细化翻转”:在 F₀,s≤0、F₀,ss≥0 下,细化对总失败的边际效应至多变号一次;若 h(0)<0<h(1),存在 s_flip,使细化由保护转为增险。其条件为 (1−F₀)η(r)x > −F₀,s。把细化拆成外部可审计性与内部标准化后,前者单调降险,后者单调增险。命题三表明,压力 λ 上升会沿 s=S(x) 推高规模与细化,并在 λ_crit 处越过阈值。命题六表明,危机后修复量 u* 满足 0<u*<g_H,即修复为正但不完全。

命题核心条件制度含义
1 对齐面μ₀+N(x)ν(s)≤−ln(1−p̄)规模与细化共同推高可利用性
2 细化翻转(1−F₀)ηx>−F₀,s审计性与标准化须分开评估
3 压力阈值λ≥λ_crit临时扩张可越过高风险区
6 不完全修复0<u*<g_H危机后只回收一部分

a / D. Discussion & Conclusion(讨论与结论)

结果把“更多监督是否更好”改写为“监督以何种方式被制度化”。可审计性让外部人更容易发现偏离,但边界标准化让内部人更容易学习怎样过关;两者常被同一套改革捆绑提升。故改革评估应分别追踪 s_aud 与 s_std,并把限流、评测与部署分离、争议撤销速度作为配套。机制在人工智能嵌入高后果审批、反馈信息充分、审查记录跨域复用、评测与部署紧密耦合时最强;在仅作建议、反馈受控或审查独立时最弱。设计上,限流对应 r_m,评测与部署分离对应 r_κ,快速补救对应 r_q;三者都比“再写一份审计报告”更难建设,因为它们需要编制、独立权限与持续的政治联盟。

局限有三:模型是约简形式,未估计参数;采用善意采纳与渠道可分的保守设定;把保障视为外生继承。作者指出,若采纳者短视、极化或预期从形式内优势获利,阈值跨越与不完全回收会更严重。实证上可观察:更替后“程序过关但公众争议”的行动占比、危机后规模与复用记录的持久上升、以及各单位不对称的回收。

🧠 IRMaD 思维导图

I 引言 R 研究问题/假设 M 方法 R 结果 a 讨论 D 结论
mindmap
  root((政治更替下的合规对齐面))
    I 引言
      委托代理控制难题
      生成式人工智能扩张
      合规层双刃剑
      对齐面概念提出
    R 问题
      更替后如何被利用
      显性滥用与形式内侵蚀
      何种架构越过临界
      改革为何难以回收
    M 方法
      三阶段形式模型
      规模与细化双选择
      三重保障参数
      泊松搜索近似
      比较静态与阈值
    R 结果
      规模细化推高概率
      保障压低侵蚀强度
      临界规模可计算
      细化先保护后助长
      压力推过风险阈值
      危机后只修一部分
    a 讨论
      可审计不等于稳健
      外部可见内部可学
      评估与执行须分离
      保障建设慢于扩张
    D 结论
      合规边界可被学习
      改革须看继任者代价
      保留审计限制复用
      时限与补救要跟上

图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。