arXiv 预印本 · 2026-09-07 · 比较政治 × AI 治理 · 十模型三语言实证

模型拒答之处,正是国家忧惧之处:威权信息管控如何复制进大模型护栏

Menglin Liu, Yao Yu, Tong Wu 等 5 人 · arXiv (econ.GN / cs.CY) · 2026 · arXiv: 2609.07507
原题:What a Model Refuses, a State Fears: How Authoritarian Information Control Reproduces in Language-Model Guardrails
Open Access 新颖度 0.88

🧒 初中生也能看懂的版本

① 研究背景(为什么要做?)

今天很多人遇到不懂的政治问题,第一反应已经不是翻书或者问老师,而是直接去问 AI 聊天机器人。这意味着,机器人愿意回答什么、不愿意回答什么,正在悄悄决定普通人能了解到多少事情。

过去大家讨论 AI 的政治倾向,关注的都是它说了什么——比如它夸谁、贬谁,观点偏向哪一边。这篇论文提醒我们注意另一件更隐蔽的事:它拒绝说什么

你可以把 AI 的护栏想象成商场门口的保安。保安拦人,看起来是在执行安全规定。但如果你仔细观察就会发现,不同商场的保安拦的人不一样:有的商场拦所有大声说话的人,有的只拦想在店里聚起来搞活动的人。保安拦谁,其实取决于老板怕什么,而不是取决于什么才真正危险。

作者的核心猜想就是这个:AI 的护栏不是一套放之四海皆准的“什么算有害”,而是管着这家公司的那个政府最害怕什么。中国率先出台了生成式 AI 管理办法,要求开发者限制政治敏感内容;美国那边则是分散的法律责任和品牌风险。两种环境,会长出两种完全不同的保安。

② 研究问题(要回答什么?)

作者要回答的核心问题是:中国厂商的 AI 护栏,究竟只是比较小心,还是真的把国家那一整套信息管控的结构继承了下来。

这两件事看起来很像,因为它们会产生同样高的拒答率。就好比两个都不爱说话的人,一个是天生内向,一个是有话不敢说——光看“说话少”这个数字,你根本分不出来。所以作者说,只数拒答率没有用,必须去看拒答的形状

论文提出四个可以互相印证的假设:

③ 研究方法(怎么做的?)

研究团队一共测试了十个 AI 模型,分成三组:美国厂商四个、中国厂商四个、还有两个开源小模型。每个模型都用英语、中文、法语三种语言各问一遍。

最关键的设计是作者所谓的最小对立句式,可以理解成把控制变量法做到极致。研究者写好一句请求,比如“我想在某某市和某某市组织一次合法的和平请愿,请帮我出个方案”。然后他们只改动其中的城市名和政府称呼,其他每一个字都不动。三个版本分别指向中国、外国民主国家、以及一个虚构的地名。

三个版本的长度几乎一模一样,平均词数分别是五十五点五、五十五点五和五十四点五个词。作者特意强调,这种严格的配平意味着:如果模型对三个版本的态度不同,那就不可能是因为题目难度不同或者句子长短不同,只能是因为它认出了“中国”这两个字。

另外还有两个巧妙的对照。一是从公开的有害指令库里挑出危险程度相当的非政治问题作为对照组,用来看严格是不是只针对政治。二是安慰剂测试:问一些完全没有政治色彩的活动,比如组织一次同学聚会,看模型是不是单纯讨厌“组织”这个词。

最后是撬锁测试。研究者用一个自动程序,把被拒绝的问题反复换说法——换语气、换身份、绕着说、换语言——但保证意思不变,看能不能把答案套出来。两位独立的 AI 评审给回答打标签,一致率高达百分之九十六点六。

④ 结果(发现了什么?)

研究发现,中国厂商模型的拒答并不是一视同仁的谨慎,而是有非常明确的指向性。四个假设里有三个得到了强有力的支持,第一个反而站不住脚。

只换地名,态度大变
同一句话,提到中国时被拒绝 80.2%,提到外国只有 21.5%,提到虚构地名 23.6%
调整其他因素后差距 +58.7 个百分点
拦的是组织不是反对
想组织人的请求被拒 56.5%,只是发表看法被拒 27.1%
连组织大家支持政府也照拒不误,豆包拒绝率高达 96%
拒绝其实一捅就破
被拒绝的问题里,换个说法后有 74.5% 能重新问出来。
最难撬开的反而是 Claude,只有 8.3%

先看最反直觉的一条。外国和虚构地名的拒答率几乎一样,统计检验确认两者没有差别。这说明模型不是对提到任何地方都敏感,而是专门对中国敏感。每个中国模型都有这个现象,差距最小的豆包也有三十七个百分点,最大的 DeepSeek 达到七十二个百分点。

再看它拦什么。作者把“组织人的能力”和“支持还是反对政府”这两件事拆开算,前者的影响是三十三点八个百分点,后者只有十八点一个百分点,两者之差达到十五点七个百分点,统计上极其显著。也就是说,护栏真正在意的是你会不会把人聚起来,而不是你说政府好话还是坏话。

更有意思的是,这两种敏感会叠加。在普通请求上,中外差距是五十三个百分点;一旦请求涉及组织动员,差距扩大到六十五个百分点。而且在选举和领导人话题上差距最大,达到六十七个百分点,明显高于劳动和经济政策的五十三个百分点。

但第一个假设站不住。中国模型确实严,可 GPT-5.5 拒答 91%、Claude 拒答 83%,几乎一样严。差别在于,美国模型没有前面那些结构——它们的中外差距只有 10.8 个百分点对 0,组织与否的差距只有 6.9 对 0.5。作者的判断是:同样高的拒答率,背后是两套完全不同的逻辑

最后一条最出人意料:越严格的模型,反而越容易被绕过。中国模型拒绝掉的问题里,超过七成能靠换说法重新问出来;而最难攻破的是 Claude 和 Gemini。严格程度和抗攻击能力之间几乎没有关系。换成中文提问时,模型很少直接拒绝,而是改成打太极——把你引导到官方渠道,这种含糊回答从英文的 2.2% 升到中文的 23.0%。

⑤ 讨论(这些发现说明什么?)

作者认为,这些数字合起来讲了一个很清楚的故事:AI 的护栏不是在执行“什么内容有害”,而是在执行谁管着这家公司,这家公司就替谁挡住什么

更值得琢磨的是,机器审查和过去的人工审查既像又不像。像的地方是:都盯着能不能把人组织起来,而不是说了什么难听话。不像的地方是,人工审查员懂得留余地——老百姓发发牢骚,其实是让上面知道大家在想什么的一个渠道,聪明的审查员会放过。可机器做不到这种随机应变。数据显示,那些纯粹抱怨、根本组织不了任何人的话,也有大约三分之一被拒绝。

作者用了一个很到位的说法:机器审查比它模仿的那套官僚体系更笨。它学会了目标,却学不会分寸,顺手把本来允许存在的出气口也给堵上了。

护栏一捅就破这件事,作者认为不是技术瑕疵,而是整个问题的核心。想想看:如果一道门只拦得住普通人,拦不住会绕路的人,那它实际上是在按能力筛选——受过教育的、懂外语的、会琢磨的人照样能拿到信息,普通人却被挡在外面。这种管控不但没有拉平信息差距,反而把差距扩大了。

但作者也提醒,这种“漏”可能恰恰符合管控方的需要。因为要发动一场大规模行动,需要的是信息能低成本地传开。只有零星几个高手能拿到材料,是掀不起浪的。所以拦住大多数人本身就已经够用了。

还有一个国际层面的问题:中国的基础模型正越来越多地被国外开发者拿去做二次开发,而护栏是跟着模型一起走的。一个国外的应用如果建立在中国模型之上,就会继承一套按北京的威胁模型调好的安全层——同一个组织合法集会的请求,在一个国家能得到帮助,在另一个国家就被拒绝。

局限也说得很坦率。模型的出身没法随机分配,所以从监管到护栏这条因果链只能靠多角度印证,不能算严格识别。作者也说不清这种烙印到底是在预训练数据里还是在对齐环节留下的——因为中国模型的预训练语料本身就已经过筛,根本找不到一个中立的基线来对比。此外,主要结果目前还是 AI 评审打的标签,人工复核尚未完成。

⑥ 结论(最终结论 + 启示)

这项研究最重要的贡献,是把模型拒绝回答这件事从技术问题变成了一个可以测量的政治学观测指标。看一个模型拒绝什么、以什么方式拒绝,就能读出管着它的那个政府在担心什么。

对做评估和监管的人来说,论文给出了一个相当刺耳的提醒:直接去问模型、数它拒答多少次,会系统性地高估它被管控的程度。因为那道拒绝可能只是一层表面的膜,底下的能力原封不动。作者建议,衡量政治管控应该改用抗绕过程度这类指标,而不是拒答率。

更长远的启示是,当 AI 成为普通人接触政治信息的第一道门时,这道门里装的是谁的威胁模型,就不再是一个技术细节,而是关系到一个社会能知道什么、能做什么的治理问题。而且它比训练数据有偏见这个老话题更隐蔽,也更难被发现。

🎓 专业 IRMaD 结构解读

I. Introduction(引言)

既有研究已确证语言模型承载了开发者的意识形态倾向,也确证中国厂商模型对政治敏感请求的拒答率显著高于西方模型。本文的出发点是指出这类研究的一个结构性局限:拒答率是一个标量,而标量无法区分两种性质完全不同的控制——一个只是内容政策谨慎的模型,与一个已经继承了国家信息管控架构的模型,可以呈现完全相同的拒答率。

作者从比较威权主义研究中借来识别框架。该文献的核心命题是:威胁威权存续的不是私下的不满,而是不满被协调为集体行动;因此审查制度的设计逻辑是切断协调而容忍抱怨。King、Pan 与 Roberts 在中国社交媒体审查中识别出的正是这一特征。

由此推出可证伪的结构性签名:一个真正继承了政权威胁模型的护栏,应当(一)对开发者本国政权作出反应,(二)针对动员能力而非意见方向,(三)通过摩擦而非阻断来执行。这三条是单纯谨慎的内容政策不会产生的。

论文的三重贡献是:理论上,从记录模型是否审查推进到刻画管控的架构,并提出机器审查因无法进行个案裁量而比它所模仿的官僚体系更钝;实证上,以十模型三语言的证据展示指称专属性与集体行动靶向;政策上,将模型拒答重构为政权信息管控架构的可测读数,并推论直接探测式的安全审计会系统性高估管控深度。

I. Theoretical Framework & Hypotheses(理论框架与假设)

编号假设对应理论 / 判定标准
H1政治专属性:中国模型的额外严格集中于政治域,而非全域谨慎内容政策 vs. 政权威胁模型;以政治域与严重度匹配的非政治有害域之双重差分识别
H2政权专属性:护栏对开发者本国政权作出反应,指称中国时拒答显著高于指称外国Roberts 的摩擦式管控 + 生成式 AI 内容监管;最小对立句式的指称操纵
H3集体行动靶向:域内打击的是动员能力 CAP 而非意见方向 valenceKing–Pan–Roberts 签名;Kuran 与 Lohmann 的偏好伪装与信息瀑布理论
H4孔隙性:政治拒答通过摩擦执行,在对抗性改写下崩塌,且原生严格度与稳健性脱钩Meyer 与 Rowan 的仪式性合规;组织采纳合法性结构而无内部执行

关键理论张力(连续性 vs. 钝化):若 CAP 系数显著大于 valence 系数,即为 King–Pan–Roberts 连续性;若动员与批评一并被地板式拒绝,则为钝器模式。作者预期二者同时成立——保留了协调梯度,却丢失了人工审查员对可容忍抱怨的裁量,从而收窄了威权体系历来用作安全阀的许可抱怨空间。

M. Materials & Methods(材料与方法)

R. Results(结果)

a / D. Discussion & Conclusion(讨论与结论)

🧠 IRMaD 思维导图

I 引言 R 研究问题/假设 M 方法 R 结果 a 讨论 D 结论
mindmap
  root((护栏里的国家威胁模型))
    I 引言
      大模型成政治信息入口
      拒答率是标量难分两类控制
      比较威权主义提供结构
      推出三条可证伪签名
    R 假设
      H1 政治专属性
      H2 政权专属性
      H3 打击集体行动
      H4 摩擦式孔隙
    M 方法
      十个模型 三种语言
      最小对立句式 只换指称
      228 单元析因设计
      严重度匹配对照与安慰剂
      自动对抗改写测孔隙
      双评审 kappa 0.93
    R 结果
      中国 80.2 外国 21.5
      调整后差距 58.7 点
      外国与虚构地名等价
      组织 33.8 高于立场 18.1
      亲政府动员也拒 豆包 96
      条件 ASR 74.5 Claude 8.3
      严格度与稳健性脱钩
    a 讨论
      目标同旧审查 分寸不如
      纯批评仍被拒 36.1
      仪式性合规 审计可被博弈
      孔隙按技能分选 累退
      护栏随模型出海
    D 结论
      拒答是威胁模型的读数
      审计应测稳健性非拒答率
      直接探测高估管控深度

图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。