从民主到专制：人工智能系统如何凭设计助推威权主义

🎓 专业 IRMaD 结构解读

I. Introduction（引言）

技术服务于统治并非新事：从 IBM 制表设备参与纳粹德国的种族登记，到互联网时代被命名的“数字威权主义”，文献一直关注威权政权如何借技术监视、压制与操控民众。AI 之所以值得单列，是因为它同时降低了监控的边际成本、扩大了可识别的目标范围，并把判断包装为难以质疑的黑箱输出。

现有研究大致分两支：一支评估系统能力（人脸识别精度、预测性警务的命中率、生成式模型的操纵潜力），一支评估下游影响（选举干预、异见压制、信息生态污染）。两支都跳过了一个中间层——系统是如何被立项、合法化、采购、开发、集成、测试、上线与监督的。能力相同的系统，嵌入不同的制度流程，可能产出完全不同的权力后果。

本文因此把分析单位从模型移到生命周期，并做了一个概念上的区分：威权既可作为政体类型，也可作为一套可被技术承载的实践。后者允许我们把自由民主国家内部逐步累积的监控与分类实践纳入同一框架，而不必先争论该国是否“已经威权化”。

贡献有三：其一，提出由六种威权特性构成的分析框架（强制能力、问责侵蚀、象征性护栏、信息控制、预防性镇压、边界控制），并给出可操作的使能特征清单；其二，以六个政体的六套系统做同表比较，发现使能特征并不按政体整洁分布，从而质疑“政体决定论”；其三，识别出碎片化系统这一被低估的路径——它靠分散责任而非集中权力来规避监督。

I. Theoretical Framework & Hypotheses（理论框架与假设）

框架综合了比较威权主义的三条脉络。其一是中央化与控制：Friedrich 与 Brzezinski 强调权力在信息渠道与暴力手段上的集中，Scott 的“国家可读性”说明集中信息是行政控制的前提，Mbembe 的死亡政治则把强制扩展到“谁可活、谁可死”的分配。

其二是制度作为工具：Gandhi 与 Svolik 指出，威权者并不废除制度，而是用制度管理精英安抚与民众压制的双重张力，制度提供的是象征性问责。其三是操纵优于镇压：Schedler 的“操纵菜单”、Guriev 与 Treisman 的信息操纵论，以及 Foucault 的全景敞视与 Lorentzen 的预防性压制，共同解释了为何现代威权更依赖监视、恐吓与选择性执法，而非大规模暴力。

第四条脉络是内外边界：Linz 的有限多元主义、Arendt 的“拥有权利的权利”、Breckenridge 对殖民时期生物识别治理的考察，说明按族群、宗教、国籍划界是威权治理的持久特征。

由此得到六个可观察特性，论文进一步假设这些特性的使能因素会随政体类型显著变化——这一假设在结果部分被证伪，成为全文最重要的经验反转。

研究问题：哪些生命周期特征与情境因素充当威权实践的关键使能因素，这些因素是否随政体而变化？作者的原假设是三者（自由民主、混合、专制）之间存在显著差异。

M. Materials & Methods（材料与方法）

• 研究设计：定性比较案例研究（comparative case study），遵循 Mills 与 Rihoux 的比较策略；分析单位为“系统生命周期”，而非模型或国家。六案例被明确视为在“可沿十维度映射”这一有限意义上等价，不比较规模、目的或后果。
• 案例选择：四道纳入标准同时满足——(i) 有可信证据表明系统使用机器学习或其他高级统计方法；(ii) 可归入 Barez 等的监控、预测性警务或信息控制分类；(iii) 部署国政体存在差异，政体归类依据 V-Dem 与 Freedom House；(iv) 有足够英文公开资料可核验生命周期。形式化写作 Case_s = AI_s ∧ Type_s ∧ RegimeVar_s ∧ Data_s。最终六案例：FlockSafety ALPR（美国）、LFR Vans（英国）、SlimmeCheck（荷兰阿姆斯特丹）、Lavender（以色列）、IJOP（中国新疆）、Sfera（俄罗斯莫斯科）。
• 十阶段框架：改编自产品开发流程，统一施加于所有案例——构思（ideation）、授权与合法化、采购与伙伴关系、设计与开发、技术集成、测试、运营上线、监督、技术护栏、当前状态。每一阶段追问固定的结构化问题（谁定目标、如何向公众论证、通过何种采购与公私合作、技术栈与数据来源、与既有政府系统的对接程度、评估由谁做、上线是否试点、监督是否独立、护栏是否被绕过、系统此后如何演化）。
• 资料来源：调查报道、人权组织报告、受影响者与政府雇员及开发者的第一手叙述、政府采购公告、第三方技术审计、独立系统评估、官员社交媒体表态、官方通报、开发者公开演讲与论文、法庭证词、官方技术架构图、泄露的软件界面截图、监控专家访谈；失效链接经 Internet Archive 的 Wayback Machine 复核。排除观点博客、未经核实的社交媒体帖子与证据不足以支撑主张的材料。检索集中于 2025 年 7–8 月。
• 分析策略：逐案按十维度填表，再以“该特征是否助推 C1–C6 之一”为判据提炼使能特征；跨案比较识别模式。结果不按政体、国别或系统组织，而按特性—机制组织，以避免政体标签先行。
• 中心化操作化：Centralization = f(行政当局对系统的实质控制, 系统与多源数据的连接度)，为定性序位而非连续指标；IJOP 与 Sfera 最集中，FlockSafety ALPR 最碎片化（私人企业运营、由大量独立部署拼成）。
• 效度与信度：无独立双人编码，未报告编码者间一致性（如 Cohen κ）；研究定位为“首次尝试”，优先识别使能特征，缓解性特征留待后续。作者自陈这构成本文最主要的方法论弱点。

R. Results（结果）

• 强制能力（C1）：Lavender 通过与致命打击基础设施的深度集成、模糊的目标定义与约 10% 的识别误差，系统性压低致命武力的门槛，是六案例中唯一直接连接致命后果者。FlockSafety 在 6000 多座城市部署车牌摄像头并接入 FBI 的 NCIC 等州级与国家级数据库，而此类数据库常被报告过期或含错，放大无端骚扰风险。Sfera、LFR Vans 与 IJOP 同样走“集中监控输入 + 广泛对接其他数据库”的路径。
• 问责侵蚀（C2）：英国对人脸识别无专门立法，仅靠建议拼凑，Essex 大学第三方审计指出操作员可自行判断“使用是否适度”，各地流程不一致进一步分散责任。Lavender 的高度自动化让操作员可以把决策“让渡”给系统，压缩实质争辩空间。ALPR 的本地数据归商户、业主协会与私人公民所有，这些非国家主体不受法律与伦理培训约束，私人间数据共享还可绕过州法与联邦合同限制。俄罗斯 2022 年生物识别法明确将情报、国家安全与执法活动排除在数据限制之外。
• 象征性护栏（C3）：以军声明称分析员会依国际法与内部指令逐条核验目标，但调查报道显示分析员为达绩效指标，平均仅用 20 秒确认目标为男性即放行。ALPR 要求用户登记查询目的，实际多为模糊表述，使审计失效。
• 信息控制（C4）：IJOP 汇总生物特征、医疗、水电、位置与数字通信数据，并接入二手车等非执法数据库；Sfera 以“地铁支付现代化”为名上线，至 2022 年已有 141 名莫斯科市民因被其识别而因参加抗议被实际拘留。
• 预防性镇压（C5）：莫斯科多起在重大节假日前、尚无抗议活动时即实施的逮捕，显示 Sfera 被用于阻止动员。IJOP 以情绪、面部表情甚至皮肤毛孔等任意指标标记可疑，且下游决策竟是简单规则而非机器学习预测——“先进采集 + 粗糙判定”的组合恰是批量拘留的条件。
• 边界控制（C6）：IJOP 接入多个“维吾尔人检测”算法，并允许上报宗教活动（如向清真寺捐款、未经许可讲经）；Lavender 把战时常见的数月更换手机与住址当作可疑行为；SlimmeCheck 在测试与预试点阶段即发现对非荷兰籍与非西方国籍申请者的误报率更高。
• 集中与碎片化的双路径：集中式系统减少可否决的机构利益相关者，易发生监督俘获（Sfera 豁免于俄生物识别法，Lavender 操作员未按以军自身定义核验）；碎片化系统则借网络效应与责任分散抵抗整体拆除，FlockSafety 自身也无法侦测用户发起的滥用。
• 生命周期横向模式：除 SlimmeCheck 与 Sfera 外，其余系统均以公共安全与执法为由论证；IJOP、ALPR、Lavender 之前均有显著安全危机作为触发。多数系统向私人供应商采购或经公私合作开发，SlimmeCheck 与 Lavender 为政府自研。除 ALPR 与 Lavender 外均以试点方式上线，但 IJOP 未公开试点结果。仅 SlimmeCheck 经系列偏差审计后被市政府正式叫停；Lavender 据称停用但未证实；其余系统仍在扩大用户或地理覆盖。

a / D. Discussion & Conclusion（讨论与结论）

• 三点理论推进：其一，使能特征跨越政体出现，说明政体分类不足以解释威权风险，需转向实践导向的分析；其二，以 FlockSafety 这一碎片化、私人运营的案例，挑战“AI 威权主义必由国家在正式专制政体中实施”的假设；其三，把分析从模型开发移到完整生命周期，揭示能力导向研究看不见的设计与部署选择。
• 假设被证伪的意义：作者原本预期自由民主、混合与专制三类政体会呈现显著不同的特征组合；结果显示特征并不按政体整洁分堆，差异更多来自具体项目与地方制度。这既是经验发现，也是对“政体决定论”的方法论警告——以政体标签先行，会系统性低估民主国家内部的风险。
• 风险不依赖前沿能力：论文强调，威权后果无需 AGI，也不依赖高精度模型；ALPR 的 AI 成分甚至无法证实，仅由用例推断具备计算机视觉能力。真正的机制是数据集成、行政系统收编、监管缺口与用户合规薄弱。
• 对开发者的建议：假设系统在部署后会被改装或转用，把抗滥用设计内建于技术规格，与功能指标同等严格；特别是对编码族群、宗教、国籍或其代理变量的特征，须预设被用于歧视性分类的风险。
• 对政策制定者的建议：以立法权设定使用、滥用与后果的明确标准；在试点前划定性能红线，使不合格系统有据可撤（SlimmeCheck 的叫停即援引第三方评估数据）；对跨机构数据共享设严格规则与保留期限，以抑制过度中心化与行政数据收编；强制开发者与管理者提高透明度。
• 对自由民主国家的建议：警惕以效率、现代化与公共安全为名的“使命蠕变”；不能忽视私营部门，碎片化部署正是监管盲区；民主倒退可以是渐进的、技术中介的，不必以制度断裂为标志。
• 局限：(1) 六案例，不可广泛外推；(2) 案例在规模、目的、技术设计与情境上差异巨大，可比性有限；(3) 公开信息缺口集中在设计与开发、测试两阶段，专制政体系统与 Lavender 的监督与护栏信息尤其稀缺；(4) 仅使用英文资料，未覆盖其他语言与平台；(5) 无独立双编码与一致性系数；(6) 框架源自西方与比较政治学文献，作者自认需补充后殖民与非西方视角。
• 资助与声明：研究获牛津马丁 AI 治理倡议支持，该倡议由 Berkeley Existential Risk Initiative 资助。作者声明使用 Grammarly、ChatGPT 与 Claude 仅做语法、表格格式与措辞润色，核心观点与结构由作者完成。