🧒 初中生也能看懂的版本
① 研究背景（为什么要做？）
想象你家小区要装一套人脸识别门禁，物业说会开居民大会征求意见。你去开会，说了很多担心，会议记录也认真地记下了。三个月后门禁还是装了，和原来一模一样。你大概会觉得“我的意见被听了，但没人真的在意”。这种体验不是偶然，而是这篇论文要研究的东西。作者发现，公共部门在部署人工智能系统时，最常用来安抚公众的手段就是“参与式设计”——开会、听证、工作坊、意见征集。这些流程看起来很民主，但结果往往是参与很多，改变很少。过去的研究把这归因为“参与做得不够认真”，作者认为问题更深：机构记录参与的那套方式本身，就已经把最要紧的意见筛掉了。
② 研究问题（要回答什么？）
研究要回答的问题是：参与机制到底在哪个环节失效？作者提出一个概念叫“可见性陷阱”（legibility trap）。它的意思是：机构只能对自己记录下来的东西负责，而记录用的表格、分类、模板，是在任何一次具体会议之前就定好的。于是，能装进这些格子的意见就被留下，装不进去的意见——尤其是那些要求“这个东西根本不该上线”的声音——就消失在记录之外。
围绕这个概念，研究追问三件事：这个陷阱在真实的文件里怎么体现？不同案例之间有什么差别？在什么条件下，参与能够部分挣脱这个陷阱？
③ 研究方法（怎么做的？）
作者用的是批判话语分析，加上跨案例比较。素材是 22 份公开文件，来源分三类：官方文件、社区自己产生的文件、公共记录。
三个案例是这样：
2016 年 8 月上线，用来给接到儿童虐待举报的家庭打风险分。上线前经历了四年的采购、伦理审查、过程评估和影响评估。
2017 年起警方把人脸识别接入全市摄像头网络，合同在没有公众参与、也没经过市议会批准的情况下签下。
2016 年设立隐私咨询委员会，后来通过条例，要求采购监控技术前必须获得市议会批准。
作者把句子的主语、引文放在什么位置、某个类别在不在，本身都当作证据来读。
④ 结果（发现了什么？）
三个案例呈现出同一种机制的三种变体。
第一，代理人替换。阿勒格尼的官方文件说“社区参与一直是本项目的优先事项”，列出的参与者却是工作人员、社工主管、服务机构、倡议团体、基金会和家庭法院法官——真正数据被拿去打分的那批家庭，在 22 份文件里一次都没有作为参与者出现，他们只以“数据主体”的身份存在。
第二，技术中立化。伦理审查的结论是“很难想象有什么伦理理由反对使用最准确的预测工具”，整段论证都跑在“准确率”这个框架里，而“用贫困指标当作虐待风险的代理变量是否正当”这个问题根本没有被当作伦理问题提出。
第三，见证被转译成意见。底特律的听证记录里，居民说的是结构性伤害，进入官方记录后变成了“反对意见第若干条”。
值得注意的是，一项独立分析发现，仅算法本身就在黑人与白人儿童之间造成约 20% 的筛查率差异。
⑤ 讨论（这些发现说明什么？）
作者的解释分两层。第一层是理论：借用斯科特关于“国家简化”的论述——国家只能看见它有能力计量的事物。参与一旦被纳入这套计量体系，就必然被改写成机构看得懂的格式。第二层是伦理：作者提出一个以前没被 AI 伦理框架命名的伤害——反复收集却不回应，本身就是伤害。人和政府之间有一种“我说、你听”的关系，这种关系是政治主体性的基础。如果每次开口都石沉大海，受损的不只是某条政策结果，而是人作为“能被听见的主体”的位置。作者还标出了让参与部分挣脱陷阱的四个结构性条件：法律写明可以拒绝、监督机构独立于被监督者、举证责任在机构一边、以及持续的合规义务。
⑥ 结论（最终结论 + 启示）
这篇论文最硬的一句话是：没有约束力的参与，不是参与的失败，而是参与的替代品。它给出了一个可操作的判断标准——看参与有没有产生“绑定性的约束”。作者也提醒，这个陷阱会自我复制：只要机构的问责依赖记录，只要记录的类别在参与发生前就已定好，同样的筛选就会重演。对做公共管理的人来说，这篇文章提供了一个很实用的检查清单：听证会有没有记录“不该上线”这类意见？监督机构能不能独立行动？举证责任在谁那边？如果答案都是否定的，那么再多的社区参与也只是把同一件事又走了一遍流程。
🎓 专业 IRMaD 结构解读
I. Introduction（引言）
参与式设计已成为公共部门 AI 治理的标准程序性保障，但大量案例显示“参与差距”持续存在：社区参与、意见被记录、系统照常部署。既有文献多从参与实践的质量（代表性、时机、资源）解释这一落差，本文转向一个更结构性的位置——记录参与的机制本身。作者提出“可见性陷阱”（legibility trap）：机构问责依赖文档化，而文档化的类别在具体参与事件之前即已固定，于是能够被制度化记录的意见被保留，最可能约束国家权力的意见（根本性异议、拒绝部署的诉求、对结构性伤害的见证）在选择记录方式时即被过滤。理论资源来自斯科特的国家简化理论与 Kelly Oliver 的“见证”概念；方法为批判话语分析（CDA）加关键案例比较。
I. Theoretical Framework & Hypotheses（理论框架与假设）
| 编号 | 命题 | 理论依据 |
|---|---|---|
| P1 | 机构问责依赖文档化，机构只能对“已被记录之物”负责 | Scott (1998) state simplification；Bowker & Star 分类基础设施 |
| P2 | 参与将被记录的类别在事件之前即被固定（采购语言、伦理审查模板、报告格式） | 制度性分类先于实践 |
| P3 | 因此参与被系统性选择为“适配机构类别”的输入，约束国家权力的形式被过滤 | Fairclough (1995) CDA：文本特征是社会关系的痕迹 |
| P4 | 反复收集证词而不回应，破坏“言说—回应”关系，构成对主体形成的伤害 | Oliver 的 witnessing 理论 |
推论：真正的问责不是“参与是否发生”，而是“参与是否产生绑定约束”。
M. Materials & Methods（材料与方法）
- 设计。批判话语分析（CDA）+ 跨案例比较。语料为 22 份官方文件、社区产出文件与公共记录，覆盖三个公共部门 AI 部署。
- 案例 1：阿勒格尼家庭筛查工具（AFST）。2016 年 8 月部署，用于儿童虐待风险打分；部署前经历四年流程（竞争性采购、外部伦理审查、过程评估、影响评估），被该县 DHS 描述为负责任 AI 治理的样板。
- 案例 2：底特律绿灯计划（Project Green Light）。2017 年起将人脸识别（DataWorks Plus，合同号 6000801）接入警务摄像头网络；合同在没有公众参与与市议会批准的情况下签署；2020 年多个民权组织通过市议会听证持续抗争，形成语料中最完整的正式参与记录。
- 案例 3：奥克兰 CCOPS 条例。2016 年 1 月依第 13349 C.M.S. 号条例设立隐私咨询委员会（PAC）；《监控设备透明条例》（O.M.C. 9.64）要求任何监控技术采购须经市议会明确批准、并以 PAC 审查为前提，2021 年修订；至 2021 年全美已有 25 个辖区通过某种版本的 CCOPS 立法。
- 分析操作。把句子的语法主语、引文的位置、某类别之有无当作独立证据读取；重点比较强制性语言与建议性语言、记录中谁被构造为参与者、什么诉求在文本中找不到可栖身的类别。
- 方法理由。访谈只能获得实践者“自述如何参与”，文件才能显示机构“认定参与产生了什么”，两者之差即陷阱运作之处。
R. Results（结果）
- AFST：代理人替换（proxy substitution）。官方文件 A6 称“社区参与一直是本项目的优先事项”，但过程评估（A4）列出的外部利益相关者为 DHS 员工、个案工作者、督导、机构领导、社区服务提供者、倡议团体、基金会与家庭法院法官；其数据被用于打分的家庭在任何文件中都未作为参与者出现，仅以“数据主体”身份存在。
- AFST：技术中立化（technical neutralization）。伦理审查（Dare & Gambrill 2017）结论为“很难设想有伦理理由反对使用最准确的预测工具”，整个伦理论证被限定在预测准确率框架内，“贫困指标是否可作虐待风险代理”未被作为伦理问题提出；2024 年 DHS 评估亦以分类准确率与筛查率种族差异为评价标准。
- AFST：可量化的差异规模。一项独立混合方法分析发现，仅算法本身即造成黑人儿童与白人儿童之间约 20% 的筛查率差异（人工判断会缩小但未消除该差距）。
- 底特律：见证被转译为可归档的异议。2020 年 9 月 29 日市议会表决与公众证词中，社区提出的结构性伤害指控（如“我们的人脸识别监控被用来对付黑人居民”）在官方记录中被重新编码为逐条意见；要求“不得部署”的诉求在记录中没有可栖身的类别。
- 奥克兰：强制性语言 vs 建议性语言。将阿勒格尼 FAQ（A6）与奥克兰监控条例（O2）并置，可直接读出两种治理文本的差别：前者用建议性、过程性措辞，后者以立法语言设定批准要件与审查前置条件。
- 挣脱陷阱的结构条件（跨案例）。①法律明文的拒绝机制；②独立于被治理机构的问责主体；③举证责任落在机构一侧；④持续的合规义务。四者同时具备时，参与才产生绑定约束。
| 案例 | 陷阱表现 | 参与是否产生约束 |
|---|---|---|
| AFST 阿勒格尼 | 代理人替换 + 技术中立化 | 否：参与被记录，部署未改变 |
| 底特律绿灯 | 见证被转译为逐条反对意见 | 部分：形成公开记录，但未阻止运行 |
| 奥克兰 CCOPS | 强制性语言 + 独立审查前置 | 是：立法设定批准要件 |
a / D. Discussion & Conclusion（讨论与结论）
- 理论贡献。把“参与差距”从实践质量问题重构为记录基础设施问题；提出可检验的三条件机制：问责依赖文档、类别先于事件固定、以及由此产生的输入选择效应。命题具备跨部署的可迁移性。
- 伦理贡献。命名了一类此前未被 AI 伦理框架涵盖的伤害——反复收集证词而不回应，破坏“言说—回应”关系，伤害发生在主体形成层面，与政策结果的好坏无关。
- 治理启示。评价参与式 AI 治理不应以“开了几次会、记录了多少条意见”为指标，而应以“是否写入拒绝权、审查主体是否独立、举证责任归属、是否有持续合规义务”为判据。
- 局限。①语料为 22 份公开文件，属目的性抽样，不能推断总体分布；②CDA 的解读依赖研究者立场，缺少编码者间信度检验；③三案例均在美国境内，制度外推需谨慎；④作者未访谈参与者，无法直接验证“未被记录的意见确实存在”这一反向事实；⑤“挣脱”条件为跨案例归纳，尚未做因果识别。
- 资助/伦理。全部材料为公开文件，不涉及人类受试者。
🧠 IRMaD 思维导图
mindmap
root((参与为什么没用))
I 引言
政府用 AI 做决定
补救办法是开听证会
参与很多改变很少
R 研究问题
参与卡在哪一环
记录方式如何筛意见
什么条件下能挣脱
M 方法
批判话语分析
二十二份公开文件
阿勒格尼筛查工具
底特律绿灯计划
奥克兰监控条例
R 结果
社区被换成服务机构
伦理只谈准确率
反对被编成逐条意见
算法造成两成差异
a 讨论
国家只看得见能计量的
不回应本身就是伤害
约束力才是真参与
D 结论
写明拒绝权
独立监督机构
举证责任在机构
持续合规义务
图：本研究的 IRMaD 思维导图。蓝色 I 引言；橙色 R 研究问题；绿色 M 方法； 橙色 R 结果；紫色 a 讨论；红色 D 结论。