🧒 初中生也能看懂的版本
① 研究背景（为什么要做？）
想象你躺在病床上，医生看着屏幕上一个 AI 给出的建议说：“系统建议这样治。”你可能会问：这个建议是怎么来的？我能不同意吗？如果出错了，谁负责？
这类系统叫临床决策支持系统。它的好处很明显：能同时处理海量信息、发现人眼容易漏掉的模式。但麻烦也很明显：它可能让医患关系变得冷漠，可能削弱病人的自主权，可能把训练数据里的偏见带进治疗，也可能让责任变得模糊——出了事，是医生的错、开发者的错，还是“系统的错”？
目前学界的主流做法是给 AI 装一套“伦理原则”，比如公平、透明、可解释。但本文作者认为，这只解决了一半问题：原则告诉你应该追求什么，却没告诉你由谁、通过什么程序来决定这些原则怎么落地。
② 研究问题（要回答什么？）
作者提出的核心问题是：把伦理原则嵌进临床 AI，需要什么样的规范基础？
他把这个问题拆成三步：
- 人到底怎么做道德判断？先搞清楚人类的道德决策机制，才谈得上让机器去“支持”它。
- 描述性模型够不够？知道人怎么判断，能不能直接推出机器应该怎么设计？
- 如果不够，缺什么？作者的回答是：缺一个关于“合法性从哪来”的规范理论。
③ 研究方法（怎么做的？）
这是一篇规范性理论文章，不跑数据、不做实验，方法是“概念分析 + 理论综合 + 制度设计”。
第一步，梳理三种道德判断模型。一是理性主义模型：人先分析、再判断、再行动，像走流程。二是直觉主义模型：判断是瞬间冒出来的，理性只是事后找理由。三是整合模型（ADC 模型）：我们同时评价三件事——人（这个人是好人吗）、行为（这件事本身对不对）、后果（结果好不好）。
第二步，指出缺口。这三种模型都是描述性的：它们解释人怎么判断，但不告诉你应该怎么判断。所以不能直接拿来当 AI 的设计规范。
第三步，引入话语伦理。作者借用 Apel、Habermas 和 Cortina 的理论，主张一个规范之所以正当，是因为所有受影响的人都能在自由、平等、无强迫的对话中同意它。
④ 结果（发现了什么？）
文章的核心结论可以概括成三个命题。
知道人怎么做道德判断，不等于知道机器应该怎么做。前者是心理学，后者是伦理学。
规范的有效性不取决于专家或算法，而取决于受影响者能否平等参与、自由质疑。
Cortina 的区分：用智能系统“辅助”决策，和把有分量的决定“委托”给它，是两件完全不同的事。
在这个基础上，作者提出临床 AI 应该是对话性、过程性的工具：它不给出“最终答案”，而是把判断的依据、不确定性和替代方案摊开来，供医生和病人讨论。
他还点评了两种已有的整合方案：一种区分“实质性价值”（专业操守、公正、公共利益）和“程序性价值”（透明、问责）；另一种把 ADC 模型直接做成 AI 的伦理评估模块。作者认为这两种都有用，但都缺一个“谁来决定、怎么决定”的对话程序。
⑤ 讨论（这些发现说明什么？）
作者认为，话语伦理的价值在于它把伦理从“专家写一份原则清单”变成“一个持续进行的公共程序”。这对临床场景尤其重要，因为医疗决策天然涉及价值冲突：延长生命还是减轻痛苦？效率还是公平？这些不是技术问题，不能靠算力解决。
他也回应了一个常见反驳：“病人不懂技术，怎么参与对话？”他的回答是，参与不等于懂算法，而是有权知道“这个建议基于什么假设”“它对我不适用的地方在哪里”“我能不能拒绝”。
文章还提醒，AI 系统会反向塑造人的判断：医生用久了，可能不再自己思考，而是接受系统建议。这种“双向互动”意味着伦理不能只在系统外面加一层审查，而要嵌进系统本身的交互设计里。
⑥ 结论（最终结论 + 启示）
结论是：临床 AI 的合法性不能只靠准确率和效率，也不能只靠一份伦理原则清单，而要靠可参与的对话程序。
作者主张把话语伦理的要求——平等参与、自由质疑、免于强迫、公开理由、可问责——转化为系统设计的具体约束：谁参与需求定义、不确定性如何呈现、异议如何记录、责任如何归属。
对开发者：别把伦理当合规打勾，要当架构问题。对医院和监管者：采购和审批时，应要求说明“受影响者如何参与”。对病人：你有权知道，也有权说不。
🎓 专业 IRMaD 结构解读
I. Introduction（引言）
临床决策支持系统（CDSS）的伦理讨论长期由“原则主义”主导：公平、透明、可解释、问责等原则被反复列举，并转化为清单式治理工具。本文的批评是，这类进路停留在实质性价值层面，缺乏对规范有效性来源的说明——即：凭什么说这套原则对这家医院、这群病人具有约束力？
作者的论证路径是双重的。一方面，他系统梳理道德判断的三种描述性模型（理性主义、直觉主义、整合的 ADC 模型），说明它们刻画的是“人如何判断”，而非“应当如何判断”；另一方面，他引入 Apel–Habermas–Cortina 的话语伦理传统，主张规范合法性来自受影响者在理想言谈条件下的理性同意。二者结合，导出对 CDSS 的规范性要求：系统应被设计为对话性与过程性的工具，而非替代人类判断的黑箱。
I. Theoretical Framework & Hypotheses（理论框架与假设）
| 模型 | 核心主张 | 代表 | 对 AI 设计的含义 |
|---|---|---|---|
| 理性主义 | 道德决策是分步的理性过程（觉察→推理→意图→行为） | Rest 四阶段模型；Kohlberg 道德发展阶段；Jones 议题道德强度 | 可形式化为规则链，但低估不确定性与情感 |
| 直觉主义 | 判断瞬间涌现，理性多用于事后正当化 | Haidt 社会直觉模型；Sonenshein SIM；Thiel 等意义建构模型 | 提示 AI 不应假定用户会理性复核建议 |
| 整合（ADC） | 同时评价行动者（A）、行为（D）、后果（C）三类直觉 | Dubljević & Racine | 可操作化为多维伦理评估模块，兼容德性论、义务论与后果论 |
规范层面采用话语伦理：Habermas 的理想言谈情境三条要求——（a）所有潜在参与者有平等参与机会；（b）可自由质疑任何主张、提出新论断、表达自身态度与需求；（c）不得受内外、显隐强制。由此导出话语原则（D）：只有能为所有受影响者所同意的规范才有效；以及普遍化原则（U）。Apel 强调共同责任（co-responsibility）与论证的不可回避预设；Cortina 则区分“辅助决策”与“委托决策”，为 CDSS 的边界提供判准。
M. Materials & Methods（材料与方法）
- 研究类型：规范性伦理研究（normative ethics），概念分析与理论建构，无实证数据。
- 文献综合路径：（i）道德心理学与神经科学文献（Damasio、Gigerenzer、Kahneman、Haidt）用以论证理性主义模型的局限；（ii）应用伦理学文献（Jonas、Floridi、Cortina）用以界定 AI 伦理问题域；（iii）话语伦理学原始文献（Apel 1973/1988/1997；Habermas 1968/1981/1983/1992/2021；Cortina 1986/1990/1996/2010）。
- 批判对象：原则主义式的“伦理清单”进路，以及把描述性判断模型直接当作规范基础的范畴错误。
- 建设性方案：以话语程序为骨架，整合 Lysaght 等的“实质性价值 / 程序性价值”二分与 Dubljević 等的 ADC 评估模块，形成 CDSS 的伦理整合框架。
- 论证结构：描述性模型 → 其规范不足 → 话语伦理补足 → 对 CDSS 设计与治理的具体要求。
R. Results（结果）
- 描述性模型的局限：理性主义模型假定分析—判断—行动的序列性，难以处理不确定性、模糊性与情感；直觉主义模型揭示判断的即时性与事后合理化，说明“给出理由”不等于“依据理由行动”。
- ADC 模型的整合价值：道德判断同时调用行动者、行为、后果三类直觉，分别对应德性论、义务论与后果论；实证研究显示三者的直觉均在运作，支持多维而非单一维度的伦理评估。
- 规范缺口：三种模型均为描述性，无法回答“应当如何”；原则主义则回答了“应当追求什么”，却未回答“谁有权决定、通过什么程序决定”。
- 话语伦理的补足：规范有效性源于受影响者在免于强制的对话中的可同意性（原则 D）；由此推出对 CDSS 的程序性要求——利益相关者参与设计、理由公开、异议可记录、责任可归属。
- 辅助 vs 委托：Cortina 的区分构成本文的规范性红线——系统可以辅助判断，但不应承接具有道德分量的决定。
- 设计含义：CDSS 应呈现不确定性、替代方案与适用边界，支持医生—病人—系统三方对话，而非输出单一最优解。
| 要求 | 话语伦理依据 | CDSS 设计含义 |
|---|---|---|
| 平等参与 | 理想言谈情境（a） | 病人与一线医护参与需求定义与场景选择 |
| 自由质疑 | 理想言谈情境（b） | 界面支持追问依据、查看反例与不确定性 |
| 免于强制 | 理想言谈情境（c） | 不得以默认选项或流程压力替代知情同意 |
| 可问责 | 原则 D + Apel 共同责任 | 记录建议来源、采纳/否决理由与责任人 |
a / D. Discussion & Conclusion（讨论与结论）
- 理论贡献：指出描述性道德判断模型与规范性伦理理论之间的范畴差异，并以话语伦理填补原则主义的合法性缺口；把“程序性价值”从附属地位提升为规范核心。
- 对 AI 伦理的批评：原则清单式治理容易沦为合规打勾，无法处理价值冲突与情境差异；本文主张以对话程序替代静态原则清单。
- 实践含义：为医院采购、监管审批与系统设计提供可操作的判准——不仅问“系统准不准”，还要问“受影响者如何参与、异议如何被记录”。
- 局限：规范性论证缺少实证检验；理想言谈条件在临床时间压力与信息不对称下如何近似，未给出操作方案；对 AI Act 等具体法规只作背景提及，未展开合规对接；单一作者的 conceptual paper，缺少跨学科同行验证。
- 未来方向：把话语程序操作化为可审计的设计清单；在真实 CDSS 部署中检验参与式设计的成本与效果；研究人机互动如何反向塑造医生的道德判断。
🧠 IRMaD 思维导图
mindmap
root((临床AI的话语伦理))
I 引言
原则清单不够用
医患关系被中介
合法性从哪来
R 问题
人如何做道德判断
描述能否推出规范
缺什么补什么
M 方法
三种判断模型
理性直觉与整合
话语伦理传统
概念综合与建构
R 结果
描述不等于规范
合法性来自对话
辅助不等于代替
系统应可追问
a 讨论
价值冲突非技术问题
参与不等于懂算法
系统反向塑造判断
D 结论
对话程序为地基
伦理即架构问题
采购须问参与
图：本研究的 IRMaD 思维导图。蓝色 I 引言；橙色 R 研究问题；绿色 M 方法； 橙色 R 结果；紫色 a 讨论；红色 D 结论。