Ethics and Information Technology · 2026 · Springer OA · 信息伦理核心刊

数字幽灵怎么造才不越界:给“AI 复活”定设计红线

Giovanni Spitale, Federico Germani · Ethics and Information Technology (2026) 28:34 · 2026 · DOI: 10.1007/s10676-026-09910-4
原题:The making of digital ghosts: designing ethical AI afterlives
AI·医学·科技伦理 Open Access 新颖度 0.78

🧒 初中生也能看懂的版本

① 研究背景(为什么要做?)

近十年出现了一类新生意:用逝者生前的聊天记录、语音、视频,训练出一个会说话的“数字分身”。有人用它纪念亲人,有人用它让偶像继续“营业”。2021年有个叫 Project December 的服务,被用来复刻一位去世的未婚妻;更引发争议的是,一位凶案受害者的AI形象出现在法庭量刑环节。

伦理学界已经写了不少文章,说这事有风险:可能伤害哀悼、可能欺骗、可能侵犯逝者隐私、可能被商业剥削。但问题在于——这些结论都停在“应该慎重”,没人说清楚“具体怎么建才不算越界”。

② 研究问题(要回答什么?)

作者要解决一个“落地”问题:

③ 研究方法(怎么做的?)

作者的思路是“把原则翻译成设计参数”。

第一步,建九维分类表:创建时点、同意、数据来源、互动形态、忠实度与披露、目的、受众与访问、治理与所有权、自主性与行为能动性。每一个维度都是设计时必须做的一次选择。

第二步,从分类表推出两级约束:三项“门槛条件”(同意、忠实与披露、目的)——任一项不满足,系统就不可接受,无论其他维度多好;另外六项是“情境调节因素”,只改变风险高低,不单独决定许可与否。

第三步,用四个理想类型做对照:遗产分身、私人哀悼机器人、名人模拟、机构化身。

④ 结果(发现了什么?)

分类表一摆出来,很多争议就变成了具体问题:

时序
生前授权造,还是死后由别人造
数据
本人直接输入,还是从社交痕迹里扒
披露
是否明确告知“这是AI”
能动性
只能被动回答,还是能主动找你说话

四种典型形态的风险差异很明显:私人哀悼机器人通常数据来自逝者本人、只在私下使用,风险相对可控;名人模拟多为死后由第三方用公开材料拼成、用于娱乐或品牌,同意往往缺失;机构化身(比如学校用已故教师做“数字讲师”)最麻烦,因为受众是公众、目的模糊、治理不清。

最硬的三条是:没有得到本人(或代行)的明确同意;没有清楚披露这是模拟;目的本身不正当(比如拿逝者形象做欺诈营销)。任一条踩线,都不该上线。

⑤ 讨论(这些发现说明什么?)

作者强调一个方法论转变:把规范判断放在“设计配置”上,而不是“宣称的意图”上。因为意图可以辩解,配置可以被检查。你说“我们是为了纪念”,但系统没有披露是AI、用了未经同意的数据、还主动向用户推送——这些是看得见的。

这也让监管有了抓手:审计员可以逐项检查九个维度,立法者可以把门槛条件写进规则,平台可以据此做准入。

当然,作者也承认框架不解决所有问题:什么算“充分同意”、忠实度多高算够、私人哀悼与商业剥削的界线在哪,仍需要具体判断。

⑥ 结论(最终结论 + 启示)

结论是:与其反复争论“AI复活该不该存在”,不如先定三条不可退让的红线,再让其余设计选择在红线上方调节风险。

对设计者:先问同意、披露、目的三件事;对监管者:把可检查的设计参数写进规范,而不是只写原则;对家属:这套表也能帮你判断,眼前这个“他”,到底是谁造的、拿什么造的、想让你相信什么。

🎓 专业 IRMaD 结构解读

I. Introduction(引言)

AI中介的数字来世技术(聊天机器人、声音克隆、身后化身)已从思辨走向社会基础设施。既有伦理文献系统识别了相关风险——哀悼与心理健康伤害、欺骗与操纵、身后隐私、尊严与错误再现、商业剥削——但主要停留在原则与概念区分(如“纪念 vs 替代”、“影响 vs 操纵”)。缺失的是从伦理共识到设计约束的转化:这些区分如何编码为数据使用、行为能动性、治理与披露层面的具体配置。

本文的贡献是提出九维分类学与两级设计约束结构,把规范评估定位在设计配置而非宣称意图上,从而使约束可审计、可监管、可由设计师与立法者执行。

I. Theoretical Framework & Hypotheses(理论框架与假设)

层级维度/约束规范地位
Tier 1 门槛同意(consent);忠实与披露(fidelity/disclosure);目的(purpose)近乎绝对的许可条件:任一项不满足即不可接受,与 Tier 2 配置无关
Tier 2 情境创建时点;数据来源;互动形态;受众与访问;治理与所有权;自主性与行为能动性调节风险画像,不单独决定许可

九个维度共同构成“数字幽灵的设计空间”:任何系统都是这九个参数的一次取值组合。分类学不是中性描述,而是规范性诊断工具——它标出伦理风险的结构性发生点与可施加治理约束的位置。规范来源在文中单列(Sources of normativity),说明从伦理描述到设计要求的推导路径。

M. Materials & Methods(材料与方法)

R. Results(结果)

维度私人哀悼机器人名人模拟机构化身
创建时点多为身后多为身后不定
同意可能有(本人数据)常缺失少见或不清
数据来源个人痕迹公开档案档案/证言
披露不一常不清晰不一
受众私人公众公众/机构

a / D. Discussion & Conclusion(讨论与结论)

🧠 IRMaD 思维导图

I 引言 R 研究问题/假设 M 方法 R 结果 a 讨论 D 结论
mindmap
  root((数字幽灵设计红线))
    I 引言
      复活逝者已成商品
      伦理讨论停在原则
      缺少落地约束
    T 框架
      九个设计维度
      三项门槛条件
      六项情境调节
      门槛不过即不可行
    M 方法
      文献综合提炼风险
      构建分类诊断表
      推导两级约束
      四类形态对照
    R 结果
      同意披露目的为红线
      名人模拟常缺同意
      机构化身风险最高
      约束可审计可规制
    a 讨论
      看配置不看意图
      监管有了抓手
      充分同意仍待细化
      跨文化差异待补
    D 结论
      从是否允许转向如何配置
      红线加调节
      设计师与立法同表争论

图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。