AIES 2026(AAAI/ACM 人工智能、伦理与社会会议)· 19 人半结构访谈的质性研究

公地与私产之间:开放模型市场上个体创作者对衍生图像模型的责任认知

Eun Jeong Kang, Fengyang Lin, Angel Hsing-Chi Hwang · AIES 2026(AAAI/ACM 人工智能、伦理与社会会议)· arXiv:2602.19354 · 2026 · DOI: 10.1609/aies.v9i2.43238 · arXiv: 2602.19354
原题:Between Commons and Property: Individual Image-Generation Model Creators' Perceived Accountability for Derivative AI Model on Open Model Marketplaces
Open Access 新颖度 0.76

🧒 初中生也能看懂的版本

① 研究背景(为什么要做?)

开放模型市场让普通人也能改造人工智能模型。任何人下载一个开源的图像生成模型,用自己的图片稍加训练,就能做出风格独特的新模型,再传回市场供人下载,这类模型叫衍生模型。平台担心有人拿它生成违法或伤人的图片,于是推出自愿遵守的安全开发指南和署名工具。可这些规范能否落地,全看创作者自己愿不愿意。对多数人来说,做模型更像业余爱好,而不是有法律团队把关的正式生产。研究者想知道,这些单打独斗的创作者究竟怎么理解自己对衍生模型的责任,又会怎样对待平台递过来的工具。

② 研究问题(要回答什么?)

研究提出两个问题。第一,个人创作者怎么看图像衍生模型,这种看法如何塑造他们对开发和分享过程的责任感。第二,他们怎么使用平台提供的负责任人工智能做法,实际用法又在哪些地方偏离了设计初衷。换句话说,论文不只想列出自律失灵的现象,还想弄清失灵发生在哪一环,为什么创作者会觉得自己的做法说得通。论文用访谈材料回答这两问,并把创作者的说法与平台指南、署名工具的设计意图逐条对照,看错位究竟出在哪里。全文最后据此给出平台治理的改进建议。

③ 研究方法(怎么做的?)

研究者完成了十九场半结构访谈,每场七十五到九十分钟,参与者得到三十五美元礼品卡。受访者都在美国,年满十八岁,通过领英、红迪、Discord 以及模型市场的公开推荐名单和滚雪球方式招募。十九人里有十七人是业余爱好者,两人是接单的独立创作者。所有人都靠微调改造现成的开源图像模型,多数在 Hugging Face 和 CivitAI 发布,六人只在私密 Discord 频道分享。访谈用 Otter 转写,两位韩国受访者的录音用 DeepL 翻译。分析采用反思性主题分析,三位作者先共同编码三份转录稿,再由两位作者独立编码其余材料,出现新主题时集体讨论,最后由第一作者统一主题结构。

④ 结果(发现了什么?)

受访者心里同时存在两套问责逻辑。公地逻辑把模型看成社区共同劳作的产物,责任对象是身边互相帮忙的同伴,署名是表达感谢和维持互惠。财产逻辑把模型看成人格化的原创作品和未来的收入来源,责任对象是自己和想象中的受众,署名则用于防抄袭。两套逻辑并存,让同一个人在不同情境下给出不同答案。面对平台工具时,他们发展出四种偏离原意的做法:把署名和人工智能标识当成涨曝光的招牌;用社区自治顶替平台权威;限制下载或隐去关键词来控制下游风险;把安全测试当成看不见、没人付钱的额外劳动,能省则省。

⑤ 讨论(这些发现说明什么?)

这些做法在创作者自己的处境里都算合理,合起来却让开放模型生态更难被审计。平台规范靠自觉,而自觉又建立在社区惯例和个人判断上,于是形成一种循环:平台越不透明,创作者越不信任平台;越不信任,就越依赖小圈子;小圈子越封闭,越容易复制主流偏好、挤掉少数群体的需求。安全劳动看不见成果,还要自己掏显卡钱,自然被压到最低。作者因此把个人创作者称为开放模型生态里的结构性风险点,而不是简单的违规者。要打破循环,单靠劝说不够,平台需要让负责任的做法变得可见、有回报,也要保护创作者免受下游骚扰和盗用。

⑥ 结论(最终结论 + 启示)

论文的结论是,把责任推给个人自律的自监管设计,在动机多元、信息不全、追责困难的开放模型市场里很难奏效。作者建议平台从三方面补位。第一,奖励而不只是禁止,把数据整理、测试记录这类质性证据放到创作者主页,让负责任的做法带来曝光。第二,降低参与门槛,替创作者挡住匿名骚扰、模型盗用等后顾之忧。第三,培育跨社区的管家文化,用互相审查补上单一社区视野狭窄的短板。署名框架也应把衍生模型和个体创作者纳入,明确改造到什么程度需要披露、贡献该怎么记。对公共管理而言,这提示平台治理不能只盯有害内容,还要设计让责任可执行、可看见的制度。

🎓 专业 IRMaD 结构解读

I. Introduction(引言)

开放模型市场(如 Hugging Face、CivitAI)已成为开放模型生态的关键中介。个人无需从零训练,通过微调等后训练改造即可生产衍生模型并分发。伴随规模扩张,下游风险上升:2025 年据报有逾 5,000 个生成真实人物非自愿性图像的模型从另一市场迁移至 Hugging Face;模型一旦被下载,创作者便无法追踪其使用与扩散。图像生成模型因视觉内容的公共可见性成为风险焦点。平台目前主要依靠自愿性治理:负责任模型开发指南,以及署名与人工智能生成内容标识工具。但这类自我监管假设创作者具有内在动机与相应专业能力。既有研究考察了开放模型使用者与组织内从业者,却缺少个体创作者如何建构问责、又如何据此实践负责任人工智能的系统证据。本文因此提出两个问题:个体创作者对图像衍生模型的看法如何塑造其在开发与分享中的问责感;他们如何接触平台做法,实践在哪些方面偏离设计意图。论文的双重目标是诊断平台治理与创作者经验的错位,并提出以创作者实践为基础的替代方案。

I. Theoretical Framework & Hypotheses(理论框架与假设)

分析框架由两条问责逻辑构成。其一是公地式同行生产:衍生模型被视为社区参与和社会性生产的产物,资源与工作流模板自愿共享,同行反馈是迭代改进的必要条件;问责因此以互惠为基础,责任边界主要止于社区同伴,上游数据所有者与下游用户被视为不可控或应自负其责,数据抓取则以合理使用自我正当化。其二是个人创意财产:创作者把自己定位为独立艺术家,原创性来自对预训练模型弱点的识别、数据收集与概念选择,这些选择嵌入其社会身份与经历,进而产生心理所有权,并把模型视为未来可授权的资产。两条逻辑并非互斥,而是共存并随情境切换。论文还借用想象受众与平台政治性两个概念,解释创作者为何按受众注意力而非规范透明度来组织披露。这一区分构成本文分析的主轴。

M. Materials & Methods(材料与方法)

研究经大学伦理审查委员会批准,采用半结构访谈。样本为 19 名在美国的个体图像生成模型创作者,均年满十八岁;通过 LinkedIn、Reddit、Discord 以及 Hugging Face、CivitAI、Tensor.Art 的公开推荐名单与滚雪球招募。访谈 75 至 90 分钟,报酬为 35 美元礼品卡。19 人中 17 人为业余爱好者,2 人(P6、P12)为接单的独立创作者;3 名女性、15 名男性、1 人不愿透露;6 人仅通过私密 Discord 分享,其余主要在 Hugging Face 与 CivitAI 发布;全部模型均为 Stable Diffusion 或 Flux 开放权重模型的衍生品。访谈围绕开发工作流、发布动机、对两类做法的使用与设想展开:一是 CivitAI 的 Responsible Resource Development 指南;二是受 He 等(2025)启发、按 C2PA 惯例设计的署名工具与 AIGC 标识。访谈通过 Otter.ai 转写,韩语访谈(P2、P19)用 DeepL 翻译;分析采用 Braun 与 Clarke 的反思性主题分析:三位作者先对三份转录稿做代码对齐工作坊形成初步主题,两位作者独立编码其余转录稿,新主题出现时三人讨论修正,最后由第一作者复核整体主题结构。研究未报告编码者间一致性 kappa,而以代码对齐工作坊、双人独立编码与集体讨论控制解释偏差。材料与探针见 OSF(osf.io/e6a3p)。

R. Results(结果)

研究一识别出两种并存的问责逻辑(表 1)。公地逻辑下,责任是维持社区互惠的条件,署名被理解为对同伴资源与帮助的感谢,而非精确的来源披露;由于缺乏规则,披露范围全凭个人判断。财产逻辑下,原创性与心理所有权使创作者把模型视为未来资产,数据实践出于自我保护(自拍、用人工智能模糊人脸、使用无人物或知识共享图片),并把无署名复制者称为盗贼。两种逻辑共同导致责任对象收缩:下游滥用被归为使用者责任,上游数据抓取以合理使用开脱。<br>研究二显示四类偏离(表 2):其一,社区治理替代平台权威,创作者依赖 Discord 小圈子获取可操作建议,认为平台指南模糊、表演性强,且不信任平台动机;其二,负责任实践成为不可见且被低估的劳动,逐条比较提示词、审计上游检查点耗时费钱,成果却不可见,故被最小化;其三,署名工具被挪用为曝光工具,衍生链条复杂使归属范围难定,创作者转而把标识当作品牌签名与可信度信号,并策略性删减不利于可见度的信息;其四,访问控制用于自保,通过只读许可、水印、禁用下载、隐去可搜索名称,或仅在私密渠道分享,来划定责任边界。值得注意的是,社区规范会复制主流偏好:市场上大量模型把女性客体化,使 P2、P16 难以获得可用资源。<table><tr><th>维度</th><th>公地式问责</th><th>财产式问责</th></tr><tr><td>模型是什么</td><td>社区共同生产的产物</td><td>个人原创的作品与未来资产</td></tr><tr><td>责任对象</td><td>社区内互相帮忙的同伴</td><td>自己与想象中的下游受众</td></tr><tr><td>署名的含义</td><td>表达感谢、维持互惠</td><td>宣示所有权、防抄袭</td></tr><tr><td>数据实践依据</td><td>同伴惯例与合理使用</td><td>自我保护式的干净数据</td></tr><tr><td>对平台规范的态度</td><td>不信任,以社区自治替代</td><td>工具化,服务于曝光与自保</td></tr></table><br><table><tr><th>平台设计意图</th><th>创作者实际做法</th><th>机制</th></tr><tr><td>安全指南约束开发</td><td>转向私密社区获取可操作建议</td><td>指南模糊、平台不被信任</td></tr><tr><td>署名工具披露来源</td><td>当作曝光与可信度招牌</td><td>归属范围难定、受众导向</td></tr><tr><td>开放下载扩大影响</td><td>只读、水印、隐去关键词或私享</td><td>下游不可控、责任成本外溢</td></tr><tr><td>评估降低模型风险</td><td>只测常见提示词,能省则省</td><td>劳动不可见、算力成本自付</td></tr></table>

a / D. Discussion & Conclusion(讨论与结论)

作者把个体创作者定位为开放模型生态的结构性风险点,机制有三。其一,工作流高度自主、按创作愿景与同伴反馈即时调整,缺少组织内的法律与合规复核,法律模糊地带由个人判断填补。其二,衍生模型嵌入创作者的个人经历与价值取向,既能补足通用模型对低资源文化的覆盖,也会在缺乏反身性时复制主流偏见。其三,问责是移动的目标,随心理所有权、想象受众与对平台治理的解读不断协商;下游不可追踪与平台高可及性共同放大了不确定性,使自保优先于透明。<br>自监管失灵的机制因此不是简单的道德缺失,而是激励结构错位:平台把责任下放给个人,却不提供可见回报、不承担骚扰与盗用风险、也不给出可操作的判定标准;创作者于是把负责任人工智能工具重解释为对自己有利的功能,形成局部理性、整体失真的均衡。政策上,作者主张平台从中性中介转向更主动的审核,具体包括:以数据整理与评估记录等质性指标奖励负责任实践,并公开审核标准;为创作者移除名誉与盗用风险;培育跨社区审计的管家文化;在署名框架中纳入衍生模型与个体创作者,明确改造到何种程度需要披露。局限在于仅覆盖图像模型、尤其是文生图模型,样本为美国 19 人,跨模态与跨法域的外推需谨慎。

🧠 IRMaD 思维导图

I 引言 R 研究问题/假设 M 方法 R 结果 a 讨论 D 结论
mindmap
  root((公地与私产之间))
    I 引言
      开放模型市场兴起
      衍生模型风险外溢
      平台推行自愿治理
      个体创作者被忽视
    R 问题
      问责如何被建构
      如何接触平台规范
      实践为何偏离原意
    M 方法
      十九场半结构访谈
      美国个体创作者
      两类治理工具探针
      反思性主题分析
    R 结果
      公地式问责逻辑
      财产式问责逻辑
      四种工具挪用方式
      社区规范复制偏见
    a 讨论
      个体成为风险点
      自监管为何失灵
      问责是移动目标
    D 结论
      奖励负责任实践
      移除参与障碍
      培育管家文化
      完善署名框架

图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。