战火中的负责任生成式AI使用：来自苏丹应急响应室的证据

🎓 专业 IRMaD 结构解读

I. Introduction（引言）

武装冲突同时做两件事：抬高生成式人工智能（GenAI）的边际价值，又拆掉负责任使用它的社会与技术前提。苏丹自二〇二三年四月爆发战争以来，九百三十万人在境内流离失所、四百三十万人越境，二〇二六年有三千三百七十万人需要紧急人道援助，三成七的卫生设施停摆；国际人道组织受准入与运力限制，社区自组织的应急响应室（Emergency Response Rooms, ERRs）成为实际供给主体，网络规模超过七百个响应室、两万六千余名响应者。既有研究多聚焦正式人道组织、专业人士或为特定组织目的部署的系统，对自组织网络中的志愿者如何使用、限制乃至回避GenAI，尤其在战斗进行时的情形，经验证据几近空白；而这类网络恰恰缺少大机构的制度保护与支持。作者据此提出两个问题：RQ1 社区人道响应者在武装冲突中如何使用与回避GenAI；RQ2 战时条件如何塑造GenAI的可及性、有用性与负责任使用。文章给出三项贡献：冲突情境下的经验证据、冲突特定条件下的负责任使用命题、以及面向组织、捐助方与技术提供方的冲突敏感设计与治理建议。

I. Theoretical Framework & Hypotheses（理论框架与假设）

文章把论证搭在四条文献的交汇处：人道响应中的AI应用、高风险情境下GenAI的社会技术风险、知识的地方性与情境性、以及人道主义本地化与社区自助。第一条文献记录危机预警（HungerMap LIVE 覆盖五十余国）、态势感知（AIDR 在二〇一三年巴基斯坦地震中分类社交媒体信息）、损失评估（WFP 的 SKAI）与情境报告自动生成，但这些系统依赖基础设施、专业能力与组织资源。第二条给出偏差、低资源语言覆盖不均、隐私记忆与属性推断、幻觉，以及冲突情境缺乏地面真值等风险；有研究发现同一模拟危机换一种语言呈现，模型给出的紧急程度明显不同。第三条强调部分行动所需知识是在与受影响社区、当地志愿者的持续互动中生成并更新的，无法从事后文档中检索。第四条指出自组织网络在准入受限时的重要性，同时缺少制度庇护。四条线合起来指向一个尚未被经验检验的命题：冲突会同时放大GenAI的价值与它最不可验证的部分。

M. Materials & Methods（材料与方法）

研究采用两阶段探索性设计，明确不以代表性估计为目标。第一阶段问卷由阿拉伯语母语研究者设计并翻译，面向十八岁以上ERR响应者，采用网络式与受访者转介抽样：团队中属于ERR网络的成员先发给既有联系人，再层层转发，部分有网络者携带设备协助无网者现场填写。问卷涵盖角色与活动、GenAI使用与不使用、工具、任务、语言与设备、不用理由与核实方式，并含二十三项技术—组织—环境五级量表；剔除重复提交后分析样本八十九人。第二阶段访谈于二〇二六年八月至九月线上进行，从同意回访者中有目的抽样，兼顾使用状态、地区、角色，并覆盖不同武装力量控制区；最终十五人（使用者九、非使用者六），十四场阿拉伯语、一场英语，每场四十五至六十分钟。提纲对使用者追问触发情境、输入内容、输出使用与核查、限用与回避；对非使用者追问间接接触、不用理由、替代方案与可能采用的条件，并按所在部门设置情境题。分析采用Braun与Clarke的编码本式主题分析，以归纳为主：先在QCAmap人工编码，再用GPT-6生成候选编码供研究者核对（不把模型当独立编码者），最后由四人工作坊归并编码、回读转录核实主题，得八十三个操作编码、二百一十七个意义单元。伦理上取得IRB批准，访谈后评估地点—角色—经历组合的可识别性并作泛化，提供上网费补偿，仅向关闭数据共享的付费账户提交去标识文本。

R. Results（结果）

问卷给出使用版图而非总体估计：89 人中 49 人（55.1%）用过GenAI，30 人（33.7%）没用，10 人（11.2%）不确定；使用者最常做翻译（22/49，44.9%）、数据分析（21/49，42.9%）与社媒内容（20/49，40.8%），工具以ChatGPT（65.3%）与Gemini（55.1%）为主，Claude 24.5%、Copilot 8.2%。量表呈“有用但不可尽信”：65.2% 认为它提升工作质量或速度、70.8% 认为输出通常需核实，但仅 41.6% 认为信息通常准确、49.4% 认为它理解苏丹本地语境；50.6% 担心敏感信息暴露，44.9% 网络足够稳定；反向看，16.9% 不同意需核实、21.3% 不同意紧急时仍需复核、29.2% 不同意错误会伤害受益人。访谈展开为五个主题。其一，战时人手不可达时转向它：P07 述少女癫痫发作而无医生可及时，P03 无卷尺、难返现场，用Gemini做太阳能板遮挡初判后仍与工程师核对。其二，它无法独立建立战时地面真值：P04 指出项目成本数日内随汇率物价失效，P08 坚持需求从志愿者与社区获得，P11 强调地方知识靠反复试错生成。其三，安全顾虑决定能否用与可披露什么：P12 前线期隐匿或丢弃手机，称“有手机本身即罪”；P06 拒把受益人名单交给“开放网站”；P09 只让模型写框架、人名与预算手工填入；另有三名自称设边界者的工作流似涉及上传姓名或原始记录，但无法确认是否去标识。其四，对外沟通可信度复杂化：P10 强调报告须对应实际发生之事，P15 指出流畅文本不等于当地语言可懂，P05 团队自写、仅用AI排版却被捐助方怀疑整份生成。其五，接入不均：P13 因房内已有专人做数据而不用，P14 缺设备与网络，P15 预期安全地区者将拉开差距；使用者亦遇断电断网与共享账号，复核常落在不同人身上，P02 称财务须核到最小位数。

a / D. Discussion & Conclusion（讨论与结论）

作者把发现收束为一个张力命题：冲突让GenAI在专家不可达时最有价值，而同一组条件又让合格的人工复核最难获得。这不同于一般意义上的“模型不可靠”：受访者指出物价、汇率、人口迁移与安全状况的变化可能快于任何文档，相关地面真值尚未存在，检索增强也无法补足；部分知识只能通过与社区和当地志愿者的互动持续生成。风险还前移到使用之前——携带设备、接入网络、数字化信息本身即可制造暴露，因而负责任使用不能只以模型输出或提交数据为评估单位。作者由此提出四组治理含义。第一，安全先于并超出GenAI使用：组织与协调人应建立任务级评估，先问技术使用是否增加响应者危险、是否必须共享敏感人道信息、披露是否会危及他人；技术方应说明留存期限与用途并提供零留存选项。第二，在时效信息与专业判断不可得时核实：按“错误后果有限”与“须合格人工复核”划分任务边界，建立同伴复核，无复核时输出只能作临时参考；技术方应给出知识截止日期与检索来源及日期。第三，区分因接入受限的非使用与因不需要或刻意回避的非使用：培训应自愿且贴合职责，专项资金不应挤占紧急行动，共享账号与设备虽扩接入却集中敏感数据、模糊责任。第四，沟通可信度：AI辅助报告须能连到活动证据，译稿应由懂本地语境者把关；捐助方应区分翻译润色与编造主张，按证据而非文风判断。局限包括：问卷与访谈均不具代表性，达尔富尔与科尔多凡受访者偏少，参与本身要求网络、设备与相对安全；转介抽样可能影响样本构成与自我报告；使用者与非使用者地区分布不同，难以分离使用模式与地区条件；十五人中仅一人同意共享屏幕，故所有用法均为自述，不能当作GenAI有效性证据。