arXiv 预印本(2026-08-06 提交,cs.CL;abs 页无录用或同行评议信息;作者来自 IISc 的 ARTPARK,代码与数据链接已公开)

FormBharo:印度农村对话式语音填表代理的设计与评估

Aman Dalmia, Sanskriti Midha, Jigar Doshi · arXiv 预印本(arXiv:2608.06027, cs.CL) · 2026 · arXiv: 2608.06027
原题:FormBharo: Designing and Evaluating a Voice Agent for Conversational Form Filling in Rural India
Open Access 新颖度 0.82

🧒 初中生也能看懂的版本

① 研究背景(为什么要做?)

在印度,几乎每一项社会福利都要先从填写一张登记表开始,孕产妇保健、儿童营养、现金补贴都不例外。可最需要这些服务的人,往往也正是最不识字的人:全国健康调查显示,处于最贫困那一档的妇女中,超过一半完全不识字。于是填表这件事就落到了基层卫生工作者身上。她们要一对一地询问、誊写,再把同一条信息重复录入好几个手机应用和纸质登记簿。已有研究测算,这些文书工作占去她们一天中的大块时间,真正上门服务的时间被压缩。结果就是,能登记多少人不再取决于有多少人需要帮助,而取决于工作人员还剩多少精力。更麻烦的是,登记记录是行政部门分配资源的依据,登记一旦出错或延误,后续的救助也会跟着慢下来。

② 研究问题(要回答什么?)

这篇论文要回答的是一个很具体的问题:能不能让不识字的母亲只靠一通电话、用自己熟悉的语言说几句话,就把一张结构化的申请表填好?难点不在能不能听懂,而在整条链路要同时满足三个条件。第一是准确:电话信道会失真,诊所里有背景人声,说话人带地方口音,还会印地语和英语混着说;电话号码、日期这类字段可以有很多种说法,却必须落成唯一的值。第二是省钱:一次登记要打十几轮电话,每轮都要调用语音识别、两个大模型和语音合成,单价乘以通话量直接决定项目能不能持续。第三是够快:用户等两三秒就会以为掉线,每轮推理必须压在几秒之内。作者进一步追问:只看单个环节的测试成绩,能不能预测整通电话结束时表格填对了多少?在准确率、延迟和花费互相冲突时,又该怎样选出一套真正能上线的模型组合?

③ 研究方法(怎么做的?)

作者的做法是把大模型只放在真正需要它的地方,其余环节交给固定规则。来电者一开口,语音活动检测先判断她说完了没有,语音识别把这段音频转成文字,抽取模型从这一轮对话里找出所有被回答的字段,同时生成一句简短确认语,让来电者马上听到回应。接下来是规则层:它按字段检查格式,比如手机号必须十位、日期不能在未来;不合格就重问,超过重试次数就结束通话;某个字段可选而对方说不知道,就直接跳过。规则层还判断哪些分支被激活,并决定下一题问什么,再交给回复模型用自然的印地语说出来,由语音合成读给对方听。为了评测,团队与印度公益组织 ARMMAN 合作,用真实项目的母婴登记表搭了一套印地语基准:五位模拟用户、十二个字段,每位用户走四十八条分支路径,五人共二百四十个通话脚本,每个脚本在四种声学条件下录制,合计九百六十通模拟电话。录音由五位十八到三十五岁的印地语母语女性完成,覆盖背景噪声、麦克风远近和语速快慢。按轮次去重后得到三千七百六十项单元测试,分别考察识别、抽取和回复,再把三个环节串起来做端到端测试。

④ 结果(发现了什么?)

结果里最反直觉的一点是,单个环节考得好,并不等于整通电话结束时表能填对。用标准文本测试时,排名最靠前的抽取模型准确率高达九成九以上,几款前沿模型几乎打平;可换成机器转写的真实录音后,名次就变了,有一款在标准文本下领先的模型被另外两款反超。表单完成率的跌幅更大:中位数在三种转写条件下分别掉了七点六七、七点三八和十三点五六个百分点,而抽取准确率的中位跌幅只有零点四二到三点一四。最惨的一款模型在某一款转写下,完成率从接近满分掉到五成八,跌幅约四十一个百分点。规则层确实救回了不少错误:有一款模型把数字字段返回成了字符串,属于类型错误,规则层在写入前做了归一化,最终完成率仍是百分之百。回复环节的准确率也会随上游错误下降,跌幅在一点零六到三点四之间。最后,没有哪个模型同时在准确率、延迟和花费上最好,作者用硬性门槛加帕累托筛选再加加权打分,为识别、抽取、回复三个环节各挑了一款能在乡下真正跑得动的模型。

⑤ 讨论(这些发现说明什么?)

这套系统真正的价值,来自那条看起来最不起眼的规则层。大模型会犯错,而且错误会顺着流水线往下走:识别错一个字,抽取就可能填错一个字段,下一问又可能问错分支。但规则层能在写入前拦住一部分错误,比如格式不对就重问,类型不对就转换。于是便宜的小模型只要错误类型能被规则收拾,端到端表现就能追平甚至超过贵得多的前沿模型。这提示我们,在公共服务这类要求可追责的场景里,把校验、重试和分支写成确定性的代码,不只是省钱,更是给不可靠的语言模型加了一层可审计的兜底。另一个结论是选型方法本身:真实项目里延迟和单价往往比排行榜上的零点几个百分点更决定生死,作者把这些价值判断显式写进加权公式,不同机构可以按自己的优先级重新计算。反过来,如果只盯着单个环节的测试分数,很可能选出一个听起来最强、实际却填不完表的组合。

⑥ 结论(最终结论 + 启示)

对公共服务的数字化交付来说,这篇论文给出的不是某个模型的名字,而是一套选型和评估的方法。它说明,面向低识字人群的语音服务在技术上已经接近可用:标准文本下表单完成率能到满分,真实录音下也还有八九成。但它同样说明距离放心上线还有距离:基准只有五位模拟用户,答案是脚本化的完整回答,每通电话只施加一种噪声条件,语言也只有印地语,语音合成的音质没有评测。真实来电者会答错、答一半、临时改口,这些都没有覆盖。作者在伦理声明里提醒,一旦采集出错,后果可能是福利被拖延甚至被拒绝,所以规模化之前必须保留人工确认与纠错通道。这套大模型加规则加端到端评测的做法,对其他把纸表搬上电话的公共服务场景有直接的借鉴意义。

🎓 专业 IRMaD 结构解读

I. Introduction(引言)

印度的社会福利体系几乎以表格为入口:孕产妇保健、儿童营养补充、现金转移支付,都要先完成一份登记。行政负担研究早已指出,学习成本、遵从成本与心理成本会把最需要帮助的人挡在门外。全国家庭健康调查显示,最低财富五分位中超过一半的女性完全不识字,而一线卫生工作者每天要一对一询问、誊写,并把同一批数据重复录入多个应用与纸质登记簿(Khandre et al. 2023;Nongrum et al. 2025)。结果是登记量受限于人力而非需求,登记错误与延迟又反过来拖慢资源分配,因为登记记录正是行政部门分配资源的依据。

语音通道在低收入国家已被证明可触达人口规模:预录外呼服务 Kilkari 订阅者超过一千万、日均呼叫约一百二十万次。早期交互式语音应答依赖按键,Sherwani et al. (2009) 却发现精心设计的语音界面在低识字与识字用户中的任务完成率都显著更高。大模型驱动的实时语音代理让打电话说几句话就办成事变得可行,但在嘈杂诊所、电话信道失真、地方口音、印地语与英语混说,以及电话号码与日期这类必须落到唯一值的结构化字段上,可靠性远未解决。错误还会在填表场景里复合:来电者犹豫、中途改口,表单又按前面答案分支,一个字段错就可能把对话带到错误的路径上。

本文的贡献有三:把低识字人群的电话填表任务形式化并刻画其难点;给出 FormBharo 这一混合式语音代理,与 NGO ARMMAN 在印度马哈拉施特拉邦农村的产前产后保健项目中试点;公开 FormVoiceAgentBench 基准与组件级、端到端两级评估方法,并给出准确率、延迟、成本三维下的选型结论。

I. Theoretical Framework & Hypotheses(理论框架与假设)

论文没有提出形式化理论,其分析框架由两条线索构成。第一条是行政负担:语音代理把福利获取的前置成本从公民转移到系统,承担学习成本(无需识字、无需安装应用)与部分遵从成本(一问一答、分支自动判断),这与 Jo et al. (2025) 关于大模型助理降低行政负担却引入新的遵从与信任成本的发现相呼应。第二条是流水线误差的传播与抵消:语音识别、抽取、回复三环节串联,上游错误既可能被下游规则纠正,也可能在后续轮次累积放大,因此组件级指标不能替代端到端指标,这也解释了为何 Si et al. (2023) 发现低 WER 并不保证任务准确。

环节实现职责
语音活动检测Silero VAD,8 kHz0.1 s 起始、0.2 s 静音结束,再等 0.4 s 防打断;停顿超 3.0 s 重问
语音识别五款 STT 参与评测把通话音频转成文本,错误向下游传播
抽取模型EXTRACT 大模型从本轮对话抽取所有已答字段并生成一句确认语
规则层确定性校验与流程控制字段级校验、重试上限、可选字段跳过、分支激活、决定下一问
回复模型REPLY 大模型把选定问题自然说出,或在表单完成时结束通话
语音合成Chirp 3 HD,Achernar 女声以 0.9 倍速朗读,便于听清

设计原则只有一句:大模型只做解释、抽取、措辞与结束判断,校验、重试、分支与选题全部保持规则化。这一分工既是成本约束下的产物,也是本文最重要的错误恢复机制,构成对全部结果解释的基础。

M. Materials & Methods(材料与方法)

试点与表单:FormBharo 与 ARMMAN 合作,在印度马哈拉施特拉邦农村招募低收入、说印地语的母亲加入产前与产后保健项目。登记表共 12 个字段,含条件分支:已怀孕则问孕周,否则问新生儿姓名与出生日期;来电号码未绑定诊所则追问绑定号码;WhatsApp 号码与来电号码不同则追问。每个字段都由 ARMMAN 共同定义,并标注必填或可选、失败时是跳过还是终止通话。

基准构建:FormVoiceAgentBench 用五份模拟用户档案搭建,每个字段有三种表示——真值、自然口语的参考转写、以及该转写的录音。地区名刻意选在试点邦之外以增加识别难度,号码则设计多种口语说法。每位用户沿表单走 2×3×4×2=48 条路径,五人共 240 个通话脚本,每条在四种声学条件下录制(理想、背景人声噪声、麦克风远近、语速快慢),得到 960 通模拟电话。录音由五位 18 至 35 岁、来自北方邦与马哈拉施特拉邦的印地语母语女性完成,并由人工逐条复核。每通电话只使用一种声学条件,因为来电者的环境不会在通话中途改变。

统计项数量
模拟用户5
表单字段12
每条话语的声学条件4
唯一录音380
通话脚本240
含声学变体的通话960
单元测试总数3,760(EXTRACT 1,880;REPLY 1,880)

指标:语音识别同时报 WER 与 LLM-WER,后者剔除被判定为语义等价或音近的表面差异;抽取对封闭字段用精确匹配,对姓名等开放字段与确认语用校准过的 LLM 判官;回复在五个维度上判(问对问题、印地语、单句、不重复确认、不复述答案),结束通话的 tool call 用精确匹配。判官先在 50 条人工标注上调优,再在另 50 条留出集上达到完全一致。端到端测试把参考转写替换为各 STT 的真实转写,按轮次把抽取结果写入表单,最后比较终态表单与期望值的字段级正确率;EXTRACT 与 REPLY 再串联,用抽取的实际输出过规则层来构造回复的 tool call,以避免用理想抽取结果高估回复表现。

模型选择按流水线顺序做:先定 STT,再在其真实转写下选 EXTRACT,最后固定前两者选 REPLY。约束为组件级 p95 延迟与完成率或回复准确率的下限,通过者保留帕累托前沿,再以 min–max 归一化后的加权和 U=w_a·ã+w_ℓ·ℓ̃+w_c·c̃ 排序,权重反映部署优先级。

R. Results(结果)

语音识别:两款指标排序不一致。Nova-3 的 WER 最低(0.826)但 LLM-WER 为 0.104;Chirp 3 的 LLM-WER 最低(0.055)却贵出至少一倍;Scribe v2 以 0.062 接近最优而单价仅 0.172 美元。作者按 LLM-WER 排序,淘汰两端,保留 Scribe v2、Saaras v3、Nova-3 进入端到端测试。

STT 模型WERLLM-WER成本(美元)
Scribe v20.8350.0620.172
Chirp 30.9810.0550.424
Saaras v31.0070.0740.137
GPT-4o-transcribe1.0120.1270.159
Nova-30.8260.1040.127

抽取:参考转写下前沿模型接近饱和,GPT-5.5 以 99.79% 领先(Gemini 3.5 Flash 99.36%、两款 Claude 99.15%)。换真实转写后排名翻转:Scribe v2 转写下最好的是 Gemini 3.5 Flash 与 Claude Sonnet 4.6(均 98.94%),GPT-5.5 降到 98.62%;Saaras v3 下 Claude Opus 4.8 领先(96.22%),Nova-3 下 Gemini 3.5 Flash 领先(96.38%)。GLM-5.1 在 Scribe v2 转写下从 98.72% 崩到 63.40%,是最大单点塌陷。

模型参考Saaras v3Scribe v2Nova-3
Claude Sonnet 4.699.1596.0198.9495.96
Gemini 3.5 Flash99.3695.6998.9496.38
Gemini Pro97.2394.2697.2994.63
GPT-5.599.7995.5398.6295.16
Mistral Medium 3.589.3687.8292.3487.77

端到端:参考转写下 Gemini 3 Flash 与 Gemini 3.5 Flash 达到 100% 表单完成,GPT-5.5 为 99.95%。真实转写使完成率跌幅远大于抽取跌幅:中位下降 7.67(Saaras v3)、7.38(Scribe v2)、13.56(Nova-3)个百分点,抽取中位降幅仅 0.42 至 3.14。最大单模型跌幅约 41 个百分点(GLM-5.1 加 Scribe v2,由 99.56% 降至 58.66%)。规则层确有救回作用:Gemini 3 Flash 的抽取错误全部是数字字段被返回成字符串,规则层归一化后完成率仍为 100%;其参考转写下抽取仅 95.96%,却拿到了满分完成率。

STT抽取中位抽取跌幅(pp)完成率中位完成率跌幅(pp)
Saaras v394.52-3.1490.74-7.67
Scribe v297.29-0.4291.84-7.38
Nova-395.16-3.1485.50-13.56

选型:Scribe v2 因中位抽取 97.29%、完成 91.84% 且跌幅最小被选为 STT。EXTRACT 约束为 p95 延迟低于 5 秒且完成率高于 90%,淘汰 Gemini Pro 与 Gemini 2.5 Flash,余六款全在帕累托前沿;等权下 Mistral Medium 3.5 得分最高(U=0.81,p95 1.75 s、每轮 0.0080 美元),Claude Sonnet 4.6 虽最准(93.01%)却因慢与贵只有 0.51。取 w_ℓ=0.1、w_a 在 0.5 至 0.9 扫描,最优只在 Gemini 3.5 Flash(0.50 至 0.61)与 Claude Sonnet 4.6(0.62 至 0.90)之间切换,最终选 Gemini 3.5 Flash:完成率仅落后 0.51 个百分点,速度更快且每轮成本不到一半。

REPLY 约束为 p95 低于 4 秒且准确率高于 95%,淘汰 Sonnet 4.6(延迟)与 Gemini 3.5 Flash(准确率),帕累托只剩 GPT-5.4-mini 与 Gemini 3 Flash,前者在整个扫描区间最优(U=0.9)。上游错误确会传导:五款回复模型在真实转写下的准确率下降 1.06 至 3.40 个百分点,中位 2.23。

REPLY 模型参考Scribe v2p95 延迟(ms)每轮成本(美元)
Claude Sonnet 4.6100.0097.7751480.0146
GPT-4.1100.0096.6036470.0025
GPT-5.4-mini98.0996.7033560.0008
Gemini 3 Flash97.2396.1726610.0017
Gemini 3.5 Flash97.0294.7334960.0052

a / D. Discussion & Conclusion(讨论与结论)

对公共服务数字化交付而言,最可迁移的结论不是某个模型,而是评估层级的必要性。组件级指标在参考文本上会饱和并误导选型:GPT-5.5 抽取最准却排不进完成率第一梯队;Gemini 3 Flash 抽取只有 95.96% 却因规则层归一化拿到 100% 完成率;GLM-5.1 的 35 个百分点抽取塌陷在端到端被放大为约 41 个百分点的完成率崩跌。原因是错误既传播也抵消,只有端到端测试能暴露净效应。混合架构因此不只是省钱手段:把校验与流程控制写成确定性代码,等于给不可靠的语言模型加了一层可审计的兜底,这在需要留痕与追责的行政场景里尤为关键。

其次是部署约束优先于排行榜。真实项目里延迟与单价直接决定能否上线:按“选最准”的思路会选到每轮 0.0146 美元的回复模型,是所选方案(0.0008 美元)的十八倍;而低资源环境恰恰对成本最敏感。论文用硬约束、帕累托前沿再加加权和的做法,把价值判断(准确率值多少、延迟值多少)显式写进公式,便于不同机构按自己的优先级重算,也便于对上级或资助方解释选型依据。

局限与风险:基准只有五位模拟用户,每种通话只施加一种声学条件,答案是脚本化的完整回答,真实来电者会答错、答一半、自我更正;数据仅印地语,未评估语音合成质量。伦理声明指出,错误采集可能延迟甚至剥夺福利,规模化部署必须有确认与纠错的人工兜底。本文报告的是基准与离线评估结果,尚未给出真实入户场景下的完成率、时间节约或成本节约,因此对其政策效果的推断应保持谨慎。后续工作可扩展到多语言、真实通话录音与多噪声条件叠加。

🧠 IRMaD 思维导图

I 引言 R 研究问题/假设 M 方法 R 结果 a 讨论 D 结论
mindmap
  root((打电话填表语音助手))
    I 引言
      福利申请卡在表格
      半数贫困妇女不识字
      卫生员一对一登记
      语音已覆盖千万人
      大模型让对话可行
    R 研究问题
      电话里能否填对表
      嘈杂口音与混说
      延迟与成本受限
      单环节能否预测总体
    M 方法
      识别加两个模型
      规则层校验与分支
      与阿曼组织试点
      九百六十通模拟电话
      三千七百六十项测试
      五款识别十一款模型
    R 结果
      真实转写跌幅更大
      完成率中位掉七点多
      最差模型掉四十一
      规则层救回类型错误
      小模型追平大模型
    a 讨论
      组件指标会误导
      准确率花费延迟权衡
      帕累托加权选型
      试点效果尚未报告
    D 结论
      混合设计适合低资源
      端到端评测不可替代
      脚本回答仍是局限
      须保留人工纠错

图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。