多语种 ASR:低资源、口音和统一部署之间的取舍

多语种 ASR 不是把多个单语模型简单合并。它真正要解决的是三个工程问题:低资源语种数据不足,口音和方言带来分布偏移,多语种部署让模型数量和维护成本快速上升。

如果只把多语种识别理解成“一个模型识别很多语言”,很容易忽略它背后的取舍:共享越多,迁移越强,但语种之间的干扰也越明显。

要解决的问题

世界上大部分语种都不是高资源语种。单独为每个语种收集大量标注数据、训练模型、维护词表和解码配置,成本很高。即使是普通话或英语,真实场景也会遇到口音、方言、跨语种夹杂和专有名词问题。

多语种 ASR 的价值在于让高资源语种的声学和表示能力迁移到低资源语种,同时减少部署系统里的模型数量。但它也会引入共享建模的副作用:语言边界模糊、发音空间冲突、词表膨胀和高资源语种压制低资源语种。

主线判断

多语种 ASR 的主线不是让一个模型覆盖更多语言,而是管理共享表示带来的迁移收益和语言干扰。

共享声学层可以帮助低资源语种,统一 tokenizer 可以降低维护成本,但高资源语种也可能压制低资源语种,语言边界也可能在 code-switching 中变模糊。多语种工程的核心是先定义评测分组,再谈模型规模。

最小抽象

可以把多语种 ASR 看成三个共享层次。

第一层是声学表示共享。不同语言的人声、音素、韵律和噪声环境有共性,自监督预训练和跨语种迁移学习主要利用这一层。

第二层是符号空间共享。可以共享音素、字节、字符或子词。共享越细,覆盖越广;共享越粗,语言特异性越强。

第三层是任务和部署共享。一个模型是否需要自动识别语言、是否允许用户指定语言、是否支持 code-switching,都会影响训练标签和解码策略。

工程闭环

多语种模型不能只看平均 WER。平均值会掩盖低资源语种被牺牲的问题。更合理的评测包括:

  • 每个语种独立 WER/CER;
  • 高资源和低资源语种的分组指标;
  • 口音、方言、噪声条件下的鲁棒性;
  • code-switching 场景下的语言边界错误;
  • 单模型部署节省的成本是否抵消精度损失。

技术路线上,可以从跨语种迁移学习、多任务学习、自监督学习、共享音素集和统一 tokenizer 几个方向组合。第一版系统不要同时追求所有能力,应该先明确主目标:低资源迁移、口音鲁棒、统一部署,还是跨语种混说。

小样本推演

一个最小实验可以只选三组数据:高资源语种、低资源语种、混说样本。分别比较单语模型、多语种联合模型和高资源预训练后低资源微调。

如果平均 WER 下降,但低资源语种 CER 上升,说明共享带来的收益被平均值掩盖了;如果混说样本语言边界错得更多,就要检查 tokenizer、语言标签和解码约束,而不是只扩大训练集。

直接结论

多语种 ASR 的核心不是“支持更多语言”,而是在共享表示和语种特异性之间找平衡。工程上先把语种分布、评测分组和部署目标定义清楚,再决定是做单语微调、多语种联合训练,还是使用预训练模型做迁移。

下一步阅读:ASR 数据质量流水线:伪标签、切分与可追溯评测

References

[1] A Survey on Multilingual Automatic Speech Recognition