ASR 数据质量流水线：伪标签、切分与可追溯评测
ASR 系统的上限经常不是模型结构先决定的，而是数据质量先决定的。开源模型可以替换，训练框架可以迁移，但如果音频切分、文本规范化、伪标签和评测口径不可靠，最后得到的指标会很快失真。
一个可靠的 ASR 数据质量流水线，应该把“数据是否可训练”和“模型是否有效”拆开处理。
四层质量控制
第一层是音频质量。采样率、通道数、时长、静音比例、截断、重复片段、过强背景声都会影响训练。这里不需要一开始就追求复杂模型，先做统计分布、异常样本导出和可复核列表。
第二层是文本质量。数字读法、标点、大小写、口语填充词、特殊符号、空文本都要有统一规范。否则模型学到的是标注风格差异，而不是语音和文字的对应关系。
第三层是对齐质量。长音频切分、片段边界、token 置信度、CTC alignment 或 forced alignment 都属于这一层。片段边界错了，训练样本看起来完整，实际监督已经偏移。
第四层是仲裁质量。多模型一致、置信度阈值、规则过滤和人工抽检应该输出 reason code。保留一个样本不是因为“看起来不错”，而是因为它满足了可解释条件。
多模型一致不是金标准
两个 ASR 模型输出一致，并不代表答案正确。它们可能共享训练数据偏差，也可能在低能量片段、噪声片段、同音词上犯相同错误。
所以多模型一致更适合作为“候选保留信号”，不能作为唯一真值。更好的策略是把一致性与其他证据组合：音频能量、片段边界、token 置信度、语言模型困惑度、实体词命中情况和抽检反馈。
切分比想象中重要
ASR 数据经常从长音频切成短片段。切分过短会丢上下文，切分过长会增加解码和训练负担；边界切在词中间，会制造无法学习的样本。
切分策略至少要记录：
- 原始音频 id；
- 起止时间；
- 是否经过重采样；
- 是否有重叠窗口；
- 切分依据来自 VAD、固定窗口还是外部标注；
- 文本是否和该片段严格对应。
没有这些信息，后续排查只能回到原始文件重新猜。
评测要拆错误类型
WER/CER 是必要指标，但不是充分指标。对于很多语音系统，更关键的是专名、数字、地址、术语、时间表达和关键词的召回。
建议把评测拆成三层：
- 普通转写指标：WER、CER、句级准确率；
- 关键信息指标：实体词 precision、recall、F1；
- 错误归因指标：插入、删除、替换、边界错位、规范化错误。
这样可以区分模型真的听错了，还是文本规范化或后处理把结果改坏了。
开源实现建议
一个可复用的开源流水线可以包含这些模块：
- audio profiler：输出音频分布和异常样本；
- text normalizer：集中管理文本规范化规则；
- segment validator：检查切分边界和文本覆盖；
- pseudo-label arbiter：融合多模型和置信度信号；
- eval reporter：按错误类型输出报告；
- sample browser：把坏样本导出为可人工复核的列表。
重点不是一次性把所有规则写死，而是让每个过滤决策都能追溯。
小结
ASR 数据流水线的目标不是“尽量多清洗”，而是建立可解释的数据决策系统。每个样本为什么进入训练集、为什么被丢弃、为什么指标变化，都应该能从日志和报告里找到依据。
Data card 与 reason code
A reusable ASR data pipeline should generate a data card for every sample. The card can include audio profile, text-normalization result, segmentation boundary, pseudo-label source, model disagreement, rule hits, manual-review status, and final action.
The important field is the reason code. Keeping, dropping, or rewriting a sample should be explainable later. Without that audit trail, a training regression cannot be traced back to a data decision.