你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

什么是自定义语音识别?

借助自定义语音识别可以评估并改善应用程序与产品的语音识别准确度。 自定义语音模型可用于实时语音转文本语音翻译批量听录

现成的语音识别可利用通用语言模型作为一个基本模型(使用 Microsoft 自有数据进行训练),并反映常用的口语。 此基础模型使用那些代表各常见领域的方言和发音进行了预先训练。 发出语音识别请求时,默认使用每个支持的语言的最新基础模型。 基础模型在大多数语音识别场景中都效果良好。

自定义模型可用于增强基础模型,以便通过提供文本数据来训练模型,改进对特定于应用程序且特定于领域的词汇的识别。 它还可用于通过为音频数据提供参考听录内容,来改进基于应用程序的特定音频条件的识别。

当数据遵循某个模式时,你还可以使用结构化文本来训练模型,以指定自定义发音,并使用自定义反向文本规范化、自定义重写和自定义脏话过滤来自定义显示文本格式。

工作原理

使用自定义语音识别,你可以上传自己的数据、测试和训练自定义模型、比较模型之间的准确度,以及将模型部署到自定义终结点。

该图突出显示了组成 Speech Studio 自定义语音识别区域的组件。

下面详细介绍了上图中显示的步骤序列:

  1. 创建项目并选择模型。 如果使用音频数据训练自定义模型,请在具有专用硬件的区域中选择服务资源来训练音频数据。 有关详细信息,请参阅区域表中的脚注。

  2. 上传测试数据。 上传测试数据,以便针对你的应用程序、工具和产品评估语音转文本产品/服务。

  3. 训练模型。 提供书面脚本和相关文本以及相应的音频数据。 在训练前后测试模型是可选操作,但建议这样做。

    注意

    为自定义语音模型使用量和终结点托管付费。 如果基础模型是在 2023 年 10 月 1 日及之后创建的,则还需要为自定义语音模型训练付费。 如果基础模型是在 2023 年 10 月之前创建的,则无需支付训练费用。 有关详细信息,请参阅 Foundry Tools 中的 Azure 语音定价语音转文本 3.2 迁移指南中的“适应费用”部分

  4. 测试识别质量。 使用 Speech Studio 播放上传的音频,检查测试数据的语音识别质量。

  5. 对模型进行定量测试。 评估和提高语音转文本模型的准确度。 语音服务会提供定量的字词错误率 (WER),该指标可以用来确定是否需要更多的训练。

  6. 部署模型。 对测试结果感到满意后,将模型部署到自定义终结点。 除了批量听录之外,还必须部署自定义终结点才能使用自定义语音模型。

    提示

    无需托管部署终结点即可将自定义语音识别与批量听录 API 配合使用。 如果自定义语音模型仅用于批量听录,则可以节省资源。 有关详细信息,请参阅语音服务定价

选择模型

可通过多种方法使用自定义语音模型:

  • 基础模型为一系列方案提供准确的、现成的语音识别。 基础模型会定期更新以提高准确度和质量。 如果你使用基础模型,我们建议使用最新的默认基础模型。 如果所需的自定义功能仅适用于较旧的模型,则你可以选择较旧的基础模型。
  • 自定义模型增强了基础模型,它包含在自定义域的所有区域之间共享的特定于域的词汇。
  • 当自定义域有多个区域且每个区域都有特定的词汇时,可以使用多个自定义模型。

查看基础模型是否足够的一种推荐方法是分析从基础模型生成的听录,并将其与人工针对相同音频生成的脚本进行比较。 可以比较听录,获取字词错误率 (WER) 分数。 如果 WER 评分较高,建议训练一个自定义模型来识别认错的字词。

如果词汇在不同的域区域之间存在差异,则建议使用多个模型。 例如,奥运会评论员会对各种活动进行报道,每项活动都有其自己的相关术语。 由于每项奥运赛事词汇与其他词汇明显不同,生成特定于某项赛事的自定义模型可以通过限制与该特定赛事相关的语句数据来提高准确度。 因此,该模型无需筛选不相关的数据即可进行匹配。 但无论如何,训练仍然需要得当且多样化的训练数据。 包含口音、性别、年龄等特征不同的多位评论员的音频。

模型稳定性和生命周期

使用自定义语音识别部署到终结点的基础模型或自定义模型在你决定进行更新之前是固定的。 即使发布了新的基础模型,语音识别的准确度和质量也将保持一致。 这样就可以锁定特定模型的行为,直到你决定使用较新的模型。

无论你是训练自己的模型还是使用基础模型的快照,都可以在有限的时间内使用该模型。 有关详细信息,请参阅模型和终结点生命周期

负责任 AI

AI 系统不仅包括技术,还包括使用它的人员、受其影响的人员以及部署它的环境。 阅读透明度说明,了解如何在系统中负责任地使用和部署 AI。

后续步骤