目录

Granite Switch 4.1.1 在不改变基础模型的情况下更新语音识别和决策功能。IBM 将 2026 年 10 月 29 日发布的这一版本描述为渐进式更新,与 4.1 完全向后兼容,无需迁移。

要点#

  • Granite Switch 4.1.1 无需重新训练基础模型即可更新专用组件。
  • 更新后的 Granite Speech ASR 模型支持 10 种语言,并能自动妥善处理标点和大小写。
  • 据 IBM 介绍,granitelib-core 中更新后的 Decision 适配器提升了在 Jev Decision Index 测试集上的综合性能。
  • 向后兼容性减少了迁移工作,但部署前仍需验证自己的工作流。

更新内容#

此补丁包含两项功能更新:Granite Speech 自动语音识别模型更新,以及 granitelib-core 中的 Decision 适配器更新。

语音模型可生成正确处理标点和大小写的多语言转录文本。这可能省去将转录文本传给下游语言模型之前的单独格式整理步骤。公告指出支持 10 种语言,但所提供的发布说明未列出具体语言。请查阅模型文档,确认是否支持所需语言。

Decision 适配器提升了在 Jev Decision Index 测试集上的综合性能。IBM 在此次公告中未提供分数、提升幅度或按任务划分的明细。请将这一结果视为评估更新的理由,而非所有决策工作流都会改善的证据。

为何更新规模较小#

Granite Switch 采用模块化架构,使用缓存效率高的专用适配器,通过单一端点添加功能。实际好处是,无需为了更新一项功能而重建整个模型。

据 IBM 介绍,4.1.1 在不重新计算未变更的基础模型的情况下,训练了新的 ASR 模型和 Decision 适配器。团队可以组合所需的更新后适配器,并部署该配置。这让类似软件的版本编号有了实际意义:补丁可以在保留现有基础的同时修改特定组件。

这一差异有助于制定部署计划。基础模型保持不变,限制了更新范围,但无法据此判断成本、内存占用和延迟能降低多少。公告未提供这些测量数据。

如何评估补丁#

首先从应用实际使用的功能入手。语音工作流需要检查转录文本,决策工作流需要根据自身验收标准检查输出。结合两者的应用还应测试整个处理流程。

按以下四个步骤评估。

1. 记录当前的 4.1 配置,包括适配器版本和部署设置。 2. 选择有代表性的输入,包括难例和预期结果已知的示例。 3. 使用当前配置和候选的 4.1.1 配置处理相同输入。 4. 比较输出质量、响应时间和失败情况,再选择要部署的配置。

对于语音,请检查姓名、数字、断句和大小写。标点可能改变下游模型对转录文本的理解,因此需要重点检查。对于决策任务,请确认变化后的输出对应用而言是否正确。答案发生变化,并不一定意味着有所改善。

仍需确认的事项#

向后兼容性与输出稳定性是两个不同的问题。IBM 表示,升级到 4.1.1 无需迁移工作,但更新后的组件可能生成不同的转录文本或判断。依赖精确措辞或下游解析处理的应用需要进行回归测试。

公告还留下了一些实际使用中的未决问题,包括使用环境中的语音条件、支持的硬件,以及在应用特定决策任务中的性能。投入生产环境前,请利用相关模型文档和评估结果确认这些事项。

IBM 正在准备教程和 Adapter SDK,让开发者及第三方提供商能够构建自己的适配器。公告称,这些资源将在未来提供。在确认发布状态之前,请勿让当前实施计划依赖于这些资源的可用性。

后续步骤#

从现有工作流中选择一个有代表性的批次,分别使用 Granite Switch 4.1 和 4.1.1 运行,根据验收标准检查发生变化的输出后,再更新生产环境。

来源:https://huggingface.co/blog/ibm-granite/granite-switch-4-1-1

目录