目录

Google公开了包含矩阵执行单元在内的32位Coral NPU完整硬件设计,以及Coral Compiler v1.0。通过2026年10月20日的公告,芯片设计者可以使用完整的开放设计,开发者也能使用相关工具,在芯片制造前评估模型。

要点#

  • 完整的32位设计包括标量核心、向量执行单元、内存子系统和矩阵执行单元。
  • 据Google介绍,Coral Compiler v1.0支持使用JAX、PyTorch和TensorFlow开发的模型。
  • Google的路线图列出了最高1 TOPS的配置,并将推理时的平均功耗目标设为10 mW。这些并非所有实现方案的实测值。
  • Synaptics公布了Coralboard SR的上市计划,并开始公开销售Coralboard SL。截至10月22日,SL在DigiKey美国网站上的标价为99.79美元。

Google公开了什么#

Coral NPU是一套基于32位RISC-V指令集的开源硬件设计。半导体企业可将其集成到自家SoC中,在可穿戴设备和工业传感器等设备上运行AI推理。

此次公开补齐了标量核心、向量执行单元、内存子系统和矩阵执行单元这四个阶段的全部设计。描述电路行为的寄存器传输级设计文件可在GitHub上获取。

根据数据手册,矩阵执行单元每个周期可执行256次乘加运算。Google表示,该单元通过在内部复用权重和中间数据,减少与内存之间传输数据所消耗的能量。这一点很重要,因为AI处理能否在电池供电的设备上运行,并不只取决于计算吞吐量。

编译器如何发挥作用#

Coral Compiler v1.0可将AI模型转换为能在Coral NPU上运行的格式。它基于IREE和MLIR构建,除了将模型运算分配给主机CPU和NPU,还会执行优化,例如将矩阵分块,使其大小适合NPU的本地内存。

Google的目标是减少更换芯片时需要反复进行的模型转换和优化工作。统一的架构和开放工具有望让模型更容易在不同实现方案之间迁移。不过,开发者仍需确认各目标平台的算子支持情况、内存需求和性能。

借助模拟器和FPGA参考设计,可以在芯片制造前评估模型。对硬件团队而言,实用的流程是先编译具有代表性的模型,确认哪些运算会在NPU上执行,再验证预期配置是否满足延迟和内存限制。

哪款开发板适合你的项目?#

Synaptics的两款Coralboard产品分别面向不同的设备需求。由于其搭载的Torq NPU采用了Coral NPU的不同部分,因此不应将任何一款开发板视为此次公开的完整设计的原样实现。

| 开发板 | 预期用途 | 处理器与NPU | 供应情况 | |---|---|---|---| | Coralboard SR | 电池供电的可穿戴设备和工业传感器 | Astra SR200系列微控制器,搭载集成Coral NPU向量单元的400 GOPS Torq NPU | 已公布,尚未上市 | | Coralboard SL | 基于Linux的IoT设备、机器人和图像处理 | Astra SL2619处理器,搭载结合Coral NPU标量核心与Synaptics计算核心的1 TOPS Torq NPU | 10月20日开始公开销售 |

截至2026年10月22日,Coralboard SL在DigiKey美国网站上的标价为99.79美元。下单前请确认最新价格、库存及各地区的销售情况。Synaptics为两款开发板提供基于MLIR的Torq编译器和运行时,并表示可在统一的开发环境中为SL和SR优化模型。

需要验证的事项#

路线图中的最高1 TOPS和推理时平均功耗10 mW这两个目标值,并不保证成品的性能或电池续航时间。实际结果会随硬件配置、模型、内存数据传输量和处理负载而变化。此外,也不应将这一功耗目标理解为整块开发板的功耗。

尤其需要注意的是回退到CPU的情况。将NPU无法执行的运算转移到CPU上,可能会增加延迟和能耗。因此,支持某个框架并不保证整个模型都能在加速器上高效运行。

在决定采用某款芯片或开发板前,请验证四点:支持的运算、峰值内存占用、端到端延迟,以及预期推理调度下的功耗。请将这些结果与设备需求进行比较,而不是仅凭TOPS选择硬件。

下一步#

请先使用Coral Compiler v1.0编译一个具有代表性的模型,并在模拟器中评估,记录回退到CPU的运算、内存占用和延迟,再选择硬件配置。

来源: https://gihyo.jp/article/2026/10/google-coral-npu-32bit-compiler-v1

目录