Arm本周发布了Ethos-U65 AI加速器，用于在边缘设备和其他设备上运行工作负载。

该设计描述为microNPU，其中NPU代表神经处理单元;它应该与Cortex-M，Cortex-A和Neoverse系列CPU内核一起使用，它们分别主要针对微控制器，智能手机和笔记本电脑以及服务器。CPU内核将AI数学运算卸载到了microNPU上，并且它们都被封装在片上系统中。

快速浏览其规格[PDF]，可以发现Ethos-U65已针对运行卷积神经网络，递归神经网络和长期短期记忆网络进行了优化。这些通常用于计算机视觉和自然语言处理应用程序。

因此，该技术可用于诸如实时面部，物体和语音识别之类的事情。Arm将Ethos-U65推向了将AI带入最新的IT趋势：网络边缘。这意味着我们很可能会看到U65用于智能家居设备和相机，个人数字助理以及管理设备和传感器的控制器。例如，使用16nm制造节点时，Ethos-U65占用约0.6mm2的管芯空间，支持INT8和INT16精度(这是您进行适度的AI推理所需的全部)，并且每秒钟可实现的最大性能为一万亿次操作第二(在16nm处为1 TOPS)。

它具有55至104KB的内部SRAM，每个时钟周期可处理256或512个乘加运算。后者对于执行矢量数学至关重要，而矢量数学是当今神经网络算法的基础。您可以使用Google的TensorFlow Lite Micro框架访问Ethos-U65，它可以运行流行的现成模型，例如用于对象识别的Google Inception V3或用于语音识别的Facebook Wav2Letter。