首页 » 科技 > 正文

Arm本周发布了Ethos-U65 AI加速器

Arm本周发布了Ethos-U65 AI加速器,用于在边缘设备和其他设备上运行工作负载。

该设计描述为microNPU,其中NPU代表神经处理单元;它应该与Cortex-M,Cortex-A和Neoverse系列CPU内核一起使用,它们分别主要针对微控制器,智能手机和笔记本电脑以及服务器。CPU内核将AI数学运算卸载到了microNPU上,并且它们都被封装在片上系统中。

快速浏览其规格[PDF],可以发现Ethos-U65已针对运行卷积神经网络,递归神经网络和长期短期记忆网络进行了优化。这些通常用于计算机视觉和自然语言处理应用程序。

因此,该技术可用于诸如实时面部,物体和语音识别之类的事情。Arm将Ethos-U65推向了将AI带入最新的IT趋势:网络边缘。这意味着我们很可能会看到U65用于智能家居设备和相机,个人数字助理以及管理设备和传感器的控制器。例如,使用16nm制造节点时,Ethos-U65占用约0.6mm2的管芯空间,支持INT8和INT16精度(这是您进行适度的AI推理所需的全部),并且每秒钟可实现的最大性能为一万亿次操作第二(在16nm处为1 TOPS)。

它具有55至104KB的内部SRAM,每个时钟周期可处理256或512个乘加运算。后者对于执行矢量数学至关重要,而矢量数学是当今神经网络算法的基础。您可以使用Google的TensorFlow Lite Micro框架访问Ethos-U65,它可以运行流行的现成模型,例如用于对象识别的Google Inception V3或用于语音识别的Facebook Wav2Letter。