边缘AI硬件谁更能打？测评：谷歌Coral USB加速器与英特尔NCS 2

随着人工智能（AI）和机器学习（ML）逐渐从科幻小说中走向现实生活，我们现在需要一种快速便捷的方式来对这种类型的系统进行原型设计。尽管台式计算机也可以足以满足AI / ML的运行要求，甚至Raspberry Pi之类的单板计算机都能满足这些需求。但是，如果你只想要一个简单的插件设备让你的系统运行地更快、更强大，那该怎么办/p>

别担心，其实你有多种选择，包括 Google 旗下 Coral Edge TPU 系列硬件 USB Accelerator（Coral USB 加速器，下称CUA） 和 Intel 旗下的 Neural Compute Stick 2（神经计算棒 NCS2）。两个设备都是通过 USB 插入主机的计算设备。 NCS2 使用的是视觉处理单元（VPU），而 Coral USB Accelerator 使用张量处理单元（TPU），两者都是用于机器学习的专用处理设备。今天就来给大家测评比较一番：二者之间有什么区别为开发者的你，是选择 Coral 好还是 NCS2 呢不多说，请参见下文。

Coral USB Accelerator（Coral USB 加速器）

-ML 加速器：由 Google 设计的 Edge TPU ASIC（专用集成电路） 芯片。专为 TensorFlow Lite 模型提供高性能的 ML 推理（MobileNet V2 400 + fps，来自官方最新更新的数据）。

-支持 USB 3.1 端口和缆线（SuperSpeed，5GB / s传输速度）

-尺寸：30 x 65 x 8 mm

-官方价格：$ 74.99

一、处理器与加速性能对比

和比较传统计算机 CPU 的方式不同，比较每个处理器/加速器的细节更加细微，主要取决于你打算如何使用它们。尽管输出格式略有不同（每次推理时间与每秒帧数），但是我们仍然可以将这两种设备进行一些总体性能模式的对比。

在评估用于实时部署的 AI 模型和硬件平台时，首先要看的是——它们的速度如何。在计算机视觉任务中，基准通常以每秒帧数（FPS）进行测量。较高的数字表示更好的性能，对于实时视频流，至少需要大约 10 fps才能使视频显得流畅。

NCS2 可以使用 MobileNet-v2 运行 30 FPS 分类模型，这一点还不错。但是，以11 FPS的速度进行对象检测就有点困难了。大约 10 FPS 的帧速率可能不足以进行实时对象跟踪，特别是对于高速运动，并且可能会丢失许多对象，并且开发者需要非常好的跟踪算法来弥补这个“漏洞”。（当然，官方给出的基准测试结果并不完全可信。通常，这些公司会将其手动优化的软件与竞争对手的开箱即用模型进行比较。）

最后，NCS2 和CUA似乎都是为边缘计算应用程序设计的专属设备。如果你需要在Windows系统上运行，或者需要在 Tensorflow Lite 框架之外运行，那么 NCS2 具有较为明显的优势。就其本身而言，Coral USB Accelerator 的周边配套硬件，还有更加简单粗暴的开发板 Dev Board 和以 Coral Edge TPU 为核心设计的 PCI加速器、以及和开发板很像的 SoM 模块等等。如果你的需求是想将产品原型设计快速推向市场，那么Coral则是你的不二之选，它对开发者的吸引力更为强劲。

Google Coral 不仅仅是硬件。它轻松地结合了定制硬件，开放软件和先进的AI算法的功能并提供了高质量的AI解决方案。Coral在帮助工业发展领域有很多应用案例，包括预测性维护、异常检测、机器人技术、机器视觉和语音识别等。它对制造，医疗保健，零售，智能空间，内部监控和运输部门很有应用价值。