SuperEdge再添国产智能加速卡支持,为边缘智能推理再提速10倍

寒武纪AE团队,腾讯云容器中心边缘计算团队,SuperEdge 开发者

SuperEdge 支持国产智能加速卡寒武纪 MLU220

SuperEdge 对应的商业产品 TKE Edge 也一直在硬件和加速方面在持续耕耘,不但支持 NVIDIA 系列 GPU的加速,还在 GPU 虚拟,QGPU 化等方面持续发力。本次联合寒武纪对国产智能边缘加速卡进行了支持,以利于用户在边缘进行模型训练和边缘智能推理性能的提升。下面是经过寒武纪 AE 团队和 SuperEdge 开源团队的联合测试,对国产寒武纪边缘计算加速卡兼容性的联合声明。

在此发表联合声明。

MLU220 具有如下特性:

  • 小个头大智能 思元220芯片是面向边缘侧量身定制的智能化解决方案,在 U 盘大小的尺寸下就可以提供8路高清视频的实时智能分析,可广泛支持视觉、语音、自然语言处理以及传统机器学习等高度多样化的人工智能应用,为边缘计算节点装上智慧的大脑。

  • 新一代寒武纪硬件架构 MLUv02 架构不是简单的从上一代升级而来,新架构基于片上 络(NOC)构建,多个 NPU 集群的并行效率。基于硬件的片内数据压缩,提升缓存有效容量和带宽。新架构提供 INT16,INT8,INT4,FP32,FP16 的全面 AI 精度支持,满足多样化神经 络的计算力要求,通用、性能兼备。

  • 计算弹性和可编程 思元220芯片支持多类神经 络,NeuWare 软件栈可以轻松部署推理环境。BANG Lang 编程环境可对计算资源做直接定制,满足多样化 AI 定制要求,专业而不专用。

  • 加速卡硬件规格

    加速卡硬件规格可概括如下:

    参数 规格
    MLU220-M.2
    内存 4GB, LPDDR4, 3200MHz
    AI算力 8TOPS(INT8)
    编解码能力 支持H.264,H.265, VP8, VP9;解码8x1080P@30Hz;编码4x1080P@30Hz
    图片解码 支持JEPG最大分辨率8K;解码410 fps@1080P;编码400 fps@1080P
    接口规格 M.2 2280, B+M Key (PCIE 3.0 X2)
    功耗 8.25W (3.3V 2.5A)
    结构尺寸 80mm x 22mm x 7.3mm(无散热)/21.3mm(带散热)
    散热 被动散热

智慧交通

为打造现代化智能制造的智慧工厂,在厂区工位部署多路摄像头及 MLU220 边缘加速卡。 凭借独立的编解码单元,MLU220 可实现对多路摄像头图像的解码;在强大的算力支持下,MLU220 可实现对工人的检测,姿态识别以及对工件的检测和识别,从而实现检测工人是否在岗,工人操作是否合规以及工件是否按规定摆放等工厂的智能管理。

智慧畜牧

文章知识点与官方知识档案匹配,可进一步学习相关知识云原生入门技能树容器(docker)安装docker8793 人正在系统学习中

声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!

上一篇 2022年1月7日
下一篇 2022年1月7日

相关推荐