百度飞桨部署全流程讲解以及Jetson nano部署实战案例（上）

百度飞桨部署全流程讲解以及Jetson nano部署实战案例（上）

这个是我看了反复看了四五遍BML的培训的部署课程写的一个理解，可能有理解不到位的地方可以看下原B站视频，讲的也很好。

https://www.bilibili.com/video/BV1YQ4y127rBrom=search&seid=4040677619604070442&spm_id_from=333.337.0.0

这里是由于内容体系太复杂太多了，所以分为上下两个，第一部分写下整个飞桨的部署推理理论的核心架构，第二部分在我自己的Jetson nano上跑下视频中的实例。

首先什么是部署，在飞桨中简单来说就是我没有GPU或者一些好的硬件设备。但是我可以先在平台上进行训练，然后把这个模型放到像服务器或者我自己的硬件设备你可以看作是一个小服务器上面去。

那这两个有什么区别呢务器肯定是好的，性能够强，迭代够快。适合互联 呀、大公司这种情况。那边缘端其实工业上都会经常考虑的，一些小任务量的反复的工作其实也不需要那么高的性能和迭代，所以智能硬件发挥了很大的作用。

但是这期间不会这么顺的呀，首先那么我不仅要检测裂痕了，我还要检测个杂物，是不是要多个功能。然后何恺明大佬又出了一个新的模型了，那你是不是想换一下，然后龙芯又出新的芯片A35000了那是不是得换一下，所以百度这边的真实流程是下图。

emm—这里就是百度自己家给自己做广告了，说用他们的产品这些迭代的过程可以很方遍，而且公有云管理起来很方便。

这里是百度特有的一些功能，也是产品优势，不作技术讲解

云部署和端侧部署的优缺点比较

现在我们来看下市面主流的产品的有五种，算力依次递减，GPU价格比较贵，已经深有所感了哈哈哈哈。CPU的价格时最低的在众多的硬件条件中，所以在CPU的推理部署是很值得深入研究的一个领域。像龙芯和英特尔都是不错的CPU品牌。

在这个过程中我们主流的深度学习架构不同，然后飞浆平台作为中间媒介，先将主流的深度框架语言转化成中间语言，然后再根据硬件条件的不同部署到不同的硬件。

高精度模型需要耗时巨大，高性能模型的精度不够。

这是模型处理后的性能提升效果。

百度这块有个有个硬件商城提供了不少硬件，但是主要是还是以英伟达系列为主的一些硬件，主要分为超高性能、高性能、低成本/小功耗这三类，看不同的需求来购置不同的器件。比如说工业上有预算的话可以买个万把快的期间。

这章图就是后面要分别在服务器和Jetson nano 的部署实战的详细步骤，过几天我把nano弄过来跑一下出个教程。