Paddle2ONNX最新升级：飞桨模型全面支持ONNX协议啦！

点击左上方蓝字关注我们

如果当时做个问卷调查，问获得绝世武功的第一步需要什么使很多人说不清楚任脉和督脉的位置，他们仍然会回答——打通任督二脉！

“只有打通任督二脉，才能加速真气运行效率，从而获得神功”已成为多数少侠们的共同认识。其实，这个道理同样能应用于现实之中。比如，在人工智能领域，开源开放非常普遍，只有打通壁垒，实现互通有无，才能促进发展的效率。近期，??????飞桨进入了2.0时代，不仅API体系得到了全面升级，动态图模式变得更加完备，为广大开发者带来“动静统一的开发体验”，还集成了最新版的Paddle2ONNX工具，进一步提升了框架的开放性??????。除了原先的Paddle Inference和Paddle Lite等高性能部署方案外，用户还可以通过使用paddle.onnx.export接口，将模型保存为ONNX协议格式后进行部署，极大丰富了飞桨的软硬件部署生态！

简而言之，ONNX相当于是一套统一的深度学习模型格式。基于这一套统一的格式，很多厂商的硬件和软件天然支持运行ONNX格式的模型。

关注飞桨的用户此前就应该了解到，Paddle Lite不仅可以支持飞桨原生模型部署，同时也支持PyTorch模型的部署，其技术路径就是通过PyTorch导出ONNX格式模型，再通过X2Paddle转换为飞桨模型格式进行部署。

不了解的童鞋快戳链接，了解X2Paddle项目：

https://github.com/PaddlePaddle/X2Paddle

什么是Paddle2ONNX

飞桨作为国内最早开源的开源框架，在过去一年中技术生态迅猛发展，为开源 区贡献多个模型套件。其中，目标检测模型套件推出产业实践最优模型PP-YOLO，性能和精度都超过原生的YOLO-V4；在文字识别方向，PP-OCR在2020年一经开源，便吸引了大量开发者使用，多次登陆GitHub技术趋势榜；另外，在多个国际权威语义评测中获得冠军的预训练模型ERNIE，也升级至2.0。飞桨进步，永不止步。为了帮助开发同学解决部署环境难题，飞桨也在不断探索。

现在，飞桨与ONNX开源组织进行了合作，开源了Paddle2ONNX项目，并基于Paddle2ONNX与英特尔合作，打通了飞桨模型在OpenVINO上的部署推理。

本月，我们将发布Paddle2ONNX最新版本V0.5，带来更多重磅功能，覆盖更多飞桨官方模型，期望通过ONNX这个桥梁，进一步推动飞桨、开发者和软硬件厂商的合作！

此前就有部分用户咨询飞桨小哥哥：飞桨PP-YOLO、ERNIE等明星模型，能不能用ONNX方式来部署在小哥哥现身回答你！

将静态图模型导出为ONNX模型

通过命令行调用paddle2onnx命令可完成静态图模型的转换。

与动态图相似，模型同样会被保存为ONNX 格式的文件。

模型测试

这里使用ONNXRunTime来进行ONNX模型验证测试，并评估转换后推理结果的误差。

这里，我们可以看到推理时间需要0.0260秒，推理结果与转换前的飞桨模型相比几乎一致。详细示例信息可以参考AI Studio项目“Paddle2.0导出ONNX模型和推理”，地址：

https://aistudio.baidu.com/aistudio/projectdetail/1461212

除了上面的例子外，还有更多使用和了解Paddle2ONNX的方式：

• PaddleX基于Paddle2ONNX的OpenVINO部署方案：

  https://paddlex.readthedocs.io/zh_CN/develop/deploy/openvino/index.html

• 飞桨官 导出ONNX模型协议教程：

  https://www.paddlepaddle.org.cn/documentation/docs/zh/develop/guides/02_paddle2.0_develop/09_model_to_onnx_cn.html

• 手把手教你通过ONNX部署飞桨模型教程：

  https://aistudio.baidu.com/aistudio/projectdetail/1479970

• Paddle2ONNX项目地址：

  https://github.com/PaddlePaddle/Paddle2ONNX

欢迎给项目Star，支持项目工程师的工作！

如扫码失败，请加微信 AIDigest，备注“模型”，飞桨小哥哥拉你入群

如果您想详细了解更多飞桨的相关内容，请参阅以下文档。

·飞桨官 地址·

https://www.paddlepaddle.org.cn/

·飞桨开源框架项目地址·

GitHub: https://github.com/PaddlePaddle/Paddle 

Gitee: https://gitee.com/paddlepaddle/Paddle

飞桨(PaddlePaddle)以百度多年的深度学习技术研究和业务应用为基础，是中国首个开源开放、技术领先、功能完备的产业级深度学习平台，包括飞桨开源平台和飞桨企业版。飞桨开源平台包含核心框架、基础模型库、端到端开发套件与工具组件，持续开源核心能力，为产业、学术、科研创新提供基础底座。飞桨企业版基于飞桨开源平台，针对企业级需求增强了相应特性，包含零门槛AI开发平台EasyDL和全功能AI开发平台BML。EasyDL主要面向中小企业，提供零门槛、预置丰富 络和模型、便捷高效的开发平台；BML是为大型企业提供的功能全面、可灵活定制和被深度集成的开发平台。

END

文章知识点与官方知识档案匹配，可进一步学习相关知识Java技能树首页概览92165 人正在系统学习中