yolov5 + tensorRT + windows GPU C++部署

yolov5 + tensorRT + C++ windows GPU部署

  • 1. 环境介绍
    • 2. 软件安装
      • 2.1 yolov5安装:
      • 2.2 TensorRT安装:
      • 2.3 验证TensorRT安装:
      • 2.4 Cmake安装
      • 2.5 OpenCV安装
      • 2.6 TensorRTX安装
    • 3. Cmake编译TensorRTX中的yolov5
      • 3.1 编译前准备:
      • 3.2 Cmake编译yolov5 vs工程

1. 环境介绍

yolov5在win10上的部署,yolov5原始版本为pytorch,libtorch在windows下的部署折腾了半天放弃,转而拥抱tensorRT。在此记录一下整个部署过程。
pytorch的inference环境

  • win10
  • cuda10.2
  • pytorch1.8
  • python3.8
  • cudnn7.6.5
  • yolov5 v3.1
    tensorRT推理环境
  • tensorRT 7.0:
  • VS2017
  • OpenCV 3.4.0

2. 软件安装

安装好pytorch的gpu的环境,这部分属于python环境部署,这里不做详细介绍。
cuda和cudnn的安装 上资料很多,我就不截图了。

2.1 yolov5安装:

链接地址:yolov5 v3.1

  1. 下载yolo源码
  1. 安装依赖包
  1. 下载训练权重文件,并并放置在weights文件夹下
    yolov5s.pt:权重下载

2.2 TensorRT安装:

  1. 完成TensorRT的安装

2.3 验证TensorRT安装:

1 . 用打开

  1. 配置VS中的运行环境。

3. Cmake编译TensorRTX中的yolov5

3.1 编译前准备:

  1. 在目录中新建目录

  2. 下载文件, 下载地址

    1. 修改Cmake文件
    1.1 参考github上的指南:How to Compile and Run on Windows
    1.2 删除原有的CMakeLists.txt文件(原有的),将上述地址上的Cmake文件复制命名为CMakeLists.txt
    1.3 Cmake文件如下,一共有8个地方修改,#标注出来了。

      2.10 推理图片放入,运行 ,

      2.11 检测结果,.pt转化后的模型会掉点。

      yolov5 + tensorRT + windows GPU C++部署
      总结
      第一次写blog,写得太匆忙。不清楚的后续补充。
      [1]: https://github.com/wang-xinyu/tensorrtx
      [2]: https://github.com/ultralytics/yolov5/tree/v3.1
      [3]: https://blog.csdn.net/weixin_41552975/article/details/114398669

      文章知识点与官方知识档案匹配,可进一步学习相关知识OpenCV技能树OpenCV中的深度学习图像分类10909 人正在系统学习中

      声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!

上一篇 2022年2月8日
下一篇 2022年2月8日

相关推荐