超简单的pyTorch训练-＞onnx模型-＞C++ OpenCV DNN推理（附源码地址）

忘是亡心i 2023-10-08 18:41 27阅读 0赞

[pyTorch入门][pyTorch]，最重要的还是需要真正用起来，OpenCV中DNN模块就是用来推理的，所以这篇就是专门做一个最简单的例子来验证效果，文章最后有源码的Github地址。

![0ff0d9a3d24041e6d11fb0f0863aa52c.png][]

<table> 
 <tbody> 
  <tr> 
   <th>#</th> 
   <th>实现方式</th> 
  </tr> 
 </tbody> 
 <tbody> 
  <tr> 
   <td>1</td> 
   <td>pyTorch训练数据</td> 
  </tr> 
  <tr> 
   <td>2</td> 
   <td>将pyTorch训练好的数据模型转出为onnx的文件</td> 
  </tr> 
  <tr> 
   <td>3</td> 
   <td>使用C++ OpenCV DNN实现推理</td> 
  </tr> 
 </tbody> 
</table>

配置环境

**操作系统：Windows 11 Home**

**pyTorch相关：Miniconda + pyTorch1.12.1(cpu) + python3.9.12，IDE用的是Visual Studio Code**

**OpenCV相关：OpenCV 4.5.1 + C++，IDE用的是Visual Studio 2022**

![774fd61e6cfedeb540a07cf0f9e78db2.png][]

做一个最简单的训练及推理，那我们就不用图像，就是一个简单的运算，如下图：

![e97ef5e2f76030081cf4b39f4a35283d.png][]

**上图中红框代表我要的训练集，我们一眼就可以看出，实现的效果就是输入值乘2得到输出结果，下面两条4.0和100.0用于推理出结果，得到的也应该是8.0和200.0**

pyTorch训练

定义训练集

![a484e8d1aeeec6bee68d4cb1e9966996.png][]

导入torch包后，我们直接定义输入的x\_data为【1，2，3】，输出的结果y\_data为【2，4，6】，输入结果打印如下：

![f42941468963d713b5d6d1881937c9e7.png][]

定义训练的网络模型及损失函数和优化器

![462979809864acc366b447c862a1c7b4.png][]

训练模型也非常简单，只有Linear全链接层一层，并且在前馈forward函数中没有用到激活函数，直接输出了。损失函数用的MSE，优化器SGD，其中学习率参数设置的0.02(lr=0.02)

训练模型

![4025631be7ed43ab6760d1e30159afec.png][]

关于训练，主要就是四个步骤：

1.  forward（前馈）
2.  loss（计算损失函数）
3.  backward（反向传播）
4.  step（优化迭代）

上面我们设置了训练次数为1000次，每100次打印一下loss，最后输出权重值，训练的结果如下：

![404d35da7262d8f35a8619fab84e955e.png][]

验证测试及输出onnx模型

![d511fca12cae05f21e9ccf6d7704c0f6.png][]

训练完成后，我们来验证测试结果，分输入了4，8，10，15四个值，打印结果如下：

![32f1c12d53cd8a02937e1e4786689940.png][]

上图中可以看到，预测的结果完全准确，接下来我们就将训练的这个模型导出onnx文件用于OpenCV的推理。

![cde05f6aa87499bb8da6ef04acbc5b59.png][]

1.  将model模型改为eval()，是设置为推理模式。
2.  定义一个输入的参数模型dummy\_input
3.  设置输出、输出的参数名称input和output，还有onnx的文件名称
4.  用torch.onnx.export进行导出，其中verbose=True是将会输出被导出的轨迹的调试描述

成功后当前目录下会生成一个test.onnx的模型文件，这样pyTorch训练的模型这块就完成了，接下来就是看看如果用OpenCV的DNN进行推理。

C++ OpenCV推理

![9348ee26fe678bca00960f4116d5a3d6.png][]

C++ OpenCV DNN推理这块代码也很简单，主要就是定义了dnn::Net，然后指定到onnx模型文件的目录，使用readNetfromOnnx加载模型文件。

**输入的参数还是用OpenCV的Mat，因为只输入一个参数，所以这里定义的就是1X1，数据类型输入是float的类型，所以定义的也是CV\_32F，将Mat传入到输入参数里，net.setInput(Mat值，输入参数名),第二个参数与我们导出的参数名相同，再通过net.forward(输出参数名)得到返回的结果。**

![8b375a21a0f76c1fecfd8a0d9d6f7ef7.png][]

代码中我们输入的为1024，所以预测的结果为2048，完全正确，这样一个最简单的pyTorch训练模型转出onnx，然后用C++ OpenCV推理的Demo就完成了。

源码地址

**https://github.com/Vaccae/OpenCVDemoCpp.git**

[pyTorch]: https://so.csdn.net/so/search?q=pyTorch%E5%85%A5%E9%97%A8&spm=1001.2101.3001.7020
[0ff0d9a3d24041e6d11fb0f0863aa52c.png]: https://img-blog.csdnimg.cn/img_convert/0ff0d9a3d24041e6d11fb0f0863aa52c.png
[774fd61e6cfedeb540a07cf0f9e78db2.png]: https://img-blog.csdnimg.cn/img_convert/774fd61e6cfedeb540a07cf0f9e78db2.png
[e97ef5e2f76030081cf4b39f4a35283d.png]: https://img-blog.csdnimg.cn/img_convert/e97ef5e2f76030081cf4b39f4a35283d.png
[a484e8d1aeeec6bee68d4cb1e9966996.png]: https://img-blog.csdnimg.cn/img_convert/a484e8d1aeeec6bee68d4cb1e9966996.png
[f42941468963d713b5d6d1881937c9e7.png]: https://img-blog.csdnimg.cn/img_convert/f42941468963d713b5d6d1881937c9e7.png
[462979809864acc366b447c862a1c7b4.png]: https://img-blog.csdnimg.cn/img_convert/462979809864acc366b447c862a1c7b4.png
[4025631be7ed43ab6760d1e30159afec.png]: https://img-blog.csdnimg.cn/img_convert/4025631be7ed43ab6760d1e30159afec.png
[404d35da7262d8f35a8619fab84e955e.png]: https://img-blog.csdnimg.cn/img_convert/404d35da7262d8f35a8619fab84e955e.png
[d511fca12cae05f21e9ccf6d7704c0f6.png]: https://img-blog.csdnimg.cn/img_convert/d511fca12cae05f21e9ccf6d7704c0f6.png
[32f1c12d53cd8a02937e1e4786689940.png]: https://img-blog.csdnimg.cn/img_convert/32f1c12d53cd8a02937e1e4786689940.png
[cde05f6aa87499bb8da6ef04acbc5b59.png]: https://img-blog.csdnimg.cn/img_convert/cde05f6aa87499bb8da6ef04acbc5b59.png
[9348ee26fe678bca00960f4116d5a3d6.png]: https://img-blog.csdnimg.cn/img_convert/9348ee26fe678bca00960f4116d5a3d6.png
[8b375a21a0f76c1fecfd8a0d9d6f7ef7.png]: https://img-blog.csdnimg.cn/img_convert/8b375a21a0f76c1fecfd8a0d9d6f7ef7.png