PaddleOCR——Visual Studio 2019 环境下C++推理部署 CMake 编译解决方案

梦里梦外; 2022-10-22 04:12 31阅读 0赞

### PaddleOCR——Visual Studio 2019 环境下C++推理部署 CMake 编译解决方案 ###

*   *  官方文档
     *  环境配置
     *   *  Step1: 下载PaddlePaddle C++ 预测库 paddle\_inference
         *  Step2: 安装配置OpenCV
         *  Step3: 下载PaddleOCR
         *  Step4: 编译CMake
         *   *  使用Visual Studio 2019直接编译CMake
             *  使用CMake GUI生成项目Visual Studio 2019编译CMake
         *  Step5: 下载模型
         *  Step6: 预测及可视化
     *  常见问题
     *  参考文章

## 官方文档 ##

https://gitee.com/paddlepaddle/PaddleOCR/blob/develop/deploy/cpp\_infer/docs/windows\_vs2019\_build.md

## 环境配置 ##

>  *  Visual Studio 2019
>  *  CUDA `9.0` / CUDA `10.0`，cudnn `7+` （仅在使用GPU版本的预测库时需要）
>  *  CMake `3.19.3`
>  *  PaddleOCR `2.0.0`
>  *  PaddlePaddle 预测库 `2.0.1`
>  *  OpenCV `3.4.6`

### Step1: 下载PaddlePaddle C++ 预测库 paddle\_inference ###

PaddlePaddle C++ 预测库针对不同的`CPU`和`CUDA`版本提供了不同的预编译版本，请根据实际情况下载: [C++预测库下载列表][C]  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70]

解压后`D:\projects\paddle_inference`目录包含内容为：

paddle_inference
    ├── paddle # paddle核心库和头文件
    |
    ├── third_party # 第三方依赖库和头文件
    |
    └── version.txt # 版本和编译信息

### Step2: 安装配置OpenCV ###

1.  在OpenCV官网下载适用于Windows平台的3.4.6版本， [下载地址][Link 1]
2.  运行下载的可执行文件，将OpenCV解压至指定目录，如`D:\projects\opencv`
3.  配置环境变量，如下流程所示
    
     *  我的电脑->属性->高级系统设置->环境变量
     *  在系统变量中找到Path（如没有，自行创建，这不可能没有），并双击编辑
     *  新建，将opencv路径填入并保存，如`D:\projects\opencv\build\x64\vc14\bin`

### Step3: 下载PaddleOCR ###

https://gitee.com/PaddlePaddle/PaddleOCR

### Step4: 编译CMake ###

#### 使用Visual Studio 2019直接编译CMake ####

> 官方方法：作者并没有成功，问题出现在第四步，根本不显示要配置的参数

1.  打开Visual Studio 2019 Community，点击`继续但无需代码`  
    ![step2][]
2.  点击： `文件`\->`打开`\->`CMake`  
    ![step2.1][]

选择项目代码所在路径，并打开`CMakeList.txt`：

![step2.2][]

1.  点击：`项目`\->`cpp_inference_demo的CMake设置`

![step3][]

1.  点击`浏览`，分别设置编译选项指定`CUDA`、`CUDNN_LIB`、`OpenCV`、`Paddle预测库`的路径

三个编译参数的含义说明如下（带`*`表示仅在使用**GPU版本**预测库时指定, 其中CUDA库版本尽量对齐，**使用9.0、10.0版本，不使用9.2、10.1等版本CUDA库**）：

<table> 
 <thead> 
  <tr> 
   <th>参数名</th> 
   <th>含义</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>*CUDA_LIB</td> 
   <td>CUDA的库路径</td> 
  </tr> 
  <tr> 
   <td>*CUDNN_LIB</td> 
   <td>CUDNN的库路径</td> 
  </tr> 
  <tr> 
   <td>OPENCV_DIR</td> 
   <td>OpenCV的安装路径</td> 
  </tr> 
  <tr> 
   <td>PADDLE_LIB</td> 
   <td>Paddle预测库的路径</td> 
  </tr> 
 </tbody> 
</table>

**注意：**

1.  使用`CPU`版预测库，请把`WITH_GPU`的勾去掉
2.  如果使用的是`openblas`版本，请把`WITH_MKL`勾去掉

![step4][]

**设置完成后**, 点击上图中`保存并生成CMake缓存以加载变量`。

1.  修改项目字符集设置

进入项目 -> 属性->高级,将字符集设置为多字节字符集  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 1]  
在C/C++ => 命令行中添加（“/utf-8”）  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 2]

1.  点击`生成`\->`全部生成`

![step6][]  
上述`Visual Studio 2019`编译产出的可执行文件在`out\build\x64-Release`目录下，打开`cmd`，并切换到该目录：

cd D:\projects\PaddleOCR\deploy\cpp_infer\out\build\x64-Release

#### 使用CMake GUI生成项目Visual Studio 2019编译CMake ####

1.  下载`CMake GUI`  
    https://cmake.org/runningcmake/
2.  生成`Visual Studio 2019`项目工程

> (截止2020.04.03)由于预测库的lib文件名变动  
> ![在这里插入图片描述][20210403165506692.png]  
> 手动修改CMakeLists.txt  
> ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 3]

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 4]  
PaddleOCR\\deploy\\cpp\_infer\\build 下生成`Visual Studio 2019`工程：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 5]  
4. 生成  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 6]  
`PaddleOCR\deploy\cpp_infer\build\Release`下生成exe可执行文件：  
![在这里插入图片描述][202104031659510.png]

### Step5: 下载模型 ###

模型下载地址即官网的推理模型：https://gitee.com/PaddlePaddle/PaddleOCR ，选在inference model 下载即可：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 7]  
models 即det, cls, rec模型存放文件夹：  
![在这里插入图片描述][20210403163517172.png]  
每个模型文件夹下分别包含：pdmodel pdparams 和 pdparams.ino 三个文件。  
![在这里插入图片描述][20210403163700721.png]

### Step6: 预测及可视化 ###

1.  复制dll文件

复制`paddle_inference\paddle\lib\paddle_inference`到`PaddleOCR\deploy\cpp_infer\build\Release`![在这里插入图片描述][20210403181133238.png]

> 否则，可能出现的问题：![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 8]

1.  修改config.txt  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 9]
2.  执行  
    可执行文件`ocr_system.exe`即为样例的预测程序，其主要使用方法如下

#预测图片 `D:\projects\PaddleOCR\doc\imgs\10.jpg` 
    .\ocr_system.exe D:\projects\PaddleOCR\deploy\cpp_infer\tools\config.txt D:\projects\PaddleOCR\doc\imgs\11.jpg

第一个参数为配置文件路径，第二个参数为需要预测的图片路径。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 10]

## 常见问题 ##

*  [PaddleOCR——C++服务端部署Visual Studio 2019 环境下CMake 编译错误【无法打开输入文件paddle\_fluid.lib】解决方案][PaddleOCR_C_Visual Studio 2019 _CMake _paddle_fluid.lib]
 *  在Windows下的终端中执行文件exe时，可能会发生乱码的现象，此时需要在终端中输入`CHCP 65001`，将终端的编码方式由GBK编码(默认)改为UTF-8编码，更加具体的解释可以参考这篇博客：[https://blog.csdn.net/qq\_35038153/article/details/78430359][https_blog.csdn.net_qq_35038153_article_details_78430359]。
 *  程序闪退，关闭306等杀毒软件。

## 参考文章 ##

[Windows 下 PaddleOCR C++推理部署 cmake vs2017][Windows _ PaddleOCR C_ cmake vs2017]  
[https://blog.csdn.net/qq\_35038153/article/details/78430359][https_blog.csdn.net_qq_35038153_article_details_78430359]  
[PaddleOCR 文字识别 c++ win10 安装使用教程][PaddleOCR _ c_ win10]

[C]: https://www.paddlepaddle.org.cn/documentation/docs/zh/develop/advanced_guide/inference_deployment/inference/windows_cpp_inference.html
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70]: /images/20221022/806cce2146894e1e9d4687e59f685efb.png
[Link 1]: https://sourceforge.net/projects/opencvlibrary/files/3.4.6/opencv-3.4.6-vc14_vc15.exe/download
[step2]: /images/20221022/867568a3114647ffae878b75d20a1568.png
[step2.1]: /images/20221022/5fdf16339daf45e283de6dca644d335a.png
[step2.2]: /images/20221022/dc9e3fcd6c8742de9d3eb0b2a43b430d.png
[step3]: /images/20221022/fa8609c91a4f4fa3b26be7e8bf556e33.png
[step4]: /images/20221022/436c1f65e5be40e19b4bb8034f0669dc.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 1]: /images/20221022/29f96b30ab774f66a3f26c1e32ab5f66.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 2]: /images/20221022/8e842873527a4b7d82542954f5ae8288.png
[step6]: /images/20221022/7f8128635c364ce386554fd58571631f.png
[20210403165506692.png]: /images/20221022/52df1b9f983b4f159df6305cde3f6d8b.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 3]: /images/20221022/8bd6791158fe460d83af85313bf12635.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 4]: /images/20221022/09a81ff13c91476c85901ae51d2df468.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 5]: /images/20221022/270467f1f6af4907aee545c7afb715c1.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 6]: /images/20221022/139a6aee81ca4f03a09050aefb52ce04.png
[202104031659510.png]: /images/20221022/ca4af47c65774859b656d2313e6588b4.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 7]: /images/20221022/8c141a3337984983992861ef7cdf3cab.png
[20210403163517172.png]: /images/20221022/ca1ba8029fa64438b1e90c8bf4c8842e.png
[20210403163700721.png]: /images/20221022/0633d1dbd93f46e9a6db7f1cc21a71f9.png
[20210403181133238.png]: /images/20221022/f31b4230466d4b4ca9b06c9a443f7ea0.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 8]: /images/20221022/c78871a949c44840a073379e43c77eac.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 9]: /images/20221022/10ec6b92dc9748c880c1353a51fb2496.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzI3Mjc4MQ_size_16_color_FFFFFF_t_70 10]: /images/20221022/e0defd64efca46e582963b54f0a723bc.png
[PaddleOCR_C_Visual Studio 2019 _CMake _paddle_fluid.lib]: https://blog.csdn.net/weixin_43272781?spm=1011.2124.3001.5343
[https_blog.csdn.net_qq_35038153_article_details_78430359]: https://blog.csdn.net/qq_35038153/article/details/78430359
[Windows _ PaddleOCR C_ cmake vs2017]: https://blog.csdn.net/xingtianyao/article/details/110625756
[PaddleOCR _ c_ win10]: https://blog.csdn.net/qq_38836770/article/details/109548170