raspberry 3B 编译 NCNN

叁歲伎倆 2023-06-13 06:14 21阅读 0赞

1.安装依赖，其中 cmake要求3.10以上

sudo apt-get install git
     sudo apt-get install cmake
     sudo apt-get install -y gfortran
    sudo apt-get install -y libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev libhdf5-serial-dev protobuf-compiler
    sudo apt-get install --no-install-recommends libboost-all-dev
    sudo apt-get install -y libgflags-dev libgoogle-glog-dev liblmdb-dev libatlas-base-dev

2.下载ncnn源码

git clone https://github.com/Tencent/ncnn

3.修改CmakeList.txt文件。去掉下面两段代码前面的\#，便于后续的测试

add_subdirectory(examples)
    add_subdirectory(benchmark)

[https://github.com/Tencent/ncnn/wiki/how-to-build][https_github.com_Tencent_ncnn_wiki_how-to-build]

4.编译

$ cd <ncnn-root-dir>
    $ sudo mkdir -p build
    $ cd build
    $ cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/pi3.toolchain.cmake -DPI3=ON ..
    $ make -j4 # 生成./src/libncnn.a
    $ sudo make install # 安装在在当前的./install目录下

5.模型转换

5.1下载训练好的yolo模型：  
[https://github.com/eric612/MobileNet-YOLO/tree/master/models/yolov2][https_github.com_eric612_MobileNet-YOLO_tree_master_models_yolov2]

比如下载：

mobilenet\_yolo\_deploy\_iter\_80000.caffemodel

mobilenet\_yolo\_deploy.prototxt

5.2使用前面编译好的工具转换成ncnn框架可以使用的文件：

caffe2ncnn mobilenet_yolo_deploy.prototxt mobilenet_yolo_deploy_iter_80000.caffemodel mobilenet_yolo.param  mobilenet_yolo.bin

6.执行

转换完成后，拷贝mobilenet\_yolo.param mobilenet\_yolo.bin到编译好的build/examples文件夹下面,再传一张测试图片进来，执行

./yolov2 zoo.jpeg

7.开启openmp

发现按照wiki里的方法在树莓派上编译并不能支持openmp，虽然我在前面安装过openmp相关的库。

开启的方法就是在src/CMakelist.txt大概41行。把41行注释掉，改为下面的样子：

![20190109180441376.png][]

后面跑benchmark的时候，可以开启top并按H切换到线程视图下，看是否支持了多线程加速。

上面的修改方法用benchmark和example测试都开启了openmp，说明这个方法的可靠性。

8.速度测试

用ncnn自带的benchamark测试，发现多线程没啥用。后来找到办法开启了OpenMP，重新编译，多线程就可以用了。

单线程情况下关闭NEON优化后的测试时间变为之前的5倍左右。

开启NEON和OpenMP情况下，使用benchmark程序在树莓派3B+上测试。分别测试1~8线程的性能，表格如下：

[https_github.com_Tencent_ncnn_wiki_how-to-build]: https://github.com/Tencent/ncnn/wiki/how-to-build
[https_github.com_eric612_MobileNet-YOLO_tree_master_models_yolov2]: https://github.com/eric612/MobileNet-YOLO/tree/master/models/yolov2
[20190109180441376.png]: https://img-blog.csdnimg.cn/20190109180441376.png