基于Caffe-Int8-Convert-Tools进行caffe模型转int8量化

分手后的思念是犯贱 2022-03-22 03:58 243阅读 0赞

参考文章：[https://blog.csdn.net/u014644466/article/details/83278954][https_blog.csdn.net_u014644466_article_details_83278954]

准备：  
（1）测试网络的prototxt文件  
（2）训练生成的caffemodel文件  
（3）验证集图像文件  
（4）工具下载：git clone https://github.com/lyk125/caffe-int8-convert-tools.git

ncnn官网推荐工具：[https://github.com/BUG1989/caffe-int8-convert-tools][https_github.com_BUG1989_caffe-int8-convert-tools]  
（5）caffe深度学习框架

模型转换：

1、输入为三通道模型：不用预处理

2、转换工具生成table文件：

注意：转换前，一定要将模型更新成最新模型。而且要严格按照如下步骤：

[https://blog.csdn.net/weixin\_41770169/article/details/86543010][https_blog.csdn.net_weixin_41770169_article_details_86543010]

> $ ~/caffe/build/tools/upgrade\_net\_proto\_text mobilenet\_deploy.prototxt mobilenet\_deploy\_new.prototxt  
> $ ~/caffe/build/tools/upgrade\_net\_proto\_binary mobilenet.caffemodel mobilenet\_new.caffemodel

table文件转换：

> python caffe-int8-convert-tool.py --proto=mobilenet\_deploy\_new.prototxt --model=mobilenet\_new.caffemodel --mean 104 117 123 --images=ILSVRC2012\_1k --output=mobilenet\_new.table --gpu=1

3、caffe2ncnn转换

> ./caffe2ncnn mobilenet\_deploy\_new.prototxt mobilenet\_new.caffemodel mobilenet\_new.param mobilenet\_new.bin 256 mobilenet\_new.table

我这里原模型大小44M，压缩后11M。

[https_blog.csdn.net_u014644466_article_details_83278954]: https://blog.csdn.net/u014644466/article/details/83278954
[https_github.com_BUG1989_caffe-int8-convert-tools]: https://github.com/BUG1989/caffe-int8-convert-tools
[https_blog.csdn.net_weixin_41770169_article_details_86543010]: https://blog.csdn.net/weixin_41770169/article/details/86543010