paddlelite使用pytorch训练好的模型

柔光的暖阳◎ 2022-12-15 00:59 268阅读 0赞

之前写过一篇paddlelite使用[TF训练好的模型][TF]

paddlelite没法直接转换pytorch的模型，需要先转换成onnx模型，paddlelite是可以转换onnx模型的。

这里 直接使用pytorch转换onnx的例子[https://pytorch.org/tutorials/advanced/super\_resolution\_with\_onnxruntime.html][https_pytorch.org_tutorials_advanced_super_resolution_with_onnxruntime.html]

运行成功后会得到一个名为super\_resolution.onnx的 文件

然后使用paddlelite进行转换，和TF那个流程一样

x2paddle --framework=onnx --model=super_resolution.onnx --save_dir=pd_model

成功后进行优化：

paddle_lite_opt --model_dir=./pd_model/inference_model --optimize_out=super_resolution --optimize_out_type=naive_buffer

会生成一个名为super\_resolution.nb的文件

![20201014163206679.png][]

接下和之前TF那篇一样，测试一下:

from paddlelite.lite import *
    from  PIL import Image
    import numpy as np
     
    config = MobileConfig()
    config.set_model_from_file('super_resolution.nb')
    predictor = create_paddle_predictor(config)
    image = Image.open('321.jpg')
    resized_image = image.resize((224, 224), Image.BILINEAR)
    print(np.array(resized_image).shape)
    image_data = np.array(resized_image).flatten().tolist()
    input_tensor = predictor.get_input(0)
    input_tensor.resize([1,3, 224, 224])
    input_tensor.set_float_data(image_data)
    predictor.run()
    output_tensor = predictor.get_output(0)

[TF]: https://blog.csdn.net/zhou_438/article/details/108886447
[https_pytorch.org_tutorials_advanced_super_resolution_with_onnxruntime.html]: https://pytorch.org/tutorials/advanced/super_resolution_with_onnxruntime.html
[20201014163206679.png]: /images/20221123/997cf451338d477a8a0d55be45e2480a.png