【OpenCV & CUDA】OpenCV和Cuda结合编程

「爱情、让人受尽委屈。」 2022-05-31 04:21 310阅读 0赞

【原文：[http://www.cnblogs.com/dwdxdy/p/3528711.html][http_www.cnblogs.com_dwdxdy_p_3528711.html]】

一、利用OpenCV中提供的GPU模块

目前，OpenCV中已提供了许多GPU函数，直接使用OpenCV提供的GPU模块，可以完成大部分图像处理的加速操作。

基本使用方法，请参考：[http://www.cnblogs.com/dwdxdy/p/3244508.html][http_www.cnblogs.com_dwdxdy_p_3244508.html]

该方法的优点是使用简单，利用GpuMat管理CPU与GPU之间的数据传输，而且不需要关注内核函数调用参数的设置，使用过程中，只需要关注处理的逻辑操作。

缺点是受限于OpenCV库的发展和更新，当需要完成一些自定义的操作时（OpenCV中没有提供相应的库），难以满足应用的需求，需要自己实现自定义操作的并行实现。此外，针对一些特殊需求，OpenCV提供并行处理函数，其性能优化并不是最优的，在具体的应用时，可能需要进一步优化，提高性能。

二、单独使用Cuda API编程

利用Cuda Runtime API、Cuda Driver API实现一些操作的并行加速，使用过程需要管理CPU与GPU之间的数据传输，内核函数调用参数的设置，内核函数的优化等。

优点是处理过程受控于用户，用户可以实现更多的并行加速处理操作。

缺点是使用复杂，代码编写量较多，需要熟悉Cuda相关资料和API接口。下面是简单的示例程序：

![复制代码][copycode.gif]

__global__ void swap_rb_kernel(const uchar3* src,uchar3* dst,int width,int height)
    {
        int x = threadIdx.x + blockIdx.x * blockDim.x;
        int y = threadIdx.x + blockIdx.y * blockDim.y;
        
        if(x < width && y < height)
        {
            uchar3 v = src[y * width + x];
            dst[y * width + x].x = v.z;
            dst[y * width + x].y = v.y;
            dst[y * width + x].z = v.x;
        }
    }
    
    void swap_rb_caller(const uchar3* src,uchar3* dst,int width,int height)
    {
        dim3 block(32,8);
        dim3 grid((width + block.x - 1)/block.x,(height + block.y - 1)/block.y);
        
        swap_rb_kernel<<<grid,block,0>>>(src,dst,width,height);
        cudaThreadSynchronize();
    }
    
    int main()
    {
        Mat image = imread("lena.jpg");
        imshow("src",image);
        
        size_t memSize = image.cols*image.rows*sizeof(uchar3);
        uchar3* d_src = NULL;
        uchar3* d_dst = NULL;
        CUDA_SAFE_CALL(cudaMalloc((void**)&d_src,memSize));
        CUDA_SAFE_CALL(cudaMalloc((void**)&d_dst,memSize));
        CUDA_SAFE_CALL(cudaMempcy(d_src,image.data,memSize,cudaMemcpyHostToDevice));
        
        swap_rb_caller(d_src,d_dst,image.cols,image.rows);
        
        CUDA_SAFE_CALL(cudaMempcy(image.data,d_dst,memSize,cudaMemcpyDeviceToHost));
        imshow("gpu",image);
        waitKey(0);
        
        CUDA_SAFE_CALL(cudaFree(d_src));
        CUDA_SAFE_CALL(cudaFree(d_dst));
        return 0;
    }

![复制代码][copycode.gif]

上述代码中，使用cudaMalloc，cudaMemcpy，cudaFree管理内存的分配、传输和释放。

注意：若image.data包含字节对齐的空白数据，上述程序无法完成正常的处理操作。

三、利用OpenCV中提供接口，并结合Cuda API编程

利用OpenCV已经提供的部分接口，完成一些Cuda编程的基本处理，简化编程的复杂程度；只是根据自己业务需求，自定义内核函数或扩展OpenCV已提供的内核函数。这样既可以充分利用OpenCV的特性，又可以满足业务的不同需求，使用方便，且易于扩展。下面是简单的示例程序：

![复制代码][copycode.gif]

//swap_rb.cu
    #include <opencv2/core/cuda_devptrs.hpp>
    using namespace cv;
    using namespace cv::gpu;
    //自定义内核函数
    __global__ void swap_rb_kernel(const PtrStepSz<uchar3> src,PtrStep<uchar3> dst)
    {
        int x = threadIdx.x + blockIdx.x * blockDim.x;
        int y = threadIdx.y + blockIdx.y * blockDim.y;
    
        if(x < src.cols && y < src.rows)
        {
            uchar3 v = src(y,x);
            dst(y,x) = make_uchar3(v.z,v.y,v.x);
        }
    }
    
    void swap_rb_caller(const PtrStepSz<uchar3>& src,PtrStep<uchar3> dst,cudaStream_t stream)
    {
        dim3 block(32,8);
        dim3 grid((src.cols + block.x - 1)/block.x,(src.rows + block.y - 1)/block.y);
    
        swap_rb_kernel<<<grid,block,0,stream>>>(src,dst);
        if(stream == 0)
            cudaDeviceSynchronize();
    }

![复制代码][copycode.gif]

//swap_rb.cpp
    #include <opencv2/gpu/gpu.hpp>
    #include <opencv2/gpu/stream_accessor.hpp>
    using namespace cv;
    using namespace cv::gpu;
    
    void swap_rb_caller(const PtrStepSz<uchar3>& src,PtrStep<uchar3> dst,cudaStream_t stream);
    
    void swap_rb(const GpuMat& src,GpuMat& dst,Stream& stream = Stream::Null())
    {
        CV_Assert(src.type() == CV_8UC3);
        dst.create(src.size(),src.type());
        cudaStream_t s = StreamAccessor::getStream(stream);
        swap_rb_caller(src,dst,s);
    }

![复制代码][copycode.gif]

//main.cpp
    #include <iostream>
    #include <opencv2/opencv.hpp>
    #include <opencv2/gpu/gpu.hpp>
    using namespace cv;
    using namespace cv::gpu;
    void swap_rb(const GpuMat& src,GpuMat& dst,Stream& stream = Stream::Null());
    int main()
    {
        Mat image = imread("lena.jpg");
        imshow("src",image);
        GpuMat gpuMat,output;
    
        gpuMat.upload(image);
        swap_rb(gpuMat,output);
        output.download(image);
    
        imshow("gpu",image);
        waitKey(0);
        return 0;
    }

![复制代码][copycode.gif]

swap\_rb.cu文件定义了内核函数和内核函数的调用函数，在调用函数中，设置内核函数的调用参数。

swap\_rb.cpp文件定义了并行操作的入口函数，即主程序完成并行操作的需要调用的函数，其主要是封装内核函数的调用函数，并添加输入参数的验证、根据输入参数选择不同内核函数等操作。

main.cpp文件主程序，完成数据的输入、业务的处理和数据的输出。

总结

编程简易性和可控性是相对的，编程越方便，就越不容易控制。实际应用过程中，应当寻求编程简易性和可控性的平衡点，应根据应用需求，选取适当的方法，一般建议采用方法三。

[http_www.cnblogs.com_dwdxdy_p_3528711.html]: http://www.cnblogs.com/dwdxdy/p/3528711.html
[http_www.cnblogs.com_dwdxdy_p_3244508.html]: http://www.cnblogs.com/dwdxdy/p/3244508.html
[copycode.gif]: /images/20220531/d599944bcc074f0889f00e1fa6fb1c2b.png