英伟达Tesla T4 显卡编解码能力测试

以你之姓@ 2022-09-08 15:00 1487阅读 0赞

显卡基本参数：

> Timestamp : Fri Aug 27 10:04:12 2021  
> Driver Version : 460.32.03 CUDA Version 11.2  
> Attached GPUs : 8
> 
> FB Memory  
> Total : 15109 MiB  
> BAR1 Memory Usage  
> Total : 256 MiB

Architecture:        x86_64
    CPU op-mode(s):      32-bit, 64-bit
    Byte Order:          Little Endian
    CPU(s):              64
    On-line CPU(s) list: 0-63
    Thread(s) per core:  2
    Core(s) per socket:  16
    Socket(s):           2
    NUMA node(s):        2
    Vendor ID:           GenuineIntel
    CPU family:          6
    Model:               85
    Model name:          Intel(R) Xeon(R) Gold 5218 CPU @ 2.30GHz
    Stepping:            7
    CPU MHz:             1000.014
    BogoMIPS:            4600.00
    Virtualization:      VT-x
    L1d cache:           32K
    L1i cache:           32K
    L2 cache:            1024K
    L3 cache:            22528K
    NUMA node0 CPU(s):   0-15,32-47
    NUMA node1 CPU(s):   16-31,48-63

输入： IPC摄像头 Rtsp  
分辨率：2560\*1440  
码流：0.8M/bs  
编码：h264

输出：Rtsp  
分辨率：1920\*1080  
码流：0.4M/bs  
编码：h264

操作流程：  
拉流->解码->YUV2RGB->RGB2YUV->编码  
因为解码后颜色空间是YUV如果想进行下一步图像处理，必须将颜色空间转换为BRG方可进行主流图片业务处理。

首先我们放入200路视频进行测试：  
用dstat命令后可以看到，输入在150Mb。  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rOw5YuS5pyX5pav_size_20_color_FFFFFF_t_70_g_se_x_16]  
接着查看帧率：  
发现帧率非常低，只有11帧上下  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rOw5YuS5pyX5pav_size_20_color_FFFFFF_t_70_g_se_x_16 1]  
继续看GPU情况：  
GPU利用率只有一半过一点。  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rOw5YuS5pyX5pav_size_20_color_FFFFFF_t_70_g_se_x_16 2]  
打开一路编解码会话就会占用一定GPU内存，所以编解码的另外一个限制是GPU显存的大小，英伟达官网有一篇论文阐述了这个问题  
https://developer.nvidia.com/blog/optimizing-video-memory-usage-with-the-nvdecode-api-and-nvidia-video-codec-sdk/  
论文名字：Optimizing Video Memory Usage with the NVDECODE API and NVIDIA Video Codec SDK  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rOw5YuS5pyX5pav_size_20_color_FFFFFF_t_70_g_se_x_16 3]  
上面就是关于显存对于编解码的占用大小表格。

查看CPU情况：

![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rOw5YuS5pyX5pav_size_20_color_FFFFFF_t_70_g_se_x_16 4]  
GPU解码能力：  
![在这里插入图片描述][801d0c9c77364e4491c35d2dbb4d19a5.png]  
发现解码能力没有完全发挥出来，那么真正的瓶颈在哪里呢，接着往下看，瓶颈在颜色空间转换这里。所以如果你的代码中有颜色空间转换，那么毫无疑问，这里就是性能的瓶颈。

重点敲黑板：  
**颜色空间转换是性能的瓶颈。**

总结：  
其实从接受码流来看，8张显卡所能处理的最大码流为150Mb/s，每张卡所能处理的流量为150/8=18.75Mb/s，按照每路0.8Mb/s，那么就是23.5路，也就是23路，保守一点一张显卡能处理20路编解码+颜色空间转换。

[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rOw5YuS5pyX5pav_size_20_color_FFFFFF_t_70_g_se_x_16]: /images/20220829/bb8bca45cb1048adb84e08ad191ca872.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rOw5YuS5pyX5pav_size_20_color_FFFFFF_t_70_g_se_x_16 1]: /images/20220829/4e3ef1dfd0894dcca055f3bacc75f141.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rOw5YuS5pyX5pav_size_20_color_FFFFFF_t_70_g_se_x_16 2]: /images/20220829/86c3869055d84bbcb3cb58b363f3cdf2.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rOw5YuS5pyX5pav_size_20_color_FFFFFF_t_70_g_se_x_16 3]: /images/20220829/f8c570a97eae44348412d4b385048772.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rOw5YuS5pyX5pav_size_20_color_FFFFFF_t_70_g_se_x_16 4]: /images/20220829/620c1a5475114250b68c1ae2028e244c.png
[801d0c9c77364e4491c35d2dbb4d19a5.png]: /images/20220829/710ec4c82d3a4caeb9ede6dda3813e99.png