mxnet 显存配置，cpu过高配置

喜欢ヅ旅行 2022-09-08 15:53 118阅读 0赞

mxnet自动调用尽量多的cpu多核，多人训练，别人就不方便用了。

这个起作用，控制cpu核数占用。

os.environ\['OMP\_NUM\_THREADS'\] = "4"

要加在整个项目的mxnet import之前。

mxnet 环境变量配置（显存）

MXNET\_CPU\_WORKER\_NTHREADS的设置大于4对特征提取不起作用

os.environ\['MXNET\_CPU\_WORKER\_NTHREADS'\] = "4"

os.environ\['MXNET\_UPDATE\_ON\_KVSTORE'\] = "0"  
os.environ\['MXNET\_EXEC\_ENABLE\_ADDTO'\] = "1"  
os.environ\['MXNET\_USE\_TENSORRT'\] = "0"  
os.environ\['MXNET\_GPU\_WORKER\_NTHREADS'\] = "2"  
os.environ\['MXNET\_GPU\_COPY\_NTHREADS'\] = "1"  
os.environ\['MXNET\_OPTIMIZER\_AGGREGATION\_SIZE'\] = "54"

一般情况下，不需要修改有关环境变量的配置。但是一些特殊情况，需要修改的，就涉及到以下这些内容了：  
在linux上最简单的修改方式就是export MXNET\_GPU\_WORKER\_NTHREADS=3

一 设置进程数量  
MXNET\_GPU\_WORKER\_NTHREADS  
这个参数用来在一块卡上并行计算，在每一块GPU上最大的进程数，默认值为2

MXNET\_GPU\_COPY\_NTHREADS  
在每个GPU上执行内存复制作业的并发线程的最大数量，默认值1

MXNET\_CPU\_WORKER\_NTHREADS

MXNET\_CPU\_PRIORITY\_NTHREADS

MXNET\_CPU\_NNPACK\_NTHREADS

二 显存选项  
MXNET\_EXEC\_ENABLE\_INPLACE  
默认值：true

NNVM\_EXEC\_MATCH\_RANGE  
默认值：16

MXNET\_EXEC\_NUM\_TEMP  
默认值：1  
将此设置为一个小数目可以节省GPU内存。它也可能会降低并行度，这通常是可以接受的。

MXNET\_GPU\_MEM\_POOL\_RESERVE  
默认值：5  
If you see a strange out-of-memory error from the kernel launch, after multiple iterations, try setting this to a larger value.

三 Memonger  
MXNET\_BACKWARD\_DO\_MIRROR  
默认值：0，可选0或1  
MXNet 使用镜像概念来节省内存。用于训练阶段来节省设备内存，当设置为1 的时候，在前向传播的时候会复制某些层的fp，反向传播的时候会重新计算这些数据。  
MXNET\_BACKWARD\_DO\_MIRROR=1 将会节省30%~50%的显存, 保存95%的运行速度。  
四 控制数据通信  
MXNET\_KVSTORE\_REDUCTION\_NTHREADS  
默认值：4  
用于总结大数组的CPU线程数。  
MXNET\_KVSTORE\_BIGARRAY\_BOUND

MXNET\_ENABLE\_GPU\_P2P

更多配置信息：

http://mxnet.incubator.apache.org/how\_to/env\_var.html

五 Mxnet恢复训练  
Mxnet可以通过断点恢复训练，命令如下：

python train\_end2end.py --network resnet --gpu 0 --resume --begin\_epoch 10 --end\_epoch 15 --lr\_step 15  
  
原文链接：https://blog.csdn.net/u010402786/article/details/78475472