PyTorch常见的坑汇总

傷城~ 2022-10-24 01:50 39阅读 0赞

> 点击上方“**机器学习与生成对抗网络**”，关注"星标"
> 
> 获取有趣、好玩的前沿干货！

**作者：知乎—郁振波**

**地址：https://www.zhihu.com/people/su-po-moon**

最近刚开始用pytorch不久，陆陆续续踩了不少坑，记录一下，个人感觉应该都是一些很容易遇到的一些坑，也在此比较感谢帮我排坑的小伙伴，持续更新，也祝愿自己遇到的坑越来越少。

首先作为tensorflow的骨灰级玩家+轻微强迫症患者，一路打怪升级，从0.6版本用到1.2，再用到1.10，经历了tensorfow数个版本更迭，这里不得不说一下tf.data.dataset+tfrecord使用起来效率远比dataloader高的多。

tensorflow有一个比较好用的队列机制，tf.inputproducer + tfrecord, 但是inputproducer有一个bug，就是无法对每个epoch单独shuffle，它只能整体shuffle,也就意味着我们无法进行正常的训练流程（train几个epoch，在validation上测一个epoch,最终选一个validation上的最好的结果，进行test）。后来我当时给官方提了一个issue，官方当时的回答是，这个bug目前无法解决，但是他们在即将到来的tf1.2版本中， 推出的新型数据处理API tf.contrib.data.dataset（tf1.3版本将其合并到了tf.data.dataset）可以完美解决这个bug，并且将于tf2.0摒弃tf.input\_producer。然后tf1.2版本刚出来以后，我就立马升级并且开始tf.data.dataset踩坑，踩了大概2周多的坑，（这个新版的API其实功能并不是非常强大，有不少局限性，在此就不展开）。

好像扯远了，回归pytorch，首先让我比较尴尬的是pytorch并没有一套属于自己的数据结构以及数据读取算法，dataloader个人感觉其实就是类似于tf中的feed，并没有任何速度以及性能上的提升。

先总结一下遇到的坑：

**01**

**没有比较高效的数据存储，tensorflow有tfrecord, caffe有lmdb，cv.imread在网络训练过程中实属浪费时间。这里感谢一下小智大神 @智天成**

解决方案：

当时看到了一个还不错的github链接，https://github.com/Lyken17/Efficient-PyTorch

主要是讲如何使用lmdb，h5py,pth,lmdb,n5等数据存储方式皆可以。

个人的感受是，h5在数据调用上比较快，但是如果要使用多线程读写，就尽量不要使用h5,因为h5的多线程读写好像比较麻烦。http://docs.h5py.org/en/stable/mpi.html

这里贴一下h5数据的读写代码(主要需要注意的是字符串的读写需要encode,decode,最好用create\_dataset，直接写的话读的时候会报错)：

写：    imagenametotal_.append(os.path.join('images', imagenametotal).encode())    with h5py.File(outfile) as f:        f.create_dataset('imagename', data=imagenametotal_)        f['part'] = parts_        f['S'] = Ss_        f['image'] = cvimgs读：with h5py.File(outfile) as f:    imagename = [x.decode() for x in f['imagename']]    kp2ds = np.array(f['part'])    kp3ds = np.array(f['S'])    cvimgs = np.array(f['image'])

**02**

**gpu imbalance，这里感谢一下张航学长@张航**

老生常谈的问题，第一个GPU显存占用多一点。

张航学长Hang Zhang (张航)提了一个开源的gpu balance的工具--PyTorch-Encoding。

使用方法还是比较便捷的，如下所示：

from balanced_parallel import DataParallelModel, DataParallelCriterionmodel = DataParallelModel(model, device_ids=gpus).cuda()criterion = loss_fn().cuda()

这里其实有2个注意点，第一，测试的时候需要手动将gpu合并，代码如下：

from torch.nn.parallel.scatter_gather import gatherpreds = gather(preds, 0)

第二，当loss函数有多个组成的时候，比如 loss = loss1 + loss2 + loss3

那么需要把这三个loss写到一个class中，然后再forward里面将其加起来。

其次，我们还可以用另外一个函数distributedDataParallel来解决gpu imbalance的问题.

使用方法如下：（注：此方法好像无法和h5数据同时使用）

from torch.utils.data.distributed import DistributedSamplerfrom torch.nn.parallel import DistributedDataParallel
    torch.distributed.init_process_group(backend="nccl")# 配置每个进程的gpulocal_rank = torch.distributed.get_rank()torch.cuda.set_device(local_rank)device = torch.device("cuda", local_rank)
    #封装之前要把模型移到对应的gpumodel.to(device)model = torch.nn.parallel.DistributedDataParallel(model,device_ids=[local_rank],                                                   output_device=local_rank)
    #原有的dataloader上面加一个数据sampletrain_loader = torch.utils.data.DataLoader(        train_dataset,        sampler=DistributedSampler(train_dataset)    )

**03**

**gpu利用率不高+gpu现存占用浪费**

常用配置：

**1. 主函数前面加：（这个会牺牲一点点现存提高模型精度）**

cudnn.benchmark = Truetorch.backends.cudnn.deterministic = Falsetorch.backends.cudnn.enabled = True

**2. 训练时，epoch前面加：（定期清空模型，效果感觉不明显）**

torch.cuda.empty_cache()

**3. 无用变量前面加：（同上，效果某些操作上还挺明显的）**

del xxx(变量名)

**4. dataloader的长度\_len\_设置：（dataloader会间歇式出现卡顿，设置成这样会避免不少）**

def __len__(self):    return self.images.shape[0]

**5. dataloader的预加载设置：（会在模型训练的时候加载数据，提高一点点gpu利用率）**

train_loader = torch.utils.data.DataLoader(        train_dataset,        pin_memory=True,    )

**6. 网络设计很重要，外加不要初始化任何用不到的变量，因为pyroch的初始化和forward是分开的，他不会因为你不去使用，而不去初始化。**

**7. 最后放一张目前依旧困扰我的图片：**

![format_png][]

可以看到，每个epoch刚开始训练数据的时候，第一个iteration时间会占用的非常多,pytorch这里就做的很糟糕，并不是一个动态分配的过程，我也看到了一个看上去比较靠谱的解决方案，解决方案如下 @风车车：https://zhuanlan.zhihu.com/p/77633542

但是我看了下代码，可能需要重构dataloader，看了评论好像还有问题，有点懒，目前还没有踩坑，准备后面有时间踩一下。

暂且更新到这里，后续遇到什么坑陆续补充，也欢迎大家给我补充，pytorch初学者小白一枚。

**8. apex混合单精度模型**

事实证明，apex并没有官网说的那么玄乎，只能减低显存，并不能提速（12G显存大概可以降低到8G左右，效果还挺明显的，但是，速度降低了大概1/3，好像有点得不偿失）。

编译之后提速也很有限，再此留个坑，有小伙伴能解决的可以私信我哈，如果可以解决我会仔细罗列一遍。

最新的pytorch1.6自动写好了apex,非常好用，性能和速度不会掉（普通的titan RTX2080Ti 1080Ti 等系列的显卡均支持，只是不能提速）。教程如下:

https://pytorch.org/blog/pytorch-1.6-released/

最近分享了一些奇技淫巧的深度环境工具：

https://zhuanlan.zhihu.com/p/112360461

本文目的在于学术交流，并不代表本公众号赞同其观点或对其内容真实性负责，版权归原作者所有，如有侵权请告知删除。

**猜您喜欢：**

**[超100篇！CVPR 2020最全GAN论文梳理汇总！][100_CVPR 2020_GAN]**

[**附下载 | 《Python进阶》中文版**][_ _Python]

[**附下载 | 经典《Think Python》中文版**][_ _Think Python]

[**附下载 | 《Pytorch模型训练实用教程》**][_ _Pytorch]

[**附下载 | 最新2020李沐《动手学深度学习》**][_ _2020]

**[附下载 | 《可解释的机器学习》中文版][Link 1]**

[**附下载 |《TensorFlow 2.0 深度学习算法实战》**][_TensorFlow 2.0]

**[附下载 | 超100篇！CVPR 2020最全GAN论文梳理汇总！][100_CVPR 2020_GAN]**

**[附下载 |《计算机视觉中的数学方法》分享][Link 2]**

![format_png 1][]

[format_png]: /images/20221024/dd3dd29315664056a19a8882ad2b0c61.png
[100_CVPR 2020_GAN]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a94cc95e205ae880cb9518cb16a54c0abde69e5a8654f7fedf70a0cc990775265bf28a1c&idx=1&mid=2247486455&scene=21&sn=94156f53845cdf07e859e343862be745#wechat_redirect
[_ _Python]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29abb6c95e22a04d1eb019f964c8ae97b2f3af98c22f730f5d5ed2aea9fdb320b00c688967&idx=2&mid=2247485709&scene=21&sn=55a51c98ab48f393ba305c082ba0e4fe#wechat_redirect
[_ _Think Python]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a418c95e2d0e9a3de46e0e4d1b8d4947154d8639418a511a3091300aa31699932046556e&idx=2&mid=2247485091&scene=21&sn=f569d5d70c2e6c9cc567fbc5147787a4#wechat_redirect
[_ _Pytorch]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29aa78c95e236e380c9fd2ae79917d7451ccdd4803c5e6047a16f921d1b61d18efc79ada7c&idx=2&mid=2247485635&scene=21&sn=90608bce32fe353cf3c64b39e3406bc3#wechat_redirect
[_ _2020]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a4a4c95e2db2aab16bdcefa78795bbb7efbc70b533bb197d73f617558f2f8a523120c6e3&idx=2&mid=2247484959&scene=21&sn=563999cc8d48498beed00270844ceec4#wechat_redirect
[Link 1]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a4bac95e2dac758c4aac10a3aac49eb062bc0829d4ef2ebc8e6d5069d246385c5084a2b4&idx=1&mid=2247484929&scene=21&sn=523220858287ed3e6105919703c8e833#wechat_redirect
[_TensorFlow 2.0]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a5b0c95e2ca6599d4a91d5d40900566b7525de3dd85259e7a6c173aa26aa7ea3641d1aaf&idx=2&mid=2247485195&scene=21&sn=e3387067db29d1759755c6c2ea96c870#wechat_redirect
[Link 2]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29aa8fc95e23993e057fb0dbe09f2810ea07184a439c173f404a7ab657cadcde3d24efa52a&idx=2&mid=2247485492&scene=21&sn=c4fb135de02cd52f06bc61b0e79476e4#wechat_redirect
[format_png 1]: /images/20221024/dfef0fb6e01c4dd092cce8ca6bd1e9c4.png