小样本分割综述

深藏阁楼爱情的钟 2022-10-15 14:58 357阅读 0赞

转自：[https://zhuanlan.zhihu.com/p/142899098][https_zhuanlan.zhihu.com_p_142899098]

声明一下，这篇文章是参考了其他的博客和论文写的，属于半原创

**1.介绍**

深度卷积神经网络在图像分类、目标检测、语义分割等许多视觉理解任务上都取得了重大突破。一个关键的原因是大规模数据集的可用性，比如ImageNet，这些数据集支持对深度模型的培训。然而，数据标记是昂贵的，特别是对于密集的预测任务，如语义分割和实例分割。此外，在对模型进行训练之后，很难将模型应用于新类的预测。与机器学习算法不同的是，人类只看到几个例子就能很容易地从图像中分割出一个新概念。人类和机器学习算法之间的差距激发了对小样本学习的研究，其目的是学习一个模型，可以很好地推广到具有稀缺标记的训练数据的新类别。

小样本分割的终极目的是利用支持集中的K个训练图像对来“学习”一个模型，使得该模型能对训练图像对中出现的类别的新样本能够实现分割。

**2.相关工作**

**2.1 元学习**

元学习解决的是学习如何学习的问题。元学习的思想是学习「学习（训练）」过程。主要有基于记忆Memory的方法、基于预测梯度的方法、利用Attention注意力机制的方法、借鉴LSTM的方法、面向RL的Meta Learning方法、利用WaveNet的方法、预测Loss的方法等等等。

**2.2 小样本学习**

小样本学习是元学习在监督学习领域的应用，Few-shot Learning

模型大致可分为三类：Mode Based，Metric Based 和 Optimization Based。

其中 Model Based 方法旨在通过模型结构的设计快速在少量样本上更新参数，直接建立输入 x 和预测值 P 的映射函数；Metric Based方法通过度量 batch 集中的样本和 support 集中样本的距离，借助最近邻的思想完成分类；Optimization Based方法认为普通的梯度下降方法难以在 few-shot 场景下拟合，因此通过调整优化方法来完成小样本分类的任务。

![3475bc2bc795c1f9d34406c9f75f1820.png][]

[https_zhuanlan.zhihu.com_p_142899098]: https://zhuanlan.zhihu.com/p/142899098
[3475bc2bc795c1f9d34406c9f75f1820.png]: /images/20221014/4e47c848d19f46329a8f4dd60879e7eb.png