Ap、MAP多标签图像分类(检测)任务的评价方法

梦里梦外; 2022-05-15 23:51 176阅读 0赞

多标签图像分类（Multi-label Image Classification）任务中图片的标签不止一个，因此评价不能用普通单标签图像分类的标准，即mean  accuracy，该任务采用的是和信息检索中类似的方法—mAP（mean Average Precision）。mAP虽然字面意思和mean  accuracy看起来差不多，但是计算方法要繁琐得多，以下是mAP的计算方法：

首先用训练好的模型得到所有测试样本的confidence  score，每一类（如car）的confidence   score保存到一个文件中（如comp1\_cls\_test\_car.txt）。假设共有20个测试样本，每个的id，confidence  score和ground  truth  label如下：

![20170109214140605][]

接下来对confidence  score排序，得到：

![20170110104445749][]

然后计算precision和recall，这两个标准的定义如下：

![20170109214225265][]

上图比较直观，圆圈内（true   positives + false  positives）是我们选出的元素,它对应于分类任务中我们取出的结果，比如对测试样本在训练好的car模型上分类，我们想得到top-5的结果，即：

![20170109214229781][]

在这个例子中，true   positives就是指第4和第2张图片，false   positives就是指第13，19，6张图片。方框内圆圈外的元素（false   negatives和true  negatives）是相对于方框内的元素而言，在这个例子中，是指confidence   score排在top-5之外的元素，即：

![20170109214235027][]

其中，false   negatives是指第9，16，7，20张图片，true   negatives是指第1,18,5,15,10,17,12,14,8,11,3张图片。

那么，这个例子中Precision=2/5=40%，意思是对于car这一类别，我们选定了5个样本，其中正确的有2个，即准确率为40%；Recall=2/6=30%，意思是在所有测试样本中，共有6个car，但是因为我们只召回了2个，所以召回率为30%。

实际多类别分类任务中，我们通常不满足只通过top-5来衡量一个模型的好坏，而是需要知道从top-1到top-N（N是所有测试样本个数，本文中为20）对应的precision和recall。显然随着我们选定的样本越来也多，recall一定会越来越高，而precision整体上会呈下降趋势。把recall当成横坐标，precision当成纵坐标，即可得到常用的precision-recall曲线。这个例子的precision-recall曲线如下：

![20170109214240281][]

接下来说说AP的计算，此处参考的是PASCAL  VOC  CHALLENGE的计算方法。首先设定一组阈值，\[0, 0.1, 0.2, …, 1\]。然后对于recall大于每一个阈值（比如recall>0.3），我们都会得到一个对应的最大precision。这样，我们就计算出了11个precision。AP即为这11个precision的平均值。这种方法英文叫做11-point interpolated average precision。

当然PASCAL VOC CHALLENGE自2010年后就换了另一种计算方法。新的计算方法假设这N个样本中有M个正例，那么我们会得到M个recall值（1/M, 2/M, ..., M/M）,对于每个recall值r，我们可以计算出对应（r' > r）的最大precision，然后对这M个precision值取平均即得到最后的AP值。计算方法如下：

![20170109214244356][]

相应的Precision-Recall曲线（这条曲线是单调递减的）如下：

![20170109214248344][]

AP衡量的是学出来的模型在每个类别上的好坏，mAP衡量的是学出的模型在所有类别上的好坏，得到AP后mAP的计算就变得很简单了，就是取所有AP的平均值。

[20170109214140605]: /images/20220516/beb2cc357bda4e3eb738ca4d968b0269.png
[20170110104445749]: /images/20220516/116e751237fa4af0a9d19c9d3261e217.png
[20170109214225265]: /images/20220516/47f1fd98e050406a8a50a0a3a2ba875f.png
[20170109214229781]: /images/20220516/d6e0c5944bfd4c4eab314a0f0508ed7d.png
[20170109214235027]: /images/20220516/1810ed93c3e24f8481b08a11ebaaeceb.png
[20170109214240281]: /images/20220516/0049e00aba764202adfe420a70ba6d45.png
[20170109214244356]: /images/20220516/8fd1e314cf50402884b54f08a68eded6.png
[20170109214248344]: /images/20220516/a3da4e73e556475a9aeddf85cef03349.png