CMC曲线

行人重识别评测指标

CMC

CMC曲线即cumulated matching characteristic curve,是一个检验一个识别系统的性能的参数, 常用于人脸识别、行人重识别等领域。

CMC曲线综合反映了分类器的性能,首先介绍一下Rank-1识别率的意思。

Rank-1识别率就是表示按照某种相似度匹配规则匹配后,第一次就能判断出正确的标签的数目与总的测试样本数目之比,Rank5识别率就是指有五次机会(选取匹配程度最大的五项)去判断是否有正确匹配。如果一个样本按照匹配程度从大到小排列后,到排序结果的后面,才匹配到正确标签,把最应匹配的判别成最不应匹配的,这就说明分类器不太好,。

举个例子来说,比如,我们训练了一个分类器,来识别五个物体,即1,2,3,4,5,他们属于3类即A,B,C。比如属于A类的物体1,经过分类器,得到属于A、B、C类的概率是80%,50%,5%,所以将物体1,判定为A类,物体1经过一次排序就被命中正确的类,所以我们引入Rank-1为100%,若物体2本来属于B类,被我们训练的分类器分类为A、B、C的概率分别为50%,40%,30%,所以被判定为A类,按照概率排序,如果有两次机会,才能命中,这就是Rank-2的含义。综上五个物体,若果每个都能第一次命中,所以五个物体的Rank分别是

  • rank-1 100%
  • rank-2 100%
  • rank-3 100%

如果物体1,2为一次就命中,3,4为两次才能命中,5为三次命中,则为

  • rank-1 40%
  • rank-2 80%
  • rank-3 100%

这就是CMC曲线,而一次命中率越高,说明我们的分类器性能越好。

mAP

如下图所示,表示了mAP的求解过程。第一次查询中,橙色为符合检索条件的正确图片,灰色为错误图片。按照返回的十个检索结果,计算得到他们的查准率和召回率,然后计算得到每次查询的查准率,最后求平均,得到。

区别

两者在行人重识别的算法模型评测中都会使用,区别在于得到的查询结果只有一个或者多个。CMC曲线只适用与得到的查询结果只有一个的情况,换言之,是两个摄像头之间的检索。而现在大部分的研究都是跨多个摄像头,有时,CMC曲线便不能正确描述其性能。比如下图

绿色表示正确的结果,黄色表示错误的结果。(a)(b)(c)三个Rank-1都为100%,而(b)(c)两种检索的性能是不同的。(b)的查准率为(1/1+2/2)/2 = ,(c)的查准率为(1/1+2/5)/2=0.7,可见(b)的性能比(c)好。

你可能感兴趣的:(深度学习)