论文阅读:Making Classification Competitive for Deep Metric Learning

论文地址:https://arxiv.org/pdf/1811.12649.pdf

现有方法的问题

**1.**标准的度量学习方法通过样本的局部关系来学习数据分布。比如建立pairs或者triplets。这种方法的核心问题时需要保证局部关系的信息丰富程度合理。例如,太难的negative pair会使训练不稳定,而太容易的则几乎没有loss不能更新网络。Semi-hard sampling和Batch hard sampling 都是不错的解决方法。但是Batch hard sampling要求batch size足够大,当batch size不够大时性能会退化。

论文亮点

**1.**第三部分论证了在移除bias,并且将之前层的输出与权重L2正则化之后,softmax的交叉熵损失相当于proxy-based的度量学习损失。
**2.**随后使用了一些tricks使得分类网络在度量学习上取得了state-of-the-art的结果。

你可能感兴趣的:(论文阅读)