【CVPR 2021】基于样本间关系的知识蒸馏:Complementary Relation Contrastive Distillation

【CVPR 2021】基于样本间关系的知识蒸馏:Complementary Relation Contrastive Distillation

  • 论文地址:
  • 主要问题:
  • 主要思路:
  • 算法优点:
  • 算法论证:
    • 基本符号:
    • 优化目标:
    • 优化目标的下限:
    • 分布近似:
    • 关系对比损失:
    • 互补关系:
    • 关系度量:
  • 具体实现:
    • 评判函数:
    • 采样策略:
    • 损失函数:

论文地址:

https://arxiv.org/abs/2103.16367

主要问题:

你可能感兴趣的:(人工智能,深度学习,模型压缩,知识蒸馏,计算机视觉)