DeiT:注意力也能蒸馏

DeiT 是一个全 Transformer 的架构。其核心是提出了针对 ViT 的教师-学生蒸馏训练策略,并提出了 token-based distillation 方法,使得 Transformer 在视觉领域训练得又快又好。

你可能感兴趣的:(DeiT:注意力也能蒸馏)