CVPR 2023 精选论文学习:Seeing What You Miss Vision-Language Pre-Training With Semantic Completion Learning
以下是根据MECE原则找到的四个可以作为分类标准的特征:1.预训练任务。预训练任务是指模型在用于下游任务之前进行训练的特定任务。在视觉语言预训练的背景下,有几种常见的预训练任务:对比学习:在对比学习中,模型被训练来区分相似和不相似的示例对。例如,在视觉语言预训练的情况下,模型可以被训练来区分图像和它们对应的标题,或区分图像和它们对应的描述。掩码语言建模(MLM):在MLM中,模型被训练来预测句子中