图解Transformer系列

Transformer:开山之作,主要关注翻译任务。

BERT:双向上下文感知。

图解Transformer系列_第1张图片

GPT:常规单向语言任务。

图解Transformer系列_第2张图片

VIT:Transformer杀入CV领域的跨坑之作。

图解Transformer系列_第3张图片

SWIN:CNN与Transformer的集大成者。

DETR:基于Transformer端到端的物体检测。

MaskFormer:分割不应该面向每个像素解决。

图解Transformer系列_第4张图片

你可能感兴趣的:(attention,transformer,深度学习,自然语言处理)