阿里创造新纪录：AI 中文语言理解得分首超人类

在最新的中文语言理解领域权威榜单CLUE中，阿里AI以86.685的总分成绩创造了新纪录，这是该榜单诞生近三年以来，AI首次超越人类成绩（86.678），意味着AI模型的中文语言理解水平达到了新的高度。

作为业界最权威的中文自然语言理解榜单之一，CLUE从文本分类、阅读理解、自然语言推理等9项任务中全面考核AI模型的语言理解能力。

过去三年，该榜单吸引了众多国内NLP团队的参与，尽管榜首位置多次易主，但参评AI模型一直未能超越人类成绩。

本次，这个来源于阿里通义大模型系列的AliceMind，一举在4项任务中超过了人类水平，并实现总分的首次超越。

中文言语理解是AI业界亟待解决的难题之一。为提升AI模型对词语、语句以及言语全体的理解力，在预练习阶段，达摩院沿袭超大规模模型练习所运用的海量高质量中文文本，一起对模型结构和练习技术进行了一系列优化。

AliceMind总共靠下面两个关键技术取得这一成果。

1.基础模型迭代升级

AliceMind的根底模型在通用语言预练习模型StructBERT1.0（入选ICLR 2020）之上，进行了迭代升级。此前1.0的作业聚焦于通过在句子级别和词级别引进两个新的方针函数，相当于给机器内置一个“语法识别器”。

阿里达摩院与AliceMind合作在大规模预练习领域练习端和推理端的加速技能的积累，使用StrongHold(SuperComputing 2022)等技能完成了在16卡A100上用14天时刻完成超过500B tokens的练习。

2.Finetune

预训练模型是语义理解的重要基础，但是如何将其应用于下游任务同样也是一项重要的挑战。

达摩院NLP团队面对语义相似度、文本分类、阅读理解等下游任务，从迁移学习、数据增强、特征增强等方面进行了一系列的探索，来提升下游任务的性能表现。

AliceMind并先后登顶了GLUE、CLUE、XTREME、VQA Challenge、DocVQA、MS MARCO在内的自然语言处理领域的的六大权威榜单，斩获36项冠军。

AliceMind已于去年6月开源。