【模型复现】高精度文本匹配/分类模型——consert快速复现

ConSERT

快速复现教程

01 镜像详情

镜像简介：

Consert是由2021年的论文《A Contrastive Framework for Self-Supervised Sentence Representation Transfer》提出，现在在深度学习网络中应用越来越广泛。 为解决 BERT原生句子表示这种“坍缩”现象，美团NLP中心知识图谱团队提出了基于对比学习的句子表示迁移方法—— ConSERT，通过在目标领域的无监督语料上Fine-tune，使模型生成的句子表示与下游任务的数据分布更加适配。在句子语义匹配（STS）任务的实验结果显示，同等设置下 ConSERT 相比此前的SOTA大幅提升了8%，并且在少样本场景下仍表现出较强的性能提升。

应用场景：文本分类、文本匹配、文本生成

论文地址：

https://aclanthology.org/2021.acl-long.393.pdf

02 平台环境准备

 1. 打开极链AI云平台

         https://cloud.videojj.com/?channel=vx8

2. 点击模型

 3. 选择 MobileNetV3 程序库并创建实例

4. 选择对应镜像

5. 连接实例

创建完成后，点击jupyterlab连接

03 模型配置

1.进入终端

2.准备数据集

进入终端，在root/ConSERT（默认）路径下，输入以下命令:

cd databash get_transfer_data.bash#下载复现模型所需的STS数据集

更多内容请左右滑动

3.模型推断

进入终端，在root/ConSERT（默认）路径下，输入以下命令:

mkdir outputbash scripts/sup-sbert-base.sh#运行推断命令前需创建output文件夹，命令运行结束后可在该文件夹下查看推断结果

更多内容请左右滑动

3.模型训练

进入终端，在root/ConSERT（默认）路径下，输入以下命令:

bash scripts/unsup-consert-base.sh

更多内容请左右滑动

以上就是 ConSERT 复现的全部内容了

感兴趣的话可以进入极链AI云官网，一键体验哦～

同时平台还拥有例如yolo系列等一众经典模型等你来

简单操作即可完成复现

新用户注册并完成认证还可领取海量云币券哦～