安利一个开源的好工具Label Studio, 闭环数据标注和模型训练

一、简介

1.1 在NLP日常工作中,我们需要按几个步骤进行数据处理和模型训练。

1. 先收集数据: 通过爬虫或者其它工具,将数据结构化保存到数据库中。

2. 数据预处理: 其中大部分都是无标签数据,对于无标签数据的可以用无监督做预训练模型,也可以用经过整理后进行标注变成有标签数据。

3. 数据标注: 对于NLP的标注,我们常用的标注包括文本分类,命名实体识别,文本摘要等。

4. 模型训练:对打好标签的数据进行训练,参数调优等

5. 模型评估: 对测试数据或开发数据进行评估,判断模型好坏

6. 不断重复1-5步,优化模型和数据,提高模型性能。

安利一个开源的好工具Label Studio, 闭环数据标注和模型训练_第1张图片

图1、流程图

1.2 通常完成这些步骤耗时数周的时间,所以我们需要整合相关功能到自动化的平台。

本文使用的是工具有:

label-studio: 数据标注工具

transformers: 高度集成的模型训练套件

TextBrewer: 哈工大模型蒸馏工具

flask: 自定义一些api,把标注和模型训练串联起来

二、label-studio

2.1 label-studio扮演的角色

如下图,label-studio用

你可能感兴趣的:(LLM,开源)