[书生·浦语大模型实战营]——书生·浦语大模型全链路开源体系

大模型成为发展通用人工智能的重要途径

书生·浦语大模型开源历程


[书生·浦语大模型实战营]——书生·浦语大模型全链路开源体系_第1张图片

书生·浦语模型性能

从模型到应用

应用例子:智能客服/个人助手/行业应用
实现流程:
[书生·浦语大模型实战营]——书生·浦语大模型全链路开源体系_第2张图片
开源开放体系:
[书生·浦语大模型实战营]——书生·浦语大模型全链路开源体系_第3张图片

1.数据——书生·万卷


价值观对齐这个挺有意思嗷!
[书生·浦语大模型实战营]——书生·浦语大模型全链路开源体系_第4张图片

2.预训练工具

3.微调

大语言模型的下游应用中,增量续训和有监督微调是经常会用到的两种方式
(1)增量续训
使用场景:让基座模型学习到一些新知识,如某个垂类领域知识(垂类领域表示某个行业的某一部分,细分产业)
训练数据:文章、数据、代码等
(2)有监督微调
使用场景:让模型学会理解和遵循各种指令,或者注入少量领域知识
训练数据:高质量的对话、问答数据

4.评测


[书生·浦语大模型实战营]——书生·浦语大模型全链路开源体系_第5张图片
[书生·浦语大模型实战营]——书生·浦语大模型全链路开源体系_第6张图片

5.部署



[书生·浦语大模型实战营]——书生·浦语大模型全链路开源体系_第7张图片

6.应用

[书生·浦语大模型实战营]——书生·浦语大模型全链路开源体系_第8张图片
[书生·浦语大模型实战营]——书生·浦语大模型全链路开源体系_第9张图片

你可能感兴趣的:(openmmlab系列,pytorch,python,人工智能,深度学习,自然语言处理)