书生·浦语大模型全链路开源体系

参考：https://www.bilibili.com/video/BV1Rc411b7ns/?spm_id_from=333.788&vd_source=3bbd0d74033e31cbca9ee35e111ed3d1
背景：
人工智能的发展从针对特定任务，用一个模型解决一个问题过渡到一个模型来应对多模态、多任务，大模型成为发展通用人工智能的重要途径。

书生大模型系列：

性能优异，InternLM-20B即能达到Llama2-70B水平

从模型到应用：
业务场景不复杂可直接使用prompt工程；业务场景复杂，需要微调(全参or LoRA)

与环境交互包括调用外部api、访问数据库等。

书生·浦语开源开放体系

1.数据：


2.预训练：

3.微调：

右图是LoRA示意图。


4.评测：

opencompass四大亮点：

5.部署：

缓存k/v来加速推理

6.智能体：