书生·浦语大模型全链路开源体系(笔记)

大模型成为热发展人工智能的重要途径

专用模型:针对特定任务,一个模型解决一个问题

通用大模型:一个模型应对多种任务、多种模态

书生·浦语大模型开源历程

书生·浦语大模型全链路开源体系(笔记)_第1张图片

书生·浦语大模型系列

轻量级:InternLM-7B                    社区低成本可用最佳模型规模

中量级:InternLM-20B                  商业场景可开发定制高精度较小模型规模

重量级:InternLM-123B                通用大预言模型能力全面覆盖千亿模型规模

从模型到应用

书生·浦语大模型全链路开源体系(笔记)_第2张图片

书生·浦语大模型全链路开源体系

数据--->

预训练InternLM-Train--->

微调XTuner--->

sgusgebf部署LMDeploy--->

评测OpenCompass--->

应用Lagent AgentLego

数据

书生·万卷1.0

总数据量:2TB

发布日期:8月14日

多模态融合、精细化处理、价值观对齐

预训练

高可拓展、极致性能优化、兼容主流、开箱即用

微调

增量续训、有监督微调

高效微调框架XTuner:适配多种生态、适配多种硬件

极致的显存优化:消费级显卡(8GB)玩转微调

评测

书生·浦语大模型全链路开源体系(笔记)_第3张图片

部署

书生·浦语大模型全链路开源体系(笔记)_第4张图片

LMDeploy:提供大模型在GPU上部署的全流程解决方案,包括模型轻量化、推理和服务

书生·浦语大模型全链路开源体系(笔记)_第5张图片

智能体

大语言模型的局限性:最新信息和知识的获取、回复的可靠性、数学计算、工具使用和交互

LLM>智能体

多模态智能体工具箱AgentLego

你可能感兴趣的:(书生·浦语大模型实战营(笔记,笔记,python)