1.书生·浦语大模型全链路开源体系
- 课程基本信息
- 视频链接 书生·浦语大模型全链路开源体系_哔哩哔哩_bilibili
- 课程大纲
- 大模型发展经历
- 书生·浦语大模型系列
- 从模型到应用
- 书生·浦语大模型全链路开源开放体系
- 预训练 InternLM-Train
- 并行训练,极致优化。速度达到 3600 tokens/sec/gpu。
- 微调 XTuner
- 提供增量续训和有监督微调。
- 增量续训
- 使用场景:让基座模型学习到一些新知识,如垂直领域知识
- 有监督微调
- 使用场景:让模型学会理解和遵循各种指令,或者注入少量领域知识
- 评测 OpenCompass
- 全方位评测,性能可复现。80套评测集,40万道题目。
- 六大维度
- 学科:初中考试、中国高考、大学考试、语言能力考试、职业资格考试
- 语言:字词释义、成语习语、语义相似、指代消解、翻译
- 安全:偏见、有害性、公平性、隐私性、真实性、合法性
- 部署 LMDeploy
- 全链路部署,性能领先,每秒生成2000+ tokens。提供大模型在GPU上部署的全流程解决方案,包括模型轻量化、推理和服务
- 应用 Lagent,AgentLego
-
- 支持多种智能体,支持代码解释器等多种工具。
- 智能体应用