大模型学习之书生·浦语大模型1——全链路开源体系

大模型学习之书生·浦语大模型1——全链路开源体系_第1张图片

书生·浦语大模型全链路开源体系

大模型学习之书生·浦语大模型1——全链路开源体系_第2张图片
大模型成为热门关键词
大模型学习之书生·浦语大模型1——全链路开源体系_第3张图片
大模型成为发展通用人工智能的重要途径,未来是使用一个模型应对多种任务,多种模态。

书生·浦语大模型开源历程

大模型学习之书生·浦语大模型1——全链路开源体系_第4张图片
大模型学习之书生·浦语大模型1——全链路开源体系_第5张图片

  • InternLM-7B
  • InternLM-20B
  • InternLM-123B

大模型学习之书生·浦语大模型1——全链路开源体系_第6张图片
性能达到LIama2-70B水平

从模型到应用

大模型学习之书生·浦语大模型1——全链路开源体系_第7张图片
大模型学习之书生·浦语大模型1——全链路开源体系_第8张图片

  • 模型选型,不同维度上不同业务上的能力
  • 业务场景是否复杂,非常复杂的话直接开源模型可能不能满足需求
  • 是否算力足够,如果足够可以进行续训练,或者全参数微调,如果不够就只能微调
  • 业务场景是否需要与环境交互,是否需要调用外部API或者数据库,构建智能体
  • 模型评测
  • 模型部署

全链条开源开放体系

大模型学习之书生·浦语大模型1——全链路开源体系_第9张图片

  • 数据:书生万卷
  • 预训练:InternLM-train
  • 微调:XTuner
  • 部署:LMDeploy
  • 评测:OpenCompass
  • 应用:Lagent AgentLego

数据

大模型学习之书生·浦语大模型1——全链路开源体系_第10张图片
大模型学习之书生·浦语大模型1——全链路开源体系_第11张图片

  • OpenDataLab
  • 5400+数据集
  • 30+模态
  • 80TB数据大小

预训练

大模型学习之书生·浦语大模型1——全链路开源体系_第12张图片

微调

大模型学习之书生·浦语大模型1——全链路开源体系_第13张图片
大模型学习之书生·浦语大模型1——全链路开源体系_第14张图片

  • XTuner
  • 兼容不同算法
  • 兼容不同生态模型和数据集
  • 自动化优化加速

大模型学习之书生·浦语大模型1——全链路开源体系_第15张图片

评测

大模型学习之书生·浦语大模型1——全链路开源体系_第16张图片
大模型学习之书生·浦语大模型1——全链路开源体系_第17张图片

  • OpenCompass
  • 6大维度
  • 80+评测集
  • 40w+评测题目
    大模型学习之书生·浦语大模型1——全链路开源体系_第18张图片
    大模型学习之书生·浦语大模型1——全链路开源体系_第19张图片
  • 丰富的模型支持
  • 分布式高效评测
  • 便捷的数据集接口
  • 敏捷的迭代能力

大模型学习之书生·浦语大模型1——全链路开源体系_第20张图片

  • 丰富的模型支持

部署

大模型学习之书生·浦语大模型1——全链路开源体系_第21张图片
大模型学习之书生·浦语大模型1——全链路开源体系_第22张图片
大模型学习之书生·浦语大模型1——全链路开源体系_第23张图片

智能体

大模型学习之书生·浦语大模型1——全链路开源体系_第24张图片
大模型学习之书生·浦语大模型1——全链路开源体系_第25张图片
大模型学习之书生·浦语大模型1——全链路开源体系_第26张图片
大模型学习之书生·浦语大模型1——全链路开源体系_第27张图片

总结

大模型学习之书生·浦语大模型1——全链路开源体系_第28张图片

你可能感兴趣的:(#,书生·浦语大模型,学习,大模型,llm,浦语,gpt)