大模型学习之书生·浦语大模型2——趣味Demo

Demo效果

目录

大模型及InternLM模型介绍

• InterLM是开源的轻量级训练框架
  • InterLM-7B
  • InterLM-20B

• Lagent是智能体框架
• 浦语·灵笔是视觉·语言大模型

InterLM-Chat-7B智能对话Demo

• InterLM-7B
  • 70亿参数
  • 数万亿token进行训练
  • 支持8K token

Lagent智能体工具调用Demo

浦语·灵笔图文创作理解Demo

• 图文理解
• 创作能力
• 海量多模态数据
• 对话能力

通用环境配置

• pip镜像源
• conda镜像源

• 模型下载
  • huggface
  • openXlab
  • modelscope

---

实践

智能对话Demo

1 创建开发机

2 进入开发机并创建环境及安装依赖

3 模型下载

4 代码准备

• 修改web_demo.py模型文件路径

5 终端运行

• 新建cli_demo.py
• bash切换到虚拟环境后再运行

6 web demo运行

• 先配置本地端口
  

• 将rsa-key填到开发机配置那块
  

• 然后再在终端运行
  
  
  
  

Lagent智能体工具调用Demo

1 环境安装

与上一个demo类似

2 模型下载

与之前的类似

3 Lagent安装

使用源码安装

4 修改代码

• 整个替换
• 主要是修改模型文件

5 demo运行

• 选择internlm后等待加载模型，并选择相应的插件
• 然后开始提问
  
  
  
  

浦语·灵笔图文理解创作Demo

机器GPU需要升级大内存

1 环境安装

• 机器需要40g，可以升级配置，或者新建开发机

2 创建虚拟环境

• pip安装依赖

pip install transformers==4.33.1 timm==0.4.12 sentencepiece==0.1.99 gradio==3.44.4 markdown2==2.4.10 xlsxwriter==3.1.2 einops accelerate

3 模型下载

• 多模态模型 InterLM-XComposer

4 代码准备

5 终端运行Demo

• 需要根据自己实际情况将GPU参数进行修改
• 加载vit模型比较耗时
  
  

若出现乱码，请进行更新代码

demo.launch(share=True, server_name="0.0.0.0", server_port=args.port, root_path=f'/proxy/{args.port}/')

• 自动写文章

• 自动配图并插图
  
  
  

• 可以替换图片或者增加图片

• 可以将文章进行保存，markdown的格式

• 最上面是一些参数配置

多模态对话，问图片里的内容相关。

书名并不对，存在幻觉问题。

参考

• https://github.com/InternLM/tutorial/blob/main/helloworld/hello_world.md