【LLMs】ChatGLM & 小羊驼Vicuna & Baichuan-7B+量化微调

文章目录

  • 前言
  • 一、ChatGLM-6B介绍
  • 二、使用步骤
    • 2.1 机器配置
    • 2.2 安装git-lfs
  • 三、安装ChatGLM-6B
    • 3.1 下载ChatGLM-6B源
    • 3.2 安装ChatGLM依赖
    • 3.3 下载ChatGLM-6B模型文件
    • 3.4 模型下载完成
    • 3.5 ChatGLM-6B使用方式
    • 3.6 加载模型启动cli测试
  • 四、安装Vicuna-7B
    • 4.1 下载Vicuna Weight
    • 4.2 下载LLaMA Weight
    • 4.3 模型权重合并
    • 4.4 cli模型推理
  • 五、FastChat介绍

你可能感兴趣的:(机器学习,深度学习,llm,语言模型,Baichuan)