chatGLM 第9页

ChatGLM3 模型学习与实战

文章目录一，说明二、前言1.背景2.系统说明3.相比于ChatGLM2-6B进行的性能升级4.模型列表三、环境搭建1.下载代码2构建环境3安装依赖4.大模型下载方式4.1安装lfs方便本地下载ChatGLM2

QuietNightThought·2023-10-31 23:07

在Win11上部署ChatGLM3详细步骤

023年10月27日，智谱AI于2023中国计算机大会（CNCC）上，推出了全自研的第三代基座大模型ChatGLM3及相关系列产品，这也是智谱AI继推出千亿基座的对话模型ChatGLM和ChatGLM2

BBM的开源HUB·2023-10-31 16:00

ChatGLM3

文章目录关于ChatGLM3新特性模型下载环境搭建模型推理网页版模型推理1、基于Gradio2、基于StreamlitAPI部署模型量化CPU部署Mac部署多卡部署关于ChatGLM3ChatGLM3是智谱

伊织code·2023-10-31 16:23

GPT实战系列-如何用自己数据微调ChatGLM2模型训练

GPT实战系列-如何用自己数据微调ChatGLM2模型训练目录GPT实战系列-如何用自己数据微调ChatGLM2模型训练1、训练数据广告文案生成模型训练和测试数据组织：2、训练脚本3、执行训练调整运行4

Alex_StarSky·2023-10-31 07:31

从零开始的ChatGLM教程（一）

ChatGPT的爆火出圈点燃了人们对人工智能的兴趣，前段时间清华开源了自己的模型ChatGLM-6B，得益于量化技术使其能够运行在家用消费级显卡上，极大地降低了门槛，使本地部署成为了可能。

手把手教你学AI·2023-10-31 03:28

ubuntu18.4（后改为20.4）部署chatglm2并进行基于 P-Tuning v2 的微调

下载驱动NVIDIA显卡驱动官方下载地址下载好对应驱动并放在某个目录下，在Linux系统中安装NVIDIA显卡驱动前,建议先卸载Linux系统自带的显卡驱动nouveau。禁用nouveau首先，编辑黑名单配置。vim/etc/modprobe.d/blacklist.conf在文件的最后添加下面两行。blacklistnouveauoptionsnouveaumodeset=0然后，输入下面的命

小草cys·2023-10-31 02:10

【自然语言处理】【长文本处理】RMT：能处理长度超过一百万token的Transformer

BQW_·2023-10-30 06:15

ChatGLM2-6B部署

如何看待chatglm2？真实效果怎么样？

NUDT肖·2023-10-30 03:11

LLM-微调-方案（一）：Lora【案例：chatGLM-Lora】【在chatGLM原有结构中间插入新的网络层】【微调时冻结原有结构参数，只微调新加入的网络层参数】

Lora主要在模型中注入可训练模块，大模型在预训练完收敛之后模型包含许多进行矩阵乘法的稠密层，这些层通常是满秩的，在微调过程中其实改变量是比较小的，在矩阵乘法中表现为低秩的改变，注入可训练层的目的是想下游微调的低秩改变由可训练层来学习，冻结模型其他部分，大大减少模型训练参数。这种方法有点类似于矩阵分解，可训练层维度和预训练模型层维度一致为d，先将维度d通过全连接层降维至r，再从r通过全连接层映射回

u013250861·2023-10-29 11:45

ChatGLM系列七：LangChain+ChatGLM-6B

永胜永胜·2023-10-29 11:10

ChatGLM系列八：微调医疗问答系统

一、ChatGLM2-6BChatGLM2-6B是ChatGLM-6B的第二代版本，在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，同时引入了许多新特性，如：更强大的性能、更长的上下文、

永胜永胜·2023-10-29 11:10

ChatGLM系列三：Freeze微调

Freeze仅训练模型后五层的全连接层参数训练、评估也是基于ChatGLM-Efficient-Tuning框架下载代码gitclonehttps://github.com/l

永胜永胜·2023-10-29 11:40

ChatGLM系列六：基于知识库的问答

1、安装milvus下载milvus-standalone-docker-compose.yml并保存为docker-compose.ymlwgethttps://github.com/milvus-io/milvus/releases/download/v2.3.2/milvus-standalone-docker-compose.yml-Odocker-compose.yml运行milvuss

永胜永胜·2023-10-29 11:40

ChatGLM系列五：Lora微调

目前主流对大模型进行微调方法有三种：Freeze方法、P-Tuning方法和Lora方法LoRA:在大型语言模型上对指定参数（权重矩阵）并行增加额外的低秩矩阵，并在模型训练过程中，仅训练额外增加的并行低秩矩阵的参数,冻结其他参数。当“秩值”远小于原始参数维度时，新增的低秩矩阵参数量也就很小。在下游任务tuning时，仅须训练很小的参数，但能获取较好的表现结果。LoRA:在大型语言模型上对指定参数（

永胜永胜·2023-10-29 11:34

langchain-chatglm问题总结

在运行langchain-chatglm的时候会遇到一些问题，现在总结一下，会持续更新，希望能帮到大家。

王小葱鸭·2023-10-29 09:17

主流大语言模型的技术细节

主流大语言模型的技术原理细节从预训练到微调https://mp.weixin.qq.com/s/P1enjLqH-UWNy7uaIviWRA比较LLaMA、ChatGLM、Falcon等大语言模型的细节

Kun Li·2023-10-28 09:53

【AI】清华开源中英双语对话模型ChatGLM2-6B本地安装笔记

清华开源中英双语对话模型ChatGLM2-6B本地安装笔记首先，直接上资源，网盘中是ChatGLM2-6B源码及模型文件：链接：https://pan.baidu.com/s/1DciporsVT-eSiVIAeU-YmQ

TopFancy·2023-10-28 08:15

基于langchain-chatglm本地知识库得部署

项目的技术组成LLM模型大型语言模型（LLM，是largelanguagemodel）是一种人工智能模型，旨在理解和生成人类语言。它们通过在大量文本数据上进行训练，能够执行多种任务，包括文本总结、翻译、情感分析等。LLM的显著特点是其规模庞大，包含数十亿个参数，这使得它们能够学习语言数据中的复杂模式。这些模型通常基于深度学习架构，如转换器，这有助于它们在各种自然语言处理任务上取得令人印象深刻的表现

武安620·2023-10-28 08:44

ChatGLM2-6B本地化部署

ChatGLM2-6B本地化部署一.背景介绍ChatGLM2-6B是开源中英双语对话模型ChatGLM-6B的第二代版本，在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，ChatGLM2

光法V3·2023-10-28 08:44

ChatGLM2 6B 本地部署

我们选用的是清华的ChatGLM2-6B的模型。发现在30708G显卡上，运行FP16的还是慢，完全不能接受，一句问好要30秒生成结果。最后还是选用INT4量化的算了。

EricPan2023·2023-10-28 08:10

ChatGLM2部署实战体验

然而，这些模型大都对中文的支持能力相当有限，国内清华大学针对这个问题，扩充中文token，采用自建的中文语料库进行训练，生成ChatGLM2模型，较上一代ChatGLM1性能有了显著提升，在答复内容的可靠性和推理速度

Spielberg_1·2023-10-28 08:08

ChatGLM2-6B! 我跑通啦！本地部署+微调（windows系统）

ChatGLM2-6B!我跑通啦！（windows系统）1.跑通了啥？2.咋跑通的？2.1ChatGLM2-6B本地部署2.2ChatGLM2-6B本地微调2.3小结3.打算做什么？1.跑通了啥？

cf_strange·2023-10-28 08:07

ChatGLM2-6B从本地加载模型报错-解决办法

报错OSError:/chatglm2-6bdoesnotappeartohaveafilenamedconfig.json.Checkout'https://huggingface.co/chatglm2

RuiyChen·2023-10-28 08:32

ChatGLM3 本地部署的解决方案

本文主要介绍了ChatGLM3本地部署的解决方案，希望对学习大语言模型的同学们有所帮助

herosunly·2023-10-28 08:30

chatglm-6b，搭建自己的AI模型

目录环境必备软件及安装拉取模型架构使用pip安装依赖部署（GPU）从云端加载模型从本地加载模型部署（CPU）环境centos7.6CPU32GSSD>=40Gpython3.9pip23.1必备软件及安装 yuminstall -y libffi-develpython-developenssl-devel yuminstallpsutil yuminstall gcc python3-devel

小生浩浩·2023-10-28 06:49

【本地逐步部署教程】清华ChatGLM-6B本地部署，适合小白和具备一定基础的大模型尝试者

（一）安装Anaconda1、通过清华镜像源下载：https://mirrors.tuna.tsinghua.edu.cn/#，选择了Anaconda2版本2、setup位置在C:\Users\comac\Anaconda23、配置环境变量：①C:\Users\comac\Anaconda2\Scripts、②C:\Users\comac\Anaconda2cmd输入指令验证参考链接：https:

yurous·2023-10-28 06:18

部署清华ChatGLM2-6B模型

文章目录一、下载并安装python环境二、下载ChatGLM2-6B的模型及代码（可以gitclone命令下载，也可以下载zip包）三、搭建步骤安装所需依赖切换GPU版本的torch四、启动代码，查看效果五

青衫酒馆·2023-10-28 06:47

ChatGLM-6B的安装和使用最全面细节讲解

ChatGLM-6B是一个基于GeneralLanguageModel(GLM)架构的开源对话语言模型，支持中英双语。

驹意心猿·2023-10-28 06:44

ModaHub魔搭社区：ChatGLM-6B 的 Windows 部署教程

目录1、前置准备2、wsl安装指定的Linux发行版Debian3、迁移目录4、设置默认环境5、配置环境6、启动项目7、代理Windows版本：win10通过wsl部署特别注意对于已在使用的wsl用户，请注意自己数据安全，特别是做好备份对于已在使用的wsl用户，请注意自己数据安全，特别是做好

LCHub低代码社区·2023-10-28 06:44

以大语言模型ChatGLM2-6B为后台，打造个人语音交互机器人Demo

引言随着以ChatGLM2-6B为代表的开源大型语言模型的兴起，人工智能革命正席卷全球……ChatGLM2-6B这一代表性的开源大型模型，以其易于部署、适度的参数量和强大的中文处理能力，为个人用户提供了在个人显卡上部署大型模型的便捷途径

Isaac ZhangYi·2023-10-28 06:42

在Windows 10上部署ChatGLM2-6B：掌握信息时代的智能对话

在Windows10上部署ChatGLM2-6B：掌握信息时代的智能对话硬件环境ChatGLM2-6B的量化模型最低GPU配置说明准备工作ChatGLM2-6B安装部署ChatGLM2-6B运行模式解决问题总结随着当代科技的快速发展

Bennett_G·2023-10-28 06:09

在Win11上部署ChatGLM2-6B详细步骤--（上）准备工作

一：简单介绍ChatGLM-6B是清华大学知识工程和数据挖掘小组（KnowledgeEngineeringGroup(KEG)&DataMiningatTsinghuaUniversity）发布的一个开源的对话机器人

BBM的开源HUB·2023-10-28 06:39

在Win11上部署ChatGLM2-6B详细步骤--（下）开始部署

接上一章《在Win11上部署ChatGLM2-6B详细步骤--（上）准备工作》这一节我们开始进行ChatGLM2-6B的部署三：创建虚拟环境1、找开cmd执行condacreate-nChatGLM2-

BBM的开源HUB·2023-10-28 06:34

ChatGLM2-6b小白部署教程(windows系统，16G内存即可，对显卡无要求，CPU运行)

一.前言近期清华KEG和智谱AI公司一起发布了中英双语对话模型ChatGLM2-6B(小尺寸LLM)，开源在https://github.com/THUDM/ChatGLM2-6B，可单机部署推理和fine-tune

Life_Is_Good占用·2023-10-28 03:06

中文能力赶超GPT4模型ChatGLM2-6B最新发布，教你使用 CPU 本地安装部署运行实现

ChatGLM2-6B是一个清华开源的、支持中英双语的对话语言模型，基于GLM架构，具有62亿参数。

恒TBOSH·2023-10-28 03:35

【chatglm2】使用Python在CPU环境中运行 chatglm.cpp 可以实现本地使用CPU运行chatglm2模型，速度也特别的快可以本地部署，把现有项目进行AI的改造。

1，项目地址https://github.com/li-plus/chatglm.cpp.git这个项目和llama.cpp项目类似，使用C++去运行模型的。项目使用了ggml这个核心模块，去运行的。

fly-iot·2023-10-28 03:31

element-ui vue2 iframe 嵌入外链新解

效果如图实现原理在路由中通过props传值{path:'/iframe',component:Layout,meta:{title:'小助手',icon:'example'},children:[{path:'chatglm

临水逸·2023-10-27 22:37

智谱AI推出第三代基座大模型

2023年10月27日，智谱AI于2023中国计算机大会（CNCC）上，推出了全自研的第三代基座大模型ChatGLM3及相关系列产品。汇总如下。

CSDN云计算·2023-10-27 20:18

2M大小的PDF文档上传到LangChain-ChatGLM知识图谱中,大致需要的时间

对于将2M大小的PDF文档上传到LangChain-ChatGLM知识图谱中,大致需要的时间如下:PDF到文本的提取转换:若PDF内容主要为文本,此步骤约需要1-2分钟。

小草cys·2023-10-27 12:41

ChatGLM系列一：ChatGLM的介绍及代码实践

下面是官方对ChatGLM的介绍：ChatGLM-6B，结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4量化级别下最低只需6GB显存）。

永胜永胜·2023-10-26 21:57

ChatGLM系列二：ChatGLM2的介绍及代码实践

一、介绍2023年06月25日，清华大学开源了ChatGLM2-6B模型，是ChatGLM模型的升级版本。

永胜永胜·2023-10-26 20:51

大语言模型系列

-知乎GitHub-jeinlee1991/chinese-llm-benchmark:中文大模型能力评测榜单：覆盖百度文心一言、chatgpt、阿里通义千问、讯飞星火、belle/chatglm6b等开源大模型

贝猫说python·2023-10-26 16:08

【AI实战】最强开源 6B 中文大语言模型ChatGLM2-6B，从零开始搭建

【AI实战】最强开源6B中英文大语言模型ChatGLM2-6B，从零开始搭建ChatGLM2-6B简介ChatGLM2-6B评测结果ChatGLM2-6B搭建参考ChatGLM2-6B简介ChatGLM2

szZack·2023-10-26 10:24

《从零开始大模型开发与微调：基于PyTorch与ChatGLM》简介

本书使用PyTorch2.0作为学习大模型的基本框架，以ChatGLM为例详细讲解大模型的基本理论、算法、程序实现、应用实战以及微调技术，为读者揭示大模型开发技术。

新知图书·2023-10-26 10:38

一款集成了主流大语言模型以及绘图模型的 APP，采用 Flutter 开发，代码完全开源！！

大语言模型支持Anthropic的Claudeinstant，Claude2.0大语言模型支持国产模型：通义千问，文心一言，讯飞星火，商汤日日新，腾讯混元，百川53B，360智脑支持开源大模型：Llama2，ChatGLM2

向彪-blockchain·2023-10-26 04:54

Compile ChatGLM in docker with Nvidia graphic card

Atfirstinstalldockerwithnvidiagraphiccard.1.createdockerwithnvidiagraphiccard$sudodockerrun-it--gpusall--namechatglm-1rocker/cuda/bin/bashIfdockerhascreated,startandexecdocker:$sudodockerstartchatglm-

武爱敏·2023-10-26 00:42

AI大模型自动生成PowerPoint（PPT）

1，使用现有开源大模型工具，生成markdown语言文件（我这里使用chatGLM2-6B）eg，请用Markdown语言生成一个大纲，主题是：给小白用户的第一课，如何快速的学好Pythonmarkdown

xxyAI·2023-10-25 19:39

大模型的实践应用4-ChatGLM-6b大模型的结构与核心代码解读，最全的ChatGLM模型架构介绍与源码解读

大家好，我是微学AI，今天给大家介绍一下大模型的实践应用4-ChatGLM大模型的结构与核心代码解读，最全的ChatGLM模型架构介绍与源码解读，本文介绍将ChatGLM-6B的模型结构，与设计原理。

微学AI·2023-10-25 15:50

langchain 加载各种格式文件读取方法

python.langchain.com/docs/modules/data_connection/document_loaders/https://github.com/thomas-yanxin/LangChain-ChatGLM-Webui

loong_XL·2023-10-25 08:44

【大模型系列 01】ChatGLM-6B 昇腾迁移

一、ChatGLM-6B说明ChatGLM-6B是62亿参数的语言模型，同等参数下中文对话能力极好。

hiascend·2023-10-25 07:12

推荐频道

chatGLM