chatglm2-6b

Gradio：让你的AI算法可视化（二）

Gradio使用教程（二）这篇文章主要用于记录在部署ChatGLM2-6B时，遇到的Gradio常见用法。
Anya689·2023-11-20 20:00

GPT实战系列-P-Tuning本地化训练ChatGLM2等LLM模型，到底做了什么？(二)

(二)文章目录GPT实战系列-1.训练参数配置传递2.训练前准备3.训练参数配置4.训练对象，seq2seq训练5.执行训练6.训练模型评估依赖数据集的预处理P-Tuningv2将ChatGLM2-6B
Alex_StarSky·2023-11-19 08:04

在个人电脑上部署ChatGLM2-6B中文对话大模型

简介ChatGLM2-6B是清华大学开源的一款支持中英双语的对话语言模型。经过了1.4T中英标识符的预训练与人类偏好对齐训练，具有62亿参数的ChatGLM2-6B已经能生成相当符合人类偏好的回答。
潘高·2023-11-16 11:01

win10 Baichuan2-7B-Chat-4bits 上部署 百川2-7B-对话模型-4bits量化版

搞了两天才搞清楚跑通好难呢,个人电脑win10,6GB显存个人感觉生成速度很慢,数学能力不怎么行没有ChatGLM2-6B强,逻辑还行,要求:我的部署流程1.下载模型,下载所有文件然后放到新建的model
绀目澄清·2023-11-15 05:32

TPU-MLIR——实现Chatglm2-6B大模型移植部署

TPU-MLIR——实现Chatglm2-6B大模型移植部署本项目实现BM1684X部署语言大模型ChatGLM2-6B。
算能开发者社区·2023-11-13 15:07

Chatglm2-6b模型解析

模型参数Chatglm2-6b模型参数包括28个GLM层（由MLP和自注意力组成），注意力的头数为32，采用Multi-QueryAttention，隐藏层层数28。
hjyai94·2023-11-13 00:27

ChatGLM2-6B模型推理流程和模型架构详解

2一代GLM：旗帜鲜明的encoder-decoder架构2.1大模型架构2.2GLM特点2二代GLM：ChatGLM2-6B为例拆解2.1ChatGLM2-6B模型推理架构和流程2.2细节详解第一步：
原地漫游·2023-11-13 00:25

chatGLM2-6b问题， ValueError: expected sequence of length 87 at dim 1 (got 52)

遇到的问题：在训练微调完自己的数据集之后，运行evaluate.sh来测试评估，但是发现超过1000条数据之后，就会报错。经过查询和审阅代码，发现问题所在#Datacollatorlabel_pad_token_id=-100ifdata_args.ignore_pad_token_for_losselsetokenizer.pad_token_iddata_collator=DataCollat
深度菜鸡-达闻西·2023-11-11 23:18

【腾讯云 HAI域探秘】——基于 ChatGLM2-6B 创作个人专属的知识宇宙

首先要进入腾讯云高性能应用服务HAI，点击“申请资格”，高性能应用服务HAI新品内测登录成功，等待审核通过后，可前往体验HAI。下面是进入到了腾讯云，HAI服务页面。点击“新建”按钮来创建一个云服务器。进行服务器的配置选择。选择AI模型中的chatGLM26B，然后再输入一个实例名称，最后点击右下角的“立即购买”按钮就开始创建了。这时候的状态是创建中。等待几分钟后，状态为运行中就创建完成了。然后点
jw88925665·2023-11-11 16:29

【腾讯云 HAI域探秘】整合腾讯云HAI的ChatGLM模型到NUXT官网：实现智能IM功能

文章目录脑图分析im效果演示前言创建NUXT模板配置im相关内容客服图标客服对话框主体物料准备ChatGLM26B创建选择应用等待创建完成启动ChatGLM2-6B提供的API服务更新软件源列表指令解释查看
@兔然暴富@·2023-11-11 16:58

ChatGLM2-6B笔记

目录ChatGLM2-6B-笔记ChatGLM2-6B-报错Setting`pad_token_id`to`eos_token_id`:2foropen-endgeneration.ChatGLM2-6B-笔记ChatGLM2-6B-报错Settingpad_token_idtoeos_token_id:2foropen-endgeneration.model.chat(tokenizer,pro
高科技翼手龙·2023-11-11 06:58

【ChatGLM2-6B微调】6GB显存实现ChatGLM2-6B大模型微调！

（如下图所见，使用的是int4量化模型）这个可以参照我发布的博文《清华ChatGLM2-6B一键式部署，无需自行安装依赖环境！！》
yurous·2023-11-08 20:48

ChatGLM2-6B本地部署或云端部署配置过程

2、项目和模型下载从github上下载源代码gitclonehttps://github.com/THUDM/ChatGLM2-6B从HuggingFaceHub上下载模型gitclonehttps:/
WEIXW99·2023-11-08 20:48

ChatGLM2-6B，部署及微调

如何生成可参考右边的帮助文档文章目录前言一、模型部署1.下载代码2.下载模型3.建立conda的虚拟环境4.安装环境依赖5.修改模型配置6.执行web_demo.py二、微调前言代码地址：https://github.com/THUDM/ChatGLM2
rexxa·2023-11-08 20:17

ChatGLM2-6B模型尝鲜

一、前言ChatGLM2-6B是开源中英双语对话模型ChatGLM-6B的第二代版本，在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，ChatGLM2-6B引入了如下新特性：更强大的性能
WindSearcher·2023-11-08 03:36

LangChain+LLM实战---私有化部署RAG大模型，ChatGLM2-6B、Baichuan2-13B

图1：RAG的架构流程经过之前一段时间的捣腾，个人感觉我们的RAG应用已经来到了一个全新的层面，在语义理解（相关度）和准确度上都有了长足进步。但是问题来了。之前和菊厂的业务交流中，对方明确提出一些客户的私有化部署意愿是很明确，主要原因是数据安全。这段时间和一些销售人员、潜在客户交流的时候也收到了类似信息。而我们现在的整套技术栈中，唯一还不能私有化的是LLM。而这也是最终客户最担心的问题——他们的数
lichunericli·2023-11-06 21:03

10分钟部署清华ChatGLM2-6B，效果测试：不愧是中文榜单第一

本文详细整理了ChatGLM2-6B的部署步骤，同时也记录了安装过程中遇到的一些坑和心得，希望能帮助大家快速部署测试。另外：作者
AINLPer·2023-11-04 07:16

Langchain-chatchat（开源项目基于知识库的问答）

本文章基于Autodl服务器部署的开源项目（可以去租一个16G或24G的服务器）这里是用镜像源里chatglm2-6b的模型，需要12.5G的显存（如果想要更长的上下文可以下载charglm2-6b-32k
NLPnoproble·2023-11-04 00:52

【腾讯云 HAI域探秘】使用ChatGLM2-6B大模型生成自己的专属小说！

文章目录前言环境准备高性能应用服务HAI资格申请购买HAI高性能服务生成小说小说生成指令开始生成第一步：第二步：第三步：第四步：总结优点：缺点：前言以ChatGPT为首的大语言模型从在一年多的时间里面，已经让大家的生活发生了翻天覆地的变化，并且随着大模型技术的不断发展，其应用场景在人们的日常生活中越来越多样化和广泛。例如，在创意激发方面，大模型可以帮助我们提供很多创意，以便激发我们的新思路。在编写
大师兄6668·2023-11-03 23:43

大模型ChatGLM2-6B的本地化部署

大模型ChatGLM2-6B使用系列第一章大模型ChatGLM2-6B的本地化部署文章目录大模型ChatGLM2-6B使用系列前言一、ChatGLM2-6B是什么？
龙之吻0901·2023-11-01 20:16

ChatGLM2-6B下载与部署

0写在前面我们首先来看一下ChatGLM2-6B模型的requirements:protobuftransformers==4.30.2cpm_kernelstorch>=2.0gradiomdtex2htmlsentencepieceacceleratesse-starlettestreamlit
Eva215665·2023-11-01 20:10

ChatGLM3 模型学习与实战

文章目录一，说明二、前言1.背景2.系统说明3.相比于ChatGLM2-6B进行的性能升级4.模型列表三、环境搭建1.下载代码2构建环境3安装依赖4.大模型下载方式4.1安装lfs方便本地下载ChatGLM2
QuietNightThought·2023-10-31 23:07

ChatGLM2-6B部署

-知乎大模型参数高效微调技术原理综述（五）-LoRA、AdaLoRA、QLoRA-知乎GitHub-THUDM/ChatGLM2-6B:ChatGLM2-6B:AnOpenBilingualChatLLM
NUDT肖·2023-10-30 03:11

【AI】清华开源中英双语对话模型ChatGLM2-6B本地安装笔记

清华开源中英双语对话模型ChatGLM2-6B本地安装笔记首先，直接上资源，网盘中是ChatGLM2-6B源码及模型文件：链接：https://pan.baidu.com/s/1DciporsVT-eSiVIAeU-YmQ
TopFancy·2023-10-28 08:15

ChatGLM2-6B本地化部署

ChatGLM2-6B本地化部署一.背景介绍ChatGLM2-6B是开源中英双语对话模型ChatGLM-6B的第二代版本，在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，ChatGLM2
光法V3·2023-10-28 08:44

ChatGLM2 6B 本地部署

我们选用的是清华的ChatGLM2-6B的模型。发现在30708G显卡上，运行FP16的还是慢，完全不能接受，一句问好要30秒生成结果。最后还是选用INT4量化的算了。
EricPan2023·2023-10-28 08:10

ChatGLM2-6B! 我跑通啦！本地部署+微调（windows系统）

ChatGLM2-6B!我跑通啦！（windows系统）1.跑通了啥？2.咋跑通的？2.1ChatGLM2-6B本地部署2.2ChatGLM2-6B本地微调2.3小结3.打算做什么？1.跑通了啥？
cf_strange·2023-10-28 08:07

ChatGLM2-6B从本地加载模型报错-解决办法

报错OSError:/chatglm2-6bdoesnotappeartohaveafilenamedconfig.json.Checkout'https://huggingface.co/chatglm2
RuiyChen·2023-10-28 08:32

部署清华ChatGLM2-6B模型

文章目录一、下载并安装python环境二、下载ChatGLM2-6B的模型及代码（可以gitclone命令下载，也可以下载zip包）三、搭建步骤安装所需依赖切换GPU版本的torch四、启动代码，查看效果五
青衫酒馆·2023-10-28 06:47

以大语言模型ChatGLM2-6B为后台，打造个人语音交互机器人Demo

引言随着以ChatGLM2-6B为代表的开源大型语言模型的兴起，人工智能革命正席卷全球……ChatGLM2-6B这一代表性的开源大型模型，以其易于部署、适度的参数量和强大的中文处理能力，为个人用户提供了在个人显卡上部署大型模型的便捷途径
Isaac ZhangYi·2023-10-28 06:42

在Windows 10上部署ChatGLM2-6B：掌握信息时代的智能对话

在Windows10上部署ChatGLM2-6B：掌握信息时代的智能对话硬件环境ChatGLM2-6B的量化模型最低GPU配置说明准备工作ChatGLM2-6B安装部署ChatGLM2-6B运行模式解决问题总结随着当代科技的快速发展
Bennett_G·2023-10-28 06:09

在Win11上部署ChatGLM2-6B详细步骤--（上）准备工作

一：简单介绍ChatGLM-6B是清华大学知识工程和数据挖掘小组（KnowledgeEngineeringGroup(KEG)&DataMiningatTsinghuaUniversity）发布的一个开源的对话机器人。根据官方介绍，这是一个千亿参数规模的中英文语言模型。并且对中文做了优化。本次开源的版本是其60亿参数的小规模版本，约60亿参数，本地部署仅需要6GB显存（INT4量化级别）。其中Ch
BBM的开源HUB·2023-10-28 06:39

在Win11上部署ChatGLM2-6B详细步骤--（下）开始部署

接上一章《在Win11上部署ChatGLM2-6B详细步骤--（上）准备工作》这一节我们开始进行ChatGLM2-6B的部署三：创建虚拟环境1、找开cmd执行condacreate-nChatGLM2-
BBM的开源HUB·2023-10-28 06:34

ChatGLM2-6b小白部署教程(windows系统，16G内存即可，对显卡无要求，CPU运行)

一.前言近期清华KEG和智谱AI公司一起发布了中英双语对话模型ChatGLM2-6B(小尺寸LLM)，开源在https://github.com/THUDM/ChatGLM2-6B，可单机部署推理和fine-tune
Life_Is_Good占用·2023-10-28 03:06

中文能力赶超GPT4模型ChatGLM2-6B最新发布，教你使用 CPU 本地安装部署运行实现

ChatGLM2-6B是一个清华开源的、支持中英双语的对话语言模型，基于GLM架构，具有62亿参数。
恒TBOSH·2023-10-28 03:35

【chatglm2】使用Python在CPU环境中运行 chatglm.cpp 可以实现本地使用CPU运行chatglm2模型，速度也特别的快可以本地部署，把现有项目进行AI的改造。

ChatGLM2-6B是开源中英双语对话模型ChatGLM-6B的第二代版本，在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，ChatGLM2-6B引入了如
fly-iot·2023-10-28 03:31

ChatGLM系列二：ChatGLM2的介绍及代码实践

一、介绍2023年06月25日，清华大学开源了ChatGLM2-6B模型，是ChatGLM模型的升级版本。
永胜永胜·2023-10-26 20:51

【AI实战】最强开源 6B 中文大语言模型ChatGLM2-6B，从零开始搭建

【AI实战】最强开源6B中英文大语言模型ChatGLM2-6B，从零开始搭建ChatGLM2-6B简介ChatGLM2-6B评测结果ChatGLM2-6B搭建参考ChatGLM2-6B简介ChatGLM2
szZack·2023-10-26 10:24

AI大模型自动生成PowerPoint（PPT）

1，使用现有开源大模型工具，生成markdown语言文件（我这里使用chatGLM2-6B）eg，请用Markdown语言生成一个大纲，主题是：给小白用户的第一课，如何快速的学好Pythonmarkdown
xxyAI·2023-10-25 19:39

【ChatGLM2-6B】在只有CPU的Linux服务器上进行部署

简介ChatGLM2-6B是清华大学开源的一款支持中英双语的对话语言模型。经过了1.4T中英标识符的预训练与人类偏好对齐训练，具有62亿参数的ChatGLM2-6B已经能生成相当符合人类偏好的回答。
太空眼睛·2023-10-21 18:09

【ChatGLM2-6B】nginx转发配置

背景好不容易把ChatGLM2-6B大语言模型部署好了，使用streamlit方式启动起来了，终于可以愉快的玩耍了，然后想着申请一个域名，使用HTTPS协议访问，但实践过程中，发现这个大语言模型的nginx
太空眼睛·2023-10-21 18:05

大模型的实践应用1-利用ChatGLM2大模型研发智能自助用药问答系统，远程监控患者的用药情况

本文将介绍如何利用大模型（例如ChatGLM2-6b,文心一言,通义千问，讯飞星火大模型）构建一个智能自助用药问答系统与智能管家。该系统旨在提供更有效、安全和便捷的个性化药物管理服务，以提
微学AI·2023-10-21 04:59

一键部署开源AI(人工智能对话模型)(支持显卡或CPU加内存运行)--ChatGLM2-6B

一、基本介绍：ChatGLM2-6B是开源中英双语对话模型ChatGLM-6B的第二代版本，在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，ChatGLM2-6B引入了如下新特性：更强大的性能
深藏bIue·2023-10-21 02:34

微调chatGLM2-6B大模型

今天给大家带来chatGLM2-6B的微调，众所周知，微调现在已经是大模型必不可少的部分，本文微调部分主要包括LoRA：仅微调低秩适应器。P-TuningV2：仅微调前缀编码器。
羊驼锋·2023-10-14 04:10

chatGLM2-6B模型LoRA微调数据集实现大模型的分类任务

【TOC】1.chatglm介绍ChatGLM模型是由清华大学开源的、支持中英双语问答的对话语言模型，并针对中文进行了优化。该模型基于GeneralLanguageModel（GLM）架构，具有62亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署。ChatGLM具备以下特点：充分的中英双语预训练：ChatGLM在1:1比例的中英语料上训练了1T的token量，兼具双语能力。优化的模型
三更两点·2023-10-14 04:03

ChatGLM2-6B微调实践-P-Tuning方案

ChatGLM2-6B微调实践环境准备安装部署1、安装Anaconda2、安装CUDA3、安装PyTorch4、安装ChatGLM2-6B微调实践1、准备数据集2、安装python依赖3、微调并训练新模型
我在北国不背锅·2023-10-10 19:36

ChatGLM2-6B 模型本地部署及基于 P-Tuning v2 的微调

1.说明ChatGLM2-6B是开源中英双语对话模型ChatGLM-6B的第二代版本，在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，还引入了更强大的性能、更强大的性能、更高效的推理、更高效的推理四大特性
天于·2023-10-09 04:06

Langchain-Chatchat项目：1.1-ChatGLM2项目整体介绍

  ChatGLM2-6B是开源中英双语对话模型ChatGLM-6B的第2代版本，引入新的特性包括更长的上下文(基于FlashAttention技术，将基座模型的上下文长度由ChatGLM-6B的2K扩展到了
NLP工程化·2023-10-07 18:42

ChatGLM2-6B的通透解析：从FlashAttention、Multi-Query Attention到GLM2的微调、源码解读

目录前言第一部分相比第一代的改进点：FlashAttention与Multi-QueryAttention第二部分FlashAttention：减少内存访问提升计算速度——更长上下文的关键2.1FlashAttention相关的背景知识2.1.1Transformer计算复杂度：编辑——Self-Attention层与MLP层2.1.1.1Self-Attention层的计算复杂度：2.1.1.2
v_JULY_v·2023-10-07 03:04

清华大学开源ChatGLM2-6B开源模型在anaconda下的虚拟环境详细部署及安装教程

感谢清华大学开源的ChatGLM2-6B软件，让我们国人有属于自己的AI聊天机器人，期待新版本的推出。
best_mimo·2023-10-05 17:28
上一页 1 2 3 4 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他