chatglm

解锁ChatGLM-6B的潜力：优化大语言模型训练，突破任务困难与答案解析难题

解锁ChatGLM-6B的潜力：优化大语言模型训练，突破任务困难与答案解析难题LLM（LargeLanguageModel）通常拥有大量的先验知识，使得其在许多自然语言处理任务上都有着不错的性能。
·2023-08-23 18:55

解锁ChatGLM-6B的潜力：优化大语言模型训练，突破任务困难与答案解析难题

解锁ChatGLM-6B的潜力：优化大语言模型训练，突破任务困难与答案解析难题LLM（LargeLanguageModel）通常拥有大量的先验知识，使得其在许多自然语言处理任务上都有着不错的性能。
·2023-08-23 18:53

带你学习部署最新版清华第二版chatglm：ChatGLM2-6B+使用 CPU 本地安装部署运行 ChatGLM2-6B

1全网最新版ChatGLM-6B开源模型环境详细部署及安装——如何在低显存单显卡上面安装私有ChatGPTGPT-4大语言模型：https://blog.csdn.net/qq_31136513/article
stay_foolish12·2023-08-23 05:05

【私有GPT】CHATGLM-6B部署教程

【私有GPT】CHATGLM-6B部署教程CHATGLM-6B是什么？
荷逸同学·2023-08-23 05:34

大模型技术实践（一）｜ChatGLM2-6B基于UCloud UK8S的创新应用

本文将重点分享ChatGLM2-6B基于UCloud云平台的UK8S实践应用。
AI 研习所·2023-08-21 18:38

langchain-模型

langchain事例1,LLM交互2,聊天模型交互一、langchain封装的模型分为两类大语言模型（LLM）聊天模型（ChatModels）Langchain支持众多模型供应商，包括OpenAI、ChatGLM
Aring88·2023-08-21 18:35

从ChatGLM2-6B来看大模型扩展上下文和加速推理相关技术

ChatGLM2-6B是开源中英双语对话模型ChatGLM-6B的第二代版本，在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，ChatGLM2-6B引入了如下新特性：更强大的性能：基于ChatGLM
wshzd·2023-08-21 09:08

Transformers架构系列---transformers库的使用

Transformers网络结构自2017年提出之后仅仅一两年的时间内就一直在NLP领域及其子任务霸榜，目前的LLM大语言模型（ChatGPT、ChatGLM等）都是基于Tr
城南皮卡丘·2023-08-20 05:13

Gradio部署应用到服务器不能正常访问

用Gradio部署一个基于ChatGLM-6B的应用，发布到团队的服务器上（局域网，公网不能访问），我将gradio应用发布到服务器的9001端口importgradioasgrwithgr.Blocks
城南皮卡丘·2023-08-20 05:42

大模型之Bloom&LLAMA----SFT(模型微调)

这些模型相较于chatglm来说，更加具有发展前景，因为其是完全可商用，并可以不断迭代更新的。
敢敢のwings·2023-08-20 02:12

清华ChatGLM-6B本地GPU推理部署

目录1简介2硬件需求3Demo和模型下载3.1安装GitLFS3.2Demo下载3.3模型下载3.4文件目录4环境安装5运行5.1FP165.2量化6演示1简介ChatGLM-6B是一个开源的、支持中英双语的对话语言模型
木子CS·2023-08-19 16:31

模型训练系列：1、用清华ChatGLM-6B模型部署自己的本地AI助手

最近清华大学开源的ChatGLM-6B语言模型在国际上大出风头，仅仅62亿参数的小模型，能力却很强。很期待他们后续1300亿参数模型130B的发布。为什么一些能力较弱的小模型，这么受追捧？
六吨代码·2023-08-19 16:01

ChatGLM-6B 本地安装、部署和运行的常见问题解答及优化建议

分享一点自己本地安装部署运行ChatGLM-6B的过程中的心得和二次优化开发吧。
恒TBOSH·2023-08-19 16:01

ubuntu 部署 ChatGLM-6B 完整流程 模型量化 Nvidia

ubuntu部署ChatGLM-6B完整流程模型量化Nvidia初环境与设备环境准备克隆模型代码部署ChatGLM-6B完整代码ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，基于GeneralLanguageModel
盗理者·2023-08-19 16:30

ChatGLM2-6B安装部署（详尽版）

1、环境部署安装Anaconda3安装GIT安装GUDA11.8安装NVIDIA图形化驱动522.25版本，如果电脑本身是更高版本则不用更新1.1、检查CUDA运行cmd或者Anaconda，运行以下命令nvidia-smiCUDAVersion是版本信息，DricerVersion是图形化驱动版本安装python-3.8安装Pytorch，用Anaconda，运行以下命令pip3installt
被困者·2023-08-18 19:11

VisualGLM-6B：一个基于ChatGLM-6B模型的图像理解模型

介绍VisualGLM-6B是一个开源的，支持图像、中文和英文的多模态对话语言模型，语言模型基于ChatGLM-6B，具有62亿参数；图像部分通过训练BLIP2-Qformer构建起视觉模型与语言模型的桥梁
A雄·2023-08-18 15:16

中英双语对话大语言模型：ChatGLM-6B

介绍ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，基于GeneralLanguageModel(GLM)架构，具有62亿参数。
A雄·2023-08-18 15:44

【大模型】长度 32K 上下文的 ChatGLM2-6B-32K 来了，开源可商用

【大模型】长度32K上下文的ChatGLM2-6B-32K来了，开源可商用简介ChatGLM2-6B-32KChatGLM2-6B-32K新特性环境配置环境搭建安装依赖代码及模型权重拉取拉取ChatGLM2
szZack·2023-08-17 19:51

chatglm-6b_ptuning error:bash .sh，出现ModuleNotFoundError

文章目录模型效果演示问题描述分析一分析二ChatGLM-6B是一个由清华大学和智谱AI联合研发的开源对话语言模型。它是一个支持中英双语问答的对话系统，并在中文方面进行了特别的优化。
芝士高斯·2023-08-17 15:28

ChatGLM

CUDAToolkit11.7Update1Downloads|NVIDIADeveloperPyTorch2.0:Ournextgenerationreleasethatisfaster,morePythonicandDynamicasever|PyTorchTHUDM·GitHubAssertionError:TorchnotcompiledwithCUDAenabled·Issue#3066
临水逸·2023-08-17 04:43

chatglm2-6b模型在9n-triton中部署并集成至langchain实践 | 京东云技术团队

一.前言近期，ChatGLM-6B的第二代版本ChatGLM2-6B已经正式发布，引入了如下新特性：①.基座模型升级，性能更强大，在中文C-Eval榜单中，以51.7分位列第6；②.支持8K-32k的上下文
京东云技术团队·2023-08-16 20:29

Dify 新增多模型支持，探索不同模型的无限可能

本次更新，让大家可以轻易使用上国内外知名的开源模型如：Llama2、ChatGLM、百川Baichua
·2023-08-16 19:44

chatglm2-6b模型在9n-triton中部署并集成至langchain实践 | 京东云技术团队

一.前言近期，ChatGLM-6B的第二代版本ChatGLM2-6B已经正式发布，引入了如下新特性：①.基座模型升级，性能更强大，在中文C-Eval榜单中，以51.7分位列第6；②.支持8K-32k的上下文
·2023-08-16 11:50

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

一、ChatGLM-6B模型介绍https://github.com/THUDM/ChatGLM-6B[Star27.6k]一个清华开源的、支持中英双语的对话语言模型，基于GLM架构，62亿参数。可
·2023-08-16 00:37

ChatGLM2-6B本地化部署

ChatGLM2-6B本地化部署一.背景介绍ChatGLM2-6B是开源中英双语对话模型ChatGLM-6B的第二代版本，在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，ChatGLM2
·2023-08-15 22:49

开启想象翅膀：轻松实现文本生成模型的创作应用，支持LLaMA、ChatGLM、UDA、GPT2等模型，开箱即用

开启想象翅膀：轻松实现文本生成模型的创作应用，支持LLaMA、ChatGLM、UDA、GPT2等模型，开箱即用1.介绍TextGen实现了多种文本生成模型，包括：LLaMA、ChatGLM、UDA、GPT2
·2023-08-15 18:03

揭秘国产chatGPT大语言模型能力PK之001：ChatGLM1-2

一、问题清单:1.我女朋友的老公应该叫我什么？2.为什么我的女朋友还有老公？3.你觉得我应该怎么做？4.我想要获得爱情，我女朋友也爱我，我女朋友也爱她的老公，但他的老公恨我，我该怎么办？5.我就是想不清楚才来问你的呀，我该怎么办呢？6.一想到这么复杂的问题，我都要郁闷了，可是我真的很想要这个爱情啊，我女朋友也是真的爱我的。但她也爱她的老公，我也不知道为什么她可以同时爱两个人。我要怎么办呢？7.我能
数据饕餮·2023-08-15 05:31

oobabooga-text-generation-webui可能是最好的语言模型启动器（包含手把手安装教程）

oobabooga-text-generation-webui是一个用于运行类似Chatglm、RWKV-Raven、Vicuna、MOSS、LLaMA、llama.cpp、GPT-J、Pythia、OPT
javastart·2023-08-14 12:03

使用代码下载开源的大模型文件示例以及中文微调llama资源汇总：

一、下载示例fromhuggingface_hubimportsnapshot_downloadrepo_id="THUDM/chatglm2-6b"local_dir='.
samoyan·2023-08-14 11:12

LangChain-ChatGLM在WIndows10下的部署

LangChain-ChatGLM在WIndows10下的部署参考资料1、LangChain+ChatGLM2-6B搭建个人专属知识库中的LangChain+ChatGLM2-6B构建知识库这一节：基本的逻辑和步骤是对的
豪杰笑开怀·2023-08-14 09:05

大语言模型控制生成的过程Trick：自定义LogitsProcessor实践

本文以chatglm2-6B为例，通过自定义LogitsProcessor，实践大模型在生成过程中控制一些词语的生成。LogitsProc
余俊晖·2023-08-14 05:55

学术论文GPT源码解读：从chatpaper、chatwithpaper到gpt_academic

前言之前7月中旬，我曾在微博上说准备做“20个LLM大型项目的源码解读”针对这个事，目前的最新情况是已经做了的：LLaMA、Alpaca、ChatGLM-6B、deepspeedchat、transformer
v_JULY_v·2023-08-13 14:36

开启想象翅膀：轻松实现文本生成模型的创作应用，支持LLaMA、ChatGLM、UDA、GPT2、Seq2Seq、BART、T5、SongNet等模型，开箱即用

开启想象翅膀：轻松实现文本生成模型的创作应用，支持LLaMA、ChatGLM、UDA、GPT2、Seq2Seq、BART、T5、SongNet等模型，开箱即用TextGen:ImplementationofTextGenerationmodels1
汀、人工智能·2023-08-12 14:00

基于Byzer-LLM和ChatGLM-6B快速搭建一款免费的语言大模型助力电商企业

假设有一家电商企业，员工大概20-30人，企业是在淘宝等电商平台买衣服，目前在淘宝上已经上架十万种服饰,之前淘宝限制服饰的标题描述字数，所以写的特别精简。以该公司售卖的阔腿裤为例，目前标题都是这样的：类型#裤*版型#宽松*风格#性感*图案#线条*裤型#阔腿裤现在淘宝突然放开了，允许200字。那么这件事要不要做呢？肯定要做的，企业希望新的描述可以更好的吸引消费者。这个时候人工去写这十万个描述么？在以
城南皮卡丘·2023-08-11 18:29

CUDA Setup failed despite GPU being available.

在跑chatglm-6B大模型时，由bitssandbytes包引起的报错！！！
城南皮卡丘·2023-08-11 18:59

ChatGLM2-6B在Windows下的微调

ChatGLM2-6B在Windows下的微调零、重要参考资料1、ChatGLM2-6B!我跑通啦！
豪杰笑开怀·2023-08-11 14:07

ChatGLM2-6B在windows下的部署

2023-08-10ChatGLM2-6B在windows下的部署一、部署环境1、Windows10专业版，64位，版本号：22H2，内存：32GB2、已安装CUDA11.33、已安装Anaconda364bit
豪杰笑开怀·2023-08-11 14:05

【ChatGLM】大模型之 ChatGLM 微调

目录1.微调方法2.全量参数微调3.P-tuningv24.LoRA1.微调方法全参数微调对模型全量参数进行训练。P-tunningv2前缀微调，在模型每一层都增加前缀，只训练这部分的参数，训练量明显小于全量微调。LoRA基于矩阵分解的微调，假设原权重喂W_0，我们新增一个和W_0一摸一样形状的矩阵W_delta，并且对W_delta分解为A和B，在训练过程中只训练A和B的参数，最后的权重W=W_
Encarta1993·2023-08-11 07:31

ChatGLM实战：Langchain-ChatGLM中间件的深度学习

在之前对ChatGLM的搭建部署和测试使用过程中，我对ChatGLM和Langchain的能力有了初步了解。
MavenTalk·2023-08-10 18:37

ChatGLM实战：基于LangChain构建自己的私有知识库

在之前的ChatGLM微调训练的实验中，由于数据量较小，调试效果并不理想。同时，数据需要符合Prompt的jsonl格式，而短时间内整理出合适的项目训练数据并不容易。
MavenTalk·2023-08-10 18:07

GPT-4，Llama2，ChatGLM2，PaLM2共聚一堂 | LLM Day @KDD 2023

点击蓝字关注我们AITIME欢迎每一位AI爱好者的加入！以下内容来源于GLM大模型在过去半年中，以ChatGPT为代表的大规模语言模型（LLMs）彻底改变世界，人类与世界的交互逐渐进入到了一个新的阶段。然而，伴随着资本狂热之后的冷静，LLMs当前进展到了哪一步，以及接下来急迫需要解决哪些问题，这亟需学术界人士去细致分析。为此，在即将召开的ACMKDD2023会议上，由清华大学唐杰教授、东昱晓助理教
AITIME论道·2023-08-10 08:21

ChatGLM2-12B 效果怎么样？官方公布

以下内容来源于GLM大模型ChatGLM2系列模型发布月余，大家对ChatGLM2-6B的效果已经有较多认知。我们现在公布ChatGLM2-12B在部分中英文典型数据集上的评测效果，供大家参考。
AITIME论道·2023-08-10 08:20

代码模型 CodeGeeX2-6B 开源，最低6GB显存，性能优于StarCoder

CodeGeeX2是多语言代码生成模型CodeGeeX的第二代模型，基于ChatGLM2架构注入代码实现。得益于Cha
AITIME论道·2023-08-10 08:50

ChatGLM2-6B 本地部署

本人6GB显卡成功运行4位量化1.下载模型THUDM/chatglm2-6batmain(huggingface.co)2.安装环境和运行库和ChatGLM-6B一样,只是多了几个库,参考下面部署方法ChatGLM
绀目澄清·2023-08-10 03:40

使用conda pack进行环境迁移

安装工具首先，使用condaenvlist查看所有环境，要确保待迁移的环境不是默认的base环境（如果是base环境，要使用condaclone命令复制成其它名字）然后激活待迁移的环境，我这里的环境名为chatGLM
福州司马懿·2023-08-09 21:20

ssh 连接断开，正在执行的shell脚本也被中断了

背景最近在训练chatGLM，一次训练经常要花掉近2个小时，但是由于网络不稳定，经常ssh莫名的断开，导致训练不得不重新开启，这就很浪费时间了解决方案下面教大家一种在后台执行命令的方案，即使你ssh连接断开
福州司马懿·2023-08-09 21:18

【ChatGLM】大模型之 ChatGLM 部署

模型权重下载#installgit-lfsgitlfsinstall#downloadcheckpoint#clonetherepogitclonehttps://huggingface.co/THUDM/chatglm
Encarta1993·2023-08-09 13:44

与 AI 同行，利用 ChatGLM 构建知识图谱

大家好，我是东方财富的一名算法工程师，这里分享一些利用大模型赋能知识图谱建设的一些实践。为什么知识图谱需要大模型在金融场景中，天然会有大量结构化的数据需要投入大量的人力去生产和维护，而这样的数据又会大量被应用在下游的标签、推荐、风控等场景。比如基金关联的基金经理，基金净值，基金重仓股等信息，需要从各个基金公司的公告信息中进行提取。做个类比，在1.0时代，我们会利用大量的规则和人力去提取和校验相应的
图数据库NebulaGraph·2023-08-09 06:04

AIGC：【LLM（四）】——LangChain+ChatGLM:本地知识库问答方案

文章目录一.文件加载与分割二.文本向量化与存储1.文本向量化(embedding)2.存储到向量数据库三.问句向量化四.相似文档检索五.prompt构建六.答案生成LangChain+ChatGLM项目
J_Xiong0117·2023-08-08 08:00

langchain-ChatGLM源码阅读：参数设置

文章目录上下文关联对话轮数向量匹配topk控制生成质量的参数参数设置心得上下文关联上下文关联相关参数：知识相关度阈值score_threshold内容条数k是否启用上下文关联chunk_conent上下文最大长度chunk_size其主要作用是在所在文档中扩展与当前query相似度较高的知识库的内容，作为相关信息与query按照prompt规则组合后作为输入获得模型的回答。获取查询句query嵌入
羊城迷鹿·2023-08-07 21:23
上一页 9 10 11 12 13 14 15 16 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他