chatglm

chatglm2-6b模型在9n-triton中部署并集成至langchain实践 | 京东云技术团队

一.前言近期，ChatGLM-6B的第二代版本ChatGLM2-6B已经正式发布，引入了如下新特性：①.基座模型升级，性能更强大，在中文C-Eval榜单中，以51.7分位列第6；②.支持8K-32k的上下文
京东云技术团队·2023-08-16 20:29

Dify 新增多模型支持，探索不同模型的无限可能

本次更新，让大家可以轻易使用上国内外知名的开源模型如：Llama2、ChatGLM、百川Baichua
·2023-08-16 19:44

chatglm2-6b模型在9n-triton中部署并集成至langchain实践 | 京东云技术团队

一.前言近期，ChatGLM-6B的第二代版本ChatGLM2-6B已经正式发布，引入了如下新特性：①.基座模型升级，性能更强大，在中文C-Eval榜单中，以51.7分位列第6；②.支持8K-32k的上下文
·2023-08-16 11:50

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

一、ChatGLM-6B模型介绍https://github.com/THUDM/ChatGLM-6B[Star27.6k]一个清华开源的、支持中英双语的对话语言模型，基于GLM架构，62亿参数。可
·2023-08-16 00:37

ChatGLM2-6B本地化部署

ChatGLM2-6B本地化部署一.背景介绍ChatGLM2-6B是开源中英双语对话模型ChatGLM-6B的第二代版本，在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，ChatGLM2
·2023-08-15 22:49

开启想象翅膀：轻松实现文本生成模型的创作应用，支持LLaMA、ChatGLM、UDA、GPT2等模型，开箱即用

开启想象翅膀：轻松实现文本生成模型的创作应用，支持LLaMA、ChatGLM、UDA、GPT2等模型，开箱即用1.介绍TextGen实现了多种文本生成模型，包括：LLaMA、ChatGLM、UDA、GPT2
·2023-08-15 18:03

揭秘国产chatGPT大语言模型能力PK之001：ChatGLM1-2

一、问题清单:1.我女朋友的老公应该叫我什么？2.为什么我的女朋友还有老公？3.你觉得我应该怎么做？4.我想要获得爱情，我女朋友也爱我，我女朋友也爱她的老公，但他的老公恨我，我该怎么办？5.我就是想不清楚才来问你的呀，我该怎么办呢？6.一想到这么复杂的问题，我都要郁闷了，可是我真的很想要这个爱情啊，我女朋友也是真的爱我的。但她也爱她的老公，我也不知道为什么她可以同时爱两个人。我要怎么办呢？7.我能
数据饕餮·2023-08-15 05:31

oobabooga-text-generation-webui可能是最好的语言模型启动器（包含手把手安装教程）

oobabooga-text-generation-webui是一个用于运行类似Chatglm、RWKV-Raven、Vicuna、MOSS、LLaMA、llama.cpp、GPT-J、Pythia、OPT
javastart·2023-08-14 12:03

使用代码下载开源的大模型文件示例以及中文微调llama资源汇总：

一、下载示例fromhuggingface_hubimportsnapshot_downloadrepo_id="THUDM/chatglm2-6b"local_dir='.
samoyan·2023-08-14 11:12

LangChain-ChatGLM在WIndows10下的部署

LangChain-ChatGLM在WIndows10下的部署参考资料1、LangChain+ChatGLM2-6B搭建个人专属知识库中的LangChain+ChatGLM2-6B构建知识库这一节：基本的逻辑和步骤是对的
豪杰笑开怀·2023-08-14 09:05

大语言模型控制生成的过程Trick：自定义LogitsProcessor实践

本文以chatglm2-6B为例，通过自定义LogitsProcessor，实践大模型在生成过程中控制一些词语的生成。LogitsProc
余俊晖·2023-08-14 05:55

学术论文GPT源码解读：从chatpaper、chatwithpaper到gpt_academic

前言之前7月中旬，我曾在微博上说准备做“20个LLM大型项目的源码解读”针对这个事，目前的最新情况是已经做了的：LLaMA、Alpaca、ChatGLM-6B、deepspeedchat、transformer
v_JULY_v·2023-08-13 14:36

开启想象翅膀：轻松实现文本生成模型的创作应用，支持LLaMA、ChatGLM、UDA、GPT2、Seq2Seq、BART、T5、SongNet等模型，开箱即用

开启想象翅膀：轻松实现文本生成模型的创作应用，支持LLaMA、ChatGLM、UDA、GPT2、Seq2Seq、BART、T5、SongNet等模型，开箱即用TextGen:ImplementationofTextGenerationmodels1
汀、人工智能·2023-08-12 14:00

基于Byzer-LLM和ChatGLM-6B快速搭建一款免费的语言大模型助力电商企业

假设有一家电商企业，员工大概20-30人，企业是在淘宝等电商平台买衣服，目前在淘宝上已经上架十万种服饰,之前淘宝限制服饰的标题描述字数，所以写的特别精简。以该公司售卖的阔腿裤为例，目前标题都是这样的：类型#裤*版型#宽松*风格#性感*图案#线条*裤型#阔腿裤现在淘宝突然放开了，允许200字。那么这件事要不要做呢？肯定要做的，企业希望新的描述可以更好的吸引消费者。这个时候人工去写这十万个描述么？在以
城南皮卡丘·2023-08-11 18:29

CUDA Setup failed despite GPU being available.

在跑chatglm-6B大模型时，由bitssandbytes包引起的报错！！！
城南皮卡丘·2023-08-11 18:59

ChatGLM2-6B在Windows下的微调

ChatGLM2-6B在Windows下的微调零、重要参考资料1、ChatGLM2-6B!我跑通啦！
豪杰笑开怀·2023-08-11 14:07

ChatGLM2-6B在windows下的部署

2023-08-10ChatGLM2-6B在windows下的部署一、部署环境1、Windows10专业版，64位，版本号：22H2，内存：32GB2、已安装CUDA11.33、已安装Anaconda364bit
豪杰笑开怀·2023-08-11 14:05

【ChatGLM】大模型之 ChatGLM 微调

目录1.微调方法2.全量参数微调3.P-tuningv24.LoRA1.微调方法全参数微调对模型全量参数进行训练。P-tunningv2前缀微调，在模型每一层都增加前缀，只训练这部分的参数，训练量明显小于全量微调。LoRA基于矩阵分解的微调，假设原权重喂W_0，我们新增一个和W_0一摸一样形状的矩阵W_delta，并且对W_delta分解为A和B，在训练过程中只训练A和B的参数，最后的权重W=W_
Encarta1993·2023-08-11 07:31

ChatGLM实战：Langchain-ChatGLM中间件的深度学习

在之前对ChatGLM的搭建部署和测试使用过程中，我对ChatGLM和Langchain的能力有了初步了解。
MavenTalk·2023-08-10 18:37

ChatGLM实战：基于LangChain构建自己的私有知识库

在之前的ChatGLM微调训练的实验中，由于数据量较小，调试效果并不理想。同时，数据需要符合Prompt的jsonl格式，而短时间内整理出合适的项目训练数据并不容易。
MavenTalk·2023-08-10 18:07

GPT-4，Llama2，ChatGLM2，PaLM2共聚一堂 | LLM Day @KDD 2023

点击蓝字关注我们AITIME欢迎每一位AI爱好者的加入！以下内容来源于GLM大模型在过去半年中，以ChatGPT为代表的大规模语言模型（LLMs）彻底改变世界，人类与世界的交互逐渐进入到了一个新的阶段。然而，伴随着资本狂热之后的冷静，LLMs当前进展到了哪一步，以及接下来急迫需要解决哪些问题，这亟需学术界人士去细致分析。为此，在即将召开的ACMKDD2023会议上，由清华大学唐杰教授、东昱晓助理教
AITIME论道·2023-08-10 08:21

ChatGLM2-12B 效果怎么样？官方公布

以下内容来源于GLM大模型ChatGLM2系列模型发布月余，大家对ChatGLM2-6B的效果已经有较多认知。我们现在公布ChatGLM2-12B在部分中英文典型数据集上的评测效果，供大家参考。
AITIME论道·2023-08-10 08:20

代码模型 CodeGeeX2-6B 开源，最低6GB显存，性能优于StarCoder

CodeGeeX2是多语言代码生成模型CodeGeeX的第二代模型，基于ChatGLM2架构注入代码实现。得益于Cha
AITIME论道·2023-08-10 08:50

ChatGLM2-6B 本地部署

本人6GB显卡成功运行4位量化1.下载模型THUDM/chatglm2-6batmain(huggingface.co)2.安装环境和运行库和ChatGLM-6B一样,只是多了几个库,参考下面部署方法ChatGLM
绀目澄清·2023-08-10 03:40

使用conda pack进行环境迁移

安装工具首先，使用condaenvlist查看所有环境，要确保待迁移的环境不是默认的base环境（如果是base环境，要使用condaclone命令复制成其它名字）然后激活待迁移的环境，我这里的环境名为chatGLM
福州司马懿·2023-08-09 21:20

ssh 连接断开，正在执行的shell脚本也被中断了

背景最近在训练chatGLM，一次训练经常要花掉近2个小时，但是由于网络不稳定，经常ssh莫名的断开，导致训练不得不重新开启，这就很浪费时间了解决方案下面教大家一种在后台执行命令的方案，即使你ssh连接断开
福州司马懿·2023-08-09 21:18

【ChatGLM】大模型之 ChatGLM 部署

模型权重下载#installgit-lfsgitlfsinstall#downloadcheckpoint#clonetherepogitclonehttps://huggingface.co/THUDM/chatglm
Encarta1993·2023-08-09 13:44

与 AI 同行，利用 ChatGLM 构建知识图谱

大家好，我是东方财富的一名算法工程师，这里分享一些利用大模型赋能知识图谱建设的一些实践。为什么知识图谱需要大模型在金融场景中，天然会有大量结构化的数据需要投入大量的人力去生产和维护，而这样的数据又会大量被应用在下游的标签、推荐、风控等场景。比如基金关联的基金经理，基金净值，基金重仓股等信息，需要从各个基金公司的公告信息中进行提取。做个类比，在1.0时代，我们会利用大量的规则和人力去提取和校验相应的
图数据库NebulaGraph·2023-08-09 06:04

AIGC：【LLM（四）】——LangChain+ChatGLM:本地知识库问答方案

文章目录一.文件加载与分割二.文本向量化与存储1.文本向量化(embedding)2.存储到向量数据库三.问句向量化四.相似文档检索五.prompt构建六.答案生成LangChain+ChatGLM项目
J_Xiong0117·2023-08-08 08:00

langchain-ChatGLM源码阅读：参数设置

文章目录上下文关联对话轮数向量匹配topk控制生成质量的参数参数设置心得上下文关联上下文关联相关参数：知识相关度阈值score_threshold内容条数k是否启用上下文关联chunk_conent上下文最大长度chunk_size其主要作用是在所在文档中扩展与当前query相似度较高的知识库的内容，作为相关信息与query按照prompt规则组合后作为输入获得模型的回答。获取查询句query嵌入
羊城迷鹿·2023-08-07 21:23

AI一键生成短视频

基本的python编程知识2.chatGPT使用过3.stablediffution使用过成果展示技术要点环境要求：python:3.10.6GPU:显存最低8G文本处理文本语义分析采用清华大学开源的chatGLM2
MagicTangc·2023-08-07 19:46

大模型微调技术（Adapter-Tuning、Prefix-Tuning、Prompt-Tuning(P-Tuning)、P-Tuning v2、LoRA）

2022年11月30日，ChatGPT发布至今，国内外不断涌现出了不少大模型，呈现“百模大战”的景象，比如ChatGLM-6B、LLAMA、Alpaca等模型及在此模型基础上进一步开发的特定领域的大模型
渣渣崔·2023-08-07 14:27

【AI实战】ChatGLM2-6B 微调：AttributeError: ‘ChatGLMModel‘ object has no attribute ‘prefix_encoder‘

【AI实战】ChatGLM2-6B微调：AttributeError:'ChatGLMModel'objecthasnoattribute'prefix_encoder'ChatGLM2-6B介绍ChatGLM2
szZack·2023-08-06 22:45

数字人解决方案——NeRF实现实时对话数字人环境配置与源码

2.文本转语音是用了VITS语音合成，项目git:https://github.com/jaywalnut310/vits.3.语言模型是用了新开源的ChatGLM2-6B，当前的项目暂时没有加上这个接口
知来者逆·2023-08-06 14:19

教你如何领取免费三个月大模型测试环境

上篇阿里云部署ChatGLM2-6B与langchain+ChatGLM介绍了如何部署大模型；但是大模型都需要特殊的硬件资源。如果你想部署大模型，但是没有硬件资源，这篇教你怎么用一下免费的资源。
BUG弄潮儿·2023-08-06 12:31

【ChatGLM_02】LangChain知识库+Lora微调chatglm2-6b模型+提示词Prompt的使用原则

经验沉淀1知识库1.1Langchain知识库的主要功能(1)配置知识库(2)文档数据测试(3)知识库测试模式(4)模型配置2微调2.1微调模型的概念2.2微调模型的方法和步骤(1)基于ptuningv2的微调(2)基于lora的微调3提示词3.1Prompts的定义及原则(1)Prompts是什么？3.2如何有效使用Prompts(1)Prompt的原则一：清晰和明确的指令(3)Prompt的原
fzu-wenxin·2023-08-05 20:40

AIGC大模型ChatGLM2-6B：国产版chatgpt本地部署及体验

1ChatGLM2-6B介绍ChatGLM是清华技术成果转化的公司智谱AI研发的支持中英双语的对话机器人。
智慧医疗探索者·2023-08-05 10:25

仅需6GB显存，拥有专属AI代码助手

CodeGeeX2是多语言代码生成模型CodeGeeX的第二代模型，不同于一代CodeGeeX，CodeGeeX2是基于ChatGLM2架构加入代码预训练实现。
AI 研习所·2023-08-05 03:04

chatGLM 本地部署（windows+linux）

chatGLM算是个相对友好的模型，支持中英文双语的对话交流，清华出的我的教程无需特别的网络设置，不过部分情况因为国内网络速度慢，需要反复重复chatGLMgithub地址一、硬件需求N卡8G显存以上，
ziqibit·2023-08-04 12:32

LangChain+ChatGLM整合LLaMa模型（二）

开源大模型语言LLaMaLLaMa模型GitHub地址添加LLaMa模型配置启用LLaMa模型LangChain+ChatGLM大模型应用落地实践（一）LLaMa模型GitHub地址gitlfsclonehttps
爱机车的程序猿·2023-08-04 08:29

ChatGML2新手速通！自定义魔法指令，一键开启大模型奇妙之旅！

ChatGLM2-6B是中英双语对话模型ChatGLM-6B的第二代版本，相比第一代，第二代支持更强大的性能、更长的上下文、更高效的推理。
飞桨PaddlePaddle·2023-08-03 20:48

【NLP】训练chatglm2的评价指标BLEU，ROUGE

当进行一定程度的微调后，要评价模型输出的语句的准确性。由于衡量的对象是一个个的自然语言文本，所以通常会选择自然语言处理领域的相关评价指标。这些指标原先都是用来度量机器翻译结果质量的，并且被证明可以很好的反映待评测语句的准确性，主要包含4种：BLEU，METEOR，ROUGE，CIDEr。本文只介绍BLEU，ROUGE两个指标，其他待补充。1、BLEUBLEU(BilingualEvaluation
aglo·2023-08-03 11:41

ChatGLM-6B VS 昆仑万维天工对比

下面进行昆仑万维天工与ChatGLM-6B内测结果进行对比，其中ChatGLM-6B的结果来自https://github.com/THUDM/ChatGLM-6B，假设ChatGLM-6B的结果是可靠的
wshzd·2023-08-03 10:46

用Kaggle免费GPU微调ChatGLM2

前方干货预警：这篇文章可能是你目前能够找到的可以无痛跑通LLM微调并基本理解整个流程的门槛最低的入门范例。门槛低到什么程度，本范例假设你是一个三无用户。1，无NLP经验：你没有扎实的NLP理论知识，只有一些基本的炼丹经验。没关系，我们会在恰当的时候告诉你必要的原理。2，无GPU：你没有任何一块可以使用的GPU。没关系，我们直接在Kaggle环境上使用免费的P100GPU，并给没有kaggle使用经
算法美食屋·2023-08-02 20:43

快速部署ChatGLM-6B大模型实战总结

作者简介：赵辉，区块链技术专家，精通各种联盟链、公链的底层原理，拥有丰富的区块链应用开发经验。近期，IT界掀起了大模型的热潮，各种百模争霸的局面出现。我对新技术充满热情，积极体验各类GPTAI产品，包括领先的GPT龙头ChatGPT，百度的文心一言和文心千帆、阿里的通义千问以及金山的WPSAI等。作为这些产品的忠实测试者之一，我同时也尝试过这些产品的API接口，与微信对接，实现了微信聊天机器人。然
MavenTalk·2023-08-02 11:34

langchain系列1- langchain-ChatGLM

源码阅读1服务启动(demo.queue(concurrency_count=3).launch(server_name='0.0.0.0',server_port=7860,show_api=False,share=False,inbrowser=False))这部分代码使用了Gradio库提供的两个函数：queue和launch。在这里，demo是一个Interface类的实例对象，queue
愚昧之山绝望之谷开悟之坡·2023-08-02 10:37

langchain-ChatGLM源码阅读：webui.py

样式定制使用gradio设置页面的视觉组件和交互逻辑importgradioasgrimportshutilfromchains.local_doc_qaimportLocalDocQAfromconfigs.model_configimport*importnltkimportmodels.sharedassharedfrommodels.loader.argsimportparserfromm
羊城迷鹿·2023-08-02 10:36

LangChain+ChatGLM大模型应用落地实践（一）

当然，该框架也支持自定义接入其他机构、企业开源的LLMs的API和模型（比如：ChatGLM、文心一言等）。届时，L
爱机车的程序猿·2023-08-02 00:08

面向 “大模型” 的未来服务架构设计

百度的文心一言，阿里的通义千问、讯飞星火大模型、智谱AI的ChatGLM等纷纷发
魏小言·2023-08-01 20:46

如何在矩池云复现开源对话语言模型 ChatGLM

ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，基于GeneralLanguageModel(GLM)架构，具有62亿参数。
机器学习是魔鬼·2023-08-01 12:20
上一页 10 11 12 13 14 15 16 17 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他