chatGLM 第16页

在centos7上部署langchain-chatglm可能遇到的bug和解决方案(可解决在部署阶段的99%的问题)

第一步安装英伟达显卡驱动，此处请百度，不做过多赘述第二步下载官方代码包gitclonehttps://github.com/imClumsyPanda/langchain-ChatGLM.git安装python

qq_36776604·2023-07-16 01:56

windows10下本地部署langChain-ChatGLM2-6B

最近在搞ChatGLM大语言模型，刚刚把langchain-ChatGLM2-6B在本地windows10跑起来，安装步骤如下：设备配置：CPUE3-1240v3,RAM32G,SSD1T,GPU0Nvidia1080ti

深圳dengdi·2023-07-16 01:56

windows环境下的langchain-ChatGLM的本地部署

首先是项目开源地址https://github.com/imClumsyPanda/langchain-ChatGLM下载这个项目的源码非常简单，但运行起来十分麻烦，各种环境的搭配简直是折磨人，尤其是电脑上缺少各种安装环境的

muwpq·2023-07-16 01:25

CentOS7上部署langchain-chatglm或stable-diffusion可能遇到的Bug的解决方案

第一步官网官方驱动|NVIDIA下载驱动#切换root账号操作#进行一些依赖库的升级也很必要,eg:#yum-yinstallepel-release#yum-yinstallgccgcc-c++kernel-headerskernel-develdkms#卸载驱动和cuda（非必要操作，直接更新cuda即可）#nvidia-uninstall#cuda-uninstaller#安装（非必要操作，

fjsupermouse·2023-07-16 01:55

langchain-chatglm上传word文档异常处理

文章目录1.langchain-chatglm本地部署2.langchain的UnstructuredFileLoader\UnstructuredWordDocumentLoader最近LLM模型非常火

爱在一瞬间·2023-07-16 01:24

部署langchain+chatglm

先参考：window零基础部署langchain-ChatGLM_飞奔的屎壳郎的博客-CSDN博客安装一部分，1.GCC安装gcc64位下载一定要装64位的gcc，因为我的电脑是w1064位的，装32位运行

小草cys·2023-07-16 01:53

AI 智能对话 - ChatGLM2-6B 本地搭建入门

前情提要这一个月来干了啥事情呢？AI绘画搞了2周左右，SD建筑绘图，训练LORA，模型控制基本也上手了，可以按照预期生成自己想要的东西，那种控制感是挺开心的，不然你输入一句话生成AI图片完全凭天意，这叫无效沟通好不啦；突发奇想要搞AI歌曲合成，为了不引发版权诉讼问题，用自己的声音合成了些歌曲，因为不是在录音棚录音的，并且声音数据比较少，所以训练效果还是有点差强人意，不过相较我自己唱的而言已经好到天

流雨声·2023-07-16 00:56

AI 智能对话 - 基于 ChatGLM2-6B 训练对话知识库

前情提要怎么将AI应用到工作中呢？比如让AI帮忙写代码，自己通过工程上的思维将代码整合排版，我挺烦什么代码逻辑严谨性的问题，但是我又不得不承认这样的好处，我们要开始将角色转换出来，不应该是一个工具人，而成为决策者，这是从AI爆发中看到的发展趋势，人们逐渐从流水线的工作中解放出来，逐渐成为可以独立思考的自由人，这是科技革命带给普通人最大的时代红利；但是从另外一个方面看这个问题的时候，每次科技革命到来

流雨声·2023-07-16 00:22

ChatGLM使用记录

官方网站：https://chatglm.cn/项目地址：https://github.com/THUDM/ChatGLM-6B相关PPT：ChatGL

uncle_ll·2023-07-15 18:59

Building wheel for pycocotools (pyproject.toml) ... error错误解决

Buildingwheelforpycocotools(pyproject.toml)…error错误解决在准备langchain-ChatGLM开发环境时，运行pipinstall-rrequirements.txt

影子飞扬·2023-07-15 17:47

医疗金融法律大模型：从ChatDoctor到BloombergGPT/FinGPT/FinBERT、ChatLaw/LawGPT_zh

第一部分各种医疗类ChatGPT：或中英文数据微调LLaMA、或中文数据微调ChatGLM1.1基于LLaMA微调的国内外医疗问答模型1.1.1ChatDoctor：通过self-instruct技术提示

v_JULY_v·2023-07-15 17:58

中文模型的奋起直追：MOSS、baichuan-7B和ChatGLM2-6B的原理、部署与微调

第一部分复旦MOSSMOSS是复旦大学邱锡鹏团队推出的一个支持中英双语和多种插件的开源对话语言模型，moss-moon系列模型具有160亿参数，在FP16精度下可在单张A100/A800或两张3090显卡运行，在INT4/8精度下可在单张3090显卡运行其基座语言模型在约七千亿中英文以及代码单词上预训练得到，后续经过对话指令微调、插件增强学习和人类偏好训练具备多轮对话能力及使用多种插件的能力5.1

v_JULY_v·2023-07-15 17:58

大语言模型排行榜 | Vicuna夺冠，清华ChatGLM进前5！（UC伯克利发布）

本文来源新智元编辑：好困【新智元导读】万万没想到，现在大语言模型们也要像王者荣耀/LoL/Dota这些游戏里的玩家一样打排位赛了！据说，那些闭源模型们很快也会被拉出来溜溜。最近，来自LMSYSOrg（UC伯克利主导）的研究人员又搞了个大新闻——大语言模型版排位赛！顾名思义，「LLM排位赛」就是让一群大语言模型随机进行battle，并根据它们的Elo得分进行排名。然后，我们就能一眼看出，某个聊天机器

机器学习与AI生成创作·2023-07-15 16:17

LangChain + ChatGLM2-6B 搭建个人专属知识库

之前教过大家利用langchain+ChatGLM-6B实现个人专属知识库，非常简单易上手。

程序员树先生·2023-07-15 12:13

ChatGLM2-6B-Int4本地部署

安装库本地模型下载int-4推理```web_demo.py```遇到的问题原文链接：http://wangguo.site/posts/9d8c1768.htmlChatGLM2-6B是开源中英双语对话模型ChatGLM

Wang Guo·2023-07-14 21:00

加载ChatGLM模型 RuntimeError: Internal: src/sentencepiece_processor.cc(1101) [model_proto-＞ParseFromArr

问题描述：加载ChatGLM模型RuntimeError:Internal:src/sentencepiece_processor.cc(1101)[model_proto-＞ParseFromArr问题原因

taotao033·2023-07-14 21:02

Meta提出全新参数高效微调方案，仅需一个RNN，Transformer模型GPU使用量减少84%！

ChatGPT和GPT-4模型的不断发展，国内外互联网大厂纷纷推出了自家的大语言模型，例如谷歌的PaLM系列，MetaAI的LLaMA系列，还有国内公司和高校推出的一些大模型，例如百度的文心一言，清华的ChatGLM

TechBeat人工智能社区·2023-07-14 20:57

llama.cpp试用

chatglm6Bint4量化，显存占用仍然需要6G。

菜鸡学AI·2023-07-14 19:12

大语言模型调研

调研目标1.BELLE2.ChatGLM3.ChatYuan1.BELLE1.1简单介绍BELLE（BELargeLanguagemodelEngine），该项目旨在促进中文对话大模型开源社区的发展。

kafkabalu·2023-07-14 19:40

Mac(M1Pro)下运行ChatGLM2

最近很多人都尝试在M1/M2芯片下跑chatglm/chatglm2，结果都不太理想，或者是说要32G内存才可以运行。本文使用cpu基于chatglm-cpp运行chatglm2的int4版本。

wxl781227·2023-07-14 19:34

开源类似chatGPT项目ChatGLM-6B单显卡安装运行成功

项目git地址https://github.com/THUDM/ChatGLM-6B配置要求：本机电脑显卡显存6G以上。只有cpu则需要32GB以上。

lxr1908·2023-07-14 17:08

ChatGLM-6B+LangChain实战

目标：原始使用ChatGLM-6B可接受的文字长度有限，打算结合LangChain实现长文本生成摘要.方法：step1：自定义一个GLM继承LangChain中的langchain.llms.base.LLM

stay_foolish12·2023-07-14 13:02

Langchain-ChatGLM配置文件参数测试

1已知可能影响对话效果的参数（位于configs/model_config.py文件）：#文本分句长度SENTENCE_SIZE=100#匹配后单段上下文长度CHUNK_SIZE=250#传入LLM的历史记录长度LLM_HISTORY_LEN=3#知识库检索时返回的匹配内容条数VECTOR_SEARCH_TOP_K=5#知识检索内容相关度Score,数值范围约为0-1100，如果为0，则不生效，经

Raine_Yang·2023-07-14 13:27

利用langchain-ChatGLM、langchain-TigerBot实现基于本地知识库的问答应用

目录1原理2langchain-ChatGLM的开发部署2.1安装环境2.2加载本地模型3langchain-TigerBot的开发部署刷B站的时候，无意中看到吴恩达的一个langchain的教程，然后去

陈洪伟·2023-07-14 13:25

基于 MNN 在个人设备上流畅运行大语言模型

ChatGLM-6B在60亿参数的情况下做到了优秀的中英文对话效果，且能够支持在消费级显卡本地部署；因此在HuggingFaceTrends上很快登顶。

阿里巴巴淘系技术团队官网博客·2023-07-14 11:28

ChatGLM 实践赛之学术工具创意开发丨智谱 AI × 和鲸科技

今年3月中旬，智谱AI与清华大学强强联合，重磅发布了ChatGLM-6B开源模型。

ModelWhale·2023-07-14 09:41

langchain调用chatGLM2纪实

一、科学上网要注意：域名全代和全局代理（网卡），都要打开。这样condainstall特别快。二、安装langchain1、condainstalllangchain2、condainstallopenai注意：使用pipinstall和condainstall是不同的二、简单运行一下fromlangchain.llmsimportOpenAIfromlangchain.llmsimportOpe

gaoenyang760525·2023-07-14 01:50

LangChain_ChatGLM部署

环境准备项目地址：https://github.com/imClumsyPanda/langchain-ChatGLM下载chatglm-6b模型到本地，大约13G：https://huggingface.co

Acecai01·2023-07-13 21:02

ChatGLM-6B第二代模型开源，拿下LLM模型中文能力评估榜单第一名

ChatGLM-6B自3月14日发布以来，深受广大开发者喜爱。截至6月24日，来自Huggingface上的下载量已经超过300w。

·2023-07-13 15:54

百度飞桨 AI Studio 上的 ChatGLM-6B 初探

本文作者：啊阿伟啊前言ChatGLM-6B由清华大学知识工程和数据挖掘团队是开源对话语言模型，支持中英双语，具有62亿参数。

啊阿伟啊·2023-07-09 16:06

textgen教程（持续更新ing...）

ImplementationofTextGenerationmodels,includeLLaMA,BLOOM,GPT2,BART,T5,SongNetandsoon.文本生成模型，实现了包括LLaMA，ChatGLM

诸神缄默不语·2023-06-24 08:56

大模型微调实践

3.1Freezesetting3.2Lorasetting3.3ptuningsetting4.加载数据集5.模型训练参考源：https://zhuanlan.zhihu.com/p/620885226#Chatglm

YingJingh·2023-06-24 05:10

RuntimeError: CUDA Error: no kernel image is available for execution on the device

配置ChatGLM过程中，出现如上问题。

孔雀竹鱼·2023-06-24 01:44

window零基础部署langchain-ChatGLM

一、介绍从0开始安装运行langchain-ChatGLM-6b-int4模型，主要是版本要配套不然特别容易报错我的机器配置CPU是Intel®Core™[email protected]

飞奔的屎壳郎·2023-06-23 05:49

ubuntu22.04CPU部署ChatGLM笔记

ChatGLM官方Github链接https://github.com/THUDM/ChatGLM-6B我就是一步步按照官方部署教程完成ChatGLM部署。

Raine_Yang·2023-06-23 05:44

《VisualGLM-6B的原理与微调》资料学习分享

清华大学在发布chatGLM-6B后很快速的时间内就又发布了VisualGLM-6B模型，不可谓不强大，VisualGLM-6B官方项目地址在这里，如下所示：VisualGLM-6B是一个开源的，支持图像

Together_CZ·2023-06-22 22:57

开源中文大语言模型集合【2023-06-19】

尤其是以ChatGLM、LLaMA等平民玩家都能跑起来的较小规模的LLM开源之后，业界涌现

u013250861·2023-06-22 17:01

文言一心，ChatGLM-6B和ChatGPT等模型概述

原文首发于博客文章大语言模型概况定义（个人理解的）大语言模型（LargeLanguageModel）是一种基于深度学习技术的自然语言处理通用模型，它可以通过学习大规模文本数据的模式和规律，从而实现对自然语言的理解和生成。通用型：在广泛的任务中表现出色，而不是针对一项特定任务，规模大：参数数量在数十亿或更多数量级的深度学习模型。大模型在NLP任务中的出色表现确实为人工智能领域带来了新的发展和探索方向

莫尔索随笔·2023-06-22 14:24

ChatGLM-6B模型微调实战（以 ADGEN (广告生成) 数据集为例，序列长度达 2048）

kingglory/ChatGLM-6B项目地址1介绍对于ChatGLM-6B模型基于P-Tuningv2的微调。

桂花很香,旭很美·2023-06-22 07:20

win10 安装 langchain-chatglm 避坑指南（2023年6月21日最新版本）

官网看起来安装很简单，网上教程也是，但实际上我耗费了两天时间，查阅了当前网络上所有可查阅的资料，重复「安装-配置-卸载」十几遍，总结出的安装方法。1、安装Anaconda（这个就不啰嗦了，网上安装教程一堆）1.1、先安装Anaconda（https://www.anaconda.com/download/）1.2、点击“开始”-打开AnacondaPowershellPrompt1.3、更新Con

憶·2023-06-21 16:18

【奶奶看了都会】云服务器部署开源ChatGLM-6B，让你也能拥有自己的ChatGPT

之前国内网随便访问GPT3，现在动不动就封号所以，今天就来教大家部署国内清华大学开源的ChatGLM-6B。简单介绍下，ChatGLM是对话语言模型，对中文问答和对

·2023-06-20 10:22

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

一、ChatGLM-6B模型介绍https://github.com/THUDM/ChatGLM-6B[Star27.6k]一个清华开源的、支持中英双语的对话语言模型，基于GLM架构，62亿参数。可

·2023-06-20 10:39

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验

本文期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的LLM模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体验的目的。

京东云开发者·2023-06-20 09:00

闻达（wenda+chatGLM-6B）一键部署包

本文是《基于闻达（wenda+chatGLM-6B），构建自己的知识库小助手》的一键部署包，将处理数据、模型启动整理为可执行脚本，并提供内置python虚拟环境，无需任何额外的环境配置，只需要上传自己的知识库文件即可使用

小生浩浩·2023-06-19 23:12

百川智能发布开源中英文大模型；GitHub调查显示92%的程序员使用AI编码工具；第一季度中国云服务支出增长6%丨每日大事件...

baichuan-7B在C-Eval、AGIEval和Gaokao中文权威评测榜单上，超过了ChatGLM-6B等其他大模型，并且在MMLU英文权威评测榜单上，领先LLaMA-7B。

数据猿·2023-06-19 16:47

十分钟部署清华ChatGLM-6B，实测效果还可以~~（Linux版）

引言前段时间，清华公布了中英双语对话模型ChatGLM-6B，具有60亿的参数，初具问答和对话功能。最！最！最重要的是它能够支持私有化部署，大部分实验室的服务器基本上都能跑起来。

手把手教你学AI·2023-06-19 14:25

本地部署闻达：一个LLM调用平台

调用平台1.什么是闻达2.Github地址3.安装Miniconda34.创建虚拟环境5.安装闻达6.下载各个model7.配置各个model8.使用RWKV-4-Raven-14B-v11x启动9.使用chatglm

engchina·2023-06-19 14:54

使用 CPU 本地安装部署运行 ChatGLM-6B 获得自己的专属 AI 宠物

ChatGLM-6B是一个清华开源的、支持中英双语的对话语言模型，基于GLM架构，具有62亿参数。

柴神·2023-06-19 06:54

LLMs模型速览（GPTs、LaMDA、GLM/ChatGLM、PaLM/Flan-PaLM、BLOOM、LLaMA、Alpaca）

文章目录一、GPT系列1.1GPTs（OpenAI，2018——2020）1.2InstructGPT（2022-3）1.2.1算法1.2.2损失函数1.3ChatGPT（2022.11.30）1.4ChatGPTplugin1.5GPT-4（2023.3.14）二、LaMDA系列2.1LaMDA（Google2021.5）2.1.1简介2.1.2LaMDA预训练与微调2.1.3事实根基（真实性、

神洛华·2023-06-19 04:40

本地安装部署运行 ChatGLM-6B 的常见问题解答以及后续优化

报错Nomodulenamed‘transformers_modules.THUDM/chatglm-6b’报错本身的意思是，没有在指定的路径THUDM/chatglm-6b找到推理用模型一般常见于自己手动下载模型

柴神·2023-06-19 01:50

推荐频道

chatGLM