chatGLM

chatglm-6B基础环境、模型下载、微调训练详细介绍

链接:GLMPaper链接:GLM-130BPaper链接:ChatGLM-6B2.基础环境及镜像镜像下载方式链接:HuggingFaceRepo链接:GetStarted3.模型文件下载链接:Torch
dream_home8407·2023-07-18 06:21

Chatglm实现agent控制

背景：这个系列文章，会从LLM搭建应用生态角度来写。从0到1训练一个大的通用的模型对于大部分人和团队来讲是不现实的。重资金，重技术含量、重投入这几个门槛可以把很多团队直接劝退。那么在LLM蓬勃发展的时候我们可以做些什么呢，是否可以围绕LLM来搭建生态，搭建应用市场；针对LLM模型的不足做一些小的设计训练呢。这个其实很像发动机引擎，无论是汽车发动机引擎、柴油发动机引擎还是航空发动机引擎，能造的其实全
远洋之帆·2023-07-18 05:00

Windows10下ChatGLM2-6B模型本地化安装部署教程图解

ChatGLM2-6B模型作为其中的一员，以其强大的聊天和问答能力备受关注，并且最突出的优点是性能出色且轻量化。
Steven灬·2023-07-18 04:17

ChatGLM2-6B中引入ptuning报错：AttributeError: ‘ChatGLMModel‘ object has no attribute ‘prefix_encoder‘

File"/home/ai/gm/ChatGLM2-6B/ptuning-v1/main.py",line411,inmain()File"/home/ai/gm/ChatGLM2-6B/ptuning-v1
stay_foolish12·2023-07-17 13:23

ChatGLM-6B 微调之后模型 加载 并且问问题 代码

importosimportplatformimportsignalfromtransformersimportAutoTokenizer,AutoModel#model_dir=""print('loadtokenizer')model_dir='/xxx/home/work/chatglm
Jonathan Star·2023-07-17 13:18

ChatGLM的模型架构

ChatGLM的部署微调等，很多资料，不再赘述。P-tuningV2以P-TuringV2为例，介绍ChatGLM的网络结构。
Bingoyear·2023-07-17 13:17

ChatGLM-6B阿里云部署

机器配置重点关注指标：CPU、内存、GPU、GPU驱动类型OSCPU内存GPU机器配置ubuntu_20_04_x6416核125GNVIDIAA10080G#查看显卡安装状态nvidia-smi安装必要的软件gitsudoapt-getupdatesudoapt-getinstallgitgit-lfs(大文件管理)sudoapt-getinstallgit-lfspython3.10.7(如果
liuhehe321·2023-07-17 07:37

ChatGLM-LoRA实现&代码逐行讲解

介绍：为方便学习，对ChatGlm添加了lora实现，并对代码做了逐行解读，核心的部分如数据的解析，loss的定义，lable制作，lora调用的框架流程等。
Pillars-Creation·2023-07-17 01:06

大语言模型中一个调皮的EOS token

模型选择得自然是现在中文做的比较好的ChatGLM2-6B。
boydfd·2023-07-16 06:31

LangChain大模型应用落地实践（二）：使用LLMs模块接入自定义大模型，以ChatGLM为例

147了）一、国内外大模型发布现状图1大模型时间线（2023-arxiv-ASurveyofLargeLanguageModels）模型名称企业/高校发布时间ERNIEBot（文心一言）百度2023年3月ChatGLM
手把手教你学AI·2023-07-16 02:00

chatglm+langchain+互联网，你可以将大模型接入网络了

最近发现一个好的项目，可以直接将大模型接入互联网，笔者这么极客的人，肯定不会错过，使用了一下，哈哈先来看看界面，使用streamlit包构建的页面目前支持，纯llm聊天，还有sd插件生成图片，然后就是接入互联网websd使用的是stablediffusion模型，当然你也可以换成别的hf上有这个不是我们主要介绍的，我们只要看下边这个来看看目前支持哪些网站吧['知乎专栏','知乎回复','百科','
weixin_39394916·2023-07-16 01:59

Linux下部署langchain+chatGLM

clone项目用git拉取项目，没有安装的话就下载，ubuntu的话sudoapt-getinstallgit项目地址https://github.com/imClumsyPanda/langchain-ChatGLM
哈哈哈哈哈12138·2023-07-16 01:59

在centos7上部署langchain-chatglm可能遇到的bug和解决方案(可解决在部署阶段的99%的问题)

第一步安装英伟达显卡驱动，此处请百度，不做过多赘述第二步下载官方代码包gitclonehttps://github.com/imClumsyPanda/langchain-ChatGLM.git安装python
qq_36776604·2023-07-16 01:56

windows10下本地部署langChain-ChatGLM2-6B

最近在搞ChatGLM大语言模型，刚刚把langchain-ChatGLM2-6B在本地windows10跑起来，安装步骤如下：设备配置：CPUE3-1240v3,RAM32G,SSD1T,GPU0Nvidia1080ti
深圳dengdi·2023-07-16 01:56

windows环境下的langchain-ChatGLM的本地部署

首先是项目开源地址https://github.com/imClumsyPanda/langchain-ChatGLM下载这个项目的源码非常简单，但运行起来十分麻烦，各种环境的搭配简直是折磨人，尤其是电脑上缺少各种安装环境的
muwpq·2023-07-16 01:25

CentOS7上部署langchain-chatglm或stable-diffusion可能遇到的Bug的解决方案

第一步官网官方驱动|NVIDIA下载驱动#切换root账号操作#进行一些依赖库的升级也很必要,eg:#yum-yinstallepel-release#yum-yinstallgccgcc-c++kernel-headerskernel-develdkms#卸载驱动和cuda（非必要操作，直接更新cuda即可）#nvidia-uninstall#cuda-uninstaller#安装（非必要操作，
fjsupermouse·2023-07-16 01:55

langchain-chatglm上传word文档异常处理

文章目录1.langchain-chatglm本地部署2.langchain的UnstructuredFileLoader\UnstructuredWordDocumentLoader最近LLM模型非常火
爱在一瞬间·2023-07-16 01:24

部署langchain+chatglm

先参考：window零基础部署langchain-ChatGLM_飞奔的屎壳郎的博客-CSDN博客安装一部分，1.GCC安装gcc64位下载一定要装64位的gcc，因为我的电脑是w1064位的，装32位运行
小草cys·2023-07-16 01:53

AI 智能对话 - ChatGLM2-6B 本地搭建入门

前情提要这一个月来干了啥事情呢？AI绘画搞了2周左右，SD建筑绘图，训练LORA，模型控制基本也上手了，可以按照预期生成自己想要的东西，那种控制感是挺开心的，不然你输入一句话生成AI图片完全凭天意，这叫无效沟通好不啦；突发奇想要搞AI歌曲合成，为了不引发版权诉讼问题，用自己的声音合成了些歌曲，因为不是在录音棚录音的，并且声音数据比较少，所以训练效果还是有点差强人意，不过相较我自己唱的而言已经好到天
流雨声·2023-07-16 00:56

AI 智能对话 - 基于 ChatGLM2-6B 训练对话知识库

前情提要怎么将AI应用到工作中呢？比如让AI帮忙写代码，自己通过工程上的思维将代码整合排版，我挺烦什么代码逻辑严谨性的问题，但是我又不得不承认这样的好处，我们要开始将角色转换出来，不应该是一个工具人，而成为决策者，这是从AI爆发中看到的发展趋势，人们逐渐从流水线的工作中解放出来，逐渐成为可以独立思考的自由人，这是科技革命带给普通人最大的时代红利；但是从另外一个方面看这个问题的时候，每次科技革命到来
流雨声·2023-07-16 00:22

ChatGLM使用记录

官方网站：https://chatglm.cn/项目地址：https://github.com/THUDM/ChatGLM-6B相关PPT：ChatGL
uncle_ll·2023-07-15 18:59

Building wheel for pycocotools (pyproject.toml) ... error错误解决

Buildingwheelforpycocotools(pyproject.toml)…error错误解决在准备langchain-ChatGLM开发环境时，运行pipinstall-rrequirements.txt
影子飞扬·2023-07-15 17:47

医疗金融法律大模型：从ChatDoctor到BloombergGPT/FinGPT/FinBERT、ChatLaw/LawGPT_zh

第一部分各种医疗类ChatGPT：或中英文数据微调LLaMA、或中文数据微调ChatGLM1.1基于LLaMA微调的国内外医疗问答模型1.1.1ChatDoctor：通过self-instruct技术提示
v_JULY_v·2023-07-15 17:58

中文模型的奋起直追：MOSS、baichuan-7B和ChatGLM2-6B的原理、部署与微调

第一部分复旦MOSSMOSS是复旦大学邱锡鹏团队推出的一个支持中英双语和多种插件的开源对话语言模型，moss-moon系列模型具有160亿参数，在FP16精度下可在单张A100/A800或两张3090显卡运行，在INT4/8精度下可在单张3090显卡运行其基座语言模型在约七千亿中英文以及代码单词上预训练得到，后续经过对话指令微调、插件增强学习和人类偏好训练具备多轮对话能力及使用多种插件的能力5.1
v_JULY_v·2023-07-15 17:58

大语言模型排行榜 | Vicuna夺冠，清华ChatGLM进前5！（UC伯克利发布）

本文来源新智元编辑：好困【新智元导读】万万没想到，现在大语言模型们也要像王者荣耀/LoL/Dota这些游戏里的玩家一样打排位赛了！据说，那些闭源模型们很快也会被拉出来溜溜。最近，来自LMSYSOrg（UC伯克利主导）的研究人员又搞了个大新闻——大语言模型版排位赛！顾名思义，「LLM排位赛」就是让一群大语言模型随机进行battle，并根据它们的Elo得分进行排名。然后，我们就能一眼看出，某个聊天机器
机器学习与AI生成创作·2023-07-15 16:17

LangChain + ChatGLM2-6B 搭建个人专属知识库

之前教过大家利用langchain+ChatGLM-6B实现个人专属知识库，非常简单易上手。
程序员树先生·2023-07-15 12:13

ChatGLM2-6B-Int4本地部署

安装库本地模型下载int-4推理```web_demo.py```遇到的问题原文链接：http://wangguo.site/posts/9d8c1768.htmlChatGLM2-6B是开源中英双语对话模型ChatGLM
Wang Guo·2023-07-14 21:00

加载ChatGLM模型 RuntimeError: Internal: src/sentencepiece_processor.cc(1101) [model_proto-＞ParseFromArr

问题描述：加载ChatGLM模型RuntimeError:Internal:src/sentencepiece_processor.cc(1101)[model_proto-＞ParseFromArr问题原因
taotao033·2023-07-14 21:02

Meta提出全新参数高效微调方案，仅需一个RNN，Transformer模型GPU使用量减少84%！

ChatGPT和GPT-4模型的不断发展，国内外互联网大厂纷纷推出了自家的大语言模型，例如谷歌的PaLM系列，MetaAI的LLaMA系列，还有国内公司和高校推出的一些大模型，例如百度的文心一言，清华的ChatGLM
TechBeat人工智能社区·2023-07-14 20:57

llama.cpp试用

chatglm6Bint4量化，显存占用仍然需要6G。
菜鸡学AI·2023-07-14 19:12

大语言模型调研

调研目标1.BELLE2.ChatGLM3.ChatYuan1.BELLE1.1简单介绍BELLE（BELargeLanguagemodelEngine），该项目旨在促进中文对话大模型开源社区的发展。
kafkabalu·2023-07-14 19:40

Mac(M1Pro)下运行ChatGLM2

最近很多人都尝试在M1/M2芯片下跑chatglm/chatglm2，结果都不太理想，或者是说要32G内存才可以运行。本文使用cpu基于chatglm-cpp运行chatglm2的int4版本。
wxl781227·2023-07-14 19:34

开源类似chatGPT项目ChatGLM-6B单显卡安装运行成功

项目git地址https://github.com/THUDM/ChatGLM-6B配置要求：本机电脑显卡显存6G以上。只有cpu则需要32GB以上。
lxr1908·2023-07-14 17:08

ChatGLM-6B+LangChain实战

目标：原始使用ChatGLM-6B可接受的文字长度有限，打算结合LangChain实现长文本生成摘要.方法：step1：自定义一个GLM继承LangChain中的langchain.llms.base.LLM
stay_foolish12·2023-07-14 13:02

Langchain-ChatGLM配置文件参数测试

1已知可能影响对话效果的参数（位于configs/model_config.py文件）：#文本分句长度SENTENCE_SIZE=100#匹配后单段上下文长度CHUNK_SIZE=250#传入LLM的历史记录长度LLM_HISTORY_LEN=3#知识库检索时返回的匹配内容条数VECTOR_SEARCH_TOP_K=5#知识检索内容相关度Score,数值范围约为0-1100，如果为0，则不生效，经
Raine_Yang·2023-07-14 13:27

利用langchain-ChatGLM、langchain-TigerBot实现基于本地知识库的问答应用

目录1原理2langchain-ChatGLM的开发部署2.1安装环境2.2加载本地模型3langchain-TigerBot的开发部署刷B站的时候，无意中看到吴恩达的一个langchain的教程，然后去
陈 洪 伟·2023-07-14 13:25

基于 MNN 在个人设备上流畅运行大语言模型

ChatGLM-6B在60亿参数的情况下做到了优秀的中英文对话效果，且能够支持在消费级显卡本地部署；因此在HuggingFaceTrends上很快登顶。
阿里巴巴淘系技术团队官网博客·2023-07-14 11:28

ChatGLM 实践赛之学术工具创意开发丨智谱 AI × 和鲸科技

今年3月中旬，智谱AI与清华大学强强联合，重磅发布了ChatGLM-6B开源模型。
ModelWhale·2023-07-14 09:41

langchain调用chatGLM2纪实

一、科学上网要注意：域名全代和全局代理（网卡），都要打开。这样condainstall特别快。二、安装langchain1、condainstalllangchain2、condainstallopenai注意：使用pipinstall和condainstall是不同的二、简单运行一下fromlangchain.llmsimportOpenAIfromlangchain.llmsimportOpe
gaoenyang760525·2023-07-14 01:50

LangChain_ChatGLM部署

环境准备项目地址：https://github.com/imClumsyPanda/langchain-ChatGLM下载chatglm-6b模型到本地，大约13G：https://huggingface.co
Acecai01·2023-07-13 21:02

ChatGLM-6B第二代模型开源，拿下LLM模型中文能力评估榜单第一名

ChatGLM-6B自3月14日发布以来，深受广大开发者喜爱。截至6月24日，来自Huggingface上的下载量已经超过300w。
·2023-07-13 15:54

百度飞桨 AI Studio 上的 ChatGLM-6B 初探

本文作者：啊阿伟啊前言ChatGLM-6B由清华大学知识工程和数据挖掘团队是开源对话语言模型，支持中英双语，具有62亿参数。
啊阿伟啊·2023-07-09 16:06

textgen教程（持续更新ing...）

ImplementationofTextGenerationmodels,includeLLaMA,BLOOM,GPT2,BART,T5,SongNetandsoon.文本生成模型，实现了包括LLaMA，ChatGLM
诸神缄默不语·2023-06-24 08:56

大模型微调实践

3.1Freezesetting3.2Lorasetting3.3ptuningsetting4.加载数据集5.模型训练参考源：https://zhuanlan.zhihu.com/p/620885226#Chatglm
YingJingh·2023-06-24 05:10

RuntimeError: CUDA Error: no kernel image is available for execution on the device

配置ChatGLM过程中，出现如上问题。
孔雀竹鱼·2023-06-24 01:44

window零基础部署langchain-ChatGLM

一、介绍从0开始安装运行langchain-ChatGLM-6b-int4模型，主要是版本要配套不然特别容易报错我的机器配置CPU是Intel®Core™[email protected]
飞奔的屎壳郎·2023-06-23 05:49

ubuntu22.04CPU部署ChatGLM笔记

ChatGLM官方Github链接https://github.com/THUDM/ChatGLM-6B我就是一步步按照官方部署教程完成ChatGLM部署。
Raine_Yang·2023-06-23 05:44

《VisualGLM-6B的原理与微调》资料学习分享

清华大学在发布chatGLM-6B后很快速的时间内就又发布了VisualGLM-6B模型，不可谓不强大，VisualGLM-6B官方项目地址在这里，如下所示：VisualGLM-6B是一个开源的，支持图像
Together_CZ·2023-06-22 22:57

开源中文大语言模型集合【2023-06-19】

尤其是以ChatGLM、LLaMA等平民玩家都能跑起来的较小规模的LLM开源之后，业界涌现
u013250861·2023-06-22 17:01

文言一心，ChatGLM-6B和ChatGPT等模型概述

原文首发于博客文章大语言模型概况定义（个人理解的）大语言模型（LargeLanguageModel）是一种基于深度学习技术的自然语言处理通用模型，它可以通过学习大规模文本数据的模式和规律，从而实现对自然语言的理解和生成。通用型：在广泛的任务中表现出色，而不是针对一项特定任务，规模大：参数数量在数十亿或更多数量级的深度学习模型。大模型在NLP任务中的出色表现确实为人工智能领域带来了新的发展和探索方向
莫尔索随笔·2023-06-22 14:24
上一页 12 13 14 15 16 17 18 19 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他