ChatGLM 第3页

本地部署 ChatGLM-6b

ChatGLM-6B是一个开源的、支持中英双语的对话语言模型。基于GeneralLanguageModel(GLM)架构，具有62亿参数。

sanyer·2024-01-20 22:31

基于ChatGPT的代码解释神器：GPT Academic、GitHub Copilot

提供实用化交互界面，特别优化论文阅读/润色/写作体验，模块化设计，支持自定义快捷按钮&函数插件，支持Python和C++等项目剖析&自译解功能，PDF/LaTex论文翻译&总结功能，支持并行问询多种LLM模型，支持chatglm2

码上出奇迹·2024-01-20 16:38

ChatGLM3报错：No chat template is defined for this tokenizer

使用官方提供的脚本创建ChatGLM3的DEMO：cdbasic_demopythonweb_demo_gradio.py出现效果异常问题：====conversation====[{'role':'user

三采·2024-01-19 17:56

【Datawhale x 财务学习笔记】用智谱清言的代码沙盒进行分析

体验网址智谱清言：https://chatglm.cn/prompt帮我分析一下这个excel文件，从财务角度给出利润情况，并给出优化建议体验结果首先，我将查看上传的Excel文件的内容，以便了解其结构和包含的数据

JeffDingAI·2024-01-19 16:21

清华开源语言大模型ChatGLM3部署实战

清华开源语言大模型ChatGLM3部署实战安装环境下载模型文件测试是否安装成功gpu推理cpu推理量化推理ChatGLM3是智谱AI和清华大学KEG实验室联合发布的新一代对话预训练模型。

Silver__Wolf·2024-01-19 15:16

清华开源语言大模型ChatGLM3联通one-api实现快速部署

清华开源语言大模型ChatGLM3联通one-api实现快速部署安装ChatGLM3开启openai-api端口安装one-api安装ChatGLM3详见我的上一篇文章:清华开源语言大模型ChatGLM3

Silver__Wolf·2024-01-19 15:16

开源模型应用落地-qwen-7b-chat与vllm实现推理加速的正确姿势（一）

一、前言基于真实生产级项目分享，帮助有需要的同学快速构建完整可交付项目项目流程包括（去掉业务部分）：开源模型测试，包括baichuan、qwen、chatglm、bloom数据爬取及清洗模型微调及评估搭建

charles_vaez·2024-01-19 12:30

LaWGPT安装和使用教程的复现版本【细节满满】

该系列模型在通用中文基座模型（如Chinese-LLaMA、ChatGLM等）的基础上扩充法律领域专有词表、大规模中文法律语料预训练，增强了大模型在法律领域的基础语义理解能力。

D洁洁和W的御用Programmer·2024-01-18 22:57

在Mac m1运行ChatGLM3-6B cpu版本1-3秒出结果

具体过程如下：1.准备环境gitclone--recursivehttps://github.com/li-plus/chatglm.cpp.git&&cdchatglm.cppgitsubmoduleupdate

wxl781227·2024-01-18 16:18

十分钟部署清华 ChatGLM-6B，实测效果超预期（Linux版）

前段时间，清华公布了中英双语对话模型ChatGLM-6B，具有60亿的参数，初具问答和对话功能。最！最！最重要的是它能够支持私有化部署，大部分实验室的服务器基本上都能跑起来。

深度学习算法与自然语言处理·2024-01-18 15:25

带着问题学LLM

常用模型大小对比chatglm-6bmodel=AutoModel.from_pretrained(model_path,trust_remote_code=True,device_map='auto'

zhouzhou0929·2024-01-18 01:07

MOSS LORA 方式微调报错，RuntimeError: expected scalar type Half but found Float解决方案

最近用V100微调MOSS、ChatGLM等模型，过程中报错RuntimeError:expectedscalartypeHalfbutfoundFloat解决方案为:在model_class.model.from_pretrained

uloveqian2015·2024-01-18 01:07

AI新工具(20240117):GLM-4,Stable Code 3B，Motionshop等

此外，GLM-4还具有128K长文本能力、多模态能力和功能调用等特点，较上一代ChatGLM3在综合能力上实现了全面跃升，性能提升了60%，已经逼近GPT-4。GLM-4还发布了

go2coding·2024-01-18 00:43

ChatGLM实现本地部署类似GPT,训练自己的数据

ChatGPT最近火的不得了，但是注册账号，升级Plus非常麻烦，而且还要担心数据泄露，清华开源ChatGLM，实现本地部署，这就方便多了，不用魔法，就能本地访问，还可以喂一下自己行业的数据来训练它，让它成为专属于你的人工智能

mdw5521·2024-01-17 21:52

ChatGLM-6B部署和微调实例

文章目录前言一、ChatGLM-6B安装1.1下载1.2环境安装二、ChatGLM-6B推理三、P-tuning微调3.1微调数据集3.2微调训练3.3微调评估3.4调用新的模型进行推理总结前言ChatGLM

drj御用programmer·2024-01-17 18:41

Ubuntu部署ChatGLM2-6B踩坑记录

目录一、环境配置1、安装anaconda或者miniconda进行环境的管理2、安装CUDA3、环境安装二、配置加载模型1、建立THUDM文件夹三、遇到的问题1、pipinstall-rrequirements.txt2、运行pythonweb_demo.py遇到的错误——TypeError:Descriptorscannotnotbecreateddirectly.3、运行pythonweb_d

XINYU W·2024-01-17 13:01

【AI】RTX2060 6G Ubuntu 22.04.1 LTS (Jammy Jellyfish) 部署chatglm2-6b 开源中英双语对话模型

项目地址chatglm2-6b下载模型cd~/Downloadsgitclone--depth=1https://www.modelscope.cn/ZhipuAI/chatglm2-6b.git创建测试项目

hkNaruto·2024-01-17 12:27

GPT实战系列-实战Qwen在Cuda 12+24G部署方案

GPT实战系列-实战Qwen在Cuda12+24G部署方案ChatGLM4进行新闻发布，但还没有开源更新，在此之际，实战部署测试Qwen大模型。

Alex_StarSky·2024-01-17 12:43

ChatGLM3-6B的本地api调用

ChatGLM3-6B的本地api调用方式1.运行openai_api_demo路径下的openai_api.py启动后界面：注意：本地api调到的前提是——本地部署了ChatGLM3-6B,本地部署的教程可参考

落叶阳光·2024-01-17 08:09

国内大模型 ChatGLM4 尝鲜体验

写在前面本人从一开始ChatGLM-6B时，就一直关注这个模型。今天，智谱AI在DevDay技术开放日活动上发布了全新升级的ChatGLM4模型，这必须得体验一波。

银空飞羽·2024-01-16 22:41

企业数据挖掘平台哪家好？听听客户的真实反馈

听听客户真实反馈：大数据挖掘企业服务平台包含四大产品服务，分别为：AI大模型服务、大数据挖掘建模平台、大数据分析可视化平台、产品扩展等一、AI大模型服务泰迪智能科技AI大模型支持以ChatGLM2-6B

泰迪智能科技·2024-01-16 15:57

作业（3）——微调

支持的开源LLM(2023.11.01)InternLM✅Llama，Llama2ChatGLM2，ChatGLM3QwenBaichuan，Baichuan2Zephyr…平台

亲爱的阿基米德^·2024-01-15 21:13

【LLMs 入门实战】基于 PEFT 在私有数据集上高效微调ChatGLM2-6B

原文链接【LLMs入门实战】基于PEFT在私有数据集上高效微调ChatGLM2-6B-知乎本次微调是基于github的hiyouga/ChatGLM-Efficient-Tuning项目进行微调的。

baidu_huihui·2024-01-15 15:09

国产大模型LLM 魔搭社区|阿里云服务器部署

下面以部署ChatGLM3为例本博

八荒、·2024-01-15 15:25

Chatglm3-6B Chat/Base保姆级本地部署以及工具调用

国产大语言模型之光—Chatglm3-6BChat/Base保姆级本地部署以及工具调用文章目录国产大语言模型之光---Chatglm3-6BChat/Base保姆级本地部署以及工具调用开发背景硬件支持模型权重下载模型部署代码的准备依赖的安装模型的加载模型的推理单次对话模型调用命令行版模型多轮对话网页版模型多轮对话

八荒、·2024-01-15 15:24

GPT实战系列-简单聊聊LangChain搭建本地知识库准备

是一个开发由语言模型驱动的应用程序的框架，除了和应用程序通过API调用，还会：数据感知:将语言模型连接到其他数据源具有代理性质:允许语言模型与其环境交互LLM大模型相关文章：GPT实战系列-简单聊聊LangChainGPT实战系列-ChatGLM3

Alex_StarSky·2024-01-15 10:51

【ESP32接入语言大模型之智谱清言】

智谱清言作为千亿参数对话模型基于ChatGLM2模型开发，支持多轮对话，具备内容创作、信息归纳总结等能力。可以快速注册体验中国版语言大模型，与GLM大模型进行对话。

2345VOR·2024-01-15 07:16

大模型微调及生态简单介绍

大模型大模型生态OpenAI大模型生态：全球开源大模型性能评估榜单中文语言模型——ChatGLM基于ChatGLM的多模态⼤模型大模型微调LLM⼤语⾔模型⼀般训练过程为什么需要微调高效微调技术⽅法概述⾼

天天写点代码·2024-01-14 16:38

【LangChain学习之旅】—（7）调用模型：使用OpenAI API还是微调开源Llama2/ChatGLM？

【LangChain学习之旅】—（7）调用模型：使用OpenAIAPI还是微调开源Llama2/ChatGLM？

之墨_·2024-01-13 19:47

新书速览|从零开始大模型开发与微调：基于PyTorch与ChatGLM

本书使用PyTorch2.0作为学习大模型的基本框架，以ChatGLM为例详细讲解大模型的基本理论、算法、程序实现、应用实战以及微调技术，为读者揭示大模型开发技术。本书配套示例源代码、PPT课件。

全栈开发圈·2024-01-13 11:59

用通俗易懂的方式讲解：一文讲透主流大语言模型的技术原理细节

大家好，今天的文章分享三个方面的内容：1、比较LLaMA、ChatGLM、Falcon等大语言模型的细节：tokenizer、位置编码、LayerNormalization、激活函数等。

机器学习社区·2024-01-13 02:47

实战案例：chatglm3 基础模型多轮对话微调

chatglm3发布了，这次还发了base版本的模型，意味着我们可以基于这个base模型去自由地做SFT了。本项目实现了基于base模型的SFT。

机器学习社区·2024-01-13 02:46

这应该是最全的大模型训练与微调关键技术梳理

是否希望深入探索LLaMA、ChatGLM等模型的微调技术，进一步优化参数和使用不同微调方式？现在我带大家领略大模型训练与微调进阶之路，拓展您的技术边界！

机器学习社区·2024-01-13 02:46

智谱AI大模型ChatGLM3-6B更新，快來部署体验

ChatGLM3是智谱AI和清华大学KEG实验室联合发布的新一代对话预训练模型。

AI 研习所·2024-01-13 01:46

chatglm3本地部署(综合Demo版本)教程

gitclonehttps://github.com/THUDM/ChatGLM32.模型下载https://modelscope.cn/models/ZhipuAI/chatglm3-6b/files

牛像话·2024-01-12 19:31

LangChain+glm3原理解析及本地知识库部署搭建

前期准备：在部署LangChain之前，需要先下载chatglm3模型，如何下载可以查看我的上一篇文章chatglm3本地部署本地知识库和微调的区别：知识库是使用向量数据库存储数据，可以外挂，作为LLM

牛像话·2024-01-12 19:29

经典算法-遗传算法的解走迷宫例子

Alex_StarSky·2024-01-11 12:07

ChatGLM多轮对话微调-多轮对话训练数据的自动生成（标注）

以ChatGLM为例，微调对话任务的时候，微调会导致模型的理解能力别削弱（无法理解相似语义的输入），即当输入数据prompt的分布与训练数据分布不一致时，模型不会按照训练集的response进行输出，而是使用模型原有的能力进行输出

wxl781227·2024-01-11 10:45

win10系统gpu本地部署chatglm3-6b，从0开始安装

开源地址：GitHub-THUDM/ChatGLM3:ChatGLM3series:OpenBilingualChatLLMs|开源双语对话语言模型前言：ChatGLM2与ChatGLM3区别ChatGLM2

babytiger·2024-01-11 06:32

离线AI聊天清华大模型(ChatGLM3)本地搭建

大模型本身清华的(ChatGLM3)，为的是对中文支持友好，另外就是我也很看好它，毕竟一直在优化自己的模型，提升模型的质量。

AI知识图谱大本营·2024-01-11 03:56

chatglm3的api调用

condaactivatechatglm3cdopenai_api_demopythonopenai_api.py启动ok，然后内网映射后anaconda启动jupyter!pipinstallopenai==1.6.1-ihttps://pypi.tuna.tsinghua.edu.cn/simple/"""ThisscriptisanexampleofusingtheOpenAIAPItocr

小草cys·2024-01-11 03:40

ChatGLM3在windows上部署

1项目地址https://github.com/THUDM/ChatGLM3简介：ChatGLM3是智谱AI和清华大学KEG实验室联合发布的新一代对话预训练模型。

shgh_2004·2024-01-10 15:07

ChatGLM2-6B 大语言模型本地搭建

ChatGLM模型介绍：ChatGLM2-6B是清华NLP团队于不久前发布的中英双语对话模型，它具备了强大的问答和对话功能。拥有最大32K上下文，并且在授权后可免费商用！

雪峰空间·2024-01-10 11:42

书生·浦语大模型全链路开源体系

各大公司、研究机构纷纷发布自己的大模型，国内发布的大模型就有：书生（InternLM）、文心一言（Yiyan）、百川（Baichuan）、通义千问（Qwen）、ChatGLM等，国外比较知名的有：Llama

weixin_39897979·2024-01-10 03:38

【大模型】LLM显存占用对比：Qwen-7B-Chat，Qwen-14B-Chat-Int8，chatglm3-6b

【大模型】LLM显存占用对比：Qwen-7B-Chat，Qwen-14B-Chat-Int8，chatglm3-6b显存占用对比：总结参考显存占用对比：显卡：NVIDIAGeForceRTX4090系统环境

szZack·2024-01-09 22:02

910b上跑Chatglm3-6b进行流式输出【pytorch框架】

文章目录准备阶段避坑阶段添加代码结果展示准备阶段配套软件包Ascend-cann-toolkit和Ascend-cann-nnae适配昇腾的Pytorch适配昇腾的TorchvisionAdapter下载ChatGLM3

内卷焦虑人士·2024-01-09 20:39

GPT实战系列-ChatGLM3管理外部借力工具

GPT实战系列-ChatGLM3管理外部借力工具用ChatGLM的工具可以实现很多查询接口和执行命令，外部工具该如何配置使用？如何联合它们实现大模型查询助手功能？

Alex_StarSky·2024-01-09 16:59

关于生成式语言大模型的一些工程思考 paddlenlp & chatglm & llama

更新了以下特性：全面支持主流开源大模型Bloom,ChatGLM,GLM,Llama,OPT的训练和推理；TrainerAPI新增张量训练能力,简单配置即可开启分布式训练；新增低参数微调能力PEFT,助力大模型高效微调

路人与大师·2024-01-09 02:57

每日一看大模型新闻（2023.11.13）自定义GPT最受欢迎Top 9名单发布；清华系ChatGLM3发布，多模态挑战GPT-4V；GPT-4比你更会问问题：让大模型自主复述，打破与人类对话的壁垒

1.产品发布1.1清华系ChatGLM3发布，多模态挑战GPT-4V发布日期：2023-11-13清华系ChatGLM3现场怼脸演示！

超爱玩大模型·2024-01-08 20:46

GPT实战系列-简单聊聊LangChain

GPT实战系列-简单聊聊LangChainLLM大模型相关文章：GPT实战系列-ChatGLM3本地部署CUDA11+1080Ti+显卡24G实战方案GPT实战系列-Baichuan2本地化部署实战方案

Alex_StarSky·2024-01-08 11:55

推荐频道

ChatGLM