GLM

GLM-130B-一个开放的双语通用预训练模型-论文精读

本文为作为类ChatGPT的模型ChatGLM的前期基础论文2《ANOPENBILINGUALPRE-TRAINEDMODEL》的精读笔记，基础论文1的精读笔记请见《GLM论文精读-自回归填空的通用语言模型
旺仔的算法coding笔记·2023-10-02 16:02

Network in Network论文笔记

NetworkinNetworkIntroduction传统卷积：广义线性模型（GeneralizedLinerModel，GLM），提取的浅层特征。只有数据线性可分时可以达到好的效果。
huhu_hhh·2023-10-02 16:01

[论文笔记]GLM

引言今天带来论文GLM:GeneralLanguageModelPretrainingwithAutoregressiveBlankInfilling的笔记。
愤怒的可乐·2023-10-02 16:00

清华GLM部署记录

环境部署首先安装anaconda（建议包管理比较方便）windows用户需手动配置一下环境变量，下面默认是在ubuntu环境说明创建python环境，condacreate-nyour_env_namepython=3.10(注：官方是提供是python3.8，但目前主流用python3.10因此使用python3.10.your_env_name是可以自己命名的环境名字)导入需要的包，这里包版本
学习3人组·2023-10-02 12:01

OpenGl在3D中绘制鼠标选择框2D

//绘制3D选框voidxxxRender3D::DrawSelectionRectangle3D(){if(m_bSpaceKeyDown){if(m_bLBDown&&m_bMouseMove){glm
果子火火·2023-10-02 08:59

亲测可用国产GPT人工智能

清华大学ChatGLM官网：智谱清言中国版对话语言模型，与GLM大模型进行对话。https://chatglm.cn/开源的、支持中英双语的1300亿参数的对话语言模型，清华大学团队。
燃烧的枫·2023-10-01 20:04

大规模语言模型的模型结构---编码器-解码器结构（GLM,UL2系列）

2020年OpenAI发布了由包含1750亿参数的神经网络构成的生成式大规模预训练语言模型GPT-3(Gener-ativePre-trainedTransformer3)。开启了大规模语言模型的新时代。由于大规模语言模型的参数量巨大，如果在不同任务上都进行微调需要消耗大量的计算资源，因此预训练微调范式不再适用于大规模语言模型。但是研究人员发现，通过语境学习(IncontextLearning，I
hanscalZheng·2023-10-01 11:26

趋动云GPU云平台部署ChatGLM-6B

ChatGLM-6B是一个基于GLM的生成式对话模型。由清华大学团队开发，旨在改进对话机器人的生成质量和逻辑。模型部署模型部署过程按照Dtatawhale文档给出的教程就可以。
LYLYC_3·2023-09-27 01:41

【大模型系列 04】Chat-GLM-6B for PyTorch 昇腾迁移

源码链接https://gitee.com/ascend/ModelZoo-PyTorch/tree/master/PyTorch/built-in/foundation/ChatGLM-6BChat-GLM
hiascend·2023-09-26 22:03

LLM预训练

fromtransformersimportAutoModel,AutoTokenizerfromtorch.utils.dataimportDataset,DataLoader#模型加载model_path="xxx/glm2
zhouzhou0929·2023-09-25 23:36

高性能计算环境下的深度学习异构集群建设与优化实践

；机器学习；高性能计算；数据挖掘；超算；ACL；算力；计算机视觉；PSU；Transformer；PLM；SLM；NLM；LLM；Galactica；OPT；OPT-IML；BLOOM；BLOOMZ；GLM
·2023-09-24 23:56

R语言贝叶斯广义线性混合（多层次/水平/嵌套）模型GLMM、逻辑回归分析教育留级影响因素数据...

p=24203本教程使用R介绍了具有非信息先验的贝叶斯GLM（广义线性模型）（点击文末“阅读原文”获取完整代码数据）。
拓端研究室TRL·2023-09-24 21:50

R语言贝叶斯MCMC：GLM逻辑回归、Rstan线性回归、Metropolis Hastings与Gibbs采样算法实例...

原文链接：http://tecdat.cn/?p=23236在频率学派中，观察样本是随机的，而参数是固定的、未知的数量（点击文末“阅读原文”获取完整代码数据）。相关视频什么是频率学派？概率被解释为一个随机过程的许多观测的预期频率。有一种想法是"真实的"，例如，在预测鱼的生活环境时，盐度和温度之间的相互作用有一个回归系数？什么是贝叶斯学派？在贝叶斯方法中，概率被解释为对信念的主观衡量。所有的变量--
拓端研究室TRL·2023-09-24 05:30

【大模型】—GLM大模型介绍

大模型——GLM大模型介绍随着人工神经网络和深度学习技术的不断发展和应用场景的不断拓展，大型语言模型已经成为了自然语言处理领域中的重要研究方向之一。
麦道先生·2023-09-22 16:15

二分类问题的解决利器：逻辑回归算法详解（一）

逻辑回归的原理逻辑回归是一种广义线性模型（GeneralizedLinearModel，简称GLM），它的目标是根据输入特征的
小馒头学python·2023-09-22 02:44

ChatGLM微调基于P-Tuning/LoRA/Full parameter（中）

1.ChatGLM模型介绍ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，基于GeneralLanguageModel(GLM)架构，具有62亿参数。
张志翔的博客·2023-09-21 22:46

R语言贝叶斯MCMC：GLM逻辑回归、Rstan线性回归、Metropolis Hastings与Gibbs采样算法|附代码数据

原文链接：http://tecdat.cn/?p=23236原文出处：拓端数据部落公众号最近我们被客户要求撰写关于贝叶斯MCMC的研究报告，包括一些图形和统计输出。什么是频率学派？在频率学派中，观察样本是随机的，而参数是固定的、未知的数量。概率被解释为一个随机过程的许多观测的预期频率。有一种想法是"真实的"，例如，在预测鱼的生活环境时，盐度和温度之间的相互作用有一个回归系数？什么是贝叶斯学派？在贝
·2023-09-21 21:29

ChatGLM-6B 做 LoRA fine tuning训练模型在闻达中使用

很简单，把finetune的模型整个文件夹拷贝到闻达的model目录下面闻达目录下example.config.yml改成config.yml然后编辑它修改配置指向你的模型glm6b:#path
qq_26689303·2023-09-21 04:23

R语言中使用非凸惩罚函数回归(SCAD、MCP)分析前列腺数据|附代码数据

本文使用lasso或非凸惩罚拟合线性回归，GLM和Cox回归模型的正则化，特别是最小最大凹度惩罚函数(MCP)和光滑切片绝对偏差惩罚（SCAD），以及其他L2惩罚的选项（“弹性网络”）。
·2023-09-20 21:16

R语言中使用非凸惩罚函数回归(SCAD、MCP)分析前列腺数据|附代码数据

本文使用lasso或非凸惩罚拟合线性回归，GLM和Cox回归模型的正则化，特别是最小最大凹度惩罚函数(MCP)和光滑切片绝对偏差惩罚（SCAD），以及其他L2惩罚的选项（“弹性网络”）。
·2023-09-20 21:44

windows Visual Studio 2022 opengl开发环境配置

1.安装glew(GL),GLFW,glm,soil2-debug还需要premake生成visualstudiosolutioncmakeforwindows也要安装一个，但是不用安装MinGW64,
fareast_mzh·2023-09-20 17:01

R常用包

dplyrlubridatesqldfstringr2.数据可视化包ggplot2lattice3.时间序列forecast4.聚类clusterkmeans5.分类rpartrandomForest回归glm
DB_UP·2023-09-20 14:51

揭秘英伟达A100、A800、H100、H800 GPU如何实现高性能大模型的百倍训练加速

关键词：Transformer；PLM；SLM；NLM；LLM；Galactica；OPT；OPT-IML；BLOOM；BLOOMZ；GLM；Reddit；H100；H800；A100；A800；MI200
·2023-09-19 17:01

R语言有限混合模型聚类FMM、广义线性回归模型GLM混合应用分析威士忌市场和研究专利申请、支出数据|附代码数据

原文链接：http://tecdat.cn/?p=24742原文出处：拓端数据部落公众号最近我们被客户要求撰写关于有限混合模型聚类FMM的研究报告，包括一些图形和统计输出。摘要有限混合模型是对未观察到的异质性建模或近似一般分布函数的流行方法。它们应用于许多不同的领域，例如天文学、生物学、医学或营销。本文给出了这些模型的概述以及许多应用示例。介绍有限混合模型是对未观察到的异质性建模或近似一般分布函数
·2023-09-19 17:30

ChatGLM DeepSpeed 全参数微调

ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，基于GeneralLanguageModel(GLM)架构，具有62亿参数。
张志翔的博客·2023-09-19 13:46

揭秘英伟达A100、A800、H100、H800 GPU如何实现高性能大模型的百倍训练加速

关键词：Transformer；PLM；SLM；NLM；LLM；Galactica；OPT；OPT-IML；BLOOM；BLOOMZ；GLM；Reddit；H100；H800；A100；A800；MI200
高性能服务器·2023-09-18 12:32

英伟达 H100 vs. 苹果M2，大模型训练，哪款性价比更高？

关键词：M2芯片；Ultra；M1芯片；UltraFusion；ULTRAMAN；RTX4090、A800;A100；H100；LLAMA、LM、AIGC、CHATGLM、LLVM、LLM、LLMs、GLM
高性能服务器·2023-09-18 12:01

如何在SAM时代下打造高效的高性能计算大模型训练平台

data；H100、H800、A100、A800、LLaMA、Transformer、OpenAI、GQA、RMSNorm、SFT、RTX4090、A6000、AIGC、CHATGLM、LLVM、LLMs、GLM
高性能服务器·2023-09-18 12:01

语言大模型总结

ChatGLM机构：清华大学类型：国产ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，开源GIT网址，基于GeneralLanguageModel(GLM)架构，具有62亿参数。
2332232·2023-09-16 22:54

chatgpt笔记本部署

大家都在搞自己的大模型，我也在阿里云，腾讯云分别部署了moss,羊驼，chat-glm等大模型测试训练，可是这些都很费钱。
xzh847·2023-09-13 12:53

微调chatGLM-6B大模型的方法

GLM官方的知乎微调教程：https://zhuanlan.zhihu.com/p/618498001GLM官方的GitHub微调教程：https://github.com/THUDM/ChatGLM-
2629352674·2023-09-12 14:37

OpenGL问题列表

glm::lookAt的实现把TR操作放到一个变换矩阵中，岂不是先R后T了？问题本质源于g
Lu Zelin·2023-09-11 05:01

如何在SAM时代下打造高效的高性能计算大模型训练平台

data；H100、H800、A100、A800、LLaMA、Transformer、OpenAI、GQA、RMSNorm、SFT、RTX4090、A6000、AIGC、CHATGLM、LLVM、LLMs、GLM
·2023-09-10 01:45

揭秘英伟达A100、A800、H100、H800 GPU如何实现高性能大模型的百倍训练加速

关键词：Transformer；PLM；SLM；NLM；LLM；Galactica；OPT；OPT-IML；BLOOM；BLOOMZ；GLM；Reddit；H100；H800；A100；A800；MI200
·2023-09-10 01:44

景联文数据标注：AI大模型在教育和医疗领域的应用

8月31日消息，备受行业瞩目的首批大模型产品获批名单发布，首批通过备案的8家大模型公司分别是：百度（文心一言）、抖音（云雀大模型）、智谱AI（GLM大模型）、中科院（紫东太初大模型）、百川智能（百川大模型
景联文科技·2023-09-09 09:08

自然语言处理 微调ChatGLM-6B大模型

自然语言处理微调ChatGLM-6B大模型1、GLM设计原理2、大模型微调原理1、P-tuningv2方案2、LORA方案1、GLM设计原理bert的主要任务是随机的去除掉某个单词，使用上下文将其预测出来
郭庆汝·2023-09-06 17:43

广义线性混合模型（GLMM）

知识背景广义线性混合模型可以看做是广义线性模型（GLM）以及线性混合模型(LMM)的扩展，为了更好地理解GLMM，肯定要对普通线性模型、广义线性模型以及线性混合模型有个理解。
3between7·2023-08-31 23:01

数据分享|R语言用lme4多层次（混合效应）广义线性模型（GLM），逻辑回归分析教育留级调查数据...

p=22813本教程为读者提供了使用频率学派的广义线性模型（GLM）的基本介绍。
拓端研究室TRL·2023-08-31 17:14

r - summary.connection(connection) : invalid connection 中的错误

LR=caret::train(Satisfaction~.,data=log_train,method="glm",preProcess=c("scale"),family="binomial")不断收到以下错误行
饮食有度的元气少女·2023-08-31 02:17

开源双语对话语言模型 ChatGLM-6B 本地私有化部署

www.licorne.ink/2023/08/llm-chatglm-6b-local-deploy/ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，基于GeneralLanguageModel(GLM
Initialization_·2023-08-30 16:49

从huggingface hub 中下载模型或者数据

snapshot_download(repo_id='THUDM/chatglm2-6b',repo_type="model",#可选[dataset,model]local_dir='/home/dev/datasets/glm
一如年少模样丶·2023-08-26 08:01

【ChatGLM】ChatGLM-6B模型Win+4GB显卡本地部署笔记

预期环境本机电脑备注：Win10专业版+32G内存+256固态系统盘+1T机械硬盘+4G英伟达显卡python版本：3.10.7下载代码GLM-6B依赖Python库及版本文件记录了ChatGLM-6B
掘金者说·2023-08-26 04:34

ChatGLM-6B微调记录

目录GLM-130B和ChatGLM-6BChatGLM-6B直接部署基于PEFT的LoRA微调ChatGLM-6BGLM-130B和ChatGLM-6B对于三类主要预训练框架：autoregressive
tzc_fly·2023-08-24 08:31

从ChatGLM2-6B来看大模型扩展上下文和加速推理相关技术

ChatGLM2-6B使用了GLM的混合目标函数，经过了1.4T中英标识符的预训练与人类偏好对齐训练，评测结果显示，相比于
wshzd·2023-08-21 09:08

2023年了，哪个深度学习框架才最带劲?

都2023年，才来回答这个问题，自然毫无悬念地选择PyTorch，TensorFlow在大模型这一波浪潮中没有起死回生，有点惋惜，现在GLM、GPT、LLaMA等各种大模型都是基于PyTorch框架构建
野草arthas·2023-08-21 03:44

清华ChatGLM-6B本地GPU推理部署

GitLFS3.2Demo下载3.3模型下载3.4文件目录4环境安装5运行5.1FP165.2量化6演示1简介ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，基于GeneralLanguageModel（GLM
木子CS·2023-08-19 16:31

ubuntu 部署 ChatGLM-6B 完整流程 模型量化 Nvidia

完整流程模型量化Nvidia初环境与设备环境准备克隆模型代码部署ChatGLM-6B完整代码ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，基于GeneralLanguageModel(GLM
盗理者·2023-08-19 16:30

R语言有限混合模型聚类FMM、广义线性回归模型GLM混合应用分析威士忌市场和研究专利申请、支出数据|附代码数据

原文链接：http://tecdat.cn/?p=24742原文出处：拓端数据部落公众号最近我们被客户要求撰写关于有限混合模型聚类FMM的研究报告，包括一些图形和统计输出。摘要有限混合模型是对未观察到的异质性建模或近似一般分布函数的流行方法。它们应用于许多不同的领域，例如天文学、生物学、医学或营销。本文给出了这些模型的概述以及许多应用示例。介绍有限混合模型是对未观察到的异质性建模或近似一般分布函数
·2023-08-19 00:26

中英双语对话大语言模型：ChatGLM-6B

介绍ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，基于GeneralLanguageModel(GLM)架构，具有62亿参数。
A雄·2023-08-18 15:44

chatglm-6b_ptuning error:bash .sh，出现ModuleNotFoundError

该模型基于GeneralLanguageModel(GLM)架构，具有62亿参数。借助模型量化技术，用户可以在消费级的显卡上进行本地部署，INT4量化级别下最低只需6GB显存。
芝士高斯·2023-08-17 15:28
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他