Colossalai

分享9个已开源的GPT4平替，用过感觉还不错

分享9个已开源的GPT4平替，用过感觉还不错鱼子酱关注她22人赞同了该文章目录收起1.ColossalAI2.ChatGLM3.LLaMa4.LLaMa-ChatLLaMA5.BELLE6.PaLM-rlhf-pytorch7

luoganttcc·2023-10-04 16:08

ColossalAI-Chat训练手册（RLHF）

目录1、什么的RLHF流程？2、环境安装3、训练&运行3.1、模型下载3.1、SFT(supervisedfine-tuning)3.2、训练奖励模型（Trainingrewardmodel）3.3、RL（TrainingmodelusingpromptswithRL）3.4、使用模型进行应答3.5、playground3.6、应答效果4、异常记录4.1llama爆显存4.2bloom模型报Err

IT一氪·2023-09-11 23:26

【精华】AIGC专栏-Text/Img/Video/audio

LeeZhao@·2023-09-09 22:27

开源方案11倍加速蛋白质单体与复合物的结构预测！Colossal-AI 团队联合百图生科发布xTrimo Multimer

近日，Colossal-AI团队(https://github.com/hpcaitech/ColossalAI)联合百图生科成功加速蛋白质单体与复合物的结构预测，行业内最前沿的同时支持蛋白质单体(Monomer

潞晨科技官方·2023-08-31 18:26

Colossal-AI：自己训练一个chatgpt

原文：https://github.com/hpcaitech/ColossalAI/tree/mainColossal-AIColossal-AI:让AI大模型更低成本、方便易用、高效扩展论文|文档|

源代码杀手·2023-07-31 23:02

ColossalAI GPT2分布式训练调试配置—GPT系列训练与部署

本文为博主原创文章，未经博主允许不得转载。本文为专栏《Python从零开始进行AIGC大模型训练与推理》系列文章，地址为“https://blog.csdn.net/suiyingy/article/details/130169592”。本专栏之前文章详细介绍了Colossal-AI环境搭建及GPT2数据处理与训练。Colossal-AI框架的主要优势在于分布式训练，进而提高训练效率。但是这种启动

Coding的叶子·2023-06-10 03:40

colossal-ai怎么样

但是，根据公开的信息，ColossalAI是由计算机科学家兼企业家AndrejKarpathy和OpenAI创始人GregBrockman共同创立的公司，旨在推动人工智能的发展和普及。

Paula-柒月拾·2023-04-12 13:27

使用Colossal-AI进行优化的测试笔记

Colossal-AI具有下面的优点：加快训练速度提高显存利用率使用colossalai无法提高显存利用率这是在测试的时候发现的，使用colossalai以BATCH_SIZE=16384训练models.shufflenet_v2

songyuc·2023-04-12 13:56

Colossal-AI团队亮相全球超级计算机大会等多项国际盛会

项目开源地址：https://github.com/hpcaitech/ColossalAI国际超级计算

潞晨科技官方·2023-04-12 13:53

Colossal-AI训练diffusion经验记录

经验记录基本使用Colossal-AI+diffusion环境配置tritonSegmentationfault(coredumped)GPUProgramming介绍openAIColossalAI官方文档ColossalAI

天线狗子·2023-03-10 16:21

AI画画模型成本被打下来了！预训练成本直降85%，微调只需单张RTX 2070，这个国产开源项目又上新了...

开源地址：https://github.com/hpcaitech/ColossalAI今年，StableDiff

QbitAl·2022-11-25 08:31

比AlphaFold2快10倍！国产开源项目加速蛋白质预测，超长序列22分钟就搞定

最近，由Colossal-AI团队(https://github.com/hpcaitech/ColossalAI)联合百图生科的蛋白质预测模型xTrimoMultimer，正式免费开源。

QbitAl·2022-08-25 07:46

推荐频道