Qwen-14B-Chat

GPT实战系列-实战Qwen在Cuda 12+24G部署方案

目前Qwen的口碑貌似还不错，测试显卡内存24G，毕竟有限，排除了Qwen14非量化方案Qwen-14B-Chat，只有Qwen-7B-Chat，Qwen-7B-Chat-Int4，Qwen-14B-Chat-Int4
Alex_StarSky·2024-01-17 12:43

本地部署 Qwen-14B-Chat

本地部署Qwen-14B-Chat1.Qwen-14B概述2.Github地址3.创建虚拟环境4.安装依赖项5.快速使用6.启动web演示7.访问Qwen1.Qwen-14B概述通义千问-14B（Qwen-14B）是阿里云研发的通义千问大模型系列的140亿参数规模的模型。Qwen-14B是基于Transformer的大语言模型,在超大规模的预训练数据上进行训练得到。预训练数据类型多样，覆盖广泛，包
engchina·2023-11-20 14:48

【通义千问】大模型Qwen GitHub开源工程学习笔记（4）-- 模型的量化与离线部署

摘要：量化方案基于AutoGPTQ，提供了Int4量化模型，其中包括Qwen-7B-Chat和Qwen-14B-Chat。更新承诺在模型评估效果几乎没有损失的情况下，降低存储要求并提高推理速度。
大表哥汽车人·2023-10-14 13:11

【通意千问】大模型GitHub开源工程学习笔记（2）--使用Qwen进行推理的示例代码解析，及transformers的库使用

请确保你使用的是最新代码，并指定正确的模型名称和路径，如Qwen/Qwen-7B-Chat和Qwen/Qwen-14B-Chat这里给出了一段代码fromtransformersimportAutoModelForCausalLM
大表哥汽车人·2023-10-01 12:04

【通意千问】大模型GitHub开源工程学习笔记（1）

9月25日，阿里云开源通义千问140亿参数模型Qwen-14B及其对话模型Qwen-14B-Chat,免费可商用。立马就到了GitHub去fork。
大表哥汽车人·2023-09-27 07:42

阿里云通义千问14B模型开源！性能超越Llama2等同等尺寸模型

9月25日，阿里云开源通义千问140亿参数模型Qwen-14B及其对话模型Qwen-14B-Chat,免费可商用。
CSDN云计算·2023-09-26 05:38
上一页 1 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他