Qwen-14B

llama.cpp部署通义千问Qwen-14B

llama.cpp是当前最火热的大模型开源推理框架之一，支持了非常多的LLM的量化推理，生态比较完善，是个人学习和使用的首选。最近阿里开源了通义千问大语言模型，在众多榜单上刷榜了，是当前最炙手可热的开源中文大语言模型。今天在github上看到前几天llama.cpp已经支持Qwen的推理了，但是由于是近期才开源的，网上还没有太多使用llama.cpp来推理通义千问的实例。本着学习的目的，今天就来实
静待梅花开·2023-12-04 01:22

通义千问 模型学习 和 SDK试用

通义千问-14B-Chat-Int4·模型库(modelscope.cn)**通义千问-14B（Qwen-14B）**是阿里云研发的通义千问大模型系列的140亿参数规模的模型。
wangqiaowq·2023-12-03 21:00

本地部署 Qwen-14B-Chat

本地部署Qwen-14B-Chat1.Qwen-14B概述2.Github地址3.创建虚拟环境4.安装依赖项5.快速使用6.启动web演示7.访问Qwen1.Qwen-14B概述通义千问-14B（Qwen
engchina·2023-11-20 14:48

qwen大模型，推理速度慢，单卡/双卡速度慢，flash-attention安装，解决方案

详细：1、今日在使用qwen-14b的float16版本进行推理（BF16/FP16)1.1在qwen-14b-int4也会有同样的现象2、使用309024G显卡两张3、模型加载的device是auto
Bean_zx·2023-11-20 06:19

阿里巴巴将开源720亿参数大模型；开源语言大模型演进史

目前，阿里巴巴已经开源通义千问140亿参数模型Qwen-14B和70亿参数模型Qwen-7B。
go2coding·2023-11-11 05:45

使用4090显卡部署 Qwen-14B-Chat-Int4

Qwen-14B-Chat-Int41.Qwen-Agent概述2.Github地址3.创建虚拟环境4.安装依赖项5.快速使用6.启动web演示7.访问Qwen1.Qwen-Agent概述通义千问-14B（Qwen
engchina·2023-10-06 13:20

【通意千问】大模型GitHub开源工程学习笔记（1）

9月25日，阿里云开源通义千问140亿参数模型Qwen-14B及其对话模型Qwen-14B-Chat,免费可商用。立马就到了GitHub去fork。
大表哥汽车人·2023-09-27 07:42

阿里云通义千问14B模型开源！性能超越Llama2等同等尺寸模型

9月25日，阿里云开源通义千问140亿参数模型Qwen-14B及其对话模型Qwen-14B-Chat,免费可商用。
CSDN云计算·2023-09-26 05:38
上一页 1 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他