Qwen 第2页

DeepSeek-R1-Distill-Qwen-7B-Int8-W8A16 量化高精校准

SDK模型下载frommodelscopeimportsnapshot_downloadmodel_dir=snapshot_download('okwinds/DeepSeek-R1-Distill-Qwen

AI天才研究院·2025-02-16 04:35

DeepSeek-R1 蒸馏 Qwen 和 Llama 架构企业级RAG知识库

以Qwen或Llama架构为

qq_25467441·2025-02-15 20:00

基于开源千文模型（如Qwen、ChatGLM等）实施如何进行动态蒸馏，详细说明操作步骤.

基于开源千文模型（如Qwen、ChatGLM等）实施如何进行动态蒸馏，详细说明操作步骤.1.动态蒸馏的核心思想动态蒸馏的目标是通过教师模型（通常是一个较大的预训练模型）的输出，指导学生模型（较小的模型）

墨者清风·2025-02-15 11:54

基于 llama-index与Qwen大模型实现RAG

文章目录llama-index核心功能工作流程Qwen技术特点核心能力RAG核心原理关键优势工作流程知识准备阶段查询处理阶段检索与重排阶段语言模型调用阶段实现环境准备代码实现参考LlamaIndex和Langchain

uncle_ll·2025-02-15 09:35

通义灵码全新上线模型选择功能，新增支持 DeepSeek-V3 和 DeepSeek-R1 模型

近期，阿里云百炼平台重磅推出DeepSeek-V3、DeepSeek-R1、DeepSeek-R1-Distill-Qwen-32B等6款模型，进一步丰富其AI模型矩阵。

阿里云云原生·2025-02-15 02:34

【实测】用全志A733平板搭建一个端侧Deepseek算力平台

端侧平台环境设备：全志A733平板系统：Android15DDR:8GBLPDDR5@2400MHzFlash：128GBUFS3.0测试模型：Deepseek-R1-Distill-Qwen

小文哥嵌入式开发·2025-02-14 00:07

通义灵码全新上线模型选择功能，新增支持 DeepSeek-V3 和 DeepSeek-R1 模型

近期，阿里云百炼平台重磅推出DeepSeek-V3、DeepSeek-R1、DeepSeek-R1-Distill-Qwen-32B等6款模型，进一步丰富其AI模型矩阵。

TONGYI_Lingma·2025-02-13 22:54

用Llama Factory单机多卡微调Qwen2.5时报torch.OutOfMemoryError: CUDA out of memory的解决办法

接着上一篇博客：在Ubuntu上用LlamaFactory命令行微调Qwen2.5的简单过程_llamafactory微调qwen2.5-CSDN博客如果需要微调比较大的模型，例如Qwen2.5-32B

蛐蛐蛐·2025-02-12 22:27

普惠AI 如何在 Anolis OS 8 上部署生产可用的 DeepSeek 推理服务

DeepSeek-R1-Distill-Qwen则是通过DeepSeek-R1的输出，基于Qwen大语言模型，经过模型蒸馏的小模型，其中32B和70B模型在多项能力上实现了对标OpenAIo

·2025-02-12 17:52

DeepSeek V3 两周使用总结

官方宣称：（1）基于自研的MoE模型和671B参数，在14.8Ttoken上进行了预训练；（2）多项评测成绩超越了Qwen2.5-72B和Llama-3.1-405

AI生成曾小健·2025-02-12 11:12

昇腾，Ascend，NPU，mindie，镜像，部署vllm：第4篇，尝试多模态大模型部署（Qwen2-vl）

文章目录前言下载模型前言一直想部署一个多模态大模型，今天就以Qwen2-vl为例尝试一番吧。

几道之旅·2025-02-12 10:36

华为NPU服务器昇腾Ascend 910B2部署通义千问Qwen2.5——基于mindie镜像一路试错版（一）

blog.csdn.net/xiezhipu/article/details/145467032)[昇腾，mindie，镜像，部署vllm：第2篇，启动mindieservice_daemon服务，支持对Qwen2

几道之旅·2025-02-12 10:06

华为NPU服务器昇腾Ascend 910B2部署通义千问Qwen2.5——基于mindie镜像一路试错版（三）

blog.csdn.net/xiezhipu/article/details/145467032)[昇腾，mindie，镜像，部署vllm：第2篇，启动mindieservice_daemon服务，支持对Qwen2

几道之旅·2025-02-12 10:06

开源模型应用落地-qwen2-7b-instruct-LoRA微调&合并-ms-swift-单机多卡-RTX 4090双卡（十五）

一、前言本篇文章将使用ms-swift去合并微调后的模型权重，通过阅读本文，您将能够更好地掌握这些关键技术，理解其中的关键技术要点，并应用于自己的项目中。二、术语介绍2.1.LoRA微调LoRA(Low-RankAdaptation)用于微调大型语言模型(LLM)。是一种有效的自适应策略，它不会引入额外的推理延迟，并在保持模型质量的同时显着减少下游任务的可训练参数数量。2.2.参数高效微调(PEF

开源技术探险家·2025-02-12 04:50

大模型推理服务全景图

作者：望宸随着DeepSeekR1和Qwen2.5-Max的发布，国内大模型推理需求激增，性能提升的主战场将从训练转移到推理。由于无论是训练还是推理，如何提升性能都是业内讨论最多的话题之一。

·2025-02-11 21:12

5分钟在本地PC上使用VLLM快速启动Valdemardi/DeepSeek-R1-Distill-Llama-70B-AWQ

DeepSeek-R1-Distill-Llama-70B-AWQ前言环境准备所需工具创建虚拟环境安装VLLM及依赖库模型下载安装HuggingFaceCLI下载DeepSeek-R1-Distill-Qwen

engchina·2025-02-11 14:41

windows server独立部署Qwen2.5-vl-7B

服务器配置信息CPU：64GGPU：48G（RTX4090）一、使用conda下载模型Qwen2.5-VL-7B-Instructconda下载condacreate--nameqwenpython=3.11condaactivateqwen

hello_world_Q·2025-02-11 10:38

人狗大战 Java新实现，更有趣，Java _Springboot_Spring AI

本例使用springaialibaba+通义千问Qwenapi来构建这个智能问答系统，qwen有100万免费T

web15085415935·2025-02-11 05:00

DeepSeek-VL2 、 qwen2.5 vl 技术选型比较

在视觉-语言（Vision-Language,VL）多模态模型领域，DeepSeek-VL2（深度求索）和Qwen2.5-VL（阿里云通义千问）均是国内领先的技术方案。

天机️灵韵·2025-02-10 18:42

AI大模型：一文搞懂大模型文件存储格式新宠GGUF

本文大介绍大模型文件存储格式新宠GGUF，目前HuggingfaceTransformers已经支持了GGUF格式，同时，像谷歌的Gemma、阿里的Qwen等模型默认已经提供了GGUF格式

Llama-Turbo·2025-02-10 01:37

本地部署DeepSeek-R1模型用于企业生产环境：基于Xinference

DeepSeek-R1模型用于企业生产环境：基于Xinference1.本文介绍为什么在生产环境中选择Xinference而非Ollama如何安装和配置Xinference如何下载DeepSeek-R1-Distill-Qwen

MaxCode-1·2025-02-08 06:50

DeepSeek为什么采用与主流大模型不一样的MoE架构？一文搞懂什么是MoE模型

但像Qwen、LLama模型，用的却是Dense架构，也就是传统的Transformer架构。这两种架构有个很明显的区别。

大模型_学习路线·2025-02-08 04:39

qwen vllm function_call

以下是基于给定内容编写的关于使用vLLM部署Qwen模型并实现工具调用的教程。教程：使用vLLM部署Qwen模型并实现工具调用前言vLLM是一个高效、易于使用的大型语言模型推理和部署库。

xnuscd·2025-02-08 04:07

大模型评测最新排名含DeepSeek-V3/R1及Qwen2.5-Max

·2025-02-07 22:51

人狗大战 Java新实现，更有趣，Java _Springboot_Spring AI

本例使用springaialibaba+通义千问Qwenapi来构建这个智能问答系统，qwen有100万免费T

ekskef_sef·2025-02-07 17:03

DeepSeek 与 Qwen：模型能力对比！

DeepSeek与Qwen：模型能力对比！17分钟阅读2025-02-07DeepSeekDeepSeek的主要优势在于，与OpenAI或Google等竞争对手相比，它能够以明显更低的成本提供高性能。

·2025-02-07 13:22

大模型生态开源工具整理

主要功能多种模型：LLaMA、LLaVA、Mistral、Mixtral-MoE、Qwen、Qwen2-

miracletiger·2025-02-07 08:35

【LLM】Ollama：本地大模型 WebAPI 调用

部署Ollama：使用以下命令进行部署：dockerrun-d-p11434:11434--nameollama--restartalwaysollama/ollama:latest进入容器并下载qwen2.5

m0_74824496·2025-02-07 07:55

Deepseek-r1、o3-Mini 和 Qwen 2.5 MAX，谁才是你的菜？

Deepseek-r1、o3-Mini和Qwen2.5MAX，谁才是你的菜？OpenAI急于捍卫市场地位，于周五推出O3Mini，这明显是在回应DeepSeek的R1模型。

·2025-02-06 17:21

Deepseek-r1、o3-Mini 和 Qwen 2.5 MAX，谁才是你的菜？

Deepseek-r1、o3-Mini和Qwen2.5MAX，谁才是你的菜？OpenAI急于捍卫市场地位，于周五推出O3Mini，这明显是在回应DeepSeek的R1模型。

·2025-02-06 17:11

使用vLLM部署Qwen2.5-VL-7B-Instruct模型的详细指南

使用vLLM部署Qwen2.5-VL-7B-Instruct模型的详细指南引言环境搭建安装vLLM安装依赖库下载模型启动vLLM服务器总结参考引言近年来，随着大规模语言模型（LLM）的快速发展，如何高效地进行模型推理成为了一个热门话题

engchina·2025-02-06 03:40

【人工智能时代】- Windows本地部署Ollama+qwen本地大语言模型Web交互界面并实现公网访问

文章目录前言1.运行Ollama2.安装OpenWebUI2.1在Windows系统安装Docker2.2使用Docker部署OpenWebUI3.安装内网穿透工具4.创建固定公网地址前言本文主要介绍如何在Windows系统快速部署Ollama开源大语言模型运行工具，并安装OpenWebUI结合cpolar内网穿透软件，实现在公网环境也能访问你在本地内网搭建的大语言模型运行环境。近些年来随着Cha

xiaoli8748_软件开发·2025-02-05 18:11

大语言模型本地化部署+可视化微调

目录本地化部署GLM4Qwen2大模型微调本地化部署2023年被称为人工智能（AI）元年，AI技术在全球范围内飞速发展，已经渗透到了各行各业。

科研小fw·2025-02-05 18:09

开源模型应用落地-DeepSeek-R1-Distill-Qwen-7B与vllm实现推理加速的正确姿势（一）

DeepSeek团队开发的DeepSeek-R1-Distill-Qwen-7B模型，利用蒸馏

开源技术探险家·2025-02-04 05:54

2025年02月02日Github流行趋势

项目名称：Qwen2.5-VL项目地址url：https://github.com/Qw

油泼辣子多加·2025-02-04 03:45

Qwen2.5-Max

Qwen2.5-Max是阿里巴巴于2024年1月29日发布的一款旗舰级人工智能模型，基于混合专家（MoE）架构开发，拥有超过20万亿tokens的超大规模预训练数据。

百态老人·2025-02-03 20:18

国产大模型 DeepSeek，能跟 ChatGPT 一战，还不用梯子，确定不试试？

集成显卡·2025-02-02 21:38

Qwen 模型自动构建知识图谱，生成病例 + 评价指标优化策略

关于数据库和检索方式的选择AIMedicalConsultantforVisualQuestionAnswering(VQA)系统：更适合在前端使用向量数据库（如FAISS）结合关系型数据库来实现图像和文本的检索与存储。因为在VQA场景中，你需要对患者上传的图像或文本症状进行语义向量化，以便快速查找相似病例或相关医学图像内容；同时用关系型数据库维护患者基础信息和简单的交互记录即可。AI-Power

2301_79306982·2025-02-02 13:11

【llm对话系统】大模型 Llama、Qwen 和 ChatGLM 的网络结构和训练方法对比

1.引言近年来，大型语言模型(LLM)取得了令人瞩目的进展，其中Llama、Qwen和ChatGLM是三个备受关注的开源模型。

kakaZhui·2025-02-02 07:54

2025年02月01日Github流行趋势

项目名称：Qwen2.5-VL项目地址url：https://github.com/Q

油泼辣子多加·2025-02-01 21:21

我把DeepSeek-R1推理能力知识蒸馏到Qwen2，效果真的炸裂！！！

我把DeepSeek-R1推理能力知识蒸馏到Qwen2，效果真的炸裂！！！

AI生成曾小健·2025-01-31 03:00

阿里巴巴Qwen团队发布AI模型，可操控PC和手机

每周跟踪AI热点新闻动向和震撼发展想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！订阅：https://rengongzhineng.io/这周，科技界的目光几乎都被DeepSeek的R1模型吸引，但阿里巴巴并没有袖手旁观。1月

新加坡内哥谈技术·2025-01-30 08:50

如何评价deepseek上线的deepseek-V3模型？怎么使用？

该模型在多项评测中表现出色，超越了Qwen2.5-72B和Llama-3.1-405B等开源模型，并与世界顶尖的闭源模型如GPT-4o和Claude-3.5-Sonnet相媲美。

百态老人·2025-01-30 01:36

开源模型应用落地-qwen模型小试-Qwen2.5-7B-Instruct-LangGraph-链式处理（一）

Qwen2.5模型是一款备受瞩目的大语言模型，它具备出色的语言理解和生成能力，在广泛的自然语言处理任务中都展现出了卓越的性能。

开源技术探险家·2025-01-29 21:33

如何从零开始训练大模型（预训练方向）

跟规模相对接近的2b、7b模型比，得分比qwen2b高，和qwen7b比有的高有的低。这个是minicpm的详细技术文档：https://shengd

AI小白熊·2025-01-29 16:43

DeepSeek-R1-Distill-Qwen-1.5B：最佳小型LLM？

但今天我们不是在讨论这两款超级模型，而是讨论DeepSeek-R1的一个蒸馏版本——DeepSeek-R1-Distill-Qwen-1.5B，它可能是今天被低估的版本，虽然只有15亿个参数，但它悄无声息地在一些主要基准上超越了

李孟聊人工智能·2025-01-29 13:53

大模型算法到底值不值得入行？

post-training分成两种，一种是以提升通用能力为目的的，比如openai、国内qwen专门做这个的团队。这种也不敢评，强就完了。不过某

和老莫一起学AI·2025-01-29 12:07

通义千问 Qwen2-VL-2B：技术架构、核心原理、微调操作与场景应用详解

通义千问Qwen2-VL-2B：技术架构、核心原理、微调操作与场景应用详解引言近年来，多模态大模型在人工智能领域取得了显著进展，尤其是在视觉语言理解（Vision-LanguageUnderstanding

zhangjiaofa·2025-01-29 10:16

Qwen-VL论文解读

Qwen-VL：用于理解、定位、文本阅读等的通用视觉-语言模型摘要在本文中，我们介绍了Qwen-VL系列，这是一组大规模的视觉-语言模型（LVLMs），旨在感知和理解文本和图像。

dream_home8407·2025-01-29 09:10

使用Ollama 在Ubuntu运行deepseek大模型：以deepseek-r1为例

支持的deepseek-r1模型deepseek-r1DeepSeek-R1-Distill-Qwen-1.5Bollamarundeepseek-r1:1.5bDeepSeek-R1-Distill-Qwen

skywalk8163·2025-01-29 02:06

推荐频道

Qwen

DeepSeek-R1-Distill-Qwen-7B-Int8-W8A16 量化高精校准

DeepSeek-R1 蒸馏 Qwen 和 Llama 架构 企业级RAG知识库

基于开源千文模型（如Qwen、ChatGLM等）实施如何进行动态蒸馏，详细说明操作步骤.

基于 llama-index与Qwen大模型实现RAG

通义灵码全新上线模型选择功能，新增支持 DeepSeek-V3 和 DeepSeek-R1 模型

【实测】用全志A733平板搭建一个端侧Deepseek算力平台

通义灵码全新上线模型选择功能，新增支持 DeepSeek-V3 和 DeepSeek-R1 模型

用Llama Factory单机多卡微调Qwen2.5时报torch.OutOfMemoryError: CUDA out of memory的解决办法

普惠AI 如何在 Anolis OS 8 上部署生产可用的 DeepSeek 推理服务

DeepSeek V3 两周使用总结

昇腾，Ascend，NPU，mindie，镜像，部署vllm：第4篇，尝试多模态大模型部署（Qwen2-vl）

华为NPU服务器昇腾Ascend 910B2部署通义千问Qwen2.5——基于mindie镜像一路试错版（一）

华为NPU服务器昇腾Ascend 910B2部署通义千问Qwen2.5——基于mindie镜像一路试错版（三）

开源模型应用落地-qwen2-7b-instruct-LoRA微调&合并-ms-swift-单机多卡-RTX 4090双卡（十五）

大模型推理服务全景图

5分钟在本地PC上使用VLLM快速启动Valdemardi/DeepSeek-R1-Distill-Llama-70B-AWQ

windows server独立部署Qwen2.5-vl-7B

人狗大战 Java新实现，更有趣，Java _Springboot_Spring AI

DeepSeek-VL2 、 qwen2.5 vl 技术选型比较

AI大模型：一文搞懂大模型文件存储格式新宠GGUF

本地部署DeepSeek-R1模型用于企业生产环境：基于Xinference

DeepSeek为什么采用与主流大模型不一样的MoE架构？一文搞懂什么是MoE模型

qwen vllm function_call

大模型评测最新排名含DeepSeek-V3/R1及Qwen2.5-Max

人狗大战 Java新实现，更有趣，Java _Springboot_Spring AI

DeepSeek 与 Qwen：模型能力对比！

大模型生态开源工具整理

【LLM】Ollama：本地大模型 WebAPI 调用

Deepseek-r1、o3-Mini 和 Qwen 2.5 MAX，谁才是你的菜？

Deepseek-r1、o3-Mini 和 Qwen 2.5 MAX，谁才是你的菜？

使用vLLM部署Qwen2.5-VL-7B-Instruct模型的详细指南

【人工智能时代】- Windows本地部署Ollama+qwen本地大语言模型Web交互界面并实现公网访问

大语言模型本地化部署+可视化微调

开源模型应用落地-DeepSeek-R1-Distill-Qwen-7B与vllm实现推理加速的正确姿势（一）

2025年02月02日Github流行趋势

Qwen2.5-Max

国产大模型 DeepSeek，能跟 ChatGPT 一战，还不用梯子，确定不试试？

Qwen 模型自动构建知识图谱，生成病例 + 评价指标优化策略

【llm对话系统】大模型 Llama、Qwen 和 ChatGLM 的网络结构和训练方法对比

2025年02月01日Github流行趋势

我把DeepSeek-R1推理能力知识蒸馏到Qwen2，效果真的炸裂！！！

阿里巴巴Qwen团队发布AI模型，可操控PC和手机

如何评价deepseek上线的deepseek-V3模型？怎么使用？

开源模型应用落地-qwen模型小试-Qwen2.5-7B-Instruct-LangGraph-链式处理（一）

如何从零开始训练大模型（预训练方向）

DeepSeek-R1-Distill-Qwen-1.5B：最佳小型LLM？

大模型算法到底值不值得入行？

通义千问 Qwen2-VL-2B：技术架构、核心原理、微调操作与场景应用详解

Qwen-VL论文解读

使用Ollama 在Ubuntu运行deepseek大模型：以deepseek-r1为例

DeepSeek-R1 蒸馏 Qwen 和 Llama 架构企业级RAG知识库