Qwen2.5

qwen3 + qwen agent

前不久阿里发布了qwen3开源模型，据说性能比deepeek还要强，之前体验过qwen2.5当时感觉还不错，据说现在的qwen38b就相当于qwen2.5的14b性能，不过我也不是专业人员，也不知道到底是有多强
t梧桐树t·2025-06-26 14:20

Qwen2.5：模型训练和推理核心参数介绍

详细介绍：https://mp.weixin.qq.com/s/0zLHA_VQkD3tf0BSzjd7Ag一、remove_columns删除选定的列作用：去掉原始数据集里面的字段以及对应的数据。原因：如果不去掉，在进行微调时，模型就会将数据集原始字段和新加的字段一起输入到模型，导致格式与期望的不一致。二、TrainingArguments核心参数2.1基础训练设置参数介绍output_dir(
艾墨舟启航·2025-06-18 04:51

qwen 2.5 并行计算机制：依靠 PyTorch 和 Transformers 库的分布式能力

qwen2.5并行计算机制：依靠PyTorch和Transformers库的分布式能力完整可运行代码：importtorchimporttorch.nn.functionalasFfromtransformers
ZhangJiQun&MXP·2025-06-02 16:03

[特殊字符] Function Calling 技术详解与 Qwen 模型实践指南

随着多模态大模型（如GPT-4、Qwen2.5等）逐渐支持插件、API调用等能力，FunctionCalling（函数调用）技术正成为连接模型与外部世界的桥梁。
_深海凉_·2025-05-26 13:46

基于 SGLang 部署 Qwen2.5 7B 模型

本文将详细介绍如何使用SGLang快速部署Qwen2.57B模型，并深入探讨SGLang的关键性能优化技术，以及预期可以达到的延迟和吞吐量。1.SGLang框架介绍SGLang旨在解决LLM服务中的核心挑战：高延迟：LLM推理通常需要较长的计算时间，导致响应延迟高。低吞吐量：由于计算资源有限，LLM服务难以同时处理大量请求。复杂编程：编写高效的LLM服务程序通常需要深入了解底层系统和并行计算。SG
kakaZhui·2025-05-24 14:09

【多模态大模型实战】 搭建通义千问Qwen 2.5-VL-7B-Instruct多模态模型，以及推理微调

模型信息Qwen2.5是Qwen大型语言模型的最新系列。对于Qwen2.5，我们发布了从0.5亿到72亿参数不等的一系列基础语言模型和指令调优语言模型。
AI智韵·2025-05-20 18:03

LLaMA-Factory微调大模型Qwen2.5

1、开始ModelScope社区GPU环境训练或微调模型都是非常耗费算力的。如果电脑的配置不高，可使用一些云服务器来做这项工作。如ModelScope(魔搭)社区的GPU环境，目前提供36小时免费运算，足够微调一个大模型了。注册ModelScope(魔搭)社区账号（可能还要注册或认证阿里云账号），进入“我的NoteBook”：我的Notebook·魔搭社区启动大概需要2分钟，等GPU环境启动好以后
will.hu·2025-05-20 12:57

语音合成之十三 中文文本归一化在现代语音合成系统中的应用与实践

中文文本归一化在现代语音合成系统中的应用与实践引言理解中文文本归一化（TN）3主流LLM驱动的TTS系统及其对中文文本归一化的需求分析A.SparkTTS（基于Qwen2.5）与文本归一化B.CosyVoice
shichaog·2025-05-11 22:25

llama factory lora 微调 qwen2.5 7B Instruct模型

项目背景甲方提供一台三卡4080显卡需要进行qwen2.57bInstruct模型进行微调。以下为整体设计。要使用LLaMA-Factory对Qwen2.57BInstruct模型进行LoRA（Low-RankAdapters）微调，流程与之前提到的Qwen27BInstruct模型类似。LoRA微调是一种高效的微调方法，通过低秩适配器层来调整预训练模型的权重，而不是全量训练整个模型。环境准备确保
路人与大师·2025-05-10 04:25

阿里云的Qwen2.5-Coder 和 Qwen2.5-Math专有模型怎么样？

阿里云发布Qwen2.5系列模型，最新发布的Qwen2.5系列中包括普通的大语言模型(LLM)以及针对编程和数学的专用模型：Qwen2.5-Coder和Qwen2.5-Math。
碳治郎AI·2025-05-10 02:08

Qwen2.5模型结构

self.lm_head=nn.Linear(config.hidden_size,config.vocab_size,bias=False)这个是用来干嘛的输出层，词汇投影层，将模型输出的隐藏状态向量映射回词表空间，用于预测下一个token#预测logits，未经过softmaxlm_logits=self.lm_head(hidden_states)#shape:[B,L,vocab_size
AloneCat2012·2025-05-10 01:35

Qwen2_5-Omni-3B：支持视频、音频、图像和文本的全能AI，可在本地运行

Qwen2.5
李孟聊人工智能·2025-05-07 03:42

Qwen2.5模型性能测评 - 速度指标

1.Tokens/s（每秒生成Token数）测量目标首次Token速度：第一个Token的生成时间（与TimetoFirstToken关联）后续Token速度：排除首个Token后的持续生成速率工具与方法fromtransformersimportAutoModelForCausalLM,AutoTokenizerimporttimemodel_name="/root/.cache/modelsc
风筝超冷·2025-05-05 16:30

本地大模型编程实战(28)查询图数据库NEO4J(1)

使用qwen2.5做实验，用llama3.1查不出内容。文章目录安装`NEO4J`准备图数据查询图数据总结代码安装NEO4J参见：在windows系统中安装图数据库NEO4J。
火云牌神·2025-05-02 10:53

千问2.5-VL-7B的推理、微调、部署_笔记2

接上篇：部署千问2.5-VL-7B_笔记1-CSDN博客这里主要记录微调过程一、模型微调这里也使用ms-swift对qwen2.5和qwen2-vl进行自我认知微调和图像OCR微调，并对微调后的模型进行推理
山山而川_R·2025-04-26 11:36

开源模型应用落地-Qwen2.5-7B-Instruct与vllm实现推理加速的正确姿势-Docker（二）

一、前言目前，大语言模型已升级至Qwen2.5版本。无论是语言模型还是多模态模型，均在大规模多语言和多模态数据上进行预训练，并通过高质量数据进行后期微调以贴近人类偏好。
开源技术探险家·2025-04-26 00:48

本地大模型编程实战(14)初探智能体Agent(1)

Reasoning+Acting）``ReAct`的核心思路准备建立矢量数据库数据文件处理本地矢量库的类嵌入文本创建`Agent智能体`测试定义测试方法使用`shaw/dmeta-embedding-zh`和`qwen2.5
火云牌神·2025-04-24 20:05

手机本地部署AI大模型：DeepSeek R1、Llama 3.3、Qwen2.5、Gemma 3等！ 支持iOS、安卓, 离线使用，完全免费开源！

支持模型包括：DeepSeekR1、Llama3.3、Qwen2.5和Gemma3等。这些模型不仅支持中文理解与生成，还能在iOS和安卓设备上流畅运行，实现真正的离线智能体验。
金风不疯·2025-04-10 23:18

如何配置在vscode的Cline插件中调用Ollama本地部署的DeepSeek R1/V3、千问2.5等大模型

Qwen系列：如Qwen2、Qwen2.5，由阿里巴巴开发，在中文环境下表现优异。Llama系列：如Llama3、Llama2，具备强大的语言理解和
代码简单说·2025-04-06 18:20

在 Jetson 上部署 Qwen2.5：国产轻量大模型的边缘推理全流程实战

在Jetson上部署Qwen2.5：国产轻量大模型的边缘推理全流程第1章：为什么要在Jetson上部署国产大模型？
AI筑梦师·2025-04-03 21:44

Ollama入门指南：部署与实战最新模型（DeepSeek-V3、Qwen2.5、Llama3）

通过本指南，您可快速掌握Ollama对最新模型的部署方法，并根据实际需求选择最优工具链。一、Ollama核心优势与适用场景Ollama通过简化模型部署流程，支持开发者快速调用DeepSeek-V3（开源MoE模型）、Qwen2.5-Max（阿里编程旗舰模型）、Llama3（Meta基础模型）等前沿大模型，适用于以下场景：本地开发：无需依赖云端API，保护数据隐私。模型对比：快速切换不同模型验证效果
AndrewHZ·2025-03-30 02:32

Docker vLLM 快速部署 Qwen2.5

Dockerfile：FROMkevinchina/deeplearning:llamafactory20241027#设置工作目录WORKDIR/app#暴露端口EXPOSE8000EXPOSE7860#使用JSON格式的ENTRYPOINT，指定要执行的命令#ENTRYPOINT["llamafactory-cli","api","--model_name_or_path","/data/xi
XD742971636·2025-03-25 18:23

qwen2.5的技术。

RMSNorm（RootMeanSquareNormalization，均方根归一化）是一种用于深度学习的归一化技术，是LayerNorm（层归一化）的一种改进。它通过计算输入数据的均方根（RootMeanSquare,RMS）来进行归一化，避免了传统归一化方法中均值和方差的计算1.LayerNorm（层归一化）LayerNorm（层归一化）是一种用于深度学习的归一化技术，主要用于稳定训练过程、加
KangkangLoveNLP·2025-03-14 13:29

从Swish到SwiGLU：激活函数的进化与革命，qwen2.5应用的激活函数

swiGLU和RMSNorm1.什么是swiGLUSwiGLU（Swish-GatedLinearUnit）是一种结合了Swish激活函数和GLU（GatedLinearUnit）门控机制的激活函数，广泛应用于现代大型语言模型中1.什么是Swish激活函数1.1Swish激活函数Swish激活函数是一种平滑的、非单调的激活函数，由GoogleBrain团队在2017年提出。它结合了ReLU的非线性
KangkangLoveNLP·2025-03-13 09:02

Spark-TTS：基于大模型的文本语音合成工具

一、介绍SparkTTS完全基于Qwen2.5构建，无需额外的生成模型，它不依赖于单独的模型来生成声学特征，而是直接从LLM预测的代码中重建音频。这种方
CITY_OF_MO_GY·2025-03-10 13:35

开源模型应用落地-Qwen2.5-7B-Instruct与vllm实现推理加速的正确姿势-Docker-OpenResty（三）

一、前言目前，大语言模型已升级至Qwen2.5版本。无论是语言模型还是多模态模型，均在大规模多语言和多模态数据上进行预训练，并通过高质量数据进行后期微调以贴近人类偏好。
开源技术探险家·2025-03-10 06:43

阿里云CTO：通义稳居全球最强开源大模型，性能接近GPT-4o

基础模型升级，性能媲美GPT-4o，发布最强开源模型Qwen2.5系列，
首席数智官·2025-03-07 20:39

本地大模型编程实战(27)初探langgraph的流式输出

本次演练将全部使用qwen2.5:
火云牌神·2025-03-01 15:22

Ollama本地私有化部署通义千问大模型Qwen2.5

目录Qwen2.5介绍Qwen2.5新闻Ollama介绍Linux安装Ollama一键安装Ollama手工安装Ollama卸载OllamaOllama运行Qwen2基于Transformers进行推理本文复现环境
ErbaoLiu·2025-02-27 20:17

Ollama微调

它支持多种流行的开源大语言模型，如Llama2、Qwen2.5等。在上一篇文章中我们部署Ollama，并使用简单命令管理Ollama。接下来我们学习Ollama的高级应用。
软件不硬·2025-02-26 19:08

Qwen2.5 技术报告

本报告介绍Qwen2.5，这是一系列全面的大语言模型(LLM)，旨在满足多样化的需求。与之前的迭代相比，Qwen2.5在预训练和后训练阶段都有显著的改进。
三谷秋水·2025-02-26 07:11

快速下载ollama 模型文件脚本

这里简单的通过modelscope下载,以下用简单的shell来下载1、首先要有一个python32、直接下载到当前目录的方法,这里以qwen2.5来做例子,其它的可自行修改#为了不影响其它环境,用venv
谢平康·2025-02-23 10:29

基于 llama-index与Qwen大模型实现RAG

可以实现Qwen2.5与外部数据（例如文档、网页等）的连接，利用Lla
uncle_ll·2025-02-15 09:35

用Llama Factory单机多卡微调Qwen2.5时报torch.OutOfMemoryError: CUDA out of memory的解决办法

接着上一篇博客：在Ubuntu上用LlamaFactory命令行微调Qwen2.5的简单过程_llamafactory微调qwen2.5-CSDN博客如果需要微调比较大的模型，例如Qwen2.5-32B
蛐蛐蛐·2025-02-12 22:27

昇腾，Ascend，NPU，mindie，镜像，部署vllm：第4篇，尝试多模态大模型部署（Qwen2-vl）

（当然是在昇腾环境下）提示：需要把这篇文章先看一遍昇腾，mindie，镜像，部署vllm：第2篇，启动mindieservice_daemon服务，支持对Qwen2.5的7B版本的推理提示：本文章的撰写思路是
几道之旅·2025-02-12 10:36

华为NPU服务器昇腾Ascend 910B2部署通义千问Qwen2.5——基于mindie镜像一路试错版（一）

文章目录`重要提醒：MINDIE镜像已更新版本，官网相关文档直接被删除了，建议直接移步新版`[昇腾，mindie，镜像，部署vllm：第1篇，安装新的docker镜像](https://blog.csdn.net/xiezhipu/article/details/145467032)[昇腾，mindie，镜像，部署vllm：第2篇，启动mindieservice_daemon服务，支持对Qwen2
几道之旅·2025-02-12 10:06

华为NPU服务器昇腾Ascend 910B2部署通义千问Qwen2.5——基于mindie镜像一路试错版（三）

文章目录`重要提醒：MINDIE镜像已更新版本，官网相关文档直接被删除了，建议直接移步新版`[昇腾，mindie，镜像，部署vllm：第1篇，安装新的docker镜像](https://blog.csdn.net/xiezhipu/article/details/145467032)[昇腾，mindie，镜像，部署vllm：第2篇，启动mindieservice_daemon服务，支持对Qwen2
几道之旅·2025-02-12 10:06

DeepSeek-VL2 、 qwen2.5 vl 技术选型比较

在视觉-语言（Vision-Language,VL）多模态模型领域，DeepSeek-VL2（深度求索）和Qwen2.5-VL（阿里云通义千问）均是国内领先的技术方案。以下是两者的技术选型对比分析，涵盖架构设计、性能、适用场景和实际应用考量：1.核心架构对比维度DeepSeek-VL2Qwen2.5-VL视觉编码器基于改进的ViT（VisionTransformer）类似CLIP的ViT+跨模态注
天机️灵韵·2025-02-10 18:42

qwen vllm function_call

本文将通过使用Qwen2.5模型的示例，介绍如何利用vLLM实现工具调用，并使用OpenAI兼容AP
xnuscd·2025-02-08 04:07

【LLM】Ollama：本地大模型 WebAPI 调用

部署Ollama：使用以下命令进行部署：dockerrun-d-p11434:11434--nameollama--restartalwaysollama/ollama:latest进入容器并下载qwen2.5
m0_74824496·2025-02-07 07:55

开源模型应用落地-qwen模型小试-Qwen2.5-7B-Instruct-LangGraph-链式处理（一）

Qwen2.5模型是一款备受瞩目的大语言模型，它具备出色的语言理解和生成能力，在广泛的自然语言处理任务中都展现出了卓越的性能。
开源技术探险家·2025-01-29 21:33

[论文笔记] llama-factory 微调qwen2.5、llama3踩坑

一、bug1、pre-tokenize的时候,会OOM解决：在yaml文件中添加streaming参数#tokenizestreaming:Truemax_steps:10000https://github.com/hiyouga/LLaMA-Factory/blob/3a023bca2a502810a436cfba7708df164754ea62/src/llamafactory/hparams
心心喵·2025-01-28 20:14

基于Langchain框架，采用Qwen2.5大模型，搭建自己的Agent，ReACT效果比RAG好

最近在做RAG，调研后发现ReACT好像更具有说服力，对最终结果的解释也更加合理。举个例子，我扔给大模型这样一个问题：15的平方是多少？另外，法国的首都是哪里？采用ReACT的运行结果如下：>EnteringnewAgentExecutorchain...我需要先计算15的平方，然后搜索法国的首都。Action:平方计算器ActionInput:"15"Observation:15的平方等于225
张登杰踩·2025-01-24 18:10

SGLang安装教程，部署你的大模型，性能比vllm好，实现张量并行，数据并行，加快推理速度，亲测效果好。

目前大模型部署工具主要是vllm，最近出现了SGLang，很多新开源大模型都支持SGLang的部署推理，例如deepseek-R1，Qwen2.5，Mistral，GLM-4，MiniCPM3，InternLM2
张登杰踩·2025-01-23 17:03

构建企业私有RAG大模型: (可商用)Qwen2.5开源模型vLLM部署及示例

在企业真实场景中，开发接口通常需要针对具体需求进行定制化处理，以更好地适配RAG应用系统的实际需求。相关代码后续会以Git仓库的形式分享。本章将继续探讨开源大模型的部署。在RAG系统的架构中，大模型扮演着至关重要的角色，是整个流程的“最后一环”。知识库的构建、检索，以及知识的排序与整合，都是为了为大模型提供准确、完整的上下文知识。这种知识支撑可以显著降低大模型生成过程中的幻觉问题（如生成不可靠或错
小敢摘葡萄·2025-01-22 16:17

【LLM】Ollama：本地大模型 WebAPI 调用

部署Ollama：使用以下命令进行部署：dockerrun-d-p11434:11434--nameollama--restartalwaysollama/ollama:latest进入容器并下载qwen2.5
T0uken·2025-01-20 23:22

大模型-Qwen2.5 技术报告解读

Abstract主要是在介绍通义千问2.5（Qwen2.5）这一大型语言模型系列，涵盖了它在不同训练阶段的改进、多样化配置、可获取途径以及在各项性能评测中的出色表现等多个方面，旨在展示其先进性与实用性。
数据分析能量站·2025-01-19 06:55

Python调用通义千问qwen2.5模型步骤

Qwen2.5模型简介1.1模型概述Qwen2.5是阿里云推出的一款超大规模语言模型，它基于阿里巴巴达摩院在自然语言处理领域的研究和积累。
我就是全世界·2025-01-19 05:15

【大模型LoRa微调】Qwen2.5 Coder 指令微调【代码已开源】

本文需要用到的代码已经放在GitHub的仓库啦，别忘了给仓库点个小心心~~~https://github.com/LFF8888/FF-Studio-Resources第001个文件哦~一、引言：大语言模型与指令微调1.1大语言模型发展简史随着深度学习的飞速发展，特别是Transformer架构在自然语言处理（NLP）领域的成功，大语言模型（LLM,LargeLanguageModel）成为近年来
FF-Studio·2025-01-18 07:31

Qwen-VL环境搭建&推理测试

引子这几天阿里的Qwen2.5大模型在大模型圈引起了轰动，号称地表最强中文大模型。
要养家的程序猿·2025-01-16 19:57
上一页 1 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他