LLM训练第27页

从 0 到 1，DEEPseek 大模型瞬间 “霸榜” AI 赛道的秘密

deepseek官网传送门：DeepSeek下面就对本文标题来剖析一下：目录一·本篇背景：二.技术实力：突破创新的基石:2.1强大的模型能力:2.1.1高效的训练方法:2.2.2优化的推理速度:三·市场策略

羑悻的小杀马特.·2025-02-01 08:36

LLM主要类别架构

LLM主要类别架构介绍LLM主要类别LLM本身基于transformer架构。

大模型微调实战·2025-02-01 08:36

基于深度学习的大规模模型训练

基于深度学习的大规模模型训练涉及训练具有数百万甚至数十亿参数的深度神经网络，以处理复杂的任务，如自然语言处理、计算机视觉和语音识别。

SEU-WYL·2025-02-01 07:56

「DeepSeek接班OpenAI」，最新开源的R1推理模型，让AI圈爆了

多阶段训练：创新的模型架构DeepSeek-R1的训练方式采用了多阶段循环的策略，具体包括基础训练、强化学习（RL）、微调等多个阶段。这

人工智能学家·2025-02-01 06:23

【学习心得】Python好库推荐——PEFT

这种技术主要应用于大型预训练模型的微调过程中，目的是在保持模型性能的同时减少所需的计算资源和时间。通过PEFT，可以有效地调整模型以适应特定任务或数据集，而无需对整个模型的所有参数进行全面微调。

小oo呆·2025-02-01 06:48

深度学习训练模型损失Loss为NaN或者无穷大（INF）原因及解决办法

文章目录一、可能原因==1.学习率过高====2.batchsize过大==3.梯度爆炸4.损失函数不稳定5.数据预处理问题6.数据标签与输入不匹配7.模型初始化问题8.优化器设置问题9.数值问题==10.模型结构设计缺陷==二、调试步骤三、常见预防措施一、可能原因1.学习率过高原因：学习率过高可能导致梯度爆炸，权重更新幅度过大，导致模型参数变为无穷大或NaN。学习率设置过大是常见问题，它会让参数

余弦的倒数·2025-02-01 05:17

LLM应用架构实战：基于LangChain的企业级最佳实践

前言随着ChatGPT等大语言模型的广泛应用，越来越多的企业开始将LLM整合到其业务系统中。然而，从概念验证(PoC)到生产环境的转换过程中，往往会遇到诸多技术挑战。

LLM教程·2025-02-01 05:44

构建高效LLM应用开发架构的关键策略

文章标题：构建高效LLM应用开发架构的关键策略在当今快速发展的技术世界中，人工智能（AI）已经成为推动创新的核心动力。其中，大型语言模型（LLM）的应用开发尤为引人注目。

AI天才研究院·2025-02-01 05:12

AI大模型在智能客服系统中的应用

目录引言1.基于大模型的智能客服系统架构2.对话生成与上下文管理对话生成上下文管理3.提高客服系统响应精度的策略1.使用专门训练的数据集2.引入实体识别和意图分类3.反馈循环和持续优化4.AI大模型在企业中的优化与调优策略

季风泯灭的季节·2025-02-01 04:33

yolov8使用Python训练识别

环境要求:根据《yolov8训练环境搭建》搭建好运行环境参考文献:1、yolo官方文档python版本：https://docs.ultralytics.com/usage/python/2、github

枫林古月·2025-02-01 03:58

对抗训练对模型性能有何影响？

关注我，持续分享逻辑思维&管理思维&面试题；可提供大厂面试辅导、及定制化求职/在职/管理/架构辅导；推荐专栏《10天学会使用asp.net编程AI大模型》，目前已完成所有内容。一顿烧烤不到的费用，让人能紧跟时代的浪潮。从普通网站，到公众号、小程序，再到AI大模型网站。干货满满。学成后可接项目赚外快，绝对划算。不仅学会如何编程，还将学会如何将AI技术应用到实际问题中，为您的职业生涯增添一笔宝贵的财富

借雨醉东风·2025-02-01 01:12

（3-5）文生图模型架构：扩散模型

3.5.1扩散模型的基本概念扩散模型是一种基于随机过程的生成模型，通过逐步添加和去除噪声，实现从随机噪声到高质量数据的转化，其独特的训练和生成机制使其在图像生成领域表现出色。1.扩散过程扩

码农三叔·2025-02-01 01:08

机器学习笔记 - 将音频转换为图像进行分类的机器学习模型

4.模型训练：在特征提取完

坐望云起·2025-02-01 00:32

A3C（Asynchronous Advantage Actor-Critic）算法

A3C主要解决了传统深度强化学习中的一些问题，如训练稳定性和数据效率问题。A3C算法的关键点A

C7211BA·2025-01-31 23:25

AI计算的未来：中心化与去中心化的博弈

因此，本文将探讨人工智能训练成本的降低、推

智识微光Intelligence·2025-01-31 23:51

DeepSeek 推出全新推理模型 R1-Lite 预览版

R1系列模型采用强化学习训练，推理过程中包含大量反思和验证，思维链长度可达数万字。该系列模型在数学、代码以及各种复杂逻辑推理任务上，取得了媲美o1-preview的推理效果。

三花AI·2025-01-31 22:47

深度学习篇---深度学习框架

简介特点动态计算图易于上手强大的社区支持与Python的集成度高核心组件2.TensorFlow简介特点静态计算图跨平台强大的生态系统Keras集成核心组件3.PaddlePaddle简介特点易于使用高性能工业级应用丰富的预训练模型核心组件第二部分

Ronin-Lotus·2025-01-31 21:05

DeepSeek-V3 技术报告

为了实现高效的推理和经济高效的训练，DeepSeek-V3采用了多头潜在注意力（MLA）和DeepSeekMoE架构，这些架构在DeepSeek-V2中得到了充分验证。

mingo_敏·2025-01-31 20:01

原创prompt：员工加班助手

本文原创作者：姚瑞南AI-agent大模型运营专家，先后任职于美团、猎聘等中大厂AI训练专家和智能运营专家岗；多年人工智能行业智能产品运营及大模型落地经验，拥有AI外呼方向国家专利与PMP项目管理证书。

姚瑞南·2025-01-31 19:45

深入探讨：如何在Python中使用流式传输技术高效调用大型语言模型

深入探讨：如何在Python中使用流式传输技术高效调用大型语言模型在现代人工智能应用中，大型语言模型（LargeLanguageModels,LLM）已经成为了强大的工具，能够生成高质量的自然语言文本，

m0_57781768·2025-01-31 19:14

修改训练配置记录

修改影响:调整此值可以显著影响模型的训练速度和最终性能。

positive546·2025-01-31 18:42

特征选择（机器学习）

伪代码示例）：2.3嵌入式（EmbeddedMethods）小示例（Lasso伪代码示例）：3.实践建议4.小结1.为什么需要特征选择在机器学习任务中，经常会遇到以下问题：特征（变量）数量过多，导致计算量大、训练速度

赵孝正·2025-01-31 18:10

YOLO系列之训练环境（GPU）搭建篇

YOLOv8专栏导航：点击此处跳转Pytorch环境配置（Windows）Anaconda安装此处下载安装即可⭐温馨提示：安装路径

w94ghz·2025-01-31 17:01

【大模型入门必看】LLM大语言模型导读

本章将简要梳理大语言模型的技术要点以及构建过程，并且列举了可用于预训练以及微调模型的常用数据集，介绍了目前开发大语言模型常用的代码库、预训练大语言模型的步骤以及涉及的关键技术，包括数据准备阶段、模型

古-月·2025-01-31 16:24

python 使用Whisper模型进行语音翻译

多尺寸预训练模型：官方提供了5个不同大小的模型（tiny,

哦里哦里哦里给·2025-01-31 15:16

python 阴暗图像亮度增强对比度增强去雾

解决时，可以在训练样本中加入类似的图像，或者手动把相关图像进行颜色变化。这里主要介绍手工颜色变化。

weixin_37763484·2025-01-31 14:06

DeepSeek优势方法策略

DeepSeek优势方法策略目录DeepSeek优势方法策略DeepSeek在训练阶段压缩时间空间复杂度的方法DeepSeek和ChatGPT在压缩时间空间复杂度上的不同之处DeepSeek能降低显卡使用的原因

ZhangJiQun&MXP·2025-01-31 14:03

基于YOLOv11无人机视角船舶检测系统：项目概述与技术实现

**实时处理能力**数据准备与模型训练1.**数据集构建**2.**模型训练**系统功能与使用方法1.**实时目标检测**2.**静态图片检测**3.**视频文件处理**4.

qq1309399183·2025-01-31 14:03

本地部署 DeepSeek-R1 大模型

本地部署DeepSeek-R1大模型指南1.引言1.1DeepSeek-R1模型简介在人工智能的世界里，大型语言模型（LLM）正如一座巨大的宝库，里面储存着丰富的信息和无限的潜力。

网络安全我来了·2025-01-31 13:57

A Survey on Large Language Model Acceleration based on KV Cache Management

本文是LLM系列文章，针对《ASurveyonLargeLanguageModelAccelerationbasedonKVCacheManagement》的翻译。

UnknownBody·2025-01-31 12:47

Llama大型语言模型原理详解

本文将详细解析Llama模型的原理，包括其结构、训练过程以及工作机制，帮助读者深入理解这一先进的模型。

摆烂大大王·2025-01-31 11:40

Rollup：专注类库和框架打包

文章内容输出来源：拉勾大前端高薪训练营-概述-也是一款ESModules打包器-也可以将项目中的一些散落的细小模块打包为整块代码-rollup与webpack作用类似-rollup更为小巧，仅仅是一款ESM

时解之·2025-01-31 10:06

基于Transformer的多通道肌电信号序列分类

本项目基于Transformer实现对表面肌电信号的分类，数据使用excel进行保存，使用Pytorch架构建立模型并训练，利用基于Paramiko库的SSH连接来实现对NAO机器人的远程控制。

咖啡百怪·2025-01-31 10:04

Pix2PixHD代码小白注释(1)——train.py

关于fp16AMP自动混合精度训练，见下文：AMP自动混合精度训练https://blog.csdn.net/ytusdc/article/details/122152244importtimeimportosimportnumpyasnpimporttorchfromtorch.autogradimportVariablefromcollectionsimportOrderedDictfroms

咖啡百怪·2025-01-31 10:04

PyTorch 快速入门

PyTorch是一个开源的机器学习库，它提供了丰富的工具和库，帮助我们轻松地构建、训练和测试神经网络模型。

無量空所·2025-01-31 10:02

PennyLane: 探索量子计算的新里程

由PennyLaneAI团队开发，该项目提供了一个直观且灵活的方式来设计、训练和优化涉及量子硬件的机器学习模型。其目标是让研究人员和开发者能够轻松地在本地或云端的量子计算机上进行实验。

戴艺音·2025-01-31 09:23

Deepseek两项关键发现：无需人类专家介入SFT、有自己

目前尚未实现AGI，主流AI行业和公众普遍认为通过扩大纯语言模型（LLM）的预训练规模就能实现突破

极道Jdon·2025-01-31 08:13

DeepSeek极端榨取硬件性能被曝光

DeepSeek的出现是否意味着前沿LLM开发不再需要大规模GPU集群？简单来说：不是的。

极道Jdon·2025-01-31 08:13

Ubuntu上如何优雅下载huggingface上某个gguf模型文件

OS:Ubuntu22.04LTS需求：下载GorillaOpenfunctionsV2Q2GGUF模型到本地https://huggingface.co/gorilla-llm/gorilla-openfunctions-v2

晨欣·2025-01-31 08:40

GGUF 大模型文件格式

1.基础原理GGUF简介当前的大模型的参数规模较大，数以千亿的参数导致了它们的预训练结果文件都在几十GB甚至是几百GB，这不仅导致其使用成本很高，在不同平台进行交换也非常困难。

香菜烤面包·2025-01-31 07:04

万字长文解读生成式AI参考架构

原文:TheGenAIReferenceArchitecture本文将介绍构建端到端GenAI应用的主要架构构件和蓝图，以便为生产做好准备，并且提出了几个在实施和设计基于LLM的应用时需要注意的关键事项

俞凡 DeepNoMind·2025-01-31 07:32

书生浦语第五期

简单来说，模型部署就是将训练好的深度学习模型在特定环境中运行的过程。目前大模型部署面临的挑战计算量巨大内

晴斋1216·2025-01-31 06:27

LLM模型部署经验分享

LLM模型部署经验分享作者：大连理工大学李凯首先，你需要选择一个合适的部署平台，这可以是本地服务器、云服务提供商（如AWS、Azure、GoogleCloud等）、边缘设备或者特定的部署服务（如HuggingFaceHub

lewis_kai·2025-01-31 06:56

开源大模型（LLM）下载

由于huggingface等国外网址无法访问或限制等问题，下载不了或下载速度慢。可以尝试从modespace（魔搭社区）下载。1、找到对应的模型文件，比如Meta-Llama-3-8B，然后找到下载入口2、点击模型下载，有2种下载方式，这里我们通过git下载（注意由于模型文件一般都比较大，直接使用gitclone下载时会有问题，超大文件下载后数据会缺失。可通过gitlfsclone命令）3、打开l

baidu_20834545·2025-01-31 06:25

TensorFlow 简介

它提供了一个强大的工具集，用于构建和训练各种机器学习模型。

九月十九·2025-01-31 05:14

自定义数据集使用pytorch框架实现逻辑回归并保存模型，然后保存模型后再加载模型进行预测

3.训练模型定义损失函数和优化器，然后进行模型训练。4.保存模型训练完成后，我们可以保存模型的状态字典。5.加载模型并进行预测加载保存的模型，并进行预测。

知识鱼丸·2025-01-31 04:12

使用numpy自定义数据集使用tensorflow框架实现逻辑回归并保存模型，然后保存模型后再加载模型进行预

在本篇博客中，我们将使用numpy生成一个简单的自定义数据集，并使用TensorFlow框架构建和训练逻辑回归模型。训练完成后，我们会保存模型，并演示如何加载保存的模型进行预测。

辞落山·2025-01-31 04:11

使用Ollama和Open WebUI快速玩转大模型：简单快捷的尝试各种llm大模型，比如DeepSeek r1

Ollama本身就是非常优秀的大模型管理和推理组件，再使用OpenWebUI更加如虎添翼！Ollama快速使用指南安装OllamaWindows下安装下载Windows版Ollama软件：Releasev0.5.7·ollama/ollama·GitHub下载ollama-windows-amd64.zip这个文件即可。可以说Windows拥抱开源真好，Windows下安装软件简单方便，开源软件直

skywalk8163·2025-01-31 04:38

深度学习过程是什么

用差值数据对权重和偏差求偏导，这里的偏导数的值也就是使得损失减小的最佳方向，然后根据偏导数的方向和步长更新权重和偏差，对吗答：您的描述大致正确，但有一些细节需要澄清和修正，以更准确地反映深度学习中模型训练的过程

小松要进步·2025-01-31 01:15

TensorBoard可视化工具支持哪些类型的图表？

TensorBoard支持多种类型的图表，以下是详细介绍：标量图（Scalars）定义与用途：用于展示单个数值随时间（通常是训练步骤或迭代次数）的变化情况。

alankuo·2025-01-31 01:43

推荐频道

LLM训练