训练

深度解析：大模型开源的真与假

目录大模型企业开闭源策略各异开源大模型的定义与现状开源内容的局限性通常开放的内容实际未开放的关键内容法律与商业模式的约束开源许可证的重要性大模型的定制许可证及其限制性条款商业公司对开源大模型的策略和目的建立生态系统吸引开发者提升品牌形象保持竞争优势技术创新和改进技术与协助开发的挑战训练和推理过程的资源需求差异微调和衍生模型的技术实现及其局限性开源大模型在协作开发中的局限总结大模型的发展开启了
rs勿忘初心·2025-02-28 05:39

DeepSeek开源周第二弹：DeepEP如何用RDMA+FP8让MoE模型飞起来？

一、引言：MoE模型的通信瓶颈与DeepEP的诞生在混合专家（MoE）模型训练中，专家间的全对全（All-to-All）通信成为性能瓶颈。
曦紫沐·2025-02-28 04:03

利用DSPy优化LangChain RAG系统的实战指南

具体来说，DSPy编译器会在内部追踪你的程序，然后为大型语言模型（LLMs）创建高质量的提示（或为小型LLMs训练自动微调），以教会它们任务的步骤。
scaFHIO·2025-02-28 04:01

使用LangChain与GPT4All模型进行交互

核心原理解析GPT4All是基于大型语言模型（LLMs）的开源项目，通过训练大量干净的数据，能够生成高质量的对话和回答。LangChain是一种用于简化与
bavDHAUO·2025-02-28 04:28

前言：什么是大模型微调

大模型微调（Fine-tuning）是指在预训练模型的基础上，针对特定的任务或数据集进行进一步训练的过程。预训练模型通常在大规模的通用数据上训练，具备广泛的语言理解和生成能力。
伯牙碎琴·2025-02-28 04:26

游戏语音趋势解析，社交互动有助于营造沉浸式体验

OpenAI的ChatGPT语音模式将语音转语音技术变成了现实，引入了基于音频和文本信息进行端到端预训练的模型，这些模型除了文本标记外，还能原生理解和生成音频。
网易数智·2025-02-28 03:22

深度学习模型优化与医疗诊断应用突破

当前研究聚焦于迁移学习与模型压缩算法的协同创新，通过复用预训练模型的泛化能力与降低计算负载，有效解决了医疗数据样本稀缺与硬件资源受限的痛点问题。
智能计算研究中心·2025-02-28 02:44

ZeRO分布式训练策略

ZeRO分布式训练策略详解一、核心设计原理ZeRO（ZeroRedundancyOptimizer）是微软提出的分布式训练优化框架，与传统数据并行方法不同，ZeRO通过将模型的参数、梯度和优化器状态分散到多个设备上
AIGC_ZY·2025-02-28 02:13

《揭秘机器学习中的交叉验证：模型评估的基石》

交叉验证的核心意义抵御过拟合风险在机器学习的训练过程中，模型可能会过度适应训练数据的细节和噪声，从而在新数据上表现不佳，这就是过拟合现象。交叉验证通过将数据集划分为多个子集，模型在不同子集上
·2025-02-28 01:03

扩散模型基本概念

1.核心思想从最原始的DDPM来讲，扩散模型是用变分估计训练的马尔可夫链，相当于VAE+流模型。与标准化流相比，扩散模型的正向过程为预先定义的加噪过程，负责将图像x∼p(x)x\sim{p(x)}x∼
AndrewHZ·2025-02-28 00:57

利用GPT开发应用005：Codex、Turbo、ChatGPT、GPT-4

它们是通过截至2021年6月的数据进行训练的，并被描述为比之前版本更强大。到2022年11月底，OpenAI开始将这些模型称为GPT-3.5系列的一部分。  Codex系列模型
翰墨之道·2025-02-28 00:56

ASFF算法

这种不一致性干扰了训练过程中的梯度计算，降低了特征金字塔的有效性。4.这个问题存在的原因：当一个对象在某一层特征图中被赋值并被视为正值时，其他层特征图
神笔馬良·2025-02-28 00:21

最全中文对话数据集（不定期更新）

为了提升对话系统的性能，需要大量的高质量对话数据来训练和优化模型。然而，中文对话数据相对于英文来说较为稀缺，且质量参差不齐，这限制了中文对话系统的发展。
数据猎手小k·2025-02-27 22:06

【保姆级视频教程（二）】YOLOv12训练数据集构建：标签格式转换-划分-YAML 配置 避坑指南 | 小白也能轻松玩转目标检测！

【2025全站首发】YOLOv12训练数据集构建：标签格式转换-划分-YAML配置避坑指南|小白也能轻松玩转目标检测！
一只云卷云舒·2025-02-27 21:03

DeepSeek全栈接入指南：从零到生产环境的深度实践

第一章：DeepSeek技术体系全景解析1.1认知DeepSeek技术生态DeepSeek作为新一代人工智能技术平台，构建了覆盖算法开发、模型训练、服务部署的全链路技术栈。
量子纠缠BUG·2025-02-27 21:30

2025，AI变现有哪些机遇与挑战？

与此同时，我国大模型领域仍然存在多方面痛点，例如：云端训练成本高、高端算力存在“卡脖子”风险、优质数据匮乏、人才缺口、AI算法开源生态仍需强化、数据安全和隐私问题等等，仍是市场
Imagination官方博客·2025-02-27 19:41

haclon模板匹配

*打开窗口dev_open_window(0,0,512,512,'black',WindowHandle)*显示图像（用于创建模板的图像）read_image(Image,'D:/训练照片/4.png
CallZhang210·2025-02-27 18:30

自编码器（Autoencoders）

通过训练，自编码器能够学习数据的有效表示，常用于降维和特征提取。相比于独立模型，它的输入输出更灵活，且可以在输入完成后在完成解码。
路野yue·2025-02-27 17:55

深度学习重要论文阅读笔记 ResNet （2025.2.26）

文章目录问题背景数据预处理神经网络模型模型性能知识点积累英语单词积累问题背景随着神经网络变得更深（层数变多），模型的训练过程也会变得更加困难。
北岛寒沫·2025-02-27 16:50

大语言模型原理与工程实践：Transformer 大语言模型预训练

大语言模型原理与工程实践：Transformer大语言模型预训练关键词：大语言模型、预训练、Transformer、自监督学习、计算资源、数据处理文章目录大语言模型原理与工程实践：Transformer
AI天才研究院·2025-02-27 16:18

大模型核心技术原理: Transformer架构详解！

严格意义上讲，GPT可能不算是一个模型，更像是一种预训练范式，它本身模型架构是基于Transformer，但GPT引入了“预测下一个词”的任务，即不断通过前文内容预测下一个词。
大模型猫叔·2025-02-27 16:13

大模型最新面试题系列：深度学习基础（二）

过拟合是指模型在训练数据上表现很好，但在未见过的测试数据上表现不佳。当模型容量较低时，模型可能无法学习到数据中的复杂模式，导致欠拟合，即在训练集和测试集上的表现都较差。
人肉推土机·2025-02-27 15:08

Shell Script 编程笔记

考虑下面两个场景：场景一：我们在训练深度网络模型过程中保存了10个不同epoch模型。我们希望通过测试集验证每个模型的性能。
huangpg丶·2025-02-27 14:04

DeepSeek 高阶应用技术详解（4）

1.引言在前三篇中，我们探讨了DeepSeek的基础功能、分布式训练、模型优化、模型解释性、超参数优化以及AutoML的应用。
Evaporator Core·2025-02-27 14:33

DeepSeek开源周合集

FlashMLA，核心成就：GPU带宽利用接近理论极限，算力利用效率翻倍；周二：DeepEP，一个高效的MOE架构专家并行通信库：支持高效且优化后的全对全通信使用NVlink和RDMA进行节点内和节点间通信用于训练和推理填充的高吞吐量内核用于推理解码的低延迟内核原生支持
Vip.Gong·2025-02-27 14:03

记一次pytorch训练loss异常的问题

记一次pytorch训练loss异常的问题问题描述使用mmdetection框架训练时，某项loss出现异常大的值，比如1781232349724294.000。这个问题只在多卡训练时才会出现。
lyyiangang·2025-02-27 14:29

机器学习中的过拟合、欠拟合与正则化

  在机器学习的世界里，过拟合与欠拟合是模型训练过程中常常会遇到的两大问题，而正则化则是应对过拟合的重要手段。理解它们对于构建高性能的机器学习模型至关重要。
喜-喜·2025-02-27 14:28

优秀源头定制线束源头供应商-力可欣: 新能源储能线束领域的先行者

公司拥有标准线束生产车间，拥有先进的自动化生产设备和训练有素的生产
港澳粤生活网·2025-02-27 13:54

KNN 算法优化实战分享

其核心原理是：对于一个待预测样本，计算其与训练集中所有样本的距离，选取距离最近的K个样本，根据这K个样本的标签进行投票（分类）或均值计算（回归），从而得到待预测样本的标签。
轻口味·2025-02-27 09:55

大模型成本优化实战：从分布式训练到量化剪枝，轻松降低AI计算开销

网罗开发（小红书、快手、视频号同名）  大家好，我是展菲，目前在上市企业从事人工智能项目研发管理工作，平时热衷于分享各种编程领域的软硬技能知识以及前沿技术，包括iOS、前端、HarmonyOS、Java、Python等方向。在移动端开发、鸿蒙开发、物联网、嵌入式、云原生、开源等领域有深厚造诣。图书作者：《ESP32-C3物联网工程开发实战》图书作者：《SwiftUI入门，进阶与实战》超级个体：CO
网罗开发·2025-02-27 08:54

基于大模型的肺纤维化预测及临床方案研究报告

大模型在医疗领域的应用现状三、肺纤维化相关知识3.1肺纤维化的病因与发病机制3.2肺纤维化的临床症状与诊断方法3.3肺纤维化的治疗现状与挑战四、大模型预测肺纤维化的方法4.1数据收集与预处理4.2模型选择与构建4.3模型训练与优化
LCG元·2025-02-27 08:52

KNN 算法性能跃升秘籍：优化实战，打造高效分类利器！

KNN算法以其原理简单、易于实现、无需显式训练等特点，在模式识别、分类、回归等领域得到了广泛应用。
清水白石008·2025-02-27 07:16

代码随想录训练营DAY07

四数相加classSolution(object):deffourSumCount(self,nums1,nums2,nums3,nums4):""":typenums1:List[int]:typenums2:List[int]:typenums3:List[int]:typenums4:List[int]:rtype:int"""dict={}foriinnums1:forjinnums2:i
程序员正在诞生中·2025-02-27 07:15

《李航 统计学习方法》学习笔记——第八章提升方法

提升方法8.1提升方法AdaBoost8.1.1提升方法的基本思路8.1.2AdaBoost算法8.1.3AdaBoost的例子（代码实现）8.2AdaBoost算法的训练误差分析定理8.1AdaBoost
eveiiii·2025-02-27 07:39

Cassini_Network-Aware Job Schedulingin Machine Learning Clusters

分布式机器学习训练工作负载的通信开销占据了训练迭代时间的很大一部分，而现有的ML调度器往往忽略了ML训练作业的通信模式。
一只积极向上的小咸鱼·2025-02-27 07:37

用于训练基于pytorch构建的小型字符级语言模型的数据集汇总

前文，我们从零开始基于transformer框架在pytorch上构建一个小型字符级语言模型，并编写了完整的python示例，模型是需要训练的，所以在原有代码的基础上，我们寻找一些公开的数据集对模型进行训练
搏博·2025-02-27 06:03

AI 平台技术架构设计方案

本方案旨在提供一个全面的AI平台技术架构设计，以满足不同场景下的AI开发、训练、部署和管理需求。
数研妙手·2025-02-27 03:11

多模态｜开源多模态模型Emu3 & 多模态预训练模型CLIP对比

Emu3官方介绍我们推出了Emu3，这是一套新的最先进的多模态模型，仅使用next-token预测进行训练！通过将图像、文本和视频分词到一个离散空间中，我们在多模态序列的混合上从头开始训练单个转换器。
产品媛Gloria Deng·2025-02-27 03:08

第十三站：卷积神经网络（CNN）的优化

通过对训练数据进行各种随机变换，可以生成更多的训练样本，帮助模型避免过拟合。常见的数据增强方法：旋转（Rotation）：随机旋转图像，增强模型对旋转变换
武狐肆骸·2025-02-27 03:08

智能算法的全面应用：量子计算与自动化学习在各行业的创新路径探索

自动化机器学习算法通过简化模型训练和调优的过程，为数据科学家节省了大量时间。可解释性算法则旨在让模型的决策过程更加透明，从而提高用户对算法决策的信任。
智能计算研究中心·2025-02-27 03:35

大模型之二十七-语音识别Whisper实例浅析

Whisper简介Whisper是OpenAI于2022年9月开源的一个多语种识别模型，目前支持99种语言，是目前性能最好的开源多语种识别ASR大模型，第一版版使用了68万小时标注好的语料预训练模型，而
shichaog·2025-02-27 01:55

深入解析 DeepSeek R1：强化学习如何驱动大模型推理能力的进化

引言在AI竞赛日益激烈的时代，DeepSeek-AI推出了DeepSeekR1，试图以强化学习（RL）直接训练推理能力，而非仅依赖传统的监督微调（SFT）。
海棠AI实验室·2025-02-26 23:07

深度学习批次数据处理的理解

基础介绍在计算机视觉深度学习网络中，在训练阶段数据输入通常是一个批次，即不是一次输入单张图片，而是一次性输入多张图片，而神经网络的结构内部一次只能处理一张图片，这时候很自然就会考虑为什么要这样的输入？
_DCG_·2025-02-26 22:28

医院HIS接入大模型：算力基础设施与训练能力的深度剖析与测算

一、引言1.1研究背景与意义在数字化医疗快速发展的当下，医院信息系统（HospitalInformationSystem，HIS）作为医疗信息化的核心枢纽，承载着患者诊疗信息、医院运营管理等关键数据，对提升医疗服务质量、优化医院管理流程起着至关重要的作用。然而，传统HIS在面对日益增长的医疗数据量和复杂的临床需求时，逐渐显露出分析决策能力不足、智能化程度低等短板。随着人工智能技术的飞速发展，大模型
Allen_LVyingbo·2025-02-26 21:52

论文笔记：Enhancing Sentence Embeddings in Generative Language Models

——>需要较大的训练批次，这会消耗大量的计算资源一些前沿的工作将焦点转向了最近开发的生成模型，期望利用其先进的文本理解能力，直接对输入句子进行编码，而无需额外的反向传播由于句子表示和自回归语言建模
UQI-LIUWJ·2025-02-26 20:17

DeepSeek-V3：最强开源MoE模型的技术解析与使用指南

目录引言模型概览架构创新：负载均衡策略与训练目标预训练：追求极致的训练效率后训练：从DeepSeek-R1进行知识蒸馏模型下载评估结果基础模型标准基准测试上下文窗口聊天模型标准基准测试（大于67B的模型
认识祂·2025-02-26 19:10

DeepSeep开源周，第三天：DeepGEMM是啥？

矩阵乘法（GEMM）是深度学习模型的核心运算（如全连接层、卷积层等），其性能直接影响训练和推理效率。
程序员差不多先生·2025-02-26 19:33

从零开始：使用PyTorch构建DeepSeek R1模型及其训练详解

本文将引导你使用PyTorch从零开始构建DeepSeekR1模型，并详细解释模型架构和训练步骤。
陆鳐LuLu·2025-02-26 19:02

什么是RAG？RAG是如何解决问题的？RAG的未来发展趋势有哪些？

二、为什么会出现RAGRAG的出现，是因为在大模型的广泛应用中，伴随着出现的一些问题，比如：知识的局限性：模型自身的知识完全源于它的训练数据，而现有的主流大模
大模型综述·2025-02-26 18:31

DeepSeek 开源周：DeepEP 项目详解，GPU 压榨计划启动！

本文将详细介绍DeepEP的功能、应用场景以及如何使用它来提升AI训练和推理的效率。DeepEP概述功能与作用DeepEP是一个专门针对Mixture-of-Experts(
东方佑·2025-02-26 18:29
上一页 4 5 6 7 8 9 10 11 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他