梯度爆炸

大模型学习笔记 - LLM 对齐优化算法 DPO

LLM-DPOLLM-DPODPO概述DPO目标函数推导DPO目标函数梯度的推导DPO概述大模型预训练是从大量语料中进行无监督学习，语料库内容混杂，训练的目标是语言模型损失，任务是nexttokenprediction
JL_Jessie·2025-02-10 03:54

AI学习专题（一）LLM技术路线

阶段1：AI及大模型基础（1-2个月）数学基础线性代数（矩阵、特征值分解、SVD）概率论与统计（贝叶斯定理、极大似然估计）最优化方法（梯度下降、拉格朗日乘子法）编程&框架Python（NumPy、Pandas
王钧石的技术博客·2025-02-10 01:39

深度学习笔记——pytorch构造数据集 Dataset and Dataloader

系列文章目录机器学习笔记——梯度下降、反向传播机器学习笔记——用pytorch实现线性回归机器学习笔记——pytorch实现逻辑斯蒂回归Logisticregression机器学习笔记——多层线性（回归
旺仔喔喔糖·2025-02-09 22:19

数值型特征处理 - 归一化和分桶

而分桶可能是指把连续的数值分成不同的区间，比如年龄段分成0-18，19-30这样的区间消除特征间的量纲差异，使不同特征具有可比性，适用于依赖距离或梯度的模型（如SVM、神经网络、KNN）最大最小归一化（
Ivanqhz·2025-02-09 18:50

【人工智能专栏】Stochastic Gradient Descent (SGD) 随机梯度下降

StochasticGradientDescent(SGD)随机梯度下降IntroducingSGDAI:StochasticGradientDescent(SGD)isapopularoptimizationalgorithmusedinmachinelearningforfindingtheminimumofacostfunction.Itisavariantofthegradientdesc
manylinux·2025-02-09 17:09

Hive复杂日志数据类型的存储与解析

问题背景2.复杂类型二、场景一1.日志格式2.Hive存储3.Hive解析三、场景二1.数据准备2.Hive存储3.Hive解析场景三1.数据准备2.需求背景3.解决方法方法①：硬解析方法②：转化格式爆炸一
lightupworld·2025-02-09 10:25

筛斗数据：解锁数据宝库的金钥匙

在当今这个信息爆炸的时代，数据已成为推动社会进步与企业发展的核心动力。
筛斗数据·2025-02-08 23:02

从零开始人工智能Matlab案例-线性回归与梯度下降算法

使用线性回归模型拟合历史数据，并通过梯度下降算法优化模型参数，动态展示参数更新如何逐步降低预测误差。
算法工程师y·2025-02-08 23:28

Nesterov加速梯度法 (NAG, Nesterov Accelerated Gradient) 算法详解及案例分析

Nesterov加速梯度法(NAG,NesterovAcceleratedGradient)算法详解及案例分析目录Nesterov加速梯度法(NAG,NesterovAcceleratedGradient
闲人编程·2025-02-08 22:27

最全的AI工具箱大全，都给你们整理好了

在这个信息爆炸的时代，AI（人工智能）正逐渐成为我们生活和工作中不可或缺的一部分。从智能语音助手到自动驾驶汽车，再到医疗诊断和金融预测等，AI的身影无处不在。
Java新手村·2025-02-08 21:20

十八、计算机视觉-canny边缘检测

文章目录前言一、canny检测的流程1.高斯滤波（GaussianSmoothing）2.梯度计算（GradientCalculation）3.非极大值抑制（Non-maximumSuppression
云峰天际·2025-02-08 19:01

知识库升级新思路：用生成式AI打造智能知识助手

在当今信息爆炸的时代，企业和组织面临着海量数据的处理和管理挑战。
·2025-02-08 19:01

大语言模型应用指南：Gemini简介

1.背景介绍1.1大型语言模型的兴起近年来，随着计算能力的提升和数据量的爆炸式增长，大型语言模型（LLM）逐渐成为人工智能领域的研究热点。
AI天才研究院·2025-02-08 11:03

区块链技术：Facebook 重塑社交媒体信任的新篇章

在这个信息爆炸的时代，社交媒体已经成为我们生活中不可或缺的一部分。然而，随着社交平台的快速发展，隐私泄露、数据滥用和虚假信息等问题也日益凸显。
ClonBrowser·2025-02-08 10:25

Lucene搜索引擎原理与代码实例讲解

Lucene搜索引擎原理与代码实例讲解关键词：搜索引擎,全文检索,倒排索引,查询优化,索引构建,分词,评分器1.背景介绍1.1问题由来在信息爆炸的互联网时代，如何高效地管理和搜索信息成为了一个严峻的挑战
杭州大厂Java程序媛·2025-02-08 04:41

从零学习pytorch——4.基础概念讲解及神经网络模块

nn.Module会自动管理模型的参数，包括参数的初始化、梯度计算和更新等
PyTorch 研习社·2025-02-07 22:05

设计模式-状态模式：让对象的行为随状态改变而清晰可控

{//无限的条件分支...}条件分支爆炸导致代码臃肿、难以维护？状态模式正是解决这类问题的利器！本文亮点：3个真实代码示例角色结构图+对比表格JDK源码应用分析一、状态模式是什么？
BrightChen666·2025-02-07 13:38

《用DOTS解决实际需求》集锦

思路是先消除使用门槛后，再有梯度挖掘DOTS底层实现，学习过程非常平滑，并精细准备了进度条字幕，想看哪里点哪里
·2025-02-07 13:56

RNN/LSTM/GRU 学习笔记

6、BPTT和BP的区别二、LSTM1、LSTM简介2、LSTM如何缓解梯度消失与梯度爆炸？三、GRU四、参考文献RNN/LSTM/GRU一、RNN1、为何引入RNN？
Curz酥·2025-02-07 02:52

开源AI智能名片2 + 1链动模式S2B2C商城小程序：内容价值创造与传播新引擎

摘要：本文聚焦于信息爆炸时代下，内容价值的创造与传播。随着用户角色的转变，其在内容生产与传播中的价值日益凸显。
说私域·2025-02-07 01:45

利用Docker简化机器学习应用程序的部署和可扩展性

机器学习（ML）近年来取得了爆炸性增长，导致对稳健、可扩展和高效部署方法的需求增加。传统方法往往需要帮助将ML模型操作化，原因包括训练和服务环境之间的差异或扩展的困难。
荆州克莱·2025-02-06 20:44

数据安全入门浅析|晚安是一只小猫

数据安全和网络安全二、数据安全场景1.外部攻击2.内部失窃三、数据安全基础能力1.数据防泄漏（网络侧）2.数据脱敏3.数据库审计4.数据加解密总结前言随着互联网科技的迅猛发展，人类社会已经迎来了数据大爆炸时代
晚安是一只小猫·2025-02-06 18:00

【单层神经网络】基于MXNet的线性回归实现（底层实现）

写在前面刚开始先从普通的寻优算法开始，熟悉一下学习训练过程下面将使用梯度下降法寻优，但这大概只能是局部最优，它并不是一个十分优秀的寻优算法整体流程生成训练数据集（实际工程中，需要从实际对象身上采集数据）
辰尘_星启·2025-02-06 11:43

CMS组合内存系统在医疗数据中心的应用

随着医疗技术的不断进步，医学数据呈爆炸式增长。医疗影像设备的分辨率不断提高，如CT、MR等，产生的数
Allen_LVyingbo·2025-02-06 10:07

Python 实现烟花效果的完整代码

为了实现烟花效果，我们需要在屏幕上绘制多个动态的花朵图案，模拟烟花爆炸的效果。实现步骤：设置画布，初始化turtle的基本设置。模拟烟花的爆炸效果，我们可以使用圆形来表示烟花的每一片花瓣。
一只蜗牛儿·2025-02-06 10:35

遗传算法与深度学习实战（33）——WGAN详解与实现

遗传算法与深度学习实战（33）——WGAN详解与实现0.前言1.训练生成对抗网络的挑战2.GAN优化问题2.1梯度消失2.2模式崩溃2.3无法收敛3WassersteinGAN3.1Wasserstein
盼小辉丶·2025-02-06 09:29

大规模语言模型从理论到实践 DeepSpeed实践

1.2训练和部署LLM的挑战1.3DeepSpeed：赋能LLM规模化1.4本文结构2.核心概念与联系2.1模型规模与性能的关系2.2模型并行化：数据并行、模型并行和流水线并行2.3混合精度训练2.4梯度累积
AI天才研究院·2025-02-06 01:59

DeepSeek: 深度搜索与深度挖掘技术的前景与应用

背景在进入信息化时代的背景下，数据的爆炸式增长为各行各业带来了前所未有的挑战和机遇。从社交媒体到物联网设备，每天都有大
·2025-02-05 21:12

Transformers解决RuntimeError: element 0 of tensors does not require grad and does not have a grad_fn

在使用Transformers启动梯度检查点时，即：model.gradient_checkpointing_enable()时，会报错RuntimeError:element0oftensorsdoesnotrequiregradanddoesnothaveagrad_fn
怎么这么多名字都被占了·2025-02-05 18:06

从全民热议到技术洞察：AI应用变革下的生活与隐私思考

引言在当今这个信息爆炸的时代，社交媒体上的热点话题如同繁星般闪烁，不断吸引着大众的目光。
盼达思文体科创·2025-02-05 15:15

PyTorch中的 torch.nn.GRU

与传统的RNN相比，GRU引入了门控机制，旨在解决长序列训练中的梯度消失问题，并提高了训练效率和性能。在PyTorch中，torch.nn.GRU是一个非常方便的模块，用于构建和训练GRU网络。
彬彬侠·2025-02-05 12:53

医疗方向的可视化大屏，十分契合医疗行业数据量大的特点

在当今数字化医疗快速发展的时代，医疗行业积累的数据量呈爆炸式增长。
大象数据工场·2025-02-05 08:23

深入掌握DuckDuckGo搜索API：智能检索策略

引言在信息爆炸的时代，如何有效地获取所需信息成为一大挑战。DuckDuckGo以其隐私友好的搜索方式著称，其API为开发者提供了强大的搜索能力。
dfvcbipanjr·2025-02-05 07:49

使用DuckDuckGo搜索API进行高效信息检索：Python实践指南

使用DuckDuckGo搜索API进行高效信息检索：Python实践指南引言在当今信息爆炸的时代，快速准确地获取所需信息变得越来越重要。
afTFODguAKBF·2025-02-05 07:18

大数据治理体系构建与关键技术实践

个人主页：一ge科研小菜鸡-CSDN博客期待您的关注1.引言随着信息技术的快速发展和数据规模的爆炸式增长，大数据已经成为各行业的核心资产。
一ge科研小菜鸡·2025-02-05 07:45

自定义数据集 使用pytorch框架实现逻辑回归并保存模型，然后保存模型后再加载模型进行预测，对预测结果计算精确度和召回率及F1分数

训练模型：使用二元交叉熵损失函数BCELoss和随机梯度下降优化器SGD进行训练。保存模型：使用torch.save保存模型的参数。加载模型并预测：加载
知识鱼丸·2025-02-05 06:42

TensorFlow 示例项目实战与源码解析.zip

文章将详细介绍TensorFlow的核心概念，如张量、图计算、会话、变量、梯度下降与优化器、损失函数、数据集、模型评估、模型保存与恢复以及KerasAPI。读者可通过实践这些示
ELSON麦香包·2025-02-05 01:34

GRU是门控循环单元是什么？

GRU旨在解决传统RNN中存在的长期依赖问题和反向传播中的梯度消失或梯度爆炸问题。
无限进步呀·2025-02-04 22:13

提高API性能的十个常见优化方法（简化版）

随着数据量的爆炸式增长和高并发需求的不断攀升，API性能优化已成为开发者必须掌握的关键技能。本文将详细介绍十种常见的API性能优化方法，帮助开发者应对复杂的业务场景。
花千树-010·2025-02-04 16:56

开源 OCR 工具大比拼：常用工具全解析与选择指南

在信息爆炸的当下，OCR（光学字符识别）技术如同一位“炼金术士”，能高效且相对精确地从海量纸质文档、扫描件、图片中提取文字信息，广泛应用于教育、医疗、交通等众多行业。
花千树-010·2025-02-04 16:56

门控循环单元（GRU）

门控循环单元（GRU）门控循环单元（GRU）是一种循环神经网络（RNN）的变体，旨在解决传统RNN在处理长序列时的梯度消失问题，并且相比于长短期记忆（LSTM），它具有更简洁的结构。
彬彬侠·2025-02-04 15:23

机器学习在网络安全领域的深度探索与实践

随着网络空间中数据量爆炸性增长以及攻击手段日新月异的变化，传统的基于规则和签名的防护方法已经无法有效应对日益复杂的威胁态势。
noVonN·2025-02-04 14:40

机器学习笔记20241017

torchvisiondataloadernn.module卷积非线性激活模型选择训练误差泛化误差正则化权重衰退的基本概念数学表示权重衰退的效果物理解释数值稳定性（GradientVanishing）梯度消失原因解决方法梯度爆炸
tt555555555555·2025-02-04 03:11

基于BiGRU的预测模型及其Python和MATLAB实现

RNN能够处理序列数据，但它们在长序列数据的学习中存在梯度消失和梯度爆炸的问题。为了解决这些问题，长短期记忆网络（LS
追蜻蜓追累了·2025-02-04 03:10

Java基于Web美食网站设计(源码+mysql+文档)

在这个信息爆炸的时代，人们越来越依赖于网络来获取各种信息，包括美食。美食作为人类生活中不可或缺的一部分，吸引了大量的关注和讨论。
灵军程序设计·2025-02-03 23:08

Python 图像处理进阶：特征提取与图像分类

原理：SIFT通过在不同尺度的空间内寻找极值点来检测关键点，并利用梯度方向的直方
极客代码·2025-02-03 21:23

(04)python-opencv图像处理——图像阈值、平滑图像、形态转换、图像梯度

简单的阈值法1.2自适应阈值二、平滑图像2.1二维卷积(图像滤波)2.2图像模糊2.2.1均值模糊2.2.2高斯模糊2.2.3中值滤波2.2.4双边滤波三、形态转换1、腐蚀2、膨胀3、开运算4、闭运算四、图像梯度
欲游山河十万里·2025-02-03 17:48

线性回归基础学习

线性回归基础学习目录：理论知识样例代码测试参考文献一、理论知识线性回归思维导图NDArray：MXNet中存储和变换数据的主要工具，提供GPU计算和自动求梯度等功能线性回归可以用神经网络图表示，也可以用矢量计算表示在
Remoa·2025-02-03 14:53

深度学习篇---张量&数据流动处理

文章目录前言第一部分：张量张量的基本概念1.维度标量（0维）向量（1维）矩阵（2维）三维张量2.形状张量运算1.基本运算加法减法乘法除法2.广播3.变形4.转置5.切片6.拼接7.矩阵分解8.梯度运算：
Ronin-Lotus·2025-02-03 13:46

深度学习查漏补缺：1.梯度消失、梯度爆炸和残差块

一、梯度消失梯度消失的根本原因在于激活函数的性质和链式法则的计算：激活函数的导数很小：常见的激活函数（例如Sigmoid和Tanh）在输入较大或较小时，输出趋于饱和（Sigmoid的输出趋于0或1），其导数接近于
nnerddboy·2025-02-03 02:19
上一页 4 5 6 7 8 9 10 11 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他