梯度剪裁

Sobel边缘检测算法：图像处理的关键技术

本文还有配套的精品资源，点击获取简介：Sobel算子是图像处理中用于边缘检测的经典方法，通过计算图像的梯度强度和方向来识别边界。

Fkvision·2025-02-27 07:41

常见的图像处理算法：Sobel边缘检测

它结合了高斯平滑和微分求导，用来计算灰度图像的近似梯度。Sobel算子是一个主要用于边缘检测的离散微分算子（discretedifferentiationoperator）。

资深流水灯工程师·2025-02-27 07:38

GrandientBoostingClassifier函数介绍

目录前言用法示例前言GradientBoostingClassifier是Scikit-learn库中的一个分类器，用于实现梯度提升决策树（GradientBoostingDecisionTrees，GBDT

浊酒南街·2025-02-26 18:58

解读 DeepSeek 关键 RL 算法 GRPO

DeepSeekGRPO：面向超大规模RLHF的梯度正则化策略优化算法引言在当下人工智能蓬勃发展的浪潮里，DeepSeek无疑是一颗耀眼的明星，频繁出现在各类科技前沿讨论中，热度持续攀升。

进一步有进一步的欢喜·2025-02-26 08:16

AI安全相关漏洞

白盒攻击：攻击者完全了解模型结构（如梯度信息），可直接计算扰动方向（如使

外咸瓜街的一条咸鱼·2025-02-26 06:36

37、深度学习-自学之路-自己搭建深度学习框架-2、自动梯度计算

importnumpyasnpclassTensor(object):'''importnumpyasnp：导入numpy库，用于处理数组相关操作。classTensor(object)：定义了一个名为Tensor的类，继承自object。__init__方法是类的构造函数，用于初始化Tensor对象：self.data=np.array(data)：将传入的data转换为numpy数组并存储在s

小宇爱·2025-02-26 04:46

梯度累加（结合DDP）梯度检查点

梯度累加目的梯度累积是一种训练神经网络的技术，主要用于在内存有限的情况下处理较大的批量大小（batchsize）。

糖葫芦君·2025-02-25 23:16

神经网络八股（3）

1.什么是梯度消失和梯度爆炸梯度消失是指梯度在反向传播的过程中逐渐变小，最终趋近于零，这会导致靠前层的神经网络层权重参数更新缓慢，甚至不更新，学习不到有用的特征。

SylviaW08·2025-02-25 22:37

ACM算法与竞赛基地：蓝桥备战 --- 二分篇

二分是一种搜索策略，类似于高速中学到的梯度下降法，当我们落在某一点是沿着该点斜率，我们可以像最优处移动，二分也是样的策略，但其更加严格，现代算法，如模拟退火，蚁群算法，BP算法针对的都是存在多种最优解，

NONE-C·2025-02-25 07:54

大模型学习完整路径（一站式汇总），从零基础到精通！新手友好级指南

先来一张整体结构图，越是下面部分，越是基础：可以按以下步骤学习：1.理解基础概念需要了解深度学习的基本原理和常见术语，如神经网络、梯度下降、反向传播、监督学习、无监督学习、分类、回归、聚类

Python程序员罗宾·2025-02-24 22:45

MSE损失函数

_−_)^2…上式中的12\frac{1}{2}21项用于简化计算，也可以利用1k\frac{1}{k}k1进行平均，这些缩放运算均不会改变梯度方向。

亲持红叶·2025-02-23 06:02

XGBoost vs LightGBM vs CatBoost：三大梯度提升框架深度解析

梯度提升树（GradientBoostingDecisionTrees,GBDT）作为机器学习领域的核心算法，在结构化数据建模中始终占据统治地位。

机器学习司猫白·2025-02-23 00:18

神经网络的学习求梯度

importsys,ossys.path.append(os.pardir)importnumpyasnpfromcommon.functionsimportsoftmax,cross_entropy_errorfromcommon.gradientimportnumerical_gradient#simpleNet类classsimpleNet:def__init__(self):self.W=

阿崽meitoufa·2025-02-22 17:19

DeepSeek 学习路线图

微积分：了解优化算法中的梯度下降等概念。2.编程基础Python：掌握Python编程，这是深度学习和AI开发的主要语言

CarlowZJ·2025-02-22 09:14

（《机器学习》完整版系列）附录 ——3、复合函数梯度的链式法则（链的次序不可交换）

推导了复合函数梯度的链式法统一形式。首创了的链式记号，非常易记：分子右挪+分数约分，特别是它强调了链的表达次序，由于矩阵积没有交换律，故该链的次序不可交换。

人工干智能·2025-02-22 03:17

用deepseek学大模型05逻辑回归

deepseek.com:逻辑回归的目标函数，损失函数，梯度下降标量和矩阵形式的数学推导，pytorch真实能跑的代码案例以及模型,数据，预测结果的可视化展示，模型应用场景和优缺点，及如何改进解决及改进方法数据推导

wyg_031113·2025-02-22 00:48

嵌入式人工智能应用-第四章逻辑回归 8

逻辑回归1逻辑回归介绍1.1背景介绍1.2原理1.2.1预测函数1.2.2判定边界1.2.3损失函数1,2,4梯度下降函数1.2.5分类拓展1.2.6正则化2实验代码3实验结果说明1逻辑回归介绍1.1背景介绍逻辑回归的过程可以概括为

数贾电子科技·2025-02-21 16:11

机器学习课程的常见章节结构

强化学习机器学习的产生与发展机器学习的历史与现代应用经验误差与过拟合过拟合与欠拟合的概念及解决方案评估方法与性能度量交叉验证、准确率、召回率、F1分数等偏差与方差偏差-方差权衡及其对模型的影响2.经典机器学习算法2.1线性模型一元线性回归与多元线性回归梯度下降算法

zhangfeng1133·2025-02-21 14:24

机器学习—逻辑回归

基础概念1.1、什么是逻辑回归1.2、逻辑回归与线性回归的区别1.3应用场景2、逻辑回归模型2.1、模型定义2.2、Sigmoid函数2.3、决策边界2.4、概率解释3、模型训练3.1、损失函数3.2、梯度下降法

60岁的程序猿·2025-02-21 14:22

视觉分析之边缘检测算法

9.1Roberts算子Roberts算子又称为交叉微分算法，是基于交叉差分的梯度算法，通过局部差分计算检测边缘线条。

Erekys·2025-02-21 09:42

机器学习(四) 本文(2万字) | 梯度下降GD原理 | Python复现 |

第四章梯度下降一引入梯度二从一元到多元2.1一元函数2.1.1引入梯度下降2.1.2学习率2.1.3继续更新迭代2.2二元函数2.3多元函数三多种梯度方法3.1批量梯度下降（BatchGradientDescent

小酒馆燃着灯·2025-02-21 08:36

机器学习杂记

使用随机梯度下降。与标准梯度下降精确计算梯度不同，随机梯度下降算法在计算梯度时加入了随机因素。于是，即使陷入局部

被自己蠢哭了·2025-02-21 08:33

基于python深度学习遥感影像地物分类与目标识别、分割实践技术应用

专题一：深度学习发展与机器学习深度学习的历史发展过程机器学习，深度学习等任务的基本处理流程梯度下降算法讲解不同初始化，学习率对梯度下降算法的实例分析从机器学习到深度学习算法专题二深度卷积网络、卷积神经网络

xiao5kou4chang6kai4·2025-02-20 11:20

如果MLlib 中没有所需要的模型，如何使用 Spark 进行分布式训练？

数据并行：每个节点会处理数据的不同部分，并计算该部分的梯度或模型参数。自定义算法：如果使用的是自定义算法（

是纯一呀·2025-02-20 08:57

卷积神经网络之AlexNet经典神经网络，实现手写数字0~9识别

先看原理：AlexNet网络特点采用ReLU激活函数，使训练速度提升6倍采用dropout层，防止模型过拟合通过平移和翻转的方式对数据进行增强采用LRN局部响应归一化，限制数据大小，防止梯度消失和爆炸。

知识鱼丸·2025-02-20 08:24

8-项目实战-信用卡数字识别

③提取数字区域：通过一系列图像处理操作（如礼帽操作、梯度计算、闭操作等）提取可能包含数字的区域。④轮廓排序与筛选：找到提取区域的轮廓，并根据轮廓的宽高比和尺寸筛选出符合条件的数字区域。⑤数字识

#北极星star·2025-02-20 07:18

训练与优化

训练与优化损失函数与反向传播损失函数能够衡量神经网络输出与目标值之间的误差，同时为反向传播提供依据，计算梯度来优化网络中的参数。torch.nn.L1Loss计算所有预测值与真实值之间的绝对差。

钰见梵星·2025-02-20 04:23

【深度学习】学习率调度策略

学习率定义了模型权重（参数）在梯度下降或其他优化算法中的更新步伐。较大的学习率意味着在每次参数更新时，模型会进行更大幅度的调整，而较小的学习率则意味着细致的、渐进的调整。

黑白交界·2025-02-20 02:37

梯度累积和优化器配置差异，让模型训练效果天差地别！

梯度累积和优化器配置差异，让模型训练效果天差地别！引言你是否还在为模型训练效果不佳而苦恼？明明花费了大量时间和精力，模型的性能却始终无法达到预期。其实，很多时候问题可能就出在梯度累积和优化器配置上。

盼达思文体科创·2025-02-20 01:26

【nvidia】NCCL禁用P2P后果权衡

某些优化技术（如梯度累积、算子融合）可能掩盖通信开销，使计算成为主要瓶颈。通信bound场景：模型参数量极大（如千亿级以上），需采用模型并行或流

x66ccff·2025-02-19 18:28

用deepseek学大模型08-长短时记忆网络 (LSTM)

deepseek.com从入门到精通长短时记忆网络(LSTM),着重介绍的目标函数，损失函数，梯度下降标量和矩阵形式的数学推导，pytorch真实能跑的代码案例以及模型,数据，模型应用场景和优缺点，及如何改进解决及改进方法数据推导

wyg_031113·2025-02-19 08:35

用deepseek学大模型08-卷积神经网络(CNN)

yuanbao.tencent.com从入门到精通卷积神经网络(CNN),着重介绍的目标函数，损失函数，梯度下降标量和矩阵形式的数学推导，pytorch真实能跑的代码案例以及模型,数据，预测结果的可视化展示

wyg_031113·2025-02-19 07:30

Pytorch实现论文之一种基于扰动卷积层和梯度归一化的生成对抗网络

简介简介：提出了一种针对鉴别器的梯度惩罚方法和在鉴别器中采用扰动卷积，拟解决锐梯度空间引起的训练不稳定性问题和判别器的记忆问题。

这张生成的图像能检测吗·2025-02-19 06:51

Pytorch实现论文：利用推土机距离与梯度惩罚在ACGAN中训练。

论文简介论文：ACWGAN-GPformillingtoolbreakagemonitoringwithimbalanceddata（ACWGAN-GP用于铣削工具断裂监视的数据不平衡数据）出处：RoboticsandComputer-IntegratedManufacturing论文摘要：铣削操作过程中的刀具破损监测(TBM)对于确保工件质量和最大限度减少经济损失至关重要。在训练数据充足、分布均

这张生成的图像能检测吗·2025-02-19 06:51

Pytorch实现论文之三元DCGAN生成RGB图像用于红外图像着色生成

简介简介：采用了三次DCGAN单独生成单通道图像之后进行组成RGB图像放入鉴别器中检测，并在鉴别器和生成器的损失训练中采用梯度方法来提升或者降低权重。该方法将用于获得红外图像着色的生成。

这张生成的图像能检测吗·2025-02-19 05:50

一文读懂！深度学习 + PyTorch 的超实用学习路线

熟悉矩阵运算、概率分布、梯度计算等概念，能帮助理解深度学习模型的原理。例如，在神经网络中，矩阵乘法用于神经元之间的

a小胡哦·2025-02-19 03:27

随机梯度下降一定会收敛么？

1.什么是随机梯度下降？随机梯度下降（StochasticGradientDescent，SGD）是一种用于最小化目标函数的迭代优化算法，在机器学习和深度学习领域应用广泛。

AndrewHZ·2025-02-19 01:36

解锁机器学习核心算法 | 支持向量机：机器学习中的分类利刃

这十大算法包括线性回归、逻辑回归、决策树、随机森林、K-近邻算法、K-平均算法、支持向量机、朴素贝叶斯算法、降维算法、梯度增强算法。

紫雾凌寒·2025-02-18 15:15

如何解决RNN梯度爆炸和弥散的问题

1.梯度裁剪（GradientClipping）：用于防止梯度爆炸。在每次参数更新之前，计算梯度的范数，如果超过某个阈值，则将梯度缩放到这个阈值。这种方法可以防止梯度在反向传播过程中变得过大。

路野yue·2025-02-18 12:40

Pytorch官方文档英语翻译

a-e1.1span跨度1.2blended混合的1.3criterion标准1.4deprecated弃用的1.5clamp钳制1.6arbitraryshapes任意形状1.7explodinggradients梯度爆炸

yanzhiwen2·2025-02-17 21:35

机器学习 - 学习线性模型的重要性

微积分：掌握导数、梯度

谦亨有终·2025-02-17 14:29

【深度学习】计算机视觉（CV）-图像分类-ResNet（Residual Network，残差网络）

ResNet的核心思想是残差学习（ResidualLearning），它通过跳跃连接（SkipConnections）解决了深度神经网络训练中的梯度消失和梯度爆炸问题，使得非常深的网络（如50层、1

IT古董·2025-02-17 14:57

【机器学习】多元线性回归

本教程将系统性推演多元线性回归，包括向量化处理、特征放缩、梯度下降的收敛性和学习率选择等，并使用numpy实现。最后，我们会通过sklearn快速实现多元线性回归模型。

T0uken·2025-02-17 14:26

优化算法全景解析：从梯度下降到群体智能

一、引言：为什么需要优化算法？在AlphaGo击败人类围棋冠军的背后，在特斯拉自动驾驶系统实时决策的瞬间，在推荐系统精准推送内容的过程中，优化算法始终是推动这些技术落地的核心引擎。无论是机器学习模型的训练，还是复杂系统的参数调优，优化算法的本质是：在给定的约束条件下，找到使目标函数最优的解。本文将深入解析优化算法的核心原理、经典方法、现代进展及实战应用，助你全面掌握这一技术利器。二、优化算法分类图

welcome_123_·2025-02-15 08:31

用大模型学大模型02-数学基础微积分

https://metaso.cn/s/uxPBB9C我正在学习深度学习相关的数学知识,学到了微积分核心概念：导数（尤其是偏导数）、梯度、链式法则；积分与最优化（如梯度下降法的数学推导）给我一个入门级的完整教程和实例好吧

wyg_031113·2025-02-14 22:39

【一起看花书1.3】——第5章机器学习基础

目录：5.7监督学习5.8无监督学习5.9随机梯度下降5.10构建机器学习算法5.11深度学习发展的动力5.7监督学习监督学习，本质上是复杂函数的拟合，即给定特征xxx,我们需要得到标签yyy，这不就是求一个函数的拟合嘛

应有光·2025-02-14 17:03

《探秘Hogwild!算法：无锁并行SGD的神奇之路》

算法作为一种能够实现无锁并行随机梯度下降（SGD）的创新方法，受到了广泛关注。下面就来深入探讨一下Hogwild!算法是如何实现这一壮举的。

·2025-02-14 17:24

【深入探讨 ResNet：解决深度神经网络训练问题的革命性架构】

然而，随着网络层数的增加，训练深层网络变得愈加困难，主要问题是“梯度消失”和“梯度爆炸”问题。

机器学习司猫白·2025-02-14 16:26

9、深度学习-自学之路-损失函数、梯度下降、学习率、权重更新的理解

由《8、深度学习-自学之路-损失函数和梯度下降程序展示》我们看到我们设计了一个程序，这个程序里面由学习率，有损失函数，有梯度下降，权重更新。

小宇爱·2025-02-14 11:16

《深度解析：批量、随机和小批量梯度下降的区别与应用》

在机器学习和深度学习的领域中，梯度下降算法是优化模型参数的核心工具之一。

·2025-02-14 09:40

推荐频道