微分梯度

多GPU-TensorFlow

数据并行是比较通用简便的实现大规模并行方式，同时使用多个硬件资源计算不同batch数据梯度，汇总梯度进行全局参数更新。
听风1996·2024-02-13 05:22

《记一次游戏》听课思考

甄老师的课堂思路清晰，课堂环节环环相扣，有梯度，利用学习单，对孩子的指导很有层次。
你是特别的人·2024-02-12 17:18

梯度提升树系列9——GBDT在多任务学习中的应用

目录写在开头1.多任务学习的基础知识1.1多任务学习的概念和优势1.1.1概念1.1.2优势1.2GBDT在多任务学习中的角色1.2.1GBDT的基本原理1.2.2GBDT在多任务学习中的应用2.实际应用案例和最佳实践2.1如何设计多任务学习模型2.2成功案例分享2.2.1推荐系统2.2.2金融风控2.2.3自然语言处理（NLP）3.挑战与解决方案3.1面临的技术挑战和解决策略3.1.1挑战1：任
theskylife·2024-02-12 16:12

34从传统算法到深度学习：目标检测入门实战 --方向梯度直方图

什么是方向梯度直方图在前面的实验1、实验2中，我们了解到传统的目标检测流程可分为三个步骤，第一步是使用滑动窗口和图像金字塔从图片中选择一些区域。
Jachin111·2024-02-12 15:37

优化梯度下降算法

文章目录OptimizationproblemNormalizinginputsvanishing/explodinggradientsweightinitializegradientcheckNumericalapproximationgradcheckOptimizealgorithmmini-bachgradientmini-batchsizeexponentialweightedavera
stoAir·2024-02-12 14:58

Week10

以线性回归模型为例，每一次梯度下降迭代，我们都需要计算训练集的误差的平方和，如果我们的学
kidling_G·2024-02-12 14:29

C语言经典算法之逻辑回归算法

B.简介在C语言中实现逻辑回归算法，我们需要构建一个模型来预测二元分类问题的概率，并使用梯度下降或其他优化方法找到最佳的模型参数。一代码实现以下
JJJ69·2024-02-12 13:33

梯度下降法的神经网络容易收敛到局部最优，为什么应用广泛？

链接：https://www.zhihu.com/question/68109802编辑：深度学习与计算机视觉声明：仅做学术分享，侵删作者：夕小瑶https://www.zhihu.com/question/68109802/answer/263503269反对回答区中一部分称“模型收敛于鞍点”的回答。当然也有的大牛可以一针见血，那我就对这个问题多展开一下吧，让鲜血流的更猛烈一些。（害怕.jpg）
woshicver·2024-02-12 11:34

西瓜书-机器学习5.4 全局最小与局部极小

localminimum)和"全局最小"(globalminimum)对和，若存在使得多组不同参数值初始化多个神经网络使用“模拟退火”：以一定的概率接受比当前解更差的结果，有助于“跳出”局部极小使用随机梯度下降遗传算法
lestat_black·2024-02-12 11:32

机器学习入门之基础概念及线性回归

任务目录什么是Machinelearning学习中心极限定理，学习正态分布，学习最大似然估计推导回归Lossfunction学习损失函数与凸函数之间的关系了解全局最优和局部最优学习导数，泰勒展开推导梯度下降公式写出梯度下降的代码学习
StarCoder_Yue·2024-02-12 11:01

[机器学习]全局最小与局部最小

机器学习中很多任务最终都会转化为优化任务，基于梯度的搜索是使用最广泛的参数寻优方法。梯度法：从某些初始解出发，迭代寻找最优参数值。
3points·2024-02-12 11:01

机器学习之局部最优和全局最优

面试：你能解释一下梯度下降法及其在寻找全局最优解时的局限性吗？梯度下降法通过迭代沿着目标函数的负梯度方向更新参数，以寻找最小值。局限性：它可能会陷入局部
华农DrLai·2024-02-12 11:29

流体力学常用下角符号、上角符号及上标符号

空气B布拉修斯(Blasius)层c临界值e自由来流、外部势流f流体g气体l液体、流层m模型n法向o特征量r恢复t湍流、实物tr转捩x在x处v粘性w水、壁面0初始值、滞止状态∞无穷远上角符号符号含义′微分
环能jvav大师·2024-02-12 06:33

XGBoost算法

XGBoost是一种基于梯度提升决策树（GBDT）的算
小森( ﹡ˆoˆ﹡ )·2024-02-12 04:11

CNN网络的宽度和深度

CNN网络的宽度和深度都很重要ResNet、DenseNet解决的是如何让网络更深且避免梯度消失、网络退化各类组卷积的方法解决的是如何让网络以更高效的方式变得更宽
zhnidj·2024-02-11 23:11

9、神经网络 三：学习与评价

目录9.1梯度检验9.2清醒检查9.3照看学习过程9.3.1损失函数9.3.2训练/评估精度9.3.3权重：更新率9.3.4每一层的激活/梯度分布9.4.5可视化9.4参数更新9.4.1一阶（SGD），
qxdx.org·2024-02-11 18:03

Unet+ResNet 实战分割项目、多尺度训练、多类别分割

1.介绍传统的Unet网络，特征提取的backbone采用的是vgg模型，vgg的相关介绍和实战参考以前的博文：pytorch搭建VGG网络VGG的特征提取能力其实是不弱的，但网络较为臃肿，容易产生梯度消失或者梯度爆炸的问题
听风吹等浪起·2024-02-11 17:35

政安晨：梯度与导数～示例演绎《机器学习·神经网络》的高阶理解

这篇文章确实需要一定的数学基础，第一次接触的小伙伴可以先看一下我示例演绎这个主题的前两篇文章：示例演绎机器学习中（深度学习）神经网络的数学基础——快速理解核心概念（一）：政安晨：示例演绎机器学习中（深度学习）神经网络的数学基础——快速理解核心概念（一）{两篇文章讲清楚}https://blog.csdn.net/snowdenkeke/article/details/136089968示例演绎机器
政安晨·2024-02-11 15:00

GBDT--梯度提升树

目录一梯度提升树的基本思想1梯度提升树pkAdaBoost2GradientBoosting回归与分类的实现二梯度提升树的参数1迭代过程1.1初始预测结果0的设置1.2使用回归器完成分类任务1.3GBDT
吓得我泰勒都展开了·2024-02-11 14:40

集成学习——梯度提升树（GBDT）

集成学习——梯度提升树（GBDT）1模型算法介绍2sklearn中的实现3参考资料1模型算法介绍GBDT也是集成学习Boosting家族的成员，通过采用加法模型，不断减小训练过程中产生的残差算法。
wxw_csdn·2024-02-11 14:10

梯度提升树系列7——深入理解GBDT的参数调优

目录写在开头1.GBDT的关键参数解析1.1学习率（learningrate）1.2树的数量（n_estimators）1.3树的最大深度（max_depth）1.4叶子节点的最小样本数（min_samples_leaf）1.5特征选择的比例（max_features）1.6最小分裂所需的样本数（min_samples_split）1.7子采样比例（subsample）1.8损失函数（loss）1
theskylife·2024-02-11 14:40

学习笔记 ——GBDT（梯度提升决策树）

一.前言GBDT(GradientBoostingDecisionTree)梯度提升决策树，通过多轮迭代生成若干个弱分类器，每个分类器的生成是基于上一轮分类结果来进行训练的。
dastu·2024-02-11 14:40

datawhale 10月学习——树模型与集成学习：梯度提升树

前情回顾决策树CART树的实现集成模式两种并行集成的树模型AdaBoost结论速递本次学习了GBDT，首先了解了用于回归的GBDT，将损失使用梯度下降法进行减小；用于分类的GBDT要稍微复杂一些，需要对分类损失进行定义
SheltonXiao·2024-02-11 14:39

梯度提升树系列8——GBDT与其他集成学习方法的比较

目录写在开头1.主要集成学习算法对比1.1GBDT1.2随机森林1.3AdaBoost1.4整体对比2.算法性能的比较分析2.1准确率与性能2.2训练时间和模型复杂度2.3应用实例和案例研究3.选择合适算法的标准3.1数据集的特性3.1.1数据规模与维度3.1.2数据质量3.2性能需求3.2.1准确性3.2.2泛化能力3.3训练效率与资源3.3.1训练时间3.3.2计算资源3.4易用性与调参3.4
theskylife·2024-02-11 14:39

Arxiv网络科学论文摘要15篇(2020-02-27)

使用Python和NetworkX解读影星社会网络;Twitter上谣言传播的信息扩散途径和识别;计算批发及零售业数据交易市场的时空数据价值;MGA：网络的动量梯度攻击;优化跨区医院分布减少结核病死亡;
ComplexLY·2024-02-11 14:05

[数学建模] 计算差分方程的收敛点

与微分方程不同，差分方程处理的是在不同时间点上系统状态的变化。通常用来模拟动态系统，如在离散时间点上更新状态并预测未来状态。
YuanDaima2048·2024-02-11 13:22

新地点，新拼搏(166)

上午18讲微分月，中午视频b组，下午刷了一套英语二真题，全真模拟，除了作文，从14:20到16:07，除了作文的25分，总分75分应该可以拿到55分左右，如果作文再加个15分，哈哈至少70分。
斑驳_时光·2024-02-11 12:12

机器学习：SVM、softmax、Dropout及最大池化max_pool介绍

一、利用线性SVM进行分类train_data:(train_num,3072)训练流程初始化权重W:(3072,10)梯度dW:(3072,10)train_data和权重相乘得到score(10,)
是Dream呀·2024-02-11 11:15

机器学习复习（8）——逻辑回归

目录逻辑函数（LogisticFunction）逻辑回归模型的假设函数从逻辑回归模型转换到最大似然函数过程最大似然函数方法梯度下降逻辑函数（LogisticFunction）首先，逻辑函数，也称为Sigmoid
不会写代码！！·2024-02-11 07:47

2019-03-27（恋恋有词+ 高数 + 数据结构）

已经完成：恋恋有词0305+0401节一小部分计划开始刷：高数定积分及其应用多元函数微分学二重积分级数等章节的汤1800入门部分题目有精力再看一下数据结构武大版本视频小节
常人·2024-02-11 06:08

核磁共振设备的基本架构及各部分主要功能

核磁共振成像设备主要由以下几个部分组成1、主磁体2、梯度系统3、射频系统4、谱仪系统5、计算机及辅助设施磁共振系统架构图各组成部分介绍(1)主磁体主磁
核磁共振nmrmri·2024-02-11 04:26

深度学习入门--参数的优化算法

1.梯度下降法（GradientDescent）梯度下降法的计算过程就是沿梯度下降的方向求解极小值，也可以沿梯度上升方向求解最大值。
我只钓小鱼·2024-02-11 03:53

如何实现视线(目光)的检测与实时跟踪

如何实现视线(目光)的检测与实时跟踪核心步骤展示说明找到人脸检测人脸特征点根据特征点找到人眼区域高精度梯度算法检测瞳孔中心根据眼睛周边特征点计算眼睛中心瞳孔中心和眼睛中心基于视线模型计算视线方向视线方向可视化详细实现与说明
云博士的AI课堂·2024-02-11 02:44

【北邮鲁鹏老师计算机视觉课程笔记】03 edge 边缘检测

导数用近似的方法可以用卷积去求导（我自己的像素点是负的，我右边的像素点是正的）3梯度梯度值越强说明这个点是边缘的可能性就越大4噪声的影响先用高斯滤波平滑（高斯偏导模版）5高斯核的参数6回顾高斯平滑
量子-Alex·2024-02-11 02:13

导数、微分、积分、三角函数的基本公式

导数公式—————————————————————————————————————————————————微分基本公式——————————————————————————————————————————
君慕獨奏·2024-02-11 01:46

数学学习，研究和一些思想

第六章微分中值定理及其应用数学要多分析，多总结。数学教材的逻辑：定义->性质->证明->应用，做题->题目->不同章节的题目可能要放在一起处理。
醉里且歌花漫天·2024-02-10 23:05

PyTorch 2.2 中文官方教程（二）

PyTorchPyTorch介绍-YouTube系列原文：pytorch.org/tutorials/beginner/introyt.html译者：飞龙协议：CCBY-NC-SA4.0介绍||张量||自动微分
绝不原创的飞龙·2024-02-10 16:53

深度学习视频详解

梯度下降，神经网络如何学习|深度学习什么是反向传播反向传播演算【订阅】机器学习AI玩游戏
大囚长·2024-02-10 14:50

18.安全感从何而来

2019.1.18周五微分享318安全感从何而来？安全感从何而来？一是来自财务自由后的物质保障，二是来自对自我和人情洞悉练达后的认知觉悟。拥有安全感的人，会自信而不躁动惶恐，会语言简洁而不过多解释。
厚行频道·2024-02-10 13:24

Task10-向前分布算法和梯度提升决策树

1.前向分步算法前项分布算法可以解决分类问题，也可以解决回归问题。（1）Adaboost的加法模型：在Adaboost的基础上，将多个基分类器合并为一个复杂分类器，是通过计算每个基分类器的加权和。通常情况下这是一个复杂的优化问题，很难通过简单的凸优化的相关知识进行解决。而前向分步算法可以用来求解这种方式的问题，它的基本思路是：因为学习的是加法模型，如果从前向后，每一步只优化一个基函数及其系数，逐步
沫2021·2024-02-10 09:42

深度学习知识点总结

2.10神经网络训练中的梯度消失与梯度爆炸2.11Batchnorm原理
Danah.F·2024-02-10 08:54

深度学习为什么需要suffle，xgb为什么不需要shuffle?

因为深度学习的优化方法是随机梯度下降，每次只需要考虑一个batch的数据，也就是每次的“视野”只能看到这一批数据，而不是全局的数据。是一种“流式学习”。
fengyuzhou·2024-02-10 06:08

计算机图形学三：光栅化-Rasterization

像素和屏幕直线光栅化（LinearRasterization）DDA数值微分算法中点Bresenham算法三角形光栅化（TriangleRasterization）为什么是三角形？
西电卢本伟·2024-02-10 06:55

Python 和 Java 代码实现：黄金分割法求解一维最优化问题

问题描述我不是运筹学科班出身，工作之前只做过梯度优化算法和智能优化算法在航天场景中的改进和应用。毕业后虽然选择了运筹优
twinkle 222·2024-02-10 03:00

【知识整理】管理即服务，识人、识己

2.个人思考团队梯度：1、职责单一：区分职责边界、明确核心职责2、团队梯度：每个梯度上，都有自己的核心职责，优先做好核心职责，避免拈轻怕重3.他人思考3.1.管理简介管理：要素管人管自己>管他人管事管事
卢卡上学·2024-02-09 23:17

【知识整理】技术团队，新人培养

团队管理简介团队梯度建设，团队管理4件事：选：招合适的人才进来用：把合适的人才，用在合适的位置育：对人才的引导和培养梯度留：当人才有要走的想法时，如何留住人才上面的4个要点，从前往后，我们能够施加的影响是越来越弱的
卢卡上学·2024-02-09 23:47

torch.no_grad

PyTorch里的requires_grad、volatile及no_gradrequires_grad=True要求计算梯度requires_grad=False不要求计算梯度withtorch.no_grad
He_Yu·2024-02-09 22:08

【跨模态行人重识别】RGB-Infrared Cross-Modality Person Re-Identification(ICCV2017)

跨模态模型的网络结构比较3.1常见的深度模型网络结构3.2网络结构分析单流结构和双流结构在特殊情况下的联系（双流网络可以用单流网络表示）一般情况下的单流结构分析4深度零填充4.1零填充作为网络输入的分析（梯度分析
渺渺404·2024-02-09 22:05

stupid_brain

test记得关闭梯度更新withtorch.no_grad():
MORE_77·2024-02-09 21:01

Tensorflow2.0 对自己的图片数据集进行分类

文章目录项目介绍数据集网络模型代码实现1、导入需要的库2、定义图像加载和预处理函数3、定义构造Dataset数据集函数4、构造Dataset数据集5、构建网络6、初始化优化器和损失函数7、定义损失函数8、定义梯度下降函数
cofisher·2024-02-09 19:30
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他