微分梯度

Android 自定义View学习(六)——Paint 关于Shader的学习

，可以用来实现一系列的渐变、渲染效果，有5个子类BitmapShader位图ShaderLinerGradient线性ShaderRadialGradient光束ShaderSweepGradient梯度
Yue_Q·2024-01-03 23:40

Pruning Papers

RiggingtheLottery:MakingAllTicketsWinners整个训练过程中mask是动态的，有drop和grow两步，drop是根据权重绝对值的大小丢弃，grow是根据剩下激活的权重中梯度绝对值生长没有先
Mr.zwX·2024-01-03 20:00

自然语言处理算法回归算法和分类算法

回归其实就是一个名词，没有特别的含义回归的类型有哪些线性回归曲线回归二元logistic回归多元logistic回归最小二乘法梯度2.分类算法Bayes：朴素贝叶斯公式decisiontree:决策
兔兔爱学习兔兔爱学习·2024-01-03 20:29

每一种情绪，都不想说

开心的时候，阳光正好，微分不燥，目光所致，处处是美景，心儿就像飞出
幸福在右岸·2024-01-03 19:25

autograd与逻辑回归

一、autograd—自动求导系统torch.autograd.backward()torch.autograd.backward()是PyTorch中用于计算梯度的函数。
-恰饭第一名-·2024-01-03 18:56

【数值分析】常微分方程的数值解，欧拉公式，梯形公式，龙格库塔公式，matlab实现

常微分方程初边值问题的数值解法2023年11月30日#analysis文章目录常微分方程初边值问题的数值解法存在惟一解差分公式的格式Euler公式梯形公式Euler中点公式改进Euler方法（预估-矫正公式
你哥同学·2024-01-03 17:25

Tips for Training DNN

NN和很多经典机器学习模型（如KNN、SVM）不同，它经过训练后在训练集上的表现未必会很好，这是因为它优化的损失函数是非凸的，训练停止时可能会停在局部最优点、鞍点或平坦点（即各个方向梯度都约等于零的点）
单调不减·2024-01-03 15:31

[动手学深度学习-PyTorch版]-7.2优化算法-梯度下降和随机梯度下降

7.2梯度下降和随机梯度下降在本节中，我们将介绍梯度下降（gradientdescent）的工作原理。
蒸饺与白茶·2024-01-03 15:47

WebRTC GCC 拥塞控制算法（REMB-GCC）

目录一.前言二.REMB-GCC算法原理1.接收端基于延时梯度的带宽预估（1）Arrival-timefilter（2）OveruseDetector（3）Adaptivethreshold（4）RemoteRateController
椛茶·2024-01-03 14:36

机器学习与深度学习——使用paddle实现随机梯度下降算法SGD对波士顿房价数据进行线性回归和预测

文章目录机器学习与深度学习——使用paddle实现随机梯度下降算法SGD对波士顿房价数据进行线性回归和预测一、任务二、流程三、完整代码四、代码解析五、效果截图机器学习与深度学习——使用paddle实现随机梯度下降算法
星川皆无恙·2024-01-03 12:12

【数值分析】数值积分，复合中点，复合梯形，复合Simpson，matlab实现

数值积分与数值微分2023年11月29日#analysis文章目录数值积分与数值微分1.求积公式与代数精度2.几个常用积分公式及其复合积分公式2.1中点公式2.2梯形公式2.3抛物型公式/Simpson
你哥同学·2024-01-03 10:08

梯度下降算法2 学习率 梯度

学习率是在梯度下降算法中的一个非常重要的参数，它决定了在寻找最小值（或最优解）过程中我们每一步移动的距离。你可以将学习率理解为步伐的大小。想象一下，你在山上寻找最低点（即最优解）。
小黄人软件·2024-01-03 08:31

神经网络——torch.optim优化器的使用

一旦使用例如计算梯度，就可以调用该函数。backward()反向传播。文章目录一、官方文档1.什么是torch.optim？
baidu_huihui·2024-01-03 08:27

简易机器学习笔记（四）初识卷积神经网络

首先我们要知道之前写的那些东西都是什么，之前写的我们称之为简单神经网络，也就是简单一层连接输出和输出，通过前向计算和逆向传播，以及梯度下降的方式让结果慢慢滑向我们期望的终点。
Leventure_轩先生·2024-01-03 05:40

简易机器学习笔记（六）不同优化算法器

前言我们之前不是说了有关梯度下降公式的事嘛，就是那个这样梯度下降公式涉及两个问题，一是梯度下降的策略，二是涉及到参数的选择，如果我们选择固定步长的时候，就会发现我们求的值一直在最小值左右震荡，很难选择到我们期望的值
Leventure_轩先生·2024-01-03 05:40

机器学习基础面试点

来源：https://zhuanlan.zhihu.com/p/82105066一.常见手推公式部分1.1LR手推、求导、梯度更新1.2SVM原形式、对偶形式1.3FM公式推导1.4GBDT手推1.5XGB
mylaf·2024-01-03 05:07

矩阵微分笔记（2）

目录前言基本求导规则1.向量变元的实值标量函数1.14个法则1.2常用公式2.矩阵变元的实值标量函数2.14个法则2.2常用公式参考前言这篇笔记的内容是基于参考的文章写出的，公式部分可以会沿用文章本来的式，但会加入我自己的一些思考以及注释，如果读者认为我写的不够好得话可以参考原文章~本笔记的内容是学习向量变元的实值标量函数、矩阵变元的实值标量函数中最基础的矩阵求导公式(会对个别重要的公式做证明)。
碧蓝的天空丶·2024-01-03 04:21

我的AI笔记_2（线性回归梯度下降法、参数更新方法）

这里就引入了“梯度下降”。一、梯度下降通俗解释比如下面山上有个小孩要下山，肯定要往下走（取决于你Loss_function的方向是上升还是下降）正常求“梯度”是“向
xcpppig·2024-01-03 01:52

言谈举止微分享：

电影《一代宗师》里有一句话：“人活一辈子，有的人活成了面子，而有的人活成了里子。”谁不想抱着面子，风风光光地挣钱？可是生活最残忍的地方，就在于它不会对你的面子，动哪怕一点点的恻隐之心。端起面子，就会被生活放下；可放下面子，则必然会失去体面与风光。年轻的时候，我们总觉得面子很重要，看不起那个赚钱姿势不太优雅的中年人。可是当我们渐渐长大，走到他们所在的十字路口的时候，就会明白他们的艰辛与不易。早安~#
翟夏妍形象礼仪培训师·2024-01-02 23:55

2024通信保研-电磁场电磁波复习

标量场的梯度的旋度恒等于0，旋度的散度等于0。
WHS-_-2022·2024-01-02 23:40

深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）

文章目录深度生成模型之GAN优化目标设计与改进原始GAN优化目标的问题1.JS散度度量问题2.梯度问题优化目标的设计与改进1.最小二乘损失GAN2.Energy-basedGAN(EBGAN)3.WassersteinGAN4
slience_me·2024-01-02 17:28

2020-02-19

经过5天的学习，非常开心对整个知识有了较大的收获，从最初的线性回归，softmax与分类模型，多层感知机，到学习初步的卷积神经网络，leNet网络，为解决神经网络训练中的过拟合、欠拟合和梯度消失爆炸，都进行了详细的代码实现
ninghc·2024-01-02 16:50

我们素未谋面，却像认识了很久的朋友

在理想国微分享成立100天之际，我决定写写这群人。在这里，有一群人因为辉哥链接在一起。在这里，他们通过坚持每日冥想、晨跑、写作等让自己变得更加自律。在这里，他们发现美、感受美、记录美。......
李大空·2024-01-02 16:33

深度学习｜2.4 梯度下降

如上图，J(w,b)J(w,b)J(w,b)是由w和b两个参数共同控制的损失函数，损失是不好的东西，所以应该求取合适的w和b使得损失最小化。为了简单考虑，可以先忽略参数b。斜率可以理解成在朝着x正方向移动单位距离所形成的损失值的变化，如果损失值变大，那么x往负方向移动；如果斜率为负，损失值变小，说明可以继续往正方向移动，应该要加上一个正值。（负负得正）其中学习率用于控制变化的过程。学习率越小，参数
晓源Galois·2024-01-02 16:38

一元函数微分学——刷题（11

目录1.题目：2.解题思路和步骤：3.总结：小结：1.题目：2.解题思路和步骤：这种题就比较思路明显，按照先求切线再求面积即可，只要分清楚哪个xy是点哪个xy是方程即可，所以这里使用了x0y0区分：3.总结：高中题目难度小结：关注我给大家分享更多有趣的知识，以下是个人公众号，提供||代码兼职||||代码问题求解||由于本号流量还不足以发表推广，搜我的公众号即可：
天玑y·2024-01-02 14:13

一元函数微分学——刷题（12

目录1.题目：2.解题思路和步骤：3.总结：小结：1.题目：2.解题思路和步骤：注意两个y的区别即可都可以在图中画出来，所以就非常好比较3.总结：理解两种y的区别即可小结：关注我给大家分享更多有趣的知识，以下是个人公众号，提供||代码兼职||||代码问题求解||由于本号流量还不足以发表推广，搜我的公众号即可：
天玑y·2024-01-02 14:43

深度生成模型之GAN基础 -＞（个人学习记录笔记）

文章目录深度生成模型之GAN基础生成对抗网络1.生成对抗网络如何生成数据2.生成对抗原理3.GAN的核心优化目标4.D的优化5.GAN的理想状态6.GAN的训练7.梯度不稳定与模式崩塌(collapsemode
slience_me·2024-01-02 13:56

相场模拟——枝晶生长（COMSOL模拟雪花形成）

造成以上条件的原因，可以是液相中负的温度梯度，也可以是负的浓度梯度。在这种模式下，晶体倾向于在其棱角处优先生长，从而形成突触状结构。这篇博文会介绍用相场模拟的方法，模拟雪花生长的过程。
csdnzzt·2024-01-02 12:23

残差网络(ResNets)（Residual Networks (ResNets)）

如果我们使用标准优化算法训练一个普通网络，比如说梯度下降法，或者其它热门的优化算法。如果没有残差，没有这些捷径或者跳跃连接，凭经验你会发现随着网络深度的加深，训练错误会先减少，然后增多。
丁功春·2024-01-02 10:45

微分方程的求解方法

文章目录前言Ⅰ.首先介绍一些关于微分方程的概念Ⅱ.在考研范围内的微分方程有哪几类Ⅲ.微分方程的求解方法1.一阶微分方程的求解①可分离变量型的解法②齐次型的解法③一阶线性型的解法（重难点）2.二阶可降阶微分方程的求解
Super__Tiger·2024-01-02 09:10

第四章 图像的局部特征 笔记

第四章图像的局部特征摘要：角点检测（Harris角点检测、SIFT检测）、区域表示（梯度方向直方图、SIFT表示）图像特征分为：全局特征和局部特征。
seasonsyy·2024-01-02 08:26

工科数学基础系列（1）——矩阵微分

工科数学基础系列文章下面是工科数学基础系列文章的总链接，本人发表这个系列的文章链接均收录于此数学基础系列文章链接下面是专栏地址：工科数学基础系列专栏文章目录工科数学基础系列文章数学基础系列文章链接工科数学基础系列专栏前言工科数学基础系列（1）——矩阵微分布局
yangtsejin·2024-01-02 08:10

LSTM算法

LSTM是对RNN循环神经网络的一种优化，能够有效的延缓梯度爆炸以及梯度消失的问题。
惊雲浅谈天·2024-01-02 06:16

PyTorch官网demo解读——第一个神经网络（4）

上一篇：PyTorch官网demo解读——第一个神经网络（3）-CSDN博客上一篇我们聊了手写数字识别神经网络的损失函数和梯度下降算法，这一篇我们来聊聊激活函数。
骑猪等风·2024-01-02 06:09

生活压力太大？常练这几式瑜伽，赶走焦虑烦躁，拥有好心情

2.劈柴式劈柴式动做分解：首先蹲在地面上，双脚平放在地面上，双腿膝盖微微分开，手臂斜下伸直，双
TB瑜伽·2024-01-02 06:17

PyTorch的Tensor（张量）

data:被包装的Tensorgrad:data的梯度（梦回数一）grad_fn:创建Tensor的Function，是自动求导的关键requires_grad:指示是否需要梯度is_le
-恰饭第一名-·2024-01-02 04:31

DDP分布式训练的官方demo及相关知识

torch.distributed.init_process_group()来初始化进程组,需要指定worker的通信机制,一般为nccl(NVIDIA推出)，1个进程对应1个gpu.nccl是nvidia的显卡通信方式，用于把模型参数、梯度传递到训练的每个节点上
Dreaming_of_you·2024-01-02 02:49

图像特征提取之Hog特征提取

HOG全称（histogramoforientedgradients）,方向梯度直方图，可以用来提取表示图像的特征，本质就是一行高维特征。
资料加载中·2024-01-02 00:08

ROS TF坐标变换 - 动态坐标变换

可以理解动态坐标关系是随时间变化的静态坐标关系（即静态是动态对时间的微分）。我们使用ROS的turtlesim模拟一个移动机器人，通过TF发布它相对世界
万俟淋曦·2024-01-02 00:42

黑暗的力量（初稿）

本文选自法爷8月6日在微分享群做的语音分享文字整理。前方高能预警，此黑暗文有4800字:-)我不知道一说到黑暗，‍‍你会想到什么。
一只早鸟·2024-01-01 22:04

多元线性回归

找到最优解，即损失最小目标函数（损失函数）J()=MSE=(-)求损失函数的方式1>解析解（有求逆的运算，不是所有的矩阵都有逆运算，并且维度太高，逆运算太慢如果用这种方式，没必要用归一化）2>梯度下降
王金松·2024-01-01 21:15

村小教师成长计划听课感悟

今晚听了刘嘉硕老师给我们带来的《打造让学生着迷的数学课堂》受益不少，刘老师谈到，学生的学习要让他有自信，让他觉得能学好他才会去学，因此，刘老师给我们介绍了软件洋葱数学，洋葱数学App上的题目是按梯度走的
会泽165段秋宇·2024-01-01 20:26

一元函数微分学——刷题（7

目录1.题目：2.解题思路和步骤：3.总结：小结：1.题目：2.解题思路和步骤：可导=导数存在=左右导数存在且相等所以牢记可导的条件，通过求得左右两侧导数即可知道必须f(0)=0才能可导3.总结：可导=导数存在=左右导数存在且相等小结：关注我给大家分享更多有趣的知识，以下是个人公众号，提供||代码兼职||||代码问题求解||由于本号流量还不足以发表推广，搜我的公众号即可：
天玑y·2024-01-01 19:04

一元函数微分学——刷题（9

目录1.题目：2.解题思路和步骤：3.总结：小结：1.题目：2.解题思路和步骤：B和C不能说明任何问题A可以把h提到分母上，变为导数的定义式，但是h只趋近于正无穷，所以只能说明右可导D就很符合定义式3.总结：牢记定义式和理解定义式：小结：关注我给大家分享更多有趣的知识，以下是个人公众号，提供||代码兼职||||代码问题求解||由于本号流量还不足以发表推广，搜我的公众号即可：
天玑y·2024-01-01 19:04

一元函数微分学——刷题（10

目录1.题目：2.解题思路和步骤：3.总结：小结：1.题目：2.解题思路和步骤：首先题目中给了一个要点，就是周期为5，显然要求的那个点和题目没任何关系，所以利用周期为5，变为如下点的切线方程：将x=0代入即可求得f(1)接下来就是该求此处的导数了：根据定义式即可求得导数最后，切线方程就按部就班即可：3.总结：要对定义式熟悉小结：关注我给大家分享更多有趣的知识，以下是个人公众号，提供||代码兼职||
天玑y·2024-01-01 19:04

一元函数微分学——刷题（8

目录1.题目：2.解题思路和步骤：3.总结：小结：1.题目：2.解题思路和步骤：先看A，既然存在，那么f(x)和x属于同阶无穷小，所以f(0)=0，没问题再看C，结合A的结论，可以写为下面形式：再看B，因为f(x)连续，所以f(-0)=f(+0)=f(0)，就是2f(x)/x存在，所以同A一样，同阶无穷小，所以f(0)=0再看D，无法总结出和C一样的结论，所以错误，比如y=|x|就符合。3.总结：
天玑y·2024-01-01 19:34

梯度上升和随机梯度上升

目录梯度上升算法：代码：随机梯度上升算法：代码：实验：做图代码：疑问：1.梯度上升算法不适应大的数据集，改用随机梯度上升更合适。2.改进过的随机梯度算法，wvsepoch曲线出现波动。
BKXjilu·2024-01-01 16:09

基于Logistic回归实现二分类

因为全随机的点数太难以确定：2.梯度上升算法实现：为什么使用train_y=np.array(boolean_int(y)).reshape(100,1)？X[y
BKXjilu·2024-01-01 16:08

第二十四周：文献阅读笔记（VIT）

1.3引言1.4VIT1.4.1Embedding层结构详解1.4.2BN和LN算法1.4.3TransformerEncoder详解1.4.4MLPHead（全连接头）1.5实验1.6文献总结2.随机梯度下降
@默然·2024-01-01 16:53

地球物理中的深度学习理论（DNN的架构、反向传播、梯度消失、梯度爆炸）

新的数据驱动技术，即深度学习（DL）引起了广泛的关注。DL能准确预测复杂系统，缓解大型地球物理应用中“维数灾难”。在未来地球物理学中涉及到DL的研究提供了几个有希望的方向，例如无监督学习（聚类）、迁移学习（利用之前标记好的数据）、多模态DL（通过DL实现和处理多元模态）、联邦学习、不确定性估计和主动学习。图1给出人工智能、机器学习、神经网络和深度学习之间的包含关系，以及深度学习方法的分类。图11、
hhhhhhhhhhyyyyyy·2024-01-01 12:56
上一页 17 18 19 20 21 22 23 24 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他