E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
梯度线圈
AI 筛选电池材料,广州大学叶思宇院士开发可用于 P-SOC 材料预测的机器学习算法模型
作者:田小幺编辑:李宝珠,三羊封面图来源:摄图网广州大学的研究人员建立了一种基于极限
梯度
增强(XGBoost)算法的机器学习模型,可用于P-SOC空气电极的筛选。新能源现在有多火?
HyperAI超神经
·
2024-01-24 00:04
人工智能
机器学习
算法
清洁能源
深度学习笔记:灾难性遗忘
这种现象尤其在所谓的“连续学习”(continuouslearning)或“增量学习”(incrementallearning)场景中很常见2不同视角下看待灾难性遗忘以及对应的解决方法2.1从
梯度
的视角
UQI-LIUWJ
·
2024-01-23 22:08
机器学习
笔记
生成式人工智能研究焦点:揭秘基于扩散的模型
采样生成图像的设计选择以更少的步骤理顺流程在低噪音水平下步骤高阶求解器可实现更准确的步骤训练降噪器的设计选择网络友好的数值大小预测图像与噪声均衡噪声水平上的
梯度
反馈幅度分配培训工作随着互联网规模的数据,
扫地的小何尚
·
2024-01-23 14:59
人工智能
GPU
AI
CUDA
AIGC
【PyTorch】6.Learn about the optimization loop 了解优化循环
训练模型是一个迭代过程;在每次迭代中,模型都会对输出进行猜测,计算其猜测中的误差(损失),收集相对于其参数的导数的误差(如我们在上一节中看到的),并使用
梯度
下降优化这些参数。有关此过程的
冰雪storm
·
2024-01-23 10:44
PyTorch简介
pytorch
人工智能
python
初识人工智能,一文读懂
梯度
消失和
梯度
爆炸的知识文集(2)
作者简介,普修罗双战士,一直追求不断学习和成长,在技术的道路上持续探索和实践。多年互联网行业从业经验,历任核心研发工程师,项目技术负责人。欢迎点赞✍评论⭐收藏人工智能领域知识链接专栏人工智能专业知识学习一人工智能专栏人工智能专业知识学习二人工智能专栏人工智能专业知识学习三人工智能专栏人工智能专业知识学习四人工智能专栏人工智能专业知识学习五人工智能专栏人工智能专业知识学习六人工智能专栏人工智能专业知
普修罗双战士
·
2024-01-23 09:09
人工智能专栏
人工智能
深度学习
机器学习
自然语言处理
人机交互
学习方法
解密神经网络:深入探究传播机制与学习过程
前向传播1.数据流动:输入到输出2.加权和与激活3.示例:简单网络的前向传播四、损失函数与性能评估1.损失函数的定义与重要性2.常见的损失函数类型3.评估模型性能的指标4.性能评估的实际应用五、反向传播与
梯度
下降
机智的小神仙儿
·
2024-01-23 07:40
python基础
神经网络
人工智能
优化算法--李沐
目录1.1
梯度
下降1.2随机
梯度
下降1.3小批量随机
梯度
下降1.4冲量法1.5Adam损失值也就是预测值与真实值之间的差值是f(x),x是所有超参数组成的一条向量,c是可以限制的,比如说权重大于等于0。
sendmeasong_ying
·
2024-01-23 06:27
深度学习
算法
人工智能
深度学习
零基础"机器学习"自学笔记|Note5:多变量线性回归
增添更多特征后,我们引入一系列新的注释:n代表特征的数量为四维列向量支持多变量的假设h表示为:这个公式中有个n+1个参数和n个变量,为了使得公式能够简化一些,引入X0=1,则公式转化为:公式可以简化:5.2多变量
梯度
下降与单变量线性回
木舟笔记
·
2024-01-23 04:32
牛客周赛 Round 17 解题报告 | 珂学家 | 枚举贪心 + 二分最短路
T3如果尝试增量差值最小的最大
梯度
去贪心的话,会失败,需要切换思路。
珂朵莉MM
·
2024-01-23 04:02
牛客周赛
解题报告
java
开发语言
算法
力扣
leetcode
一文让你由浅入深的理解Transform模型
在这里我自己总结出了几点:1、难解释性,神经网络的一个通病,做出来的好坏都比较难解释,2、
梯度
消失和
梯度
爆炸的问题。3、LSTM只能串行计算,不能并行,因为它是一个时序
lhz泽少
·
2024-01-23 03:06
自然语言处理
深度学习
神经网络
人工智能
李沐深度学习-多层感知机从零开始
梯度
的产生是由于反向传播,在自定义从零开始编写代码时,第一次反向传播前应该对params参数的
梯度
进行判断importtorchimportnumpyasnpimporttorch.utils.dataasDataimporttorchvision.datasetsimporttorchvision.transformsastransformsimportsyssys.path.append
大小猫吃猫饼干
·
2024-01-23 02:16
李沐深度学习编码实现
深度学习
人工智能
LSTM解读
LSTM通过使用门控单元来控制信息的流动,从而解决传统RNN中的
梯度
消失和
梯度
爆炸的问题。LSTM的核心是三个门:输入门、遗忘门和输出门。
搬砖人NO17
·
2024-01-23 01:41
语音
神经网络共同学习
lstm
人工智能
rnn
非线性最小二乘问题的数值方法 —— 从高斯-牛顿法到列文伯格-马夸尔特法 (I)
马夸尔特法(I)文章目录前言I.从高斯-牛顿法II.到阻尼高斯-牛顿法III.再到列文伯格-马夸尔特法1.列文伯格-马夸尔特法的由来2.列文伯格-马夸尔特法的说明说明一.迭代方向说明二.近似于带权重的
梯度
下降法说明三
wzf@robotics_notes
·
2024-01-23 01:02
数值计算方法
算法
机器学习
机器人
记一次多平台免杀PHP木马的制作过程
掘金文章目录前言声明绕过情况使用方法运行环境绕过点介绍技术原理讲解变量传值覆盖模块代码执行阻断模块InazumaPuzzle程序锁定器PerlinNoise危险函数生成与执行类构造函数基于时间的随机值生成器排列表生成器
梯度
表生成器埋有后门的柏林噪声生成器柏林噪声显示器程序主干参考资料前言最开始萌生出写免杀
御坂19008号
·
2024-01-23 00:47
php
web安全
阿里云
算法
非线性最小二乘问题的数值方法 —— 狗腿法 Powell‘s Dog Leg Method (I - 原理与算法)
线搜索类型和信赖域类型1.线搜索类型——最速下降法2.信赖域类型3.柯西点III.狗腿法的原理1.狗腿法的构建2.狗腿法的优化说明3.狗腿法的插值权重IV.狗腿法的流程1.狗腿法的信赖域控制2.狗腿法的停止条件条件一.
梯度
不再下降条件二
wzf@robotics_notes
·
2024-01-22 15:52
数值计算方法
算法
机器人
机器学习
CVPR 2023: Analyzing and Diagnosing Pose Estimation With Attributions
梯度
基于归因方法的技术可视化输入中影响模型预测的区域,提供其推理过程的见解。表示学习:这个研究领域围绕
结构化文摘
·
2024-01-22 14:00
人工智能
机器学习
深度学习
GBDT+LR探秘:构建高效二分类模型的初体验
GBDT(GradientBoostingDecisionTree,
梯度
提升决策树)和LR(LogisticRegression,逻辑回归)是两种广泛应用于二分类问题的算法。
uncle_ll
·
2024-01-22 13:45
机器学习
分类
人工智能
数据挖掘
GBDT
LR
Knowledgeable Prompt-tuning: Incorporating Knowledge into Prompt Verbalizer for Text Classification
现有的verbalizer大多由人工构建或者基于
梯度
下降进行搜索得到,不足在于标签词的覆盖范围小、存在
Navajo_c
·
2024-01-22 12:23
EE
机器学习
深度学习
自然语言处理
深度学习记录--学习率衰减(learning rate decay)
学习率衰减mini-batch
梯度
下降最终会在最小值附近的区间摆动(噪声很大),不会精确收敛为了更加近似最小值,采用学习率衰减的方法随着学习率的衰减,步长会逐渐变小,因此最终摆动的区间会很小,更加近似最小值如下图
蹲家宅宅
·
2024-01-22 10:12
深度学习记录
深度学习
学习
人工智能
深度学习记录--RMSprop均方根
RMSprop(rootmeansquareprop)减缓纵轴方向学习速度,加快横轴方向学习速度,从而加速
梯度
下降方法:原理:不妨以b为纵轴,w为横轴(横纵轴可能会不同,因为是多维量)为了让w
梯度
下降更快
蹲家宅宅
·
2024-01-22 10:42
深度学习记录
深度学习
人工智能
深度学习记录--Momentum gradient descent
Momentumgradientdescent正常的
梯度
下降无法使用更大的学习率,因为学习率过大可能导致偏离函数范围,这种上下波动导致学习率无法得到提高,速度因此减慢(下图蓝色曲线)为了减小波动,同时加快速率
蹲家宅宅
·
2024-01-22 10:11
深度学习记录
深度学习
人工智能
Transformer and Pretrain Language Models3-3
注意力机制的出发点首先就是为了解决信息瓶颈问题而存在的,这样我们通过注意力机制decoder端在每次生成的时候,都可以直接关注到encoder端所有位置的信息,信息瓶颈的问题就可以有效地解决了2、注意力机制同样很有效地缓解了RNN中的
梯度
消失的问题
ringthebell
·
2024-01-22 10:33
大模型
transformer
语言模型
深度学习
【Deepspeed-DeepSpeedZeroOptimizer-01】ZeRO源码精读01:DeepSpeedZeroOptimizer(ZeRO-1,ZeRO-2)
ZeRO-1,分区优化器状态ZeRO-2,在1的基础上分区
梯度
至于为什么没有把ZeRO-3一起写,暂时不清楚Deepspeed团队的设计,ZeRO3是在一个单独的文件中的,我们将
陈超帅
·
2024-01-22 10:30
Deepspeed代码精读
语言模型
人工智能
自然语言处理
python
深度学习
神经网络
基于双向长短期神经网络的客流量预测,基于bilstm的客流量预测
download/abc991835105/88768314效果图结果分析展望参考论文背影碳排放越来越受到重视,预测是一种比较难的预测,随机性比较大,长短期神经网络是一种改进党的RNN神经网络,克服了
梯度
爆炸的问
神经网络机器学习智能算法画图绘图
·
2024-01-22 07:59
神经网络
深度学习
机器学习
双向长短期神经网络
深度强化学习Task2:策略
梯度
算法
本篇博客是本人参加Datawhale组队学习第二次任务的笔记【教程地址】文章目录基于价值算法和基于策略算法的比较策略
梯度
算法策略
梯度
算法的直观理解策略
梯度
算法REINFORCE算法基于平稳分布的策略
梯度
算法
卡拉比丘流形
·
2024-01-22 07:16
深度学习
算法
机器学习
人工智能
强化学习
深度学习
JoyRL策略
梯度
与基于价值的算法(包括DQN等算法)不同,这类算法直接对策略本身进行近似优化。在这种情况下,我们可以将策略描述成一个带有参数θ的连续函数,该函数将某个状态作为输入,输出的不再是某个确定性的离散动作,而是对应的动作概率分布,通常用表示,称作随机性策略9.1基于价值算法的缺点无法表示连续动作。由于DQN等算法是通过学习状态和动作的价值函数来间接指导策略的,因此它们只能处理离散动作空间的问题,无法表示连
__如果
·
2024-01-22 05:00
人工智能
机器学习
生命的疑问,终究会死去
在灰色的阴影下一片片叠加的空间灰色的尘埃在掉落没有任何声音也没有任何言语左边右边一根白色的
线圈
着黑色的框仿佛间我听到了它们的对话是思想与思维的碰撞那是属于它们自己的表达方式对于找寻的存在意义不过是场渺渺无期的自我对峙因为你心存渴望渴望着另一种方式的觉醒以物观物以我无我都将是一场无声息的转化不对称的信息在咆哮着只是不知为何成了空谈生命不吝于提出一种新疑问也在不断地考验着每场经历那暴风前来临的平静只为
煙花笑
·
2024-01-22 04:07
常用的磁芯参数
L为装有磁芯的
线圈
的电感量(H),N为
线圈
匝数,Le为有效磁路长度(m),Ae为有效截面积(m2)3、饱和磁通密度磁化到
heaptek
·
2024-01-22 04:19
电子技术
嵌入式硬件
【Andrew Ng机器学习】单变量线性回归-
梯度
下降
课程:吴恩达机器学习此篇我们将学习
梯度
下降算法,我们之前已经定义了代价函数J,
梯度
下降法可以将代价函数J最小化。
梯度
下降是很常用的算法,他不仅被用在线性回归上,还被广泛应用与机器学习的众多领域。
jenye_
·
2024-01-21 22:01
计算机图像处理之空域滤波增强(图像平滑+图像锐化)
文章目录空间滤波基础模板卷积计算二维离散卷积图像平滑加权平均模板操作注意并行处理特点串行处理特点中值滤波法多图像平均法图像锐化一阶微分和二阶微分的区别图像细节的灰度变化特性图像细节的灰度变化微分特性拉普拉斯锐化锐化模板设计特点空域图像线性滤波技术综合实例常见的
梯度
算子例题后期处理水平浮雕效果水平边缘的提取效果几种一阶锐化方法的效果比较非锐化滤波高频增强滤波
空LA
·
2024-01-21 20:26
#
计算机图像处理
深度学习
pytorch
神经网络
Improving Deep Neural Network学习笔记
参数调整、正则化、优化1超参数2方差、偏差3正则化4归一化输入5Mini-batch
梯度
下降算法6Adam优化算法本周学习了深度学习(吴恩达老师的课程)中,提升深度神经网络的一些方法,包括超参数的调整、
佳雨初林
·
2024-01-21 17:42
深度学习
学习
笔记
深度学习
Batch Normalisation
在隐藏层将数据进行标准化,能够加快收敛速度,更解决了深层网络中“
梯度
弥散”的问题,使得深层网络模型更加容易和稳定。
Mr_Stark的小提莫
·
2024-01-21 17:27
6、
梯度
提升XGBoost(eXtreme Gradient Boosting)
XGBoost
梯度
提升结构化数据最精确的建模技术。在本节课中,我们将学习如何使用
梯度
增强来构建和优化模型。这种方法在Kaggle的许多竞争中占据主导地位,并在各种数据集上获得了最先进的结果。
AI算法蒋同学
·
2024-01-21 15:33
中级机器学习
boosting
集成学习
机器学习
深度学习中的优化算法
第t时刻的
梯度
为g_t,一阶动量为m_t,二阶动量为v_t,更新步长为n_t,则有:SGD首先看看SGD,在SGD中没有动量,即m_t=g_t,v_t=I。
小蛋子
·
2024-01-21 14:27
循环神经网络的变体模型-LSTM、GRU
下面是LSTM的内部结构图LSTM为了改善
梯度
消失,引入了一种特殊的存储单元,该存储
Algorithm_Engineer_
·
2024-01-21 13:52
自然语言处理
rnn
lstm
gru
数字图像处理期末速成笔记
、图像平滑5、邻域平均法(线性)6、中值滤波法(分线性)7、中值滤波与领域平均的异同8、4-邻域平滑法9、超限像素平滑法10、灰度最相近的K个邻点平均法11、3*3模板中值滤波四、图像锐化1、微分法(
梯度
算子
我先去打把游戏先
·
2024-01-21 13:43
笔记
计算机视觉
人工智能
GRU门控循环单元神经网络的MATLAB实现(含源代码)
GRU神经网络简介GRU由Cho等人于2014年提出,旨在解决标准RNN在处理长序列时的
梯度
消失或
梯度
爆炸问题。与传
沅_Yuan
·
2024-01-21 10:42
炼丹师
gru
神经网络
matlab
pytorch(二)
梯度
下降算法
文章目录优化问题
梯度
下降随机
梯度
下降在线性模型训练的时候,一开始并不知道w的最优值是什么,可以使用一个随机值来作为w的初始值,使用一定的算法来对w进行更新优化问题寻找使得目标函数最优的权重组合的问题就是优化问题
梯度
下降通俗的讲
@@老胡
·
2024-01-21 08:02
python
pytorch
算法
人工智能
机器学习_通过
梯度
下降找到最佳参数
文章目录训练机器要有正确的方向凸函数确保有最小损失点
梯度
下降的实现学习速率也很重要训练机器要有正确的方向所谓训练机器,也称拟合的过程,也就是确定模型内部参数的过程。
you_are_my_sunshine*
·
2024-01-21 06:17
机器学习
机器学习
人工智能
cs231n assignment1——SVM
CIFAR-10数据集并展示部分数据数据图像归一化,减去均值(也可以再除以方差)svm_loss_naive和svm_loss_vectorized计算hinge损失,用拉格朗日法列hinge损失函数利用随机
梯度
下降法优化
柠檬山楂荷叶茶
·
2024-01-21 06:15
cs231n
支持向量机
python
机器学习
【机器学习300问】13、学习率曲线有什么作用?
学习率是优化算法中的一个重要超参数,它决定了模型在
梯度
下降过程中权重更新的步伐大小。如果学习率设置得过高,可能会导致训练过程跳过最优解,甚至发散
小oo呆
·
2024-01-21 06:45
【机器学习】
学习
机器学习
【直流无刷电机 BLDC】一 电机概述
无刷直流电机不利用换向器来调节
线圈
内部的电流,而是使用电子换向器来传递电流,该电流产生交流电信号,从而导致电机驱动。
姿势的搬运工
·
2024-01-21 02:30
电机专题
嵌入式硬件
机器学习第十八周周报
机器学习第十八周周报摘要Abstract一、导数二、计算图三、使用计算图求导数四、逻辑回归中的
梯度
下降五、m个样本的
梯度
下降六、总结摘要本周开始学习吴恩达的
梯度
下降法,
梯度
下降法在机器学习中常常用来优化损失函数
JerryC1999
·
2024-01-20 22:17
机器学习
人工智能
(202401)深度强化学习基础2:策略
梯度
文章目录前言策略
梯度
1基于价值算法的缺点2策略
梯度
算法3REINFORCE算法本章小结前言感谢Datawhale成员的开源本次学习内容的文档地址为第九章策略
梯度
策略
梯度
这个章节会开始介绍基于策略
梯度
的算法
早上真好
·
2024-01-20 22:27
参与dw开源学习
深度学习
速卖通平台自营销活动
并且还要设置活动的
梯度
,满多少才能够达到店铺的活动,
梯度
可以不止一个。店铺cod
深度链夏天
·
2024-01-20 21:58
Halcon基于形状的模板匹配
Halcon基于形状的模板匹配基于形状的模板匹配,也称为基于边缘方向
梯度
的匹配,是一种最常用也最前沿的模板匹配算法。
electrical1024
·
2024-01-20 17:18
计算机视觉
图像处理
算法
Datawhale 强化学习笔记(二)马尔可夫过程,DQN 算法
文章目录参考马尔可夫过程DQN算法(DeepQ-Network)如何用神经网络来近似Q函数如何用
梯度
下降的方式更新网络参数强化学习vs深度学习提高训练稳定性的技巧经验回放目标网络代码实战DQN算法进阶DoubleDQNDuelingDQN
RessCris
·
2024-01-20 17:54
强化学习
笔记
算法
CT与核磁科普
MRI是把人体放置在一个强大的磁场中,通过射频脉冲激发人体内氢质子,发生核磁共振,然后接受质子发出的核磁共振信号,经过
梯度
场三个方向的定位,再经过计算机的运算,构成各方位的图像。CT由于X线
笑笑2018
·
2024-01-20 16:04
数字图像处理
表示色调,s饱和度,l表示亮度,色调和饱和度2.RGB彩色模型:r红色,g绿色,b蓝色,对应的是xyz轴,每个为8比特,用24比特表示全彩色图像3.边缘检测中抗噪性能应该为:Canny算子>一阶算子(
梯度
算子
爱学习的机器小冉
·
2024-01-20 12:45
计算机视觉
图像处理
人工智能
大模型学习笔记06——模型训练
计算单向上下文embedding,一次生成一个tokenencoder-only(BERT):计算双向上下文embeddingencoder-decoder(T5):编码输入,解码输出2、优化算法随机
梯度
下降
等风来随风飘
·
2024-01-20 11:34
大模型读书笔记
学习
笔记
上一页
6
7
8
9
10
11
12
13
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他