微分梯度第11页

机器学习 | Python算法XGBoost

机器学习|Python算法XGBoostXGBoost是一种基于梯度提升树的机器学习算法，其性能很大程度上依赖于模型参数的选择。

天天酷科研·2024-01-27 07:22

机器学习 | Python算法LightGBM

LightGBM（LightGradientBoostingMachine）是一种基于梯度提升框架的机器学习算法，专门用于解决分类和回归等问题。

天天酷科研·2024-01-27 07:52

2022-01-06

这是我在思考，我读到的，和积微分享的区别很大。怎们只能看到书中的一点点的影子。刚开始阅读，理解能力都觉得好差，都不知道在说什么，更是无

远方_ed5a·2024-01-27 07:22

某赛通电子文档安全管理系统 hiddenWatermark/uploadFile 文件上传漏洞复现

防止内部员工泄密和外部人员非法窃取企业核心重要数据资产，对电子文档进行全生命周期防护，系统具有透明加密、主动加密、智能加密等多种加密方式，用户可根据部门涉密程度的不同（如核心部门和普通部门），部署力度轻重不一的梯度式文档加密防护

OidBoy_G·2024-01-27 07:50

【数模百科】一文讲清楚灰色预测模型GM（2，1）的原理（附python代码）

和灰色预测模型的基础知识【数模百科】一篇文章讲清楚灰色预测模型GM（1，1）附python代码-CSDN博客你已经了解了GM(1,1)模型，它是用来处理和预测只有一个因素（变量）随时间变化情况的模型，而且它是基于一阶微分

小树modelwiki·2024-01-27 03:29

数模百科】一篇文章讲清楚灰色预测模型GM（1，n）附python代码

说到GM（1，n）模型，这里面的“1”表示模型中只有一个微分方程，而“n”则说明有n个变量参与进来。与我们之前了解的GM（1，1）模型不同，在GM（1，1）模

小树modelwiki·2024-01-27 03:29

第29章反称张量，梯度，旋度

上一章讲了微分的矩阵表示和复数域中的虚数部分的理解，接下来就还是沿着这个方向讲了，如果函数f（x，a）依赖于空间中的点x1，x2……，和某个参数a这个参数与该空间无关，那么可以在每个点给出关于该参数a的偏导数

挥刀杀G·2024-01-27 02:28

Pytorch分布式训练：DDP

DDP的大致原理是模型进行拷贝，数据多路输入在模型中求梯度、求多个模型的均值梯度统一做反向传播，大致的前向传播如下图，反向太复杂了不描写，感兴趣

Silver__Wolf·2024-01-26 18:04

学习笔记-李沐动手学深度学习（二）（08-09、线性回归、优化算法、梯度下降、Softmax回归、损失函数、图片分类）

总结以_结尾的方法，好像是原位替换（即原地修改，就地修改变量）如fill_()感恩的心：（沐神的直播环境）08-线性回归+基础优化算法引言（如何在美国买房）根据现在行情预测房价线性回归（简化模型）、线性模型、神经网络b为偏差扩展到一般化线性模型每个箭头代表一个权重当层单层神经网络原因：不看输出层，将权重层和input放一起带权重的层只有一层【书中】衡量预估质量1/2是为了求导时把2消去线性回归（求

kgbkqLjm·2024-01-26 17:59

学习笔记-李沐动手学深度学习（一）（01-07，概述、数据操作、tensor操作、数学基础、自动求导（前向计算、反向传播））

个人随笔第三列是jupyter记事本官方github上啥都有（代码、jupyter记事本、胶片）https://github.com/d2l-ai多体会【梯度指向的是值变化最大的方向】符号维度（弹幕说）

kgbkqLjm·2024-01-26 17:28

深度学习如何弄懂那些难懂的数学公式？是否需要学习数学？

经过1~2年的学习，我觉得还是需要数学有一定认识，重新捡起高等数学、概率与数理、线代等这几本，起码基本微分方程、求导、对数、最小损失等等还是会用到。下面给出几个链接，可以用于平时充电学习。

搬砖班班长·2024-01-26 15:41

AGI时代的奠基石：Agent+算力+大模型是构建AI未来的三驾马车吗？

prompt；Copilot；AGI；ChatGPT；LLM；AIGC；CoT；Cortex；Genius；MetaGPT；大模型；人工智能；通用人工智能；数据并行；模型并行；流水线并行；混合精度训练；梯度累积

高性能服务器·2024-01-26 15:02

神经网络：怎么解决网络不工作

它看起来很好：梯度在变化，损失也在下降。但是预测结果出来了：全部都是零值，全部都是背景，什么也检测不到。我质问我的计算机：「我做错了什么？」，它却无法回答。

nightwish夜愿·2024-01-26 13:20

LLM-模型大小：GPU显卡内存大小、模型大小、精度、batch_size关系

对于LLaMa-6b模型来说1、训练时模型本身参数、梯度值、优化器参数值需要的内存大小为：2、每个样本需要的内存大小（）：3、基于第1/2条，对于A100显卡（80GBRAM）来说，batch_size

u013250861·2024-01-26 11:22

机器学习的精髓-梯度下降算法

目1.梯度下降算法2.梯度下降求解3.总结1.梯度下降算法梯度下降算法是一种优化算法，用于最小化函数的数值方法。它通过沿着函数梯度的反方向来更新参数，以逐步减小函数值。

wyw0000·2024-01-26 11:13

【01】深度学习——数学基础 | 线性代数 | 微积分 |概率

1.2.4向量的外积1.3矩阵(Matrix)1.3.1矩阵转置1.3.2矩阵乘法1.3.3矩阵乘法的性质1.4张量（Tensor）2.微积分2.1极限2.2导数2.2.1导数和极限2.2.2导数和极限2.3微分

花落指尖❀·2024-01-26 10:53

pytorch 测试模型时取不同的batchsize会由不同的正确率

pytorch测试模型时取不同的batchsize会由不同的正确率之前：pytorch测试模型时只用了withtorch.no_grad()，如下图withtorch.no_grad():#下面是没有梯度的计算

lanlinbuaa·2024-01-26 07:02

有一些话，我不想直说——彼岸·教师成长联盟首期高研班开班之前“碎碎说”

我想呢，也是刚刚想到的，有必要呢，有些事情做一个说明，也算是一个微分享吧。这个临时冲动，这个微分享，我的主题是：有些话我不想说——写在彼岸·教师成长联盟首期高研班开班仪式之前。

蒋铭国江西乐平·2024-01-26 06:08

【Kaggle】泰坦尼克号生存预测 Titanic

文章目录前言案例背景数据集介绍加载数据集探索性数据分析（EDA）可视化特征和目标值之间关系缺失值分析数据预处理数据清洗缺失值处理去除噪声并且规范化文本内容数据转换数据划分建模逻辑回归模型决策分类树模型随机森林模型梯度提升树模型预测

撕得失败的标签·2024-01-26 04:24

【听吴正宪老师上课】日精进读书打卡第014天

特别是检测题，必须有梯度，这样做的目的，除了我们

永远做热能满满的自己·2024-01-26 00:35

PyTorch的衍生资源

以下是PyTorch发展过程中的几个关键里程碑事件：2016年：PyTorch于2016年首次发布，作为一个基于动态计算图的开源机器学习库，它提供了自动微分功能，并强调代码可读性和灵活性。

科学禅道·2024-01-26 00:23

深度之眼Pytorch框架训练营第三期（1）——张量简介与创建

与VariableVariable是torch.autograd中的数据类型，主要用于封装Tensor，进行自动求导，包含五个属性：在这里插入图片描述data：被包装的Tensorgrad：data的梯度

aidanmomo·2024-01-25 22:58

强化学习 - Policy Gradient Methods（策略梯度方法）

什么是机器学习策略梯度方法（PolicyGradientMethods）是一类用于解决强化学习问题的算法，其目标是直接学习策略函数，而不是值函数。

草明·2024-01-25 21:53

YOLOv8全网独家首发：Powerful-IoU更好、更快的收敛IoU | 2024年最新IoU

本文独家改进：Powerful-IoU更好、更快的收敛IoU，是一种结合了目标尺寸自适应惩罚因子和基于锚框质量的梯度调节函数的损失函数MSCOCO和PASCALVOC数据集实现涨点收录YOLOv8原创自研

AI小怪兽·2024-01-25 20:39

matlab GUI实现PID控制器参数配置

1、内容简介略39-可以交流、咨询、答疑2、内容说明略3、基于GUI的PID研究本例子中设计一个PID控制器来研究不同参数对输出结果的影响，PID控制器由比例单元P、积分单元I和微分单元D组成。

studyer_domi·2024-01-25 20:28

《速通机器学习》- 经典分类模型

由于平台稿件格式问题，公式格式不能正确写上；如若读写困难可后台私信我要完整电子版）5.1支持向量机5.1.1支持向量机的基本原理通过前面的学习我们知道，逻辑回归其实就是在平面上通过画直线进行二分类，其学习过程就是通过梯度下降法在训练数据中寻找分类线

北大博士后AI卢菁·2024-01-25 19:16

BP神经网络需要像深度学习一次次的迭代训练吗?

BP神经网络（误差反传网络）实质上是把一组样本输入/输出问题转化为一个非线性优化问题，并通过负梯度下降算法，利用迭代运算求解权值问题的一种学习方法。其训练过程包括正向传播和反向传播两个阶段。

小桥流水---人工智能·2024-01-25 17:24

常微分方程的解题思路

通解：独立常数的个数等于微分方程的阶数，独立常数的个数实际上就是c1,c2,...,cnc_1,c_2,...,c_nc1,c2,...,cn是数目所以补CCC也是关键的一步，而且未必是+C+C+C，也可以是

Binarydog_Lee·2024-01-25 16:59

深度强化学习-策略梯度及PPO算法-笔记（四）

策略梯度及PPO算法策略梯度PolicyGradient基础知识策略梯度的计算细节TipsTip1：AddaBaselineTip2：AssignSuitableCredit策略梯度优化的技巧Reinforce

wield_jjz·2024-01-25 14:03

强化学习--梯度策略

强化学习强化学习--梯度策略强化学习1Keywords2Questions1Keywordspolicy（策略）：每一个actor中会有对应的策略，这个策略决定了actor的行为。

无盐薯片·2024-01-25 14:02

Pytorch 实现强化学习策略梯度Reinforce算法

一、公式推导这里参考邱锡鹏大佬的《神经网络与深度学习》第三章进阶模型部分，链接《神经网络与深度学习》。`伪代码：二、核心代码defmain():env=gym.make('CartPole-v0')obs_n=env.observation_space.shape[0]act_n=env.action_space.nlogger.info('obs_n{},act_n{}'.format(obs_

爱喝咖啡的加菲猫·2024-01-25 14:31

【机器学习】强化学习（七）-策略梯度算法-REINFORCE 训练月球着陆器代理（智能体）...

为了实现这个目标，我们可以用策略梯度算法来训练一个神经

十年一梦实验室·2024-01-25 14:25

matlab梁应力分析视频,有限元分析及应用清华大学曾攀主讲视频教程

0.0有限的单元无限的能力1.1力学的分类：质点、刚体、变形体的力学1.2变形体力学的要点1.3微分方程求解的方法1.4关于函数逼近的方式1.5针对复杂几何域上的函数表征及逼近1.6有限元的核心：针对复杂几何域的分片函数逼近

灵性疗愈师李咏梅·2024-01-25 11:15

TensorFlow基础——常用函数（四）

函数training()通过梯度下降法为最小化损失函数增加了相关的优化操作，在训练过程中，先实例

weixin_30492601·2024-01-25 08:22

机器学习与Tensorflow（3）—— 机器学习及MNIST数据集分类优化

一、二次代价函数1.形式：其中，C为代价函数，X表示样本，Y表示实际值，a表示输出值，n为样本总数2.利用梯度下降法调整权值参数大小，推导过程如下图所示：根据结果可得，权重w和偏置b的梯度跟激活函数的梯度成正比

WUWEILINCX123890·2024-01-25 08:19

Tensorflow 中的损失函数 —— loss 专题汇总

一、处理回归问题1.tf.losses.mean_squared_error：均方根误差（MSE）——回归问题中最常用的损失函数优点是便于梯度下降，误差大时下降快，误差小时下降慢，有利于函数收敛。

WitsMakeMen·2024-01-25 08:47

排序算法经典模型: 梯度提升决策树（GBDT）的应用实战

目录一、Boosting训练与预测二、梯度增强的思想核心三、如何构造弱学习器和加权平均的权重四、损失函数五、梯度增强决策树六、GBDT生成新特征主要思想构造流程七、梯度增强决策树以及在搜索的应用7.1GDBT

数据与后端架构提升之路·2024-01-25 07:49

微分方程-常系数线性方程-非齐次问题

常系数线性方程-非齐次问题在已经获得齐次问题的通解的情况下，求解非齐次问题的实质就是寻找一个特解.之前的知识知道，这样的特解可以通过常数变易公式获得，但是对具体的问题来说这样的计算可能是相当复杂的,针对几类特殊而常见的函数类型，我们有更加简便的方法，即算子解法.考虑非齐次线性方程按照算子写法，可以表述为如果把的逆算子形式地记为，那么我们需要求这里我们先理解一下逆算子注意到一个简单的情形是,，它对一

洛玖言·2024-01-25 00:48

土堆学习笔记——P28完整的模型训练套路（二）

下面的都在某一轮训练里例如，他们都在foriinrange(epoch):里面，具体看上一节代码#测试步骤开始total_test_loss=0withtorch.no_grad():#取消梯度，不调优

Whalawhala·2024-01-24 23:35

利用梯度下降实现线性拟合

作业要求本作业题要求使用线性拟合，利用梯度下降法，求解参数使得预测和真实值之间的均方误差（MSE）误差最小。

Metaphysicist.·2024-01-24 23:31

Manipulating Federated Recommender Systems: Poisoning with Synthetic Users and Its Countermeasures

请概述每个章节的主要内容介绍：本文研究了联邦推荐系统（FedRecs）面临的数据投毒和梯度投毒攻击威胁，并提出了相应的防御方法。

jieHeEternity·2024-01-24 20:03

CasADi学习(1)

一些补充说明版权问题环境配置代码不同版本问题运行速度预留链接CasADi正如官网介绍，CasADi提供了一种高效的开源优化问题解决方案，非常适用于解决非线性优化问题（nonlinearoptimization）和实现自动微分

Tomcattiger·2024-01-24 18:47

CasADi - 最优控制开源 Python/MATLAB 库

SX3.1.1关于命名空间的说明3.1.2C++用户注意事项3.2DM3.3符号MX3.4SX和MX混合使用3.5稀疏类3.5.1获取并设置矩阵中的元素3.6运算操作3.7属性查询3.8线性代数3.9微积分-算法微分

kuan_li_lyg·2024-01-24 18:15

多目标loss平衡和多目标融合推理

couldn·2024-01-24 17:26

机器学习实验2——线性回归求解加州房价问题

文章目录实验内容数据预处理代码缺失值处理特征探索相关性分析文本数据标签编码数值型数据标准化划分数据集线性回归闭合形式参数求解原理梯度下降参数求解原理代码运行结果总结实验内容基于CaliforniaHousingPrices

在半岛铁盒里·2024-01-24 16:26

【0416读书感悟】

微分享：一篇来自阿里味的文章http://mp.weixin.qq.com/s/grgenwqWwtXFDA-TBCw48w作者：浪感悟：生活不易，但是值得为了不曾谋面的彼此努力，一句话道出多少阿里人的心酸

兜兜里带颗糖·2024-01-24 15:22

使用GradCAM 使用用于脑肿瘤分类的脑 MRI 扫描数据分类-含理论与源码

GradCAM是梯度加权类激活映射的缩写，是计算机视觉和神经网络可解释性方面的重大突破。随着人工智能和机器学习系统，特别是卷积神经网络(CNN)，越来越多地融入技术和日常生活的各

TD程序员·2024-01-24 15:26

【R>>Mfuzz】时间序列分析

常用分析方法：Mfuzz包Java版的STEM（≤8个梯度）下面就来学习下R包-Mfuzz1.软件安装BiocManager::install('Mfuzz',a

高大石头·2024-01-24 14:30

【小白学机器学习4】从求f(x)的误差和函数E(θ)的导函数，到最速下降法，然后到随机梯度下降法

目录1从求f(x)的误差和函数E(θ)的导函数，开始通过参数θ去找E(θ)的最小值，从而确定最好的拟合曲线函数f(x)1.1从f(x)对y的回归模拟开始1.2从比较不同的f(x)的E(θ)，引出的问题1.3f(x)的误差和E(θ)函数，可以变成通用的函数形式，从而E(θ)只需要关注其参数θ0,θ1...的不同，而找到其最小值1.4调整参数θ0，θ1...，试图找到f(x)的误差和函数E(θ)的最小

奔跑的犀牛先生·2024-01-24 13:43

【强化学习】QAC、A2C、A3C学习笔记

强化学习算法：QACvsA2CvsA3C引言经典的REINFORCE算法为我们提供了一种直接优化策略的方式，它通过梯度上升方法来寻找最优策略。

如果皮卡会coding·2024-01-24 13:52

推荐频道

微分梯度