共轭梯度下降

Unity ML-Agents默认接口参数含义

还有sac和pocahyperparameters:batch_size:64#梯度下降每次迭代的经验数。应确保该值总是比buffer_size小几倍。
DWQY·2023-09-24 19:56

数据标准化与归一化

特征归一化、标准化的理解数据集如果标准化处理，对机器学习中的很多算法（包括梯度下降），会有很好的优化效果。如果数据未标准化（例如，数据集特征之间相差的数量级较大时），很多算法的表现性能不佳。
芒果冰麦·2023-09-24 16:04

机器学习 线性回归：正规方程与梯度下降

正规方程：importpandasaspdimportnumpyasnpfromsklearn.datasetsimportload_diabetes#导入数据集fromsklearn.model_selectionimporttrain_test_split#划分数据集#sklearn.model_selection.train_test_split是scikit-learn中的一个函数，#用于
从白天到早上·2023-09-24 16:34

最小二乘法

LeastSquareMethod1、相关的矩阵公式2、线性回归3、最小二乘法3.1、损失函数（LossFunction）3.2、多维空间的损失函数3.3、解析法求解3.4、梯度下降法求解1、相关的矩阵公式
__TAT__·2023-09-24 14:09

一些常见的算法

梯度下降算法：这是一种迭代法，可以用于求解最小二乘问题（线性和非线性都可以）。在求解机器学习算法的模型参数时，梯度下降是最常采用的方法之一。离散微分算法：一种模拟调节器的离散
嵌入式新手小张·2023-09-24 10:48

[Machine Learning][Part 2]监督学习的实现

目录线性模型实现：costfunction：代价函数或者损失函数——衡量模型优劣的一个指标理论：代码实现:梯度下降——自动寻找最小的costfunction代价函数梯度的概念：梯度下降公式：实现一个简单的监督学习的模型
思则变·2023-09-24 07:13

第五章 多变量线性回归

本章含盖5.1多维特征5.2多元梯度下降法5.3多元梯度下降法演练！
tomas家的小拨浪鼓·2023-09-24 05:59

一种基于光强传输方程的散射成像相位恢复仿真研究

目前散射成像技术主要有：利用光学相位共轭思想的波前调制技术，通过反馈调制算法控制空间
简单光学·2023-09-24 04:41

优化器的选择

1.什么是优化器2.梯度下降算法3.基于动量的梯度下降4.实用优化器的选择4.1Adagrad优化器4.2Rmsprop4.3AdaDelta优化器4.4Adam优化器5.总结本章大量内容来自：《深度学习轻松学
怼怼是酷盖·2023-09-24 00:41

深度学习自学笔记二：逻辑回归和梯度下降法

目录一、逻辑回归二、逻辑回归的代价函数三、梯度下降法一、逻辑回归逻辑回归是一种常用的二分类算法，用于将输入数据映射到一个概率输出，表示为属于某个类别的概率。
ironmao·2023-09-23 21:54

机器学习（3） K近邻算法（KNN）介绍及C++实现

近邻算法三大要素前言此前已发布的两篇博客，分别记录在假设空间有限、样本空间有限条件下如何计算泛化误差上界，并给出C++代码实现，详情参见机器学习（1）泛化误差上界的实现及分析；以及在线性可分条件下，采用随机梯度下降法收敛分二分类超平面的感知机算法
ProfSnail·2023-09-23 16:09

梯度下降优化方法概述

梯度下降是优化神经网络和机器机器学习算法的首选优化方法。本文重度参考SEBASTIANRUDER的文章。对于英文比较好的同学请直接阅读原文。本文只为个人的学习总结，难免有所欠缺和不足。
sunny4handsome·2023-09-23 16:31

联邦学习

Federatedmachinelearning）联邦学习重要节点及里程碑举例说明名词解释迭代模型平均(iterativemodelaveraging)：非独立同分布（non-IID）：鲁棒性同步随机梯度下降非平衡数据
Glory Man-United·2023-09-23 13:00

pytorch学习------常见的优化算法

优化算法介绍1、梯度下降算法（batchgradientdescentBGD）每次迭代都需要把所有样本都送入，这样的好处是每次迭代都顾及了全部的样本，做的是全局最优化,但是有可能达到局部最优。
韭菜盖饭·2023-09-22 22:59

基于tensorflow的MNIST手写字识别（一）--白话卷积神经网络模型

一、卷积神经网络模型知识要点卷积卷积1、卷积2、池化3、全连接4、梯度下降法5、softmax本次就是用最简单的方法给大家讲解这些概念，因为具体的各种论文网上都有，连推导都有，所以本文主要就是给大家做个铺垫
GarfieldEr007·2023-09-22 15:30

2023.8.25线性回归----梯度下降

（3）按照方向与步伐更新参数公式建议大家还是看看课本，markdown打公式太麻烦了4.梯度下降（1）批量梯度下降：容易得到最优解，但是每次考虑所有样本，所以速度很慢。
豆沙沙包?·2023-09-22 03:53

主题模型--LDA

LDA将模型参数视作随机变量，将多项式分布的共轭先验（也就是Dirichlet分布）作为参数的先验分布，并使用Gibbssampling方法对主题进行采样。
zhurui_xiaozhuzaizai·2023-09-22 03:21

吴恩达DL lesson3 week1

例如收集更多训练数据训练集的多样性不够,收集更多的具有多样性的实验数据和更多样化的反例集.使用梯度下降法训练更长的时间尝试一个不同的优化算法,例如Adam优化算法
wyq0717·2023-09-22 02:37

机器学习入门教学——损失函数（交叉熵法）

1、前言我们在训练神经网络时，最常用到的方法就是梯度下降法。在了解梯度下降法前，我们需要了解什么是损失(代价)函数。所谓求的梯度，就是损失函数的梯度。
恣睢s·2023-09-22 01:26

深度学习修炼（一）线性分类器 | 权值理解、支撑向量机损失、梯度下降算法通俗理解

2.4.2梯度下降算法2.4.3随机梯度下降算法2.4.4小批量梯度下降算法如图是神经网络训练的一般过程总结图今天从线性分类器开始为什么我们从线性分类器开始
Qodi·2023-09-22 01:14

2019-01-29 映射约减 (map reduce)

大规模机器学习的方法称为映射约减(mapreduce)方法，相比于随机梯度下降方法，映射化简方法能够处理更大规模的问题。
奈何qiao·2023-09-22 00:34

深度学习修炼（三）卷积操作 | 边界填充、跨步、多输入输出通道、汇聚池化

文章目录1.卷积基本操作2现代卷积进阶武器操作2.1边界填充2.2跨步步幅2.3多输入输出通道2.4汇聚池化3.卷积层设计之前我们讲了线性分类器深度学习修炼（一）线性分类器|权值理解、支撑向量机损失、梯度下降算法通俗理解
Qodi·2023-09-22 00:13

rdkit 修改分子

文章目录一、引入所需库二、增删H原子2.1增加H原子函数解析2.2增加H原子2.3删除H原子函数解析2.4删除H原子三、芳香共轭键和库里单双键3.1将芳香键的类型修改为单双建的类型一、引入所需库#!
qq_36801966·2023-09-21 23:47

深度学习修炼（二）全连接神经网络 | Softmax，交叉熵损失函数 优化AdaGrad，RMSProp等 对抗过拟合 全攻略

3.3梯度下降算法的改进3.3.1动量法3.3.2自适应梯度方法1AdaGrad2RMSProp3.3.1Adam4.网络信息流通畅，提高训练效率4.1权值初始化Xavier初始化方法H
Qodi·2023-09-21 16:26

pytorch学习1

前言王者之争核心之争在于动态图优先还是静态图优先pytorch是动态计算生成新变量tf是先定义变量，再生成回归问题1、梯度下降算法了解[梯度算法是深度学习的核心，deeplearning求解复杂问题主要靠的是梯度下降算法
dyh_chd·2023-09-21 06:42

机器学习入门教学——损失函数（极大似然估计法）

1、前言我们在训练神经网络时，最常用到的方法就是梯度下降法。在了解梯度下降法前，我们需要了解什么是损失(代价)函数。所谓求的梯度，就是损失函数的梯度。
恣睢s·2023-09-21 02:10

机器学习入门教学——损失函数（最小二乘法）

1、前言我们在训练神经网络时，最常用到的方法就是梯度下降法。在了解梯度下降法前，我们需要了解什么是损失(代价)函数。所谓求的梯度，就是损失函数的梯度。
恣睢s·2023-09-21 02:40

线性回归预测波士顿房价

"""正规方程：sklearn.linear_model.LinearRegression(最小二乘法线性回归)更准确使用于线性模型梯度下降：sklearn.linear_model.SGDRegressor
zsb_zsb·2023-09-20 23:21

R语言RStan MCMC：NUTS采样算法用LASSO 构建贝叶斯线性回归模型分析职业声望数据|附代码数据

\但是，你没有共轭先验。你可能会花费很长时间编写Metropolis-Hastings代码，优化接受率和提议分布，或者你可以使用RStan。Hamilto
·2023-09-20 21:13

Java手写深度学习

Java手写深度学习1.算法思维导图以下是使用Mermanid代码表示的深度学习算法的实现原理：输入数据前向传播损失函数反向传播梯度下降更新参数输出结果2.该算法的手写必要性及市场调查深度学习在人工智能领域具有广泛的应用前景
全栈项目讲解·2023-09-20 19:32

分子量2000的PEG衍生物DSPE-PEG-COOH

它是一种有用的自组装试剂，用于制备聚乙二醇化脂质体或胶束，同时提供COOH基团用于与含胺分子共轭。它
XYBMWCR·2023-09-20 12:24

用于生物结合靶向分子的酸性基团 DSPE-PEG-NHS，MW：20000是一种线性异双功能聚乙二醇化试剂，含有DSPE磷脂和活化的羧酸NHS酯。

它是一种有用的自组装试剂，用于制备聚乙二醇化脂质体或胶束，同时还提供NHS基团用于与含胺分子共轭。
kaixin741·2023-09-20 12:24

模拟退火——和随机梯度下降SGD有异曲同工之妙（附旅行推销员问题MATLAB求解讲解）

模拟退火和随机梯度下降SGD有异曲同工之妙随机性：SGD和模拟退火都包含了一定程度的随机性。在SGD中，每次更新模型参数时都是
MikingG·2023-09-20 07:40

线性回归原理（李沐老师学习笔记）

目录1线性回归的定义1.1线性回归的基本元素1.1.1线性模型1.1.2损失函数1.1.3为什么传统线性回归解不能应用于深度学习1.1.4随机梯度下降2自动求导2.1标量链式法则2.2标量对向量求导2.3
maggieyiyi·2023-09-19 17:10

逻辑回归：确定一个人是否年收入超过5万美元

文章目录1.问题描述2.设计简要描述3.程序清单4.结果分析5.调试报告6.实验小结1.问题描述学会使用学习到的逻辑回归的知识，手动使用梯度下降方法，通过给定的相关数据来完成年薪是否高于50k的二分类预测任务
CSU迦叶·2023-09-19 17:22

神经网络训练技巧

文章目录一、问题描述二、设计简要描述三、程序清单四、结果分析五、调试报告六、实验小结一、问题描述基于二元函数f(x,y)=z=1/20x2+y2掌握梯度下降和权重初始化的技巧，基于手写体识别掌握正规化和两种防止过拟合的技巧
CSU迦叶·2023-09-19 17:22

【深度学习实验】线性模型（五）：使用Pytorch实现线性模型：基于鸢尾花数据集，对模型进行评估（使用随机梯度下降优化器）

本实验旨在展示使用随机梯度下降优化器训练线性模型的过程，并
QomolangmaH·2023-09-19 08:39

tensorflow 的损失函数

的距离的函数，最常用的函数是距离的平方，由于估计量具有随机性，可以对该函数求期望，这就是下式给出的均方误差：以下例程中拟定y=x1+x2为目标函数，随机初始化参数并加入噪声进行迭代，采用均方误差的损失函数进行梯度下降
甘霖那·2023-09-19 06:18

深度学习——线性神经网络一

深度学习——线性神经网络一文章目录前言一、线性回归1.1.线性回归的基本元素1.1.1.线性模型1.1.2.损失函数1.1.3.解析解1.1.4.随机梯度下降1.1.5.用模型进行预测1.2.向量化加速
星石传说·2023-09-18 23:18

【PyTorch 攻略 （4/7）】张量和梯度函数

这种随着时间的推移重新训练模型的来回和前进过程将损失减少到0，称为梯度下降。为了计算这些梯度，PyTorch有一个名
无水先生·2023-09-18 15:19

【PyTorch 攻略（5/7）】训练和模型

该模型对输出进行猜测，计算其猜测中的误差（损失），收集误差相对于其参数的导数，并使用梯度下降优化这些参数。我们从这里加载前面的代码。
无水先生·2023-09-18 12:14

【译】梯度下降优化算法概览（gradient descent optimization algorithms）

之前一直想总结一下深度学习中常用的梯度下降算法的，后来发现有人做了，那好吧，直接翻译吧。
ce0b74704937·2023-09-18 07:48

【深度学习实验】线性模型（二）：使用NumPy实现线性模型：梯度下降法

实验环境1.配置虚拟环境2.库版本介绍三、实验内容0.导入库1.初始化参数2.线性模型linear_model3.损失函数loss_function4.梯度计算函数compute_gradients5.梯度下降函数
QomolangmaH·2023-09-18 00:25

李沐机器学习入门

3.1.2人工标注数据3.1.3弱监督学习4.数据的预处理5.数据的清理6.数据的变换7.特征工程8.机器学习介绍8.1决策树模型8.2线性模型线性模型做回归线性模型做分类Softmax回归8.3小批量随机梯度下降
几窗花鸢·2023-09-17 23:30

神经网络权重是什么意思,神经网络权值和阈值

2、以看一下在matlab中BP神经网络的训练函数，有梯度下降法traingd,弹性梯度下降法trainrp，自适应lr梯度下降法traingda等。
快乐的小肥熊·2023-09-17 21:20

PyTorch深度学习（一）【线性模型、梯度下降、随机梯度下降】

这个系列是实战（刘二大人讲的pytorch）建议把代码copy下来放在编译器查看（因为很多备注在注释里面）线性模型(LinearModel)：importnumpyasnpimportmatplotlib.pyplotasplt#绘图的包​x_data=[1.0,2.0,3.0]#这两行代表数据集，一般x_data,y_data是要把它分开保存的，x表示输入样本y_data=[2.0,4.0,6.
每天都是被迫学习·2023-09-17 06:17

机器学习笔记之最优化理论与算法(十二)无约束优化问题——共轭梯度法

机器学习笔记之最优化理论与方法——共轭梯度法引言回顾：共轭方向法的重要特征线性共轭梯度法共轭方向公式的证明过程关于线搜索公式中参数的化简关于线搜索公式中步长部分的化简关于线搜索公式中共轭方向系数的化简参数化简的目的非线性共轭梯度法
静静的喝酒·2023-09-16 23:05

机器学习笔记之无约束优化问题——(阶段性收尾)共轭方向法与Wolfe准则优化方法Python示例

机器学习笔记之无约束优化问题——基于共轭方向法与Wolfe准则优化方法的Python示例引言小插曲：画图——非标准二次型的等值线算法在图像中的表示基于精确搜索的共轭梯度法基于Wolfe准则的共轭梯度法附
静静的喝酒·2023-09-16 23:34

1 参悟深度学习-梯度下降法

数学知识导函数本质上梯度下降法是在解决极值的问题而在数学上求极值，需要知道导函数就很容易求的比如函数y=x^2+4x+4的最大/小值是在其导函数等于0时的x的值即2*x+4=0是x=-2存在最大/小值y
InnoTech·2023-09-16 20:01

机器学习

神经网络碰上高斯过程神经网络是一类参数化函数，可以通过梯度下降来高精度地逼近标记数据集。高斯过程（GP）是一种概率模型，其定义了可能函数的分布，并通过概率推理规则和数据来更新。
walkerfan·2023-09-16 20:10
上一页 16 17 18 19 20 21 22 23 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他