正则化

损失函数中正则化中的平方项的作用！！

正则化上的平方项前言在损失函数中添加正则化项时，通常会使用平方项作为正则化项，原因主要有以下几点：前言在损失函数中添加正则化项的原因主要是为了防止过拟合。
小桥流水---人工智能·2023-12-22 09:42

逻辑回归

LogisticRegression)里,通常我们并不拟合样本分布,而是确定决策边界下面为各式各样的决策边界image线性决策边界imageimage非线性决策边界image2.3逻辑回归损失函数损失函数与正则化依旧存在
iOSDevLog·2023-12-22 08:43

吴恩达深度学习笔记(28)-网络训练验证测试数据集的组成介绍

从今天开始我们进入新的一个大方向了，改善深层神经网络：超参数调试、正则化以及优化，首先进入深度学习的一个新层面，先认识下在深度学习中的数据集的分类。
极客Array·2023-12-21 06:18

【论文简述】Uncertainty awareness with adaptive propagation for mvs(Applied Intelligence 2023）

一、论文简述1.第一作者：JinguangChen2.发表年份：20233.发表期刊：AppliedIntelligence4.关键词：多视角立体、深度学习、不确定性感知、自适应传播、代价体正则化5.探索动机
华科附小第一名·2023-12-21 02:06

【机器学习】线性模型-线性支持向量机

一、常用二分类损失函数二、三种不同的正则化器（L2-正则化，L1-正则化和Lp-范数）的性质三、线性支持向量机原理L1正则化L1-lossSVC原问题L2正则化L2-lossSVC原问题L2正则化SVC
十年一梦实验室·2023-12-20 22:40

人工智能之数学(三) ------ 凸优化

一.机器学习中的优化问题损失函数:模型与实际数据匹配程度越好,损失函数就越小,如果相差较大,损失函数也会相对比较大正则化函数:模型很复杂,对于训练数据拟合性很好,但是对于未见过的数据拟合较差,因此可通过正则化的函数控制模型的复杂度
千喜Ya·2023-12-20 08:45

线性回归——lasso回归和岭回归（ridge regression）

lasso回归和岭回归（ridgeregression）其实就是在标准线性回归的基础上分别加入L1和L2正则化（regularizat
weixin_30853329·2023-12-20 05:14

LinearRegression、岭回归、Lasso回归和ElasticNet回归总结-附python3代码实战及回归检验

文章目录过拟合和欠拟合正则化线性回归算法模型使用Scikit-Learn进行LinearRegression、岭回归、Lasso回归和ElasticNet回归LinearRegression岭回归Lasso
安然烟火·2023-12-20 05:43

线性回归、lasso回归和岭回归（ridge regression）

lasso回归和岭回归（ridgeregression）其实就是在标准线性回归的基础上分别加入L1和L2正则化（regularization）。
呆小呆_·2023-12-20 05:43

机器学习(十二)：正则化与过拟合(附代码实例)

全文共10000余字，预计阅读时间约20~30分钟|满满干货，建议收藏！一、介绍构建一个机器学习模型并不总是一帆风顺的。可能在初步尝试之后，会发现模型在训练数据上的表现非常好，但在新的、未见过的数据上的表现却非常差。这就是所谓的过拟合问题。过拟合是机器学习中一个常见的问题，如果模型过于复杂，就会出现模型可以记住训练数据的特定噪声，但却无法学习到有用的、通用的趋势或者模式的这种情况。此时模型最终的表
算法小陈·2023-12-20 05:13

【GAN ZOO阅读】模式正则化的生成对抗网络 MODE REGULARIZED GENERATIVE ADVERSARIAL NETWORKS

原文地址：https://arxiv.org/abs/1612.02136引用之请注明出处。TongChe1，YanranLi23，AthulPaulJacob1，YoshuaBengio1，WenjieLi21蒙特利尔学习算法研究所，蒙特利尔大学，蒙特利尔，QCH3T1J4，加拿大2香港理工大学计算机系，香港3滑铁卢大学计算机学院，滑铁卢，ONN2L3G1，加拿大摘要尽管生成对抗网络在各种生成任
hyczkg·2023-12-19 19:22

tensorflow入门 自定义层

前面讲了自定义损失函数，自定义正则化，自定义评价函数。现在来讲自定义层，其实都差不多，继承重要的组件就可以了。
歌者文明·2023-12-19 14:14

【机器学习】线性模型-logistic 回归

一、逻辑（logistic）回归原理1.1逻辑回归的数学原理1.2logistic回归的L2正则化原问题1.3逻辑回归的L2正则化原问题使用可信域牛顿法求解1.4logistic回归L2正则化的对偶问题
十年一梦实验室·2023-12-19 05:49

notes2

机器学习ROC曲线、AUC、PR曲线等决策树，ID3、C4.5、CART决策树，随机森林、Adaboost、GBDT决策树，XGBoost、LightGBM逻辑回归，L1L2正则化熵，KL散度，交叉熵micro-f1
lym94·2023-12-18 14:53

社交网络分析4：社交网络链路预测分析、LightGBM框架、Logistic回归模型、LLSLP方法（LightGBM 堆叠链路预测）、正则化方法、多重共线性、堆叠泛化

社交网络分析4写在最前面社交网络链路预测分析概述链路预测分析简介链路预测分析的重要性社交网络链路预测分析方法基于网络结构的方法基于节点属性的方法基于随机游走的方法基于深度学习的方法基于相似性和基于似然性的链路预测方法基于相似性的方法基于邻居的方法基于路径的方法基于随机游走的方法基于似然估计的方法两类方法的优缺点LLSLP方法（逻辑斯蒂回归LightGBM堆叠链路预测）方法概述逻辑斯蒂回归模型防止过
是Yu欸·2023-12-18 09:07

暂退法(丢弃法)

在深度学习中，丢弃法（Dropout）是一种常用的正则化技术，旨在减少模型的过拟合现象，可能会比之前的权重衰减(WeightDecay)效果更好。
奉系坤阀·2023-12-18 08:37

权重衰减(Weight Decay)

在深度学习中，权重衰减（WeightDecay）是一种常用的正则化技术，旨在减少模型的过拟合现象。权重衰减通过向损失函数添加一个正则化项，以惩罚模型中较大的权重值。
奉系坤阀·2023-12-18 08:37

模型选择与评估

1.怎么样让模型表现更好使用更多的训练样本减少特征数量增加特征数量增加多项式特征降低正则化程度λ增强正则化程度λ如何选用这些手段需要我们对模型进行测试与评估，答案会在最后一小节给出2测试集的引入在学习时我们常常会通过上课和刷题来提高对知识的掌握能力
搁浅丶.·2023-12-18 07:15

机器学习基础：用 Lasso 做特征选择

Lasso给简单线性回归加了L1正则化，可以将不重要变量的系数收缩到0，从而实现了特征选择。本文重点也是在讲解其原理后演示如何用其进行特征选择，希望大家能收获一点新知识。lasso原理Lasso就是在
统计学家·2023-12-18 06:24

正则化实战( Lasso 套索回归,Ridge 岭回归)

Lasso套索回归导入包importnumpyasnpfromsklearn.linear_modelimportLassofromsklearn.linear_modelimportSGDRegressor,LinearRegression原方程的计算结果#1.创建数据集X，yX=2*np.random.rand(100,20)w=np.random.rand(20,1)b=np.random.
阿龙的代码在报错·2023-12-18 01:17

《深度学习500问》外链笔记

1.这个是什么意思2.核函数3.公式理解4.L1和L2正则L1和L2正则化是机器学习中常用的两种正则化技术，它们通过在损失函数中添加一个惩罚项来防止模型过拟合。这两种技术的主要区别在于惩罚项的形式。
Vincent不是文森特·2023-12-18 00:33

逻辑回归正则化

逻辑回归正则化在处理具有多个特征且特征可能共线性（即特征之间高度相关）的数据集特别有用。下面用一个例子说明什么是正则化：假设你在厨房准备一顿饭，你的目标是做出美味又不过分油腻的菜肴。
ShawnWeasley·2023-12-17 17:46

深度学习 | MATLAB Deep Learning Toolbox convolution3dLayer 网络设定

MATLABDeepLearningToolboxconvolution3dLayer网络设定目录深度学习|MATLABDeepLearningToolboxconvolution3dLayer网络设定convolution3dLayer属性设定三维卷积参数参数及初始化学习率和正则化三维网络层参考资料致谢
机器学习之心·2023-12-17 15:33

3.1.2.3L2范数正则化

与L1范数正则化略有不同的是，L1范数正则化则在原优化目标的基础上，增加了参数向量的L2范数的惩罚项，为了使新优化目标最小化，这种正则法的结果会让参数向量中的大部分元素都变得很小，压制了参数之间的差异性
idatadesign·2023-12-17 14:25

机器学习 | 过拟合与正则化、模型泛化与评价指标

一、过拟合与正则化1、多项式逼近思想任何函数都可以用多项式来表示。举个栗子~比如说泰勒公式若要拟合sinx，泰勒认为仿造一条曲线，首先要保证在原点重合，之后在保证在这个点处的倒数相同，导数的倒数相同。
西皮呦·2023-12-17 08:03

回归预测 | MATLAB实现IWOA-LSTM改进鲸鱼算法算法优化长短期记忆神经网络的数据回归预测（多指标，多图）

IWOA-LSTM改进鲸鱼算法算法优化长短期记忆神经网络的数据回归预测（多指标，多图）效果一览基本介绍程序设计参考资料效果一览基本介绍1.多特征输入单输出，回归预测，优化参数为：学习率，隐藏层节点数，正则化参数
机器学习之心·2023-12-16 14:34

Regularization——正则化

1.过拟合问题这是使用不同的模型根据房子的大小对于房价的预测第一张图的模型距离数据点的平均距离仍然比较大，拟合效果并不是特别好，也叫欠拟合（underfitting）第二张图的模型对于训练集数据的拟合的不错，也能预测数据的趋势，这是我们需要的模型第三张图的模型拐来拐去，甚至的拟合了训练集的每一个数据点，损失函数接近于0，但如果给一个新的数据，它的效果是很差的，这种模型是过拟合（overfittin
搁浅丶.·2023-12-16 12:03

【深度学习】机器学习概述（一）机器学习三要素——模型、学习准则、优化算法

==1.0-1损失函数2.平方损失函数（回归问题）3.交叉熵损失函数（Cross-EntropyLoss）4.Hinge损失函数b.风险最小化准则1.经验风险最小化2.过拟合问题3.结构风险最小化4.正则化项的选择
QomolangmaH·2023-12-16 08:10

An Overview of Cross-media Retrieval: Concepts, Methodologies, Benchmarks and Challenges 笔记

CommonSpaceLearning1.传统的统计相关分析方法统计相关分析方法具体介绍统计相关分析方法优缺点2.基于深度学习DNN的方法基于DNN的方法摘要基于DNN的方法总结以及优缺点3.跨模态图正则化的方法图正则化的相关方法图正则化的优缺点
wwweiyx·2023-12-16 06:10

Course2-Week3-使用机器学习的建议

Week3-使用机器学习的建议1.拆分原始训练集1.1如何改进模型1.2二拆分：训练集、测试集1.3三拆分：训练集、验证集、测试集2.避免高偏差和高方差2.1使用训练误差和验证误差进行分析2.2选择合适的正则化参数
虎慕·2023-12-16 01:13

机器学习算法---回归

2.岭回归（RidgeRegression）原理：在线性回归的基础上加入L2正则化项。这
数据科学知识库·2023-12-15 18:19

（八）弹性网络---ElasticNet

一、原理及简介弹性网络.png二、什么是L2正则化和L1正则化原理及作用：https://blog.csdn.net/liuweiyuxiang/article/details/99984288三、弹性网络预测天池项目代码导包
羽天驿·2023-12-15 17:02

机器学习——特征预处理

sklearn提供了preprocessing模块，用于归一化、标准化、鲁棒化、正则化等数据预处理。
风月雅颂·2023-12-15 13:56

《论文阅读》用于情绪回复生成的情绪正则化条件变分自动编码器 Affective Computing 2021

《论文阅读》用于情绪回复生成的情绪正则化条件变分自动编码器前言简介模型结构实验结果总结前言今天为大家带来的是《Emotion-RegularizedConditionalVariationalAutoencoderforEmotionalResponseGeneration
365JHWZGo·2023-12-15 01:06

吴恩达《机器学习》12-1:优化目标

这包括设计特征、选择正则化参数等因素，这些在不同水平的实践者之间可能表现出截然不同的效果。
不吃花椒的兔酱·2023-12-14 22:34

正则化的概念

正则化的概念与用处正则化：也叫规范化，在神经网络里主要是对代价函数高次项添加一些惩罚，防止其过拟合，相当于对某些特征的权重施加惩罚，降低其影响权重，防止过拟合。
DJ.马·2023-12-06 14:27

YOLOv4学习笔记（2）——训练策略

目录数据增强：Mosaic数据增强:自对抗训练（SAT）：CmBN（Crossmin-batchNormalization）策略：Dropblock正则化：损失函数：BoundingBoxRegeressionLoss
猪不爱动脑·2023-12-06 10:19

分类预测 | Matlab实现OOA-CNN-SVM鱼鹰算法优化卷积支持向量机分类预测

鱼鹰算法优化卷积支持向量机分类预测分类效果基本描述程序设计参考资料分类效果基本描述1.Matlab实现OOA-CNN-SVM鱼鹰算法优化卷积支持向量机分类预测（完整源码和数据)2.优化参数为：学习率，批量处理大小，正则化参数
机器学习之心·2023-12-06 10:12

深度学习之网络优化与正则化

视频链接：7.1神经网络优化的特点_哔哩哔哩_bilibili神经网络优化的特点网络优化的难点（1）网络结构差异大：不同模型之间的结构差异大——没有通用的优化算法、超参数多（2）非凸优化问题：导致得到的最优解可能是全局最优解——参数如何初始化、如何逃离局部最优或鞍点（3）梯度消失和爆炸问题：当网络非常深时，靠下的层的参数的梯度要么接近0，要么非常大，十分难优化高维空间中的非凸优化问题低维空间中的非
__如果·2023-12-06 10:42

利用github copilot完成代码，利用正则化完成字符串中信息查找

利用正则化完成字符串中的字符拆解。下面的代码是实现在“计算机组成原理-计科2101-123456-小明同学.docx”中提取出班级（grade），学号（id），姓名（name）。
wenying_44323744·2023-12-06 01:59

【深度学习笔记】09 权重衰减

09权重衰减范数和权重衰减利用高维线性回归实现权重衰减初始化模型参数定义L2L_2L2范数惩罚定义训练代码实现忽略正则化直接训练使用权重衰减权重衰减的简洁实现范数和权重衰减在训练参数化机器学习模型时，权重衰减
LiuXiaoli0720·2023-12-06 00:18

微调Fine tune

网络架构一个神经网络一般可以分为两块特征抽取将原始像素变成容易线性分割的特征线性分类器来做分类微调：使用之前已经训练好的特征抽取模块来直接使用到现有模型上，而对于线性分类器由于标号可能发生改变而不能直接使用训练是一个目标数据集上的正常训练任务，但使用更强的正则化使用更小的学习率使用更小的数据迭代源数据集远复杂于目标数据
你不困我困·2023-12-05 18:55

深度学习训练 tricks（持续更新）

文章目录weightdecayweightdecay是什么weightdecay与L2正则化作用WarmupDroppathdroppath计算方法如何将droppath加入你的模型？
Cleo_Gao·2023-12-05 02:30

正则化方法：L1和L2、regularization、数据集扩增、dropout

正则化方法：防止过拟合、提高泛化能力在训练数据不够时，或者overtraining时，常常会导致overfitting（过拟合）。
遇见百分百·2023-12-04 05:21

10 分钟解释 StyleGAN

（2018）出现后，GAN需要大量的正则化，并且无法产生今天所熟知的令人惊
无水先生·2023-12-04 03:02

Andrew Ng ML(4)——过拟合&正则化

1.减少特征（人工或者用算法）2.正则化（可以保留所有特征）正则化overview:加入惩罚项（其实就是使某些θ趋于0）解决过拟合问题（使h函数图形更加平滑）Q：实际运用中，不清楚需要对哪些进行正则化，
tmax·2023-12-04 02:50

吴恩达《机器学习》10-4-10-5:诊断偏差和方差、正则化和偏差/方差

一、诊断偏差和方差在机器学习中，诊断偏差和方差是改进模型性能的关键步骤。通过了解这两个概念，能够判断算法的问题究竟是欠拟合还是过拟合，从而有针对性地调整模型。1.概念理解偏差（Bias）：表示模型对于训练数据的拟合程度。高偏差意味着模型过于简单，无法捕捉数据的复杂性，导致欠拟合。方差（Variance）：表示模型对于训练数据的敏感程度。高方差意味着模型过于复杂，几乎完美地适应训练数据，但在未见过的
不吃花椒的兔酱·2023-12-03 22:30

层规范化（Layer Normalization）和正则化（Regularization）

层规范化（LayerNormalization）和正则化（Regularization）是两个不同的概念，尽管它们都在机器学习和深度学习中非常重要，但它们的目的和应用方式有所不同。
Zqchang·2023-12-03 02:11

逻辑回归与正则化 逻辑回归、激活函数及其代价函数

逻辑回归、激活函数及其代价函数线性回归的可行性对分类算法，其输出结果y只有两种结果{0，1}，分别表示负类和正类，代表没有目标和有目标。在这种情况下，如果用传统的方法以线性拟合（hθ(x)=θTX）（h_θ(x)=θ^TX）（hθ(x)=θTX），对于得到的函数应当对y设置阈值a，高于a为一类，低于a为一类。对于分类方法，这种拟合的方式极易受到分散的数据集的影响而导致损失函数的变化，以至于对于特定
小小程序○·2023-12-02 22:33

逻辑回归 正则化

正则化过拟合问题对于模型，如果一个模型对于数据的偏差很大，不能能够很好的拟合数据的分布，称为欠拟合，或者说这个算法具有高偏差的特性。
小小程序○·2023-12-02 22:33
上一页 2 3 4 5 6 7 8 9 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他