tikhonov正则化

二维特征分类的基础_用特征提取技术降低数据集维度，你学会了吗？

为避免此类问题的发生，需采用正则化或降维技术(特征提取)。在机器学习中，数据集的维数等于用来表示它的变量数。使用正则化当
weixin_39921087·2023-09-12 03:18

欠拟合与过拟合

目录1、相关概念学习目标欠拟合与过拟合2、原因以及解决办法欠拟合过拟合⭐正则化类别LassoRidgeLasso和Ridge的区别3、拓展极大似然估计最大后验估计最小二乘法作者介绍：双非本科大三网络工程专业在读
逐梦苍穹·2023-09-11 15:16

机器学习中岭回归、LASSO回归和弹性网络与损失函数

今天咱们来聊点纯技术的东西，这东西是基础，不说往后没法说，在机器学习领域中，我们可以通过正则化来防止过拟合，什么是正则化呢？常见的就是岭回归、LASSO回归和弹性网络。先说说什么叫做过拟合？
天桥下的卖艺者·2023-09-11 11:29

LASSO回归

LASSO回归LASSO(LeastAbsoluteShrinkageandSelectionOperator，最小绝对值收敛和选择算子算法)是一种回归分析技术，用于变量选择和正则化。
fakerth·2023-09-11 00:39

机器学习入门教学——过拟合、欠拟合、模型验证、样本拆分

解决方法增加训练数据使用正则化，如L1、L2正则EarlyStopping（提前终止训练）降低模型复杂度（如减少网络层数）Dropout技术2、欠拟合定义欠拟合指的是模型不能在训练集上获得足够多的特征，
恣睢s·2023-09-10 00:26

深入机器学习1：详解正则表达式

目录结构文章目录深入机器学习1：详解正则表达式1.概述：2.L1与L2正则化表达式：3.逻辑回归中的正则化作用：4.L1和L2正则化的区别：
自学小白菜·2023-09-09 21:44

【python手写算法】正则化在线性回归和逻辑回归中的应用

多元线性回归：#coding=utf-8importmatplotlib.pyplotaspltimportnumpyasnpfrommpl_toolkits.mplot3dimportAxes3Dif__name__=='__main__':X1=[12.46,0.25,5.22,11.3,6.81,4.59,0.66,14.53,15.49,14.43,2.19,1.35,10.02,12.9
single 君·2023-09-09 11:26

斯坦福 CS229 机器学习中文讲义 翻译完成

斯坦福CS229机器学习中文讲义第一部分到第三部分第四部分生成学习算法第五部分支持向量机第六部分学习理论第七部分正则化与模型选择感知器和大型边界分类器K均值聚类算法混合高斯和期望最大化算法第九部分期望最大化算法第十部分因子分析第十一部分主成分分析第十二部分独立成分分析第十二部分强化学习和控制线性二次调节
布客飞龙·2023-09-09 04:59

一文看遍半监督学习模型（Semi-Supervised Learning）

一、半监督学习的总体框架二、一致性正则化模型该算法旨在：一个模型对于同一个未标记图像，在图像添加额外噪声前后的预测值应该保持一致。添加噪声的方法，如图像增强（空间维度增强、像素维度增强）。
卖报的大地主·2023-09-08 12:55

l2正则化使用

tf.contrib.layers.l2_regularizer（）使用详情请见：https://stackoverflow.com/questions/37107223/how-to-add-regularizations-in-tensorflowhttps://stackoverflow.com/questions/38286717/tensorflow-regularization-wit
yalesaleng·2023-09-08 10:37

PyTorch程序实现L1和L2正则项

正则化是机器学习中的一个重要概念，它可以帮助我们防止模型过拟合。在这篇文章中，我将详细介绍两种常见的正则化技术：L1和L2正则项。
Dark universe·2023-09-08 09:01

目标检测YOLO实战应用案例100讲-基于改进YOLOv3的目标检测模型研究与应用（中）

目录3.3.2损失函数设计3.3.3数据增强和Dropout正则化实验与结果分析3.4.1数据集描述
林聪木·2023-09-08 08:26

回归与聚类算法系列①：概念简述

说明线性回归的原理应用LinearRegression或SGDRegressor实现回归预测记忆回归算法的评估标准及其公式说明线性回归的缺点说明过拟合与欠拟合的原因以及解决方法说明岭回归的原理即与线性回归的不同之处说明正则化对于权重参数的影响说明
逐梦苍穹·2023-09-08 08:52

论文笔记_21范数:Efficient and Robust Feature Selection via Joint 2,1-Norms Minimization

本文提出一种新的鲁棒特征选择方法，这一方法核心在于在损失函数核正则化项中联合使用21范数。
Lr_AI·2023-09-08 01:27

R语言随机波动模型SV：马尔可夫蒙特卡罗法MCMC、正则化广义矩估计和准最大似然估计上证指数收益时间序列|附代码数据

p=31162最近我们被客户要求撰写关于SV模型的研究报告，包括一些图形和统计输出本文做SV模型，选取马尔可夫蒙特卡罗法(MCMC)、正则化广义矩估计法和准最大似然估计法估计。
·2023-09-07 15:38

第三周学习小结

改善深层神经网络：超参数调试、正则化以及优化一、第一周-深度学习的实用层面1.训练、验证、测试集通常在进行深度学习的过程中，需要将数据集按照使用方法分成以下三个部分：1.训练集（trainset）：对模型进行训练的部分数据
donald_b3e3·2023-09-07 08:47

L1和L2正则

L1和L2正则L1正则常被用来进行特征选择，主要原因在于L1正则化会使得较多的参数为0，从而产生稀疏解，我们可以将0对应的特征遗弃，进而用来选择特征。一定程度上L1正则也可以防止模型过拟合。
小小白2333·2023-09-06 20:06

【吴恩达机器学习】第三周—逻辑回归、过拟合、正则化

31.jpg1.分类问题（Regression）在分类问题中，你要预测的变量是离散的值，我们将学习一种叫做逻辑回归(LogisticRegression)的算法，这是目前最流行使用最广泛的一种学习算法。顺便说一下，逻辑回归算法是分类算法，我们将它作为分类算法使用。有时候可能因为这个算法的名字中出现了“回归”使你感到困惑，但逻辑回归算法实际上是一种分类算法，它适用于标签取值离散的情况，如:1001。
Sunflow007·2023-09-06 17:55

NLP（2）--Transformer

目录一、Transformer概述二、输入和输出三、Encoder四、Decoder五、正则化处理六、对于结构的改进？
Struart_R·2023-09-06 15:26

决策树算法学习笔记之参数构造

目录决策树中的正则化Ensemblelearning（集成算法）决策树中的正则化DecisionTreeClassifier类还有一些其他参数类似的限制了决策书的形状：min_samples_split
Hermione'·2023-09-06 13:35

深度学习优化

获取更多的数据创造更多的数据，图片的旋转，噪音等数据标准BNbatchesEpochs正则化dropputstop，训练次数
e237262360d2·2023-09-06 09:41

（八）从零开始学人工智能--统计学习：统计学习基础知识

1.1.2回归问题1.2非监督学习2.统计学习中的基本概念2.1统计学习三要素：模型，策略，算法2.2欠拟合和过拟合2.3如何避免过拟合2.3.1从模型出发（交叉验证，AIC，BIC）2.3.2从策略出发（正则化
小花技术大本营·2023-09-06 05:35

【综述】结构化剪枝

目录摘要分类1、依赖权重2、基于激活函数3、正则化3.1BN参数正则化3.2额外参数正则化3.3滤波器正则化4、优化工具5、动态剪枝6、神经架构搜索性能比较摘要深度卷积神经网络（CNNs）的显著性能通常归因于其更深层次和更广泛的架构
故山月白·2023-09-05 23:11

深度学习学习笔记——解决过拟合问题的方法:权重衰减和暂退法，与正则化之间的关系

解决过拟合问题是机器学习和深度学习中关键的任务之一，因为它会导致模型在训练数据上表现良好，但在未见数据上表现不佳。以下是一些解决过拟合问题的常见方法：增加训练数据：增加更多的训练数据可以帮助模型更好地捕捉数据的真实分布，减少过拟合的可能性。如果可行，收集更多的数据通常是解决过拟合的最佳方法。简化模型：减小模型的复杂性，例如减少神经网络中的层数或神经元数量，可以降低过拟合风险。选择一个更简单的模型结
xw555666·2023-09-05 15:48

Iterative Deep Graph Learning for Graph Neural Networks: Better and Robust Node Embeddings

此外，我们将图学习问题作为相似度度量学习问题，并利用自适应图正则化来控制学习图的质量。最后，我们结合锚
让AI服务于我·2023-09-05 15:08

python 正则化规则

正则化规则字符功能ps.匹配任意1个字符（除了换行符\n）[]匹配[]中列举的字符()分割子表达式\d匹配数字，即0-9\w匹配字母和数字字符，即a-z、A-Z、0-9、_*匹配前⼀个字符出现0次或者⽆
冲上云霄！·2023-09-05 09:15

机器学习知识点总结

：二、统计学习：1.统计学习概念：1.1统计学习步骤：1.2统计学习特点：1.3统计学习目的：1.4统计学习的分类2.统计学习三要素：2.1模型：2.2策略：2.3算法：3.模型的评估4.过拟合4.1正则化
Flechazo_lalala·2023-09-05 06:56

第七章 网络优化与正则化（7.3，7.4，7.5）

7.3参数初始化预训练初始化一个已经在大规模数据上训练过的模型可以提供一个好的参数初始值随机初始化对称权重现象：logistic回归和感知器中一般将参数全部初始化为0，神经网络训练中如果参数都为0，在第一遍前向计算时，隐藏层神经元的激活值都相同、权重更新也相同，导致没有区分性。为打破上述现象，较好的方式为对每个参数随机初始化固定初始化7.3.1基于固定方差的参数初始化高斯分布初始化均匀分布初始化7
我还是霸霸·2023-09-05 06:56

构建机器学习项目

你的脑海里会涌现出很多提升准确率的思路：1.收集更多的数据2.增大训练样本多样性3.使用梯度下降法训练更长的时间4.换一种优化算法，比如Adam算法5.尝试更复杂或更简单的神经网络6.尝试dropout算法7.L2正则化
带刺的小花_ea97·2023-09-04 19:15

过拟合和欠拟合的解决办法，以及dropout和正则化的讲解，代码实现（对于mnist数据集）！

这里写目录标题一、过拟合、欠拟合的通俗理解二、欠拟合和过拟合的解决办法一、欠拟合二、过拟合一、在网络深度中加入dropout()层次二、正则化一、L2正则化：三、图像增强三、搭建模型的参数的选择一、首先开发一个过拟合模型二
@尚码哥@·2023-09-04 18:50

10种防止机器学习模型过拟合的方法

本文介绍机器学习/深度学习建模过程中有效防止模型过拟合的10种方法：增加训练数据集交叉验证正则化合适的特征选择降低模型复杂度集成方法早停法EarlyStopping数据增强Dropout监控训练过程技术交流技术要学会分享
Python数据挖掘·2023-09-04 02:41

深度学习从入门到精通——生成对抗网络原理

不是最佳的DivLSGAN最小二乘法GANWGAN解决问题EM距离WGANWGAN的判别器的目标表达式：限制方法对判别器增加条件SNGAN出现问题思路频谱范数奇异值分解奇异值定义奇异值分解定理频谱范数正则化
小陈phd·2023-09-03 21:00

机器学习相关问题

：此消彼涨Bias&Variance偏差大：欠拟合，问题：模型过于复杂或者过于简单；算法不使用于某些特定的数据结构；解决方案：加大模型复杂度；选择合适的算法；增加数据量方差大，偏差大：过拟合解决方案：正则化
咸鱼干lili·2023-09-03 14:26

R语言随机波动模型SV：马尔可夫蒙特卡罗法MCMC、正则化广义矩估计和准最大似然估计上证指数收益时间序列...

相关视频本文做SV模型，选取马尔可夫蒙特卡罗法(MCMC)、正则化广义矩估计法和准最大似然估计法估计。
拓端研究室TRL·2023-09-03 10:10

机器学习——正则化

2、正则化
BioLearner·2023-09-03 03:59

正则化，权重衰减，Dropout丢弃法

正则化正则化（Regularization）是机器学习中常用的一种技术，通过在模型训练过程中引入附加项或约束来控制模型复杂度，并减少过拟合问题。
努力学CV·2023-09-03 01:07

【动手学深度学习Pycharm实现7】Dropout丢弃法及其不同丢失概率的结果对比

一、Dropout丢弃法Dropout，通过在层之间加入噪音，达到正则化的目的，一般作用在隐藏全连接层的输出上，通过将输出项随机置0来控制模型复杂度，如下图。
Stick_2·2023-09-03 01:07

12 权重衰退

过拟合的应对方法——weight_decay权重衰退是最广泛使用的正则化方法之一。
Spielberg_1·2023-09-03 01:06

R语言随机波动模型SV：马尔可夫蒙特卡罗法MCMC、正则化广义矩估计和准最大似然估计上证指数收益时间序列|附代码数据

p=31162最近我们被客户要求撰写关于SV模型的研究报告，包括一些图形和统计输出本文做SV模型，选取马尔可夫蒙特卡罗法(MCMC)、正则化广义矩估计法和准最大似然估计法估计。
·2023-09-01 16:17

R语言随机波动模型SV：马尔可夫蒙特卡罗法MCMC、正则化广义矩估计和准最大似然估计上证指数收益时间序列|附代码数据

p=31162最近我们被客户要求撰写关于SV模型的研究报告，包括一些图形和统计输出本文做SV模型，选取马尔可夫蒙特卡罗法(MCMC)、正则化广义矩估计法和准最大似然估计法估计。
·2023-09-01 15:13

动态相对定位差分关键技术

实数解方法，有正则化方法、岭估计方法、抗差岭估计方法、阻尼方法。模糊度搜索，涉及到空间确定、搜索方法和确认准则。搜索空间中心由模糊度的实数解决定，形状大小由协方差矩阵决定。搜
信鸽爱好者·2023-09-01 15:22

机器学习和数据挖掘01- lasso regularization

概念Lasso正则化是一种线性回归中的正则化技术，旨在减少模型的复杂性并防止过拟合。
丰。。·2023-08-31 20:31

岭参数\正则化参数的选取方法

背景在最小二乘解不稳定的情况下，利用岭估计解决类似L=A*X-e的观测方程，A的阶数为m*n（m>n，rank(A)=n)，cond(A'A)数量级较大估计准则由转为其中为岭参数，目前常用岭参数确定方法包括岭迹法、L曲线法、GCV法、最小均方误差法。1、岭迹法通过取不同的岭参数，根据式得到对应的岭估计值，画出（a,X(i))的函数图像（i=1，2……m)，使得任一X（i)都趋于稳定的a值即为岭参数
芝士雪豹_cyber·2023-08-31 11:15

深度学习中的正则化(一)、参数范数惩罚

参考深度学习中的正则化-云+社区-腾讯云一、正则化没有免费午餐定理暗示我们必须在特定任务上设计性能良好的机器学习算法。我们建立一组学习算法的偏好来达到这个要求。
Wanderer001·2023-08-31 11:14

参数估计之L1-范数正则化

b站上有关优化理论的讲解，适合优化入门，会讲很多例子，并做几何解释，全程听下来压力不大。视频链接https://www.bilibili.com/video/BV1jz411q7Uo，主讲老师天津大学电气自动化与信息工程学院杨挺教授（官网个人主页http://seea.tju.edu.cn/info/1016/1526.htm）。有人整理了这个老师讲课PPThttps://mp.weixin.qq
_就是玩儿_·2023-08-31 11:43

正则化和范数

目录预备知识L0范数L1正则化L2正则化为什么参数越小越好预备知识在深度学习中，模型的参数优化可以看做最大后验估计，损失函数即为似然函数。所谓正则化，可以视为给予了模型参数估计的一个先验知识。
NeverMoreH·2023-08-31 11:42

[机器学习必知必会]正则化和范数

写在前头本文格式略微有些乱码，为不妨碍阅读，可以查看我在头条上写的原文：https://www.toutiao.com/i6650364324176986637/正则化综述机器学习中经常会在损失函数中加入正则项
TOMOCAT·2023-08-31 11:41

【混合时变参数系统参数估计算法】使用范数总和正则化和期望最大化的混合时变参数系统参数估计算法（Matlab代码实现）

欢迎来到本博客❤️❤️博主优势：博客内容尽量做到思维缜密，逻辑清晰，为了方便读者。⛳️座右铭：行百里者，半于九十。本文目录如下：目录1概述2运行结果3参考文献4Matlab代码实现1概述文献来源：本文解决了具有eXogenous输入（SARX）的开关仿射自回归模型的参数识别问题。该系统包括依赖于离散时变参数的连续域状态。此类系统的识别通常会导致非凸问题，这些问题可以作为混合整数程序来解决。然而，在
长安程序猿·2023-08-31 10:40

ResNet

然而，一方面深网络并不是直接堆叠就可以，会面临梯度消失或爆炸的问题，这个问题很大程度上被正则化输入和批量标准化层方法以及Relu激活解决，使得具有数十层的网络能够开始收敛于随机梯度下降（SGD）和反向传播
jmt330·2023-08-31 07:23

【混合时变参数系统参数估计算法】使用范数总和正则化和期望最大化的混合时变参数系统参数估计算法（Matlab代码实现）

欢迎来到本博客❤️❤️博主优势：博客内容尽量做到思维缜密，逻辑清晰，为了方便读者。⛳️座右铭：行百里者，半于九十。本文目录如下：目录1概述2运行结果3参考文献4Matlab代码实现1概述文献来源：本文解决了具有eXogenous输入（SARX）的开关仿射自回归模型的参数识别问题。该系统包括依赖于离散时变参数的连续域状态。此类系统的识别通常会导致非凸问题，这些问题可以作为混合整数程序来解决。然而，在
程序猿鑫·2023-08-30 20:01
上一页 8 9 10 11 12 13 14 15 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他