过拟合

python机器学习算法实训 - （二） 手写岭回归和lasso回归

岭回归和Lasso回归1.1什么是过拟合如图所示，在数据量不够大的情况下，如果我们使用一个高阶多项式（图中红色曲线所示），例如10阶，对目标函数（蓝色曲线）进行拟合。
印第安老斑鸠啾·2023-11-16 10:33

动手学习深度学习（总结梳理）——6.暂退法（Dropout）

目录1.理论层面重新审视过拟合2.实现Dropout2.1从0开始实现dropout2.2简洁实现dropout3.QA环节3.1为什么推理中的dropout是直接返回输入？
TheFanXY·2023-11-16 06:48

5、动手学深度学习——多层感知机：过拟合解决方法：权重衰退、丢弃法

1、权重衰退1.基础概念实际上，限制特征的数量是缓解过拟合的一种常用技术。然而，简单地丢弃特征对这项工作来说可能过于生硬。我们继续思考多项式回归的例子，考虑高维输入可能发生的情况。
辰阳星宇·2023-11-16 06:17

阿里云——算法面经

目录一面二面三面四面五面一面自我介绍讲项目，结合项目问问题数据的特征选择数据有噪声怎么办决策树、RM、GBDT、XGBoost（包括剪枝，预剪枝后剪枝好处坏处）lr到lr的损失函数深度学习防过拟合措施几种激活函数几种优化器
fpga和matlab·2023-11-15 17:31

[飞桨机器学习]Bagging算法

Bagging算法可与其他分类、回归算法结合，提高其准确率、稳定性的同时，通过降低结果的方差，避免过拟合的发生。一、简介Bagging[Breiman,1996a]是井行式集成学习方法最著名
陈千鹤·2023-11-15 17:14

NIN(Network in Network)

DeepNIN通过以上描述的多重结构实现，在分类层利用全局平均池化提高micronetwork的性能，这样更容易解释和防止过拟合。1.int
GY-赵·2023-11-15 16:13

Lasso回归和岭回归详解

当数据特征存在多重共线性，特征矩阵不满秩，或者用普通线性回归过拟合的状况时，我们需要用lasso回归或岭回归来构建模型。左边是lasso回归，右边是岭回归。
数字生命Allen·2023-11-15 15:27

DFIL: Deepfake Incremental Learning by Exploiting Domain-invariant Forgery Clues

二、研究动机1.难以获取足够新增伪造方法样本，依赖少量样本更新特征分布会造成过拟合。2.伪造检测任务存在数据不平衡问题，新增伪造方法样本远少于已知伪造方法。3.对齐新旧
二苏旧局吖·2023-11-15 13:17

小样本学习在图像识别中的挑战与突破

过拟合：由于样本少，模型容易过拟合，即在训练样本上表现良好，但在未见过的数据上表现不佳。领域差异：在小样本学习中，模型需要
matlabgoodboy·2023-11-15 12:38

label-preserving transformations

label-preservingtransformations,这是一种减少过拟合的方式。也就是在不影响图像标签的前提下，对图片进行变换，以达到数据增强的目的。
碧寒·2023-11-15 05:15

【机器学习】学习笔记01-概论

机器学习简介文章目录机器学习简介机器学习辨析深度学习与机器学习机器学习与数据挖掘机器学习与统计学习机器学习与传统编程机器学习概念适用条件挑战模型的稳定性模型的可解释性历史符号主义贝叶斯学派连接主义其他概念基本概念三要素模型策略算法归纳偏好证明机器学习的目标欠拟合和过拟合泛化误差
NRbene·2023-11-15 04:29

机器学习Class 8： 神经网络（Ⅰ）

（Ⅱ）8-5举例与直觉理解（Ⅰ）例1：AND例2：OR8-6举例与直觉理解（Ⅱ）例3：NOT例4：XNOR8-7多元分类8-1非线性假设一个非线性分类例子如下;若使用logistic回归拟合，可能导致过拟合问题
By4te·2023-11-14 05:58

ML机器学习理解

连续型有监督：有真值，数据分组：训练与测试，训练所得到的模型在实际测试值的时候会有差错，那么就应该对其进行调整，但本质原因是我们搜集到的数据无法避免的包含其他因素；另外，训练的不理想结果也是有两个：欠拟合与过拟合欠拟合
一灵一·2023-11-14 01:04

实用机器学习-学习笔记

文章目录3.5多层感知机3.5.1手动提取特征到学习特征3.5.2线性方法到多层感知机3.5.3代码实现4.2过拟合和欠拟合4.2.1模型选择4.2.2总结9.1模型调参9.1.1思考与总结9.1.2基线
雨浅听风吟·2023-11-13 18:27

论文阅读：Fast-BEV: Towards Real-time On-vehicleBird’s-Eye View Perception

4）对图像和BEV空间的数据增强(DataAugmentation)策略，以避免过拟合。5）一种多帧融合机制利用空间信息。Intr
BlueagleAI·2023-11-12 13:29

吴恩达机器学习第8-9章

吴恩达机器学习第8-9章第8章8-1非线性假设对于一个复杂的样本模型，如果用logistc回归算法的话，很容易产生过拟合，当特征数很大的时候，会使特征空间急剧膨胀，用增加特征数，来建立非线性分类器，并不是一个好做法
爱编程的西瓜·2023-11-12 13:55

个人总结：机器学习模型评估与调优 余弦相似度 余弦距离 欧氏距离 A/B测试 交叉验证 自助法 | 网格搜索 随机搜索 贝叶斯优化 过拟合欠拟合

模型评估余弦相似度对于两个向量A和B，其余弦相似度定义为，即两个向量夹角的余弦，关注的是向量之间的角度关系，并不关心绝对大小，其取值范围为[-1,1]。有着“相同时为1，正交时为0，相反时为-1”的性质。当一对文本在长度相似度很大，但内容相近时，如果使用词频或者词向量作为特征，它们在特征空间的欧氏距离通常很大；而如果使用余弦相似度的话，它们之间的夹角可能很小，因而相似度高。如果希望得到类似于距离的
yyhhlancelot·2023-11-11 22:00

数据不均衡 | 过拟合| 模型评价指标 | 分箱 | 模型融合

数据不均衡从数据角度扩大数据集数据集重采样人工产生数据样本：SMOTESMOTE算法的基本思想就是对少数类别样本进行分析和模拟，并将人工模拟的新样本添加到数据集中，进而使原始数据中的类别不再严重失衡。该算法的模拟过程采用了KNN技术，模拟生成新样本的步骤如下：采样最邻近算法，计算出每个少数类样本的K个近邻;从K个近邻中随机挑选N个样本进行随机线性插值;构造新的少数类样本;将新样本与原数据合成，产生
儒雅的晴天·2023-11-11 22:28

人工智能基础_机器学习022_使用正则化_曼哈顿距离_欧氏距离_提高模型鲁棒性_过拟合_欠拟合_正则化提高模型泛化能力---人工智能工作笔记0062

然后我们再来看一下,过拟合和欠拟合,现在,实际上欠拟合,出现的情况已经不多了,欠拟合是在训练集和测试集的准确率不高,学习不到位的情况.然后现在一般碰到的是过拟合,可以看到第二个就是,完全就把红点蓝点分开了
脑瓜凉·2023-11-11 22:19

机器学习读书笔记之11 - 岭回归 & LASSO回归

：（1）参数稳定性和精度问题如果观测数据和参数之间有比较明显的线性关系，最小二乘回归会有很小的偏倚；如果观测数据个数N远大于参数个数P时，最小二乘回归能得到较小的方差，如果N和P数量接近时，噪声会导致过拟合的产生
linolzhang·2023-11-11 17:50

循环神经网络、注意力机制、Seq2Seq、Transformer与卷积神经网络（打卡2）

一、过拟合和欠拟合接下来，我们将探究模型训练中经常出现的两类典型问题：一类是模型无法得到较低的训练误差，我们将这一现象称作欠拟合（underfitting）；另一类是模型的训练误差远小于它在测试数据集上的误差
机器小白猫·2023-11-11 10:12

机器学习——实践

过拟合的处理——Dropout过拟合的处理——Earlystopping过拟合的处理——数据增强偏差和方差编辑一、数据集划分训练集（TrainingSet）：帮助我们训练模型，简单的说就是通过训练集的数据让我们确定拟合曲线的参数
七七喝椰奶·2023-11-11 09:34

深度学习之PyTorch实战计算机视觉--深度神经网络基础

深度神经网络基础3.1监督学习和无监督学习3.1.1监督学习3.1.2无监督学习3.2欠拟合和过拟合3.2.1欠拟合3.2.2过拟合3.3后向传播3.4损失和优化3.4.1损失函数3.4.2优化函数3.5
Monday______·2023-11-11 06:25

吴恩达机器学习7-正则化

我们可以看出，若给出一个新的值使之预测，它将表现的很差，是过拟合，虽然能非常好地适应我们的训练集但在新输入变量进行预测时可能会效果不好；而中间的模型似乎最合适。在逻辑回归中也是如此：
小y同学在学习·2023-11-10 17:03

吴恩达机器学习4--正则化(Regularization)

过拟合问题看下面回归的例子第一个模型是一个线性模型，欠拟合，不能很好地适应我们的训练集；第三个模型是一个四次方的模型，过于强调拟合原始数据，而丢失了算法的本质。
吓得我泰勒都展开了·2023-11-10 17:33

吴恩达机器学习（十七）过拟合、正则化下的代价函数

文章目录1.过拟合2.正则化下的代价函数1.过拟合  包插线性回归和逻辑回归等的几种学习算法能够有效解决许多问题，但是当它们应用到某些特定的机器学习应用时，会遇到过度拟合的问题，导致它们表现欠佳。  
计算机视觉从零学·2023-11-10 17:33

欠拟合 过拟合 正则化-------吴恩达机器学习心得

欠拟合过拟合正则化模型训练过程中会出现“欠拟合”（Underfitting）“过拟合”(Overfitting)现象。
weixin_44102752·2023-11-10 17:33

吴恩达机器学习----正则化

（共18章，其中第3章“线性代数回顾”与第5章“Octava教程”的笔记就不总结了）第七章正则化(Regularization)1、过拟合的问题如果我们有非常多的特征,我们通过学习得到的假设可
huapusi·2023-11-10 17:01

吴恩达机器学习--正则化（4）

1过拟合（1）回归中的过拟合第一个模型是欠拟合，不能很好地适应训练集；第三个模型用四次方进行拟合，过于强调拟合原始数据，而丢失了预测新数据的能力。而中间的模型似乎最合适。（2）分类问题中的过拟合?
翔燕·2023-11-10 17:28

吴恩达机器学习笔记--第三周-4.解决过拟合问题

避免过拟合的方法：二、CostFunction在代价函数J中对每个参数theta加入正则化项（罚函数），从而使所有的参数变小。但是不对theta0增加正则化项。若正则化项中的系数l
Loki97·2023-11-10 17:28

机器学习（吴恩达）-5 过拟合问题及正则化

目录1.什么是过拟合？（1）过拟合介绍（2）解决过拟合可用的方法2.正则化（1）正则化介绍（2）正则化线性回归（3）正则化逻辑回归1.什么是过拟合？
音无八重·2023-11-10 17:20

吴恩达《机器学习》7-1-＞7-4:过拟合问题、代价函数、线性回归的正则化、正则化的逻辑回归模型

一、过拟合的本质过拟合是指模型在训练集上表现良好，但在新数据上的泛化能力较差。考虑到多项式回归的例子，我们可以通过几个模型的比较来理解过拟合的本质。
不吃花椒的兔酱·2023-11-10 17:18

机器学习：正则化

正则化1：为什么需要正则化在深度学习过程中容易出现过拟合的情况，就是模型在训练集上得到完全拟合，在测试集上效果很差。
fly_jx·2023-11-10 14:21

机器学习中L1正则化和L2正则化有什么区别？

1.正则化的作用机器学习中，如果参数过多，模型过于复杂，容易产生过拟合状态，故正则化的提出是为了一定程度上避免过拟合。比如，常见的L1和L2正则化。
五癫·2023-11-10 14:49

机器学习——正则化 （Regularizaiton-Regular-Regularize）

1、从使用正则化的目的角度：正则化是为了防止过拟合。我们先对该数据做线性回归，也就是左边第一张图。如果这么做，我们可以获得拟合数据的这样一条直线，但是，实际上这并不是一个很好的模型。
hapihapi~·2023-11-10 14:19

机器学习正则化

正则化作用在机器学习中，通常会在损失函数后加入正则项来防止模型过拟合。
忆南妄北·2023-11-10 14:18

[转载]什么是机器学习正则化？L1正则化？L2正则化？

机器学习中，如果参数过多，模型过于复杂，容易造成过拟合（overfit）。即模型在训练样本数据上表现的很好，但在实际测试样本上表现的较差，不具备良好的泛化能力。
江南蜡笔小新·2023-11-10 14:46

【机器学习】正则化到底是什么？

先说结论：机器学习中的正则化主要解决模型过拟合问题。如果模型出现了过拟合，一般会从两个方面去改善，一方面是训练数据，比如说增加训练数据量，另一方面则是从模型角度入手，比如，降低模型复杂度。
人工智能大讲堂·2023-11-10 14:41

Explaining and harnessing adversarial examples

Explainingandharnessingadversarialexamples----《解释和利用对抗样本》背景：早期的研究工作认为神经网络容易受到对抗样本误导是由于其非线性特征和过拟合。
今我来思雨霏霏_JYF·2023-11-10 01:30

机器学习---决策树算法梳理

决策树算法梳理任务3-决策树算法梳理1、信息论基础（熵联合熵条件熵信息增益基尼不纯度）2.决策树的不同分类算法（ID3算法、C4.5、CART分类树）的原理及应用场景3、回归树原理4、决策树防止过拟合手段
言成苟文·2023-11-09 22:54

大语言模型的关键技术（二）

训练数据：增加训练数据的规模有助于模型更好地泛化到不同的数据分布，减少过拟合，并提高模型在各种任务上的性
嗯，这是一个好名字·2023-11-09 17:45

【预测模型-ELM预测】基于遗传算法优化极限学习机预测matlab代码

简介针对变压器故障的特征,结合变压器油中气体分析法以及三比值法.提出了基于遗传算法改进极限学习机的故障诊断方法.由于输入层与隐含层的权值和阈值是随机产生.传统的极限学习机可能会使隐含层节点过多,训练过程中容易产生过拟合现象
Matlab科研辅导帮·2023-11-09 10:14

机器学习(七)模型选择

1.10.2泛化1.10.3欠拟合1.10.4过拟合1.10.5奥卡姆剃刀原则后记1.10模型选择一个模型可能有很多种情况出现，那么我们如何选择最优的模型呢？1.10.1那条曲线拟合效果是最好的？
大模型Maynor·2023-11-08 07:57

关于卷积神经网络的池化层（pooling）

了解池化层池化层又称“下采样层”或“子采样层”，池化层可以大大降低特征的维度，减少计算量，同时可以避免过拟合问题。
GarsonW·2023-11-08 06:54

美团点评｜机器学习岗｜面经（已offer）｜2023

详细介绍一个你了解的DL模型，我就介绍了YOLOv3，说到lossfunction的时候面试官说不用说了6.卷积是空间不变性还是时间不变性7.CNN网络有哪些层8.pooling分几种，分别有什么特点和作用9.解决过拟合的方法
勤奋的可乐·2023-11-07 01:19

四、机器学习基础知识：交叉验证

随机子抽样验证2、K折交叉验证3、留一法交叉验证4、自助采样验证交叉验证定义在使用某一个数据集对模型进行训练时，模型的实际训练情况会受到数据集的直接影响，且其实际训练结果是难以确定的，极有可能出现欠拟合与过拟合的情况
七层楼的疯子·2023-11-06 17:59

机器学习项目的完整流程：①数学建模、②获取数据、③数据预处理、④特征工程、⑤模型的选择、⑥模型训练、⑦模型调优、⑧模型评价、⑨模型融合、⑩上线

数据要有代表性，否则必然会过拟合。而且对于分类问题，数据偏斜不
u013250861·2023-11-06 15:01

[网络层]什么是 Dropout

因为每次都相当于在训练一个新的模型，所以可以有效避免模型发生过拟合。2、为什么要引入Dropout因为当模型比较复杂，而训练样本却较少的时候，容易发生过拟合。
LCG22·2023-11-06 07:05

近似误差和估计误差

如果近似误差小了会出现过拟合的现象，对现有的训练集能有很好的预测，但是对未知的测试样本将会出现较大偏差的预测。模型本身不是最接近最佳模型。估计误差：可以理解为对测试集的测试误差。
truezqx·2023-11-06 02:37

深度学习-tensorflow 使用keras进行深度神经网络训练

也可能无法收敛，本文介绍使用keras进行深度神经网络训练的加速技巧，包括解决梯度消失和爆炸问题的策略（参数初始化策略、激活函数策略、批量归一化、梯度裁剪）、重用预训练层方法、更快的优化器算法，以及使用正则化避免过拟合的算法
毛飞龙·2023-11-06 01:08
上一页 5 6 7 8 9 10 11 12 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他