正则化特征选择

决策树算法

决策树特征选择贷款决策佩戴隐形眼镜决策决策树算法的优缺点决策树（DecisionTree）是一种常用的机器学习算法，它通过对数据集进行分割来实现分类或回归。
写进メ诗的结尾。·2023-12-19 06:18

【机器学习】线性模型-logistic 回归

一、逻辑（logistic）回归原理1.1逻辑回归的数学原理1.2logistic回归的L2正则化原问题1.3逻辑回归的L2正则化原问题使用可信域牛顿法求解1.4logistic回归L2正则化的对偶问题
十年一梦实验室·2023-12-19 05:49

notes2

机器学习ROC曲线、AUC、PR曲线等决策树，ID3、C4.5、CART决策树，随机森林、Adaboost、GBDT决策树，XGBoost、LightGBM逻辑回归，L1L2正则化熵，KL散度，交叉熵micro-f1
lym94·2023-12-18 14:53

社交网络分析4：社交网络链路预测分析、LightGBM框架、Logistic回归模型、LLSLP方法（LightGBM 堆叠链路预测）、正则化方法、多重共线性、堆叠泛化

社交网络分析4写在最前面社交网络链路预测分析概述链路预测分析简介链路预测分析的重要性社交网络链路预测分析方法基于网络结构的方法基于节点属性的方法基于随机游走的方法基于深度学习的方法基于相似性和基于似然性的链路预测方法基于相似性的方法基于邻居的方法基于路径的方法基于随机游走的方法基于似然估计的方法两类方法的优缺点LLSLP方法（逻辑斯蒂回归LightGBM堆叠链路预测）方法概述逻辑斯蒂回归模型防止过
是Yu欸·2023-12-18 09:07

暂退法(丢弃法)

在深度学习中，丢弃法（Dropout）是一种常用的正则化技术，旨在减少模型的过拟合现象，可能会比之前的权重衰减(WeightDecay)效果更好。
奉系坤阀·2023-12-18 08:37

权重衰减(Weight Decay)

在深度学习中，权重衰减（WeightDecay）是一种常用的正则化技术，旨在减少模型的过拟合现象。权重衰减通过向损失函数添加一个正则化项，以惩罚模型中较大的权重值。
奉系坤阀·2023-12-18 08:37

模型选择与评估

1.怎么样让模型表现更好使用更多的训练样本减少特征数量增加特征数量增加多项式特征降低正则化程度λ增强正则化程度λ如何选用这些手段需要我们对模型进行测试与评估，答案会在最后一小节给出2测试集的引入在学习时我们常常会通过上课和刷题来提高对知识的掌握能力
搁浅丶.·2023-12-18 07:15

11、基于多任务Lasso的联合特征选择

11、基于多任务Lasso的联合特征选择importmatplotlib.pyplotaspltimportnumpyasnpfromsklearn.linear_modelimportMultiTaskLasso
凌晨思索·2023-12-18 07:15

机器学习基础：用 Lasso 做特征选择

在很多项目，尤其是特征选择中都会见到他的影子。Lasso给简单线性回归加了L1正则化，可以将不重要变量的系数收缩到0，从而实现了特征选择。
统计学家·2023-12-18 06:24

机器学习 | 决策树 Decision Tree

——分而治之，逐个击破把特征空间划分区域每个区域拟合简单模型分级分类决策1、核心思想和原理举例：特征选择、节点分类、阈值确定2、信息嫡熵本身代表不确定性，是不确定性的一种度量。
西皮呦·2023-12-18 06:38

正则化实战( Lasso 套索回归,Ridge 岭回归)

Lasso套索回归导入包importnumpyasnpfromsklearn.linear_modelimportLassofromsklearn.linear_modelimportSGDRegressor,LinearRegression原方程的计算结果#1.创建数据集X，yX=2*np.random.rand(100,20)w=np.random.rand(20,1)b=np.random.
阿龙的代码在报错·2023-12-18 01:17

《深度学习500问》外链笔记

1.这个是什么意思2.核函数3.公式理解4.L1和L2正则L1和L2正则化是机器学习中常用的两种正则化技术，它们通过在损失函数中添加一个惩罚项来防止模型过拟合。这两种技术的主要区别在于惩罚项的形式。
Vincent不是文森特·2023-12-18 00:33

逻辑回归正则化

逻辑回归正则化在处理具有多个特征且特征可能共线性（即特征之间高度相关）的数据集特别有用。下面用一个例子说明什么是正则化：假设你在厨房准备一顿饭，你的目标是做出美味又不过分油腻的菜肴。
ShawnWeasley·2023-12-17 17:46

深度学习 | MATLAB Deep Learning Toolbox convolution3dLayer 网络设定

MATLABDeepLearningToolboxconvolution3dLayer网络设定目录深度学习|MATLABDeepLearningToolboxconvolution3dLayer网络设定convolution3dLayer属性设定三维卷积参数参数及初始化学习率和正则化三维网络层参考资料致谢
机器学习之心·2023-12-17 15:33

3.1.2.3L2范数正则化

与L1范数正则化略有不同的是，L1范数正则化则在原优化目标的基础上，增加了参数向量的L2范数的惩罚项，为了使新优化目标最小化，这种正则法的结果会让参数向量中的大部分元素都变得很小，压制了参数之间的差异性
idatadesign·2023-12-17 14:25

机器学习 | 过拟合与正则化、模型泛化与评价指标

一、过拟合与正则化1、多项式逼近思想任何函数都可以用多项式来表示。举个栗子~比如说泰勒公式若要拟合sinx，泰勒认为仿造一条曲线，首先要保证在原点重合，之后在保证在这个点处的倒数相同，导数的倒数相同。
西皮呦·2023-12-17 08:03

GEE机器学习——利用kNN分类器器方法进行土地分类和精度评定

2.特征选择：根据问题的特点
此星光明·2023-12-16 14:43

回归预测 | MATLAB实现IWOA-LSTM改进鲸鱼算法算法优化长短期记忆神经网络的数据回归预测（多指标，多图）

IWOA-LSTM改进鲸鱼算法算法优化长短期记忆神经网络的数据回归预测（多指标，多图）效果一览基本介绍程序设计参考资料效果一览基本介绍1.多特征输入单输出，回归预测，优化参数为：学习率，隐藏层节点数，正则化参数
机器学习之心·2023-12-16 14:34

Regularization——正则化

1.过拟合问题这是使用不同的模型根据房子的大小对于房价的预测第一张图的模型距离数据点的平均距离仍然比较大，拟合效果并不是特别好，也叫欠拟合（underfitting）第二张图的模型对于训练集数据的拟合的不错，也能预测数据的趋势，这是我们需要的模型第三张图的模型拐来拐去，甚至的拟合了训练集的每一个数据点，损失函数接近于0，但如果给一个新的数据，它的效果是很差的，这种模型是过拟合（overfittin
搁浅丶.·2023-12-16 12:03

【深度学习】机器学习概述（一）机器学习三要素——模型、学习准则、优化算法

==1.0-1损失函数2.平方损失函数（回归问题）3.交叉熵损失函数（Cross-EntropyLoss）4.Hinge损失函数b.风险最小化准则1.经验风险最小化2.过拟合问题3.结构风险最小化4.正则化项的选择
QomolangmaH·2023-12-16 08:10

An Overview of Cross-media Retrieval: Concepts, Methodologies, Benchmarks and Challenges 笔记

CommonSpaceLearning1.传统的统计相关分析方法统计相关分析方法具体介绍统计相关分析方法优缺点2.基于深度学习DNN的方法基于DNN的方法摘要基于DNN的方法总结以及优缺点3.跨模态图正则化的方法图正则化的相关方法图正则化的优缺点
wwweiyx·2023-12-16 06:10

Course2-Week3-使用机器学习的建议

Week3-使用机器学习的建议1.拆分原始训练集1.1如何改进模型1.2二拆分：训练集、测试集1.3三拆分：训练集、验证集、测试集2.避免高偏差和高方差2.1使用训练误差和验证误差进行分析2.2选择合适的正则化参数
虎慕·2023-12-16 01:13

机器学习算法---回归

2.岭回归（RidgeRegression）原理：在线性回归的基础上加入L2正则化项。这
数据科学知识库·2023-12-15 18:19

（八）弹性网络---ElasticNet

一、原理及简介弹性网络.png二、什么是L2正则化和L1正则化原理及作用：https://blog.csdn.net/liuweiyuxiang/article/details/99984288三、弹性网络预测天池项目代码导包
羽天驿·2023-12-15 17:02

三种决策树算法

ID3ID3算法在特征选择时，使用的指标是信息增益（InformationGain），信息增益是基于熵（entropy）的概念，熵是用来衡量数据集中的不确定性或纯度的一个指标。
NLP_wendi·2023-12-15 15:14

机器学习——特征预处理

sklearn提供了preprocessing模块，用于归一化、标准化、鲁棒化、正则化等数据预处理。
风月雅颂·2023-12-15 13:56

机器学习初学-多种集成学习算法

而随机森林还在树分叉时，增加了对特征选择的随机性。随机森林在很多问题上都是一个很强的算法，可以作为一个基准。如果
O&REO·2023-12-15 13:26

AI训练师常用的ChatGPT通用提示词模板

特征工程：如何进行特征选择和特征工程？超参数调整：如何调整训练过程中的超参数？模型训练：如何进行模型的训练？模型评估：如何评估模型的性能？模型调优：如何优化模型的性能？
BTCKing·2023-12-15 06:49

《论文阅读》用于情绪回复生成的情绪正则化条件变分自动编码器 Affective Computing 2021

《论文阅读》用于情绪回复生成的情绪正则化条件变分自动编码器前言简介模型结构实验结果总结前言今天为大家带来的是《Emotion-RegularizedConditionalVariationalAutoencoderforEmotionalResponseGeneration
365JHWZGo·2023-12-15 01:06

吴恩达《机器学习》12-1:优化目标

这包括设计特征、选择正则化参数等因素，这些在不同水平的实践者之间可能表现出截然不同的效果。
不吃花椒的兔酱·2023-12-14 22:34

正则化的概念

正则化的概念与用处正则化：也叫规范化，在神经网络里主要是对代价函数高次项添加一些惩罚，防止其过拟合，相当于对某些特征的权重施加惩罚，降低其影响权重，防止过拟合。
DJ.马·2023-12-06 14:27

分类树模型的特征选择

对于决策树模型（包括基于决策树的RF和GBDT），都有如下函数：dt=DecisionTreeClassifier()dt.feature_importances_feature_importances_打印的为各个特征的重要程度
王金松·2023-12-06 11:06

YOLOv4学习笔记（2）——训练策略

目录数据增强：Mosaic数据增强:自对抗训练（SAT）：CmBN（Crossmin-batchNormalization）策略：Dropblock正则化：损失函数：BoundingBoxRegeressionLoss
猪不爱动脑·2023-12-06 10:19

分类预测 | Matlab实现OOA-CNN-SVM鱼鹰算法优化卷积支持向量机分类预测

鱼鹰算法优化卷积支持向量机分类预测分类效果基本描述程序设计参考资料分类效果基本描述1.Matlab实现OOA-CNN-SVM鱼鹰算法优化卷积支持向量机分类预测（完整源码和数据)2.优化参数为：学习率，批量处理大小，正则化参数
机器学习之心·2023-12-06 10:12

深度学习之网络优化与正则化

视频链接：7.1神经网络优化的特点_哔哩哔哩_bilibili神经网络优化的特点网络优化的难点（1）网络结构差异大：不同模型之间的结构差异大——没有通用的优化算法、超参数多（2）非凸优化问题：导致得到的最优解可能是全局最优解——参数如何初始化、如何逃离局部最优或鞍点（3）梯度消失和爆炸问题：当网络非常深时，靠下的层的参数的梯度要么接近0，要么非常大，十分难优化高维空间中的非凸优化问题低维空间中的非
__如果·2023-12-06 10:42

利用github copilot完成代码，利用正则化完成字符串中信息查找

利用正则化完成字符串中的字符拆解。下面的代码是实现在“计算机组成原理-计科2101-123456-小明同学.docx”中提取出班级（grade），学号（id），姓名（name）。
wenying_44323744·2023-12-06 01:59

【深度学习笔记】09 权重衰减

09权重衰减范数和权重衰减利用高维线性回归实现权重衰减初始化模型参数定义L2L_2L2范数惩罚定义训练代码实现忽略正则化直接训练使用权重衰减权重衰减的简洁实现范数和权重衰减在训练参数化机器学习模型时，权重衰减
LiuXiaoli0720·2023-12-06 00:18

python机器学习

1.3特征工程1.3.1特征抽取1.3.1.1字典特征提取：类别->one-hot编码1.3.1.2文本特征抽取1.3.2特征预处理1.3.2.1归一化1.3.2.2标准化1.3.3特征降维1.3.3.1特征选择
FF_y·2023-12-05 20:52

微调Fine tune

网络架构一个神经网络一般可以分为两块特征抽取将原始像素变成容易线性分割的特征线性分类器来做分类微调：使用之前已经训练好的特征抽取模块来直接使用到现有模型上，而对于线性分类器由于标号可能发生改变而不能直接使用训练是一个目标数据集上的正常训练任务，但使用更强的正则化使用更小的学习率使用更小的数据迭代源数据集远复杂于目标数据
你不困我困·2023-12-05 18:55

深度学习训练 tricks（持续更新）

文章目录weightdecayweightdecay是什么weightdecay与L2正则化作用WarmupDroppathdroppath计算方法如何将droppath加入你的模型？
Cleo_Gao·2023-12-05 02:30

正则化方法：L1和L2、regularization、数据集扩增、dropout

正则化方法：防止过拟合、提高泛化能力在训练数据不够时，或者overtraining时，常常会导致overfitting（过拟合）。
遇见百分百·2023-12-04 05:21

10 分钟解释 StyleGAN

（2018）出现后，GAN需要大量的正则化，并且无法产生今天所熟知的令人惊
无水先生·2023-12-04 03:02

Andrew Ng ML(4)——过拟合&正则化

1.减少特征（人工或者用算法）2.正则化（可以保留所有特征）正则化overview:加入惩罚项（其实就是使某些θ趋于0）解决过拟合问题（使h函数图形更加平滑）Q：实际运用中，不清楚需要对哪些进行正则化，
tmax·2023-12-04 02:50

吴恩达《机器学习》10-4-10-5:诊断偏差和方差、正则化和偏差/方差

一、诊断偏差和方差在机器学习中，诊断偏差和方差是改进模型性能的关键步骤。通过了解这两个概念，能够判断算法的问题究竟是欠拟合还是过拟合，从而有针对性地调整模型。1.概念理解偏差（Bias）：表示模型对于训练数据的拟合程度。高偏差意味着模型过于简单，无法捕捉数据的复杂性，导致欠拟合。方差（Variance）：表示模型对于训练数据的敏感程度。高方差意味着模型过于复杂，几乎完美地适应训练数据，但在未见过的
不吃花椒的兔酱·2023-12-03 22:30

基于Intel Ai Analytics Toolkit 及边缘计算的溶氧预测水产养殖监测方案

优化系统方案前言一、关键需求及方案概述二、方案设计预测机制LSTM模型基于intelAI的时序水质分析模型与分类模型优化三、实战分析1、方案简述2、数据分析预处理特征类型处理特征分布分析3、特征构造4、特征选择过滤法重要性排序
木斯佳·2023-12-03 07:56

人工智能学习5(特征抽取)

代码实现鸢尾花数据集无监督特征抽取有监督特征抽取(之LDA)代码实现,生成自己的数据集并进行有监督特征抽取(LDA)生成自己的数据集PCA降维和LDA降维对比代码实现LDA降维对鸢尾花数据进行特征抽取特征抽取特征选择和特征抽取都减少了数据的维度
yyuanse·2023-12-03 07:53

算法工程师面试八股（搜广推方向）

偏差与方差LayerNormalization和BatchNormalizationSVM数据不均衡特征选择排序模型树模型进行特征工程的原因GBDTLR和GBDTRF和GBDTXGBoost二阶泰勒展开优势为什么快防止过拟合处理缺失值树停止生长条件处理不平衡数据树剪枝选择最佳分裂点
贪钱算法还我头发·2023-12-03 03:29

层规范化（Layer Normalization）和正则化（Regularization）

层规范化（LayerNormalization）和正则化（Regularization）是两个不同的概念，尽管它们都在机器学习和深度学习中非常重要，但它们的目的和应用方式有所不同。
Zqchang·2023-12-03 02:11

逻辑回归与正则化 逻辑回归、激活函数及其代价函数

逻辑回归、激活函数及其代价函数线性回归的可行性对分类算法，其输出结果y只有两种结果{0，1}，分别表示负类和正类，代表没有目标和有目标。在这种情况下，如果用传统的方法以线性拟合（hθ(x)=θTX）（h_θ(x)=θ^TX）（hθ(x)=θTX），对于得到的函数应当对y设置阈值a，高于a为一类，低于a为一类。对于分类方法，这种拟合的方式极易受到分散的数据集的影响而导致损失函数的变化，以至于对于特定
小小程序○·2023-12-02 22:33

逻辑回归 正则化

正则化过拟合问题对于模型，如果一个模型对于数据的偏差很大，不能能够很好的拟合数据的分布，称为欠拟合，或者说这个算法具有高偏差的特性。
小小程序○·2023-12-02 22:33
上一页 4 5 6 7 8 9 10 11 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他