L1-L2范数

LASSO回归损失函数详解

LASSO是基于回归系数的一范数，Ridge是基于回归系数的二范数的平方。
刘根生·2022-11-27 08:19

NNDL 实验七 循环神经网络（2）梯度爆炸实验

目录6.2梯度爆炸实验6.2.1梯度打印函数【思考】什么是范数，什么是L2范数，这里为什么要打印梯度范数？
captainMo_11·2022-11-27 05:50

NNDL 实验七 循环神经网络（2）梯度爆炸实验

目录6.2梯度爆炸实验6.2.1梯度打印函数6.2.2复现梯度爆炸现象6.2.3使用梯度截断解决梯度爆炸问题【思考】什么是范数，什么是L2范数，这里为什么要打印梯度范数？
HBU_fangerfang·2022-11-27 03:27

张量以及函数

张量张量模态Khatri-Rao积（KR积）numpy.trace(a,offset=0,axis1=0,axis2=1,dtype=None,out=None)np.linalg.norm(求范数)RuntimeWarning
qq_37637914·2022-11-27 01:17

15-奇异值分解

奇异值分解1-奇异值分解的定义与性质1.1定义1.2紧奇异值分解1.3截断奇异值分解1.4几何解释2-奇异值分解与矩阵近似2.1弗罗贝尼乌斯范数2.2矩阵的最优近似2.3矩阵的外积展开导读：奇异值分解singularvaluedecomposition-SVD
Alexa2077·2022-11-26 18:49

压缩感知学习总结及Matlab代码实现

目录前言一、压缩感知基本原理二、代码仿真1.CVX工具箱求解L1范数2.CVX学习视频3.仿真实现三、重点参考前言压缩感知（CompressiveSensing,CS）与传统的香农采样定理（奈奎斯特采样定理
code_Joe123·2022-11-26 15:48

CNN的Python实现——第二章：线性分类器

2.2.3代码实现2.3优化2.4梯度下降法2.4.1梯度的解析意义2.4.2梯度的几何意义2.4.3梯度的物理意义2.4.4梯度下降法代码实现2.5牛顿法2.6机器学习模型统一结构2.7正则化2.7.1范数正则化
晴晴_Amanda·2022-11-26 13:28

NNDL 实验七 循环神经网络（2）梯度爆炸实验

文章目录前言6.2.1梯度打印函数【思考】什么是范数，什么是L2范数，这里为什么要打印梯度范数？
别被打脸·2022-11-26 13:32

动手学深度学习day-two

动手学深度学习day-two过拟合、欠拟合及其解决方案模型选择、过拟合和欠拟合训练误差和泛化误差模型选择验证数据集K折交叉验证过拟合和欠拟合模型复杂度训练数据集大小权重衰减方法L2范数正则化（regularization
__y__·2022-11-26 07:19

PyTorch学习笔记1——基本概念、模块简介、张量操作、自动微分

、基础介绍1.1PyTorch简介：1.2静态图和动态图1.3pytorch主要模块二、张量2.1.张量的创建方式2.2张量类型和维度2.3张量的存储设备2.4索引和切片2.5函数运算、排序sort、范数
神洛华·2022-11-25 23:55

pytorch学习笔记4-张量操作

1.概览张量的合并张量的运算张量的数值计算张量的范数张量的高阶操作2.张量的合并#cata1=torch.rand(4,3,32,32)a2=torch.rand(5,3,32,32)torch.cat
倾夏而醒·2022-11-25 23:54

NNDL 实验七 循环神经网络（2）梯度爆炸实验

文章目录6.2梯度爆炸实验6.2.1梯度打印函数【思考】什么是范数，什么是L2范数，这里为什么要打印梯度范数？
牛奶园雪梨·2022-11-25 23:52

Lasso回归系列三：机器学习中的L0, L1, L2, L2,1范数

L0,L1,L2,L2,1范数机器学习中的范数定义不同于数学中的定义。
咻咻咻哈·2022-11-25 23:11

Lasso回归系列二：Lasso回归/岭回归的原理

比如1、L1范数(L1-norm)等值线一定会和平方误差项等值线相交于某一坐标轴吗？2、Lasso回归只能用平方和误差作为损失吗，换成交叉熵可以吗？3、除了L1-norm，L2-norm，还有没有别的
咻咻咻哈·2022-11-25 23:33

NLP相关知识点问答总结（三）

不同点：1：L1正则化(L1范数,Lass
金色麦田~·2022-11-25 12:39

NNDL 实验七 循环神经网络（2）梯度爆炸实验

NNDL实验七循环神经网络（2）梯度爆炸实验6.2梯度爆炸实验6.2.1梯度打印函数【思考】什么是范数，什么是L2范数，这里为什么要打印梯度范数？
Perfect(*^ω^*)·2022-11-25 10:36

HBU-NNDL 实验七 循环神经网络（2）梯度爆炸实验

目录6.2梯度爆炸实验6.2.1梯度打印函数【思考】什么是范数，什么是L2范数，这里为什么要打印梯度范数？
不是蒋承翰·2022-11-25 10:28

NNDL 实验七 循环神经网络（2）梯度爆炸实验

6.2梯度爆炸实验6.2.1梯度打印函数【思考】什么是范数，什么是L2范数，这里为什么要打印梯度范数？
刘先生TT·2022-11-25 07:58

Pytorch 之torch.nn进阶第3关：距离函数

([[1.1,2.2],[2.93,3.8]]))target=Variable(torch.Tensor([[1,2],[3,4]]))#/**********Begin*********/#创建一范数的变量
OnlyForBetter·2022-11-25 05:25

torch.nn

##规范化（Normalization）：通常指将一个向量除以其范数，比如采用欧式空间距离，则用向量的方差作为范数来规范化向量。
Monte0539·2022-11-25 05:23

图像处理-基于图像梯度L0范数最小化(L0smooth)的保护边缘平滑滤波

算法程序备注：(1)下面是对一幅自然图像进行处理的结果：可以看到图像有非常明显的变化，图像分成了一块一块，这是图像平滑后的结果，因为保护了边界，因此明显的边界仍然存在，但是不可避免的细节部分被磨平，这是平滑处理的导致的结果，当然如果将参数λ调低的话，会出现更多的细节，但是这里为了更好地展示平滑的效果，因此将参数λ调的比较高，梯度个数被限制在比较少的数个数，因此图像非常的平滑(2)从局部以及全局看图
GaryinDeep·2022-11-25 04:57

一、深度学习之线性代数（基础篇）

每个元素是不同坐标轴上的坐标；矩阵：二维数组，有两个索引；张量：坐标超过两维的数组，例：；矩阵转置：以主对角线为轴的镜像，其实是把两个索引颠倒一下，组成新的矩阵；矩阵与向量相乘C=AB标准乘积不是指两个矩阵中对应元素的乘积范数
冬二四·2022-11-24 23:22

线性代数（关于机器学习、深度学习）

线性代数（关于机器学习、深度学习）一.向量、矩阵、张量向量：一维的矩阵：二维的张量：三维及三维以上二.向量与矩阵运算1.向量运算2.范数3.矩阵运算三.矩阵的逆和伪逆1.逆2.伪逆四.行列式五.二次型与正定性六
qq_28368825·2022-11-24 23:15

深度学习之线性代数

sina长度|a|=a/-a|a+b|=0||a+b||<=||a||+||b||||a*b||=||a||||b||向量点乘正交（向量垂直）：矩阵简单操作C=A+BC=α*B(α是标量)C=sinA长度(范数
Summerke123·2022-11-24 23:10

【深度学习（deep learning）】花书第二章 线性代数 读书笔记

【深度学习（deeplearning）】花书第二章线性代数读书笔记第二章线性代数【深度学习（deeplearning）】花书第二章线性代数读书笔记前言一、基本概念二、矩阵运算三、特殊矩阵与向量四、范数五
1000110011111101010100101111101·2022-11-24 22:41

深度学习笔记--线性代数，概率论，数值计算

目录线性代数范数L2L1Frobenius范数特殊类型的矩阵和向量特征分解eigendecomposition奇异值分解SVD概率论概率分布条件概率（conditionalprobability）期望、
iwill323·2022-11-24 22:37

lyb深度学习学习笔记第一章：线性代数

一.线性代数相关概念：标量、向量、矩阵、张量转置、广播、点乘、乘积单位向量、正交、标准正交单位矩阵、对角矩阵、对称矩阵、正交矩阵、方阵、奇异阵线性空间、生成子空间、线性无关范数、最大范数、Frobenius
bingoing1996·2022-11-24 22:35

基于matlab的球形译码的理论原理和仿真结果,对比2norm球形译码,无穷范数球形译码,ML检测

目录1.算法描述2.仿真效果预览3.MATLAB部分代码预览4.完整MATLAB程序1.算法描述多输入多输出（MIMO）系统通过使用考虑了时间和频率资源，多个用户，多个天线和其他资源的多个维度，可以增强通信系统的性能。在提高性能的同时，由于检测问题是NP-Complete，因此这些系统在检测方面提出了困难的计算挑战，并且对具有多项式复杂度的次优解决方案的需求也在不断增长。机器学习领域的最新进展，特
我爱C编程·2022-11-24 22:31

pytorch入门学习笔记

形式创建Tensor操作pytorch维度变换操作View＆reshapeSqueeze＆unsqueezeExpandrepeat矩阵的转置Broadcasting(自动扩展)拼接与拆分基本运算统计属性求范数返回最大元素的索引返回
丶夜未央丶·2022-11-24 20:53

NNDL 实验七 循环神经网络（2）梯度爆炸实验

NNDL实验七循环神经网络（2）梯度爆炸实验6.2梯度爆炸实验6.2.1梯度打印函数【思考】什么是范数，什么是L2范数，这里为什么要打印梯度范数？
叶雨柳光·2022-11-24 20:43

NNDL 实验七 循环神经网络（2）梯度爆炸实验

NNDL实验七循环神经网络（2）梯度爆炸实验6.2梯度爆炸实验6.2.1梯度打印函数【思考】什么是范数，什么是L2范数，这里为什么要打印梯度范数？
笼子里的薛定谔·2022-11-24 17:03

【动手学深度学习】暂退法（Dropout）（PyTorch从零开始实现源代码）

Dropout）一、重新审视过拟合二、扰动的稳健性三、实践中的暂退法四、从零开始实现4.1数据和函数准备4.2定义模型参数4.3训练和测试4.4源代码五、简洁实现上一节中，我们介绍了通过惩罚权重的L2L_2L2范数来正则化统计模型的经典方法
旅途中的宽~·2022-11-24 16:30

Goodfellow深度学习笔记--神经网络架构

Multinoulli输出分布的softmax单元MixtureGaussianDistribution总结隐藏单元架构设计更深层的好处反向传播梯度链式法则仿射层sigmoidsoftmax正则化参数范数惩罚
iwill323·2022-11-24 14:21

python画损失函数图_Pytorch十九种损失函数的使用详解

损失函数通过torch.nn包实现，1基本用法criterion=LossCriterion()#构造函数有自己的参数loss=criterion(x,y)#调用标准时也有参数2损失函数2-1L1范数损失
weixin_39947812·2022-11-24 13:38

机理类模型的建模思路｜2021年亚太赛B题｜2022备赛｜前景目标提取

目录一、前景目标提取问题1.背景目标和前景目标提取2.问题一2.2问题一求解3.问题二4.问题三5.问题四6.问题五7.问题六8.矩阵范数二、前景目标提取——机理总结三、编程实现一、前景目标提取问题1.
睡觉特早头发特多·2022-11-24 11:43

Mathtype如何打印花体L1-norm

前言在论文中常能看到如下表示范数的方式：那么，其中的L1符号该如何用Mathtype打印出来呢？
飘然的小泽·2022-11-24 11:39

暂退法（Dropout）

我们介绍了通过惩罚权重的L2范数来正则化统计模型的经典方法。在概率角度看，我们可以通过以下论证来证明这一技术的合理性：我们已经假设了一个先验，即权重的值取自均值为0的高斯分布。
Sonhhxg_柒·2022-11-24 02:12

【python与数据分析】Numpy数值计算基础——补充

标准差7.行列扩展8.常用变量9.矩阵在不同维度上的计算10.应用（1）使用蒙特·卡罗方法估计圆周率的值（2）复利计算公式三、计算特征值与正特征向量四、计算逆矩阵五、求解线性方程组六、计算向量和矩阵的范数七
数据人的自我救赎·2022-11-24 02:28

数值分析——基本题型总结

1.求绝对误差限、相对误差限和有效数字2.列主元Gauss消去法求解方程组3.向量范数和矩阵范数4.最小二乘法求拟合曲线-----------------------------------------
时代&信念·2022-11-24 01:40

【动手学深度学习】权重衰减（含Pytorch从零开始实现的源代码）

目录：权重衰减一、理论知识二、高维线性回归的实现步骤2.1准备数据2.2初始化模型参数2.3定义L2L_2L2范数惩罚2.4定义训练代码实现2.5是否加入正则化2.5.1忽略正则化2.5.2加入正则化三
旅途中的宽~·2022-11-23 17:05

深度学习之循环神经网络（7）梯度裁剪

深度学习之循环神经网络（7）梯度裁剪1.张量限幅2.限制范数3.全局范数裁剪梯度弥散 梯度爆炸可以通过梯度裁剪（GradientClipping）的方式在一定程度上的解决。
炎武丶航·2022-11-23 17:54

神经网络与深度学习（七）循环神经网络（2）梯度爆炸实验

目录6.2梯度爆炸实验6.2.1梯度打印函数【思考】什么是范数，什么是L2范数，这里为什么要打印梯度范数？
Jacobson Cui·2022-11-23 16:35

NNDL 实验七 循环神经网络（2）梯度爆炸实验

目录6.2梯度爆炸实验6.2.1梯度打印函数【思考】什么是范数，什么是L2范数，这里为什么要打印梯度范数？
AI-2 刘子豪·2022-11-23 16:05

深度学习 | 《深度学习》“花书”知识点笔记

文章目录深度学习第一章前言第一部分应用数学与机器学习基础第二章线性代数2.1标量，向量，矩阵和张量2.2矩阵和向量相乘2.3单位矩阵和逆矩阵2.4线性相关和生成子空间2.5范数2.6特殊类型的矩阵和向量
JUST LOVE SMILE·2022-11-23 13:49

【动手学深度学习v2李沐】学习笔记07：权重衰退、正则化

模型选择、欠拟合和过拟合文章目录一、权重衰退1.1硬性限制1.2柔性限制（正则化）1.3参数更新法则1.4总结二、代码实现2.1从零开始实现2.1.1人工数据集2.1.2模型参数2.1.3L2L_2L2范数惩罚
鱼儿听雨眠·2022-11-23 12:57

【学习笔记】深刻理解L1和L2正则化

深刻理解L1和L2正则化学习视频：BV1Z44y147xA、BV1gf4y1c7Gg、BV1fR4y177jPup主：王木头学科学L1、L2正则化即使用L1、L2范数来规范模型参数。
咸鱼不垫底·2022-11-23 12:56

（11）学习笔记：动手深度学习（权重衰退）

权重衰退一、理论基础二、从零开始实现2.0数据生成2.1初始化模型参数2.2定义L2范数惩罚2.3定义训练代码实现2.4忽略正则化直接训练2.5使用权重衰减三、简洁实现四、小结五、问题一、理论基础二、从零开始实现
卡拉比丘流形·2022-11-23 12:51

【笔记】动手学深度学习-权重衰退

权重衰退相关理解权重衰减等价于范数正则化（regularization）下图是通过看吴恩达老师机器学习做的笔记：总的来说正则化就是为了避免过拟合而在loss函数后面加上一项正则项作为惩罚项从而降低过拟合
echo_gou·2022-11-23 12:42

深度学习——权重衰退L2正则化（笔记）

1使用均方范数作为硬性限制①通过限制参数值的范围控制模型容量在优化loss的时候上限制。因为如果训练数据差异过大，w的差异也很大。来限制w，也就限制了过拟合。
jbkjhji·2022-11-23 12:35

机器学习和深度学习中，L2正则化为什么能防止过拟合？

则过拟合；与傅里叶变换类似，高频的部分表示细节，尽量减少高频部分的影响；傅里叶级数也是，高阶表示细节；当阶数较高时，在不降低拟合结果的前提下，降低高阶项的系数；高阶部分的系数会很小，但不一定是0，所以用0-范数不合适
ysh1026·2022-11-23 10:55
上一页 14 15 16 17 18 19 20 21 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他