损失函数

170基于matlab的DNCNN图像降噪

网络学习的是图像残差，也就是带噪图像和无噪图像差值，损失函数采用的MSE。程序已调通，可直接运行。170matlabDNCNN图像降噪处理(xiaohongshu.com)
顶呱呱程序·2024-02-25 23:06

变分自编码器（VAE）PyTorch Lightning 实现

本文目录VAE简介基本原理应用与优点缺点与挑战使用VAE生成MNIST手写数字忽略警告导入必要的库设置随机种子cuDNN设置超参数设置数据加载定义VAE模型定义损失函数定义Lightning模型训练模型绘制训
小嗷犬·2024-02-20 21:06

【机器学习案例5】语言建模 - 最常见的预训练任务一览表

SSL中的损失函数这里的损失函数只是模型训练的各个预训练任务损失的加权和。
suoge223·2024-02-20 20:05

无法收敛问题

1、权重的初始化方案有问题2、正则化过度3、选择不合适的激活函数、损失函数4、选择了不合适的优化器和学习速率5、训练epoch不足
yizone·2024-02-20 19:55

通俗的讲解什么是机器学习之损失函数

在这个游戏中，损失函数可以看作是测量你的箭簇与靶心距离的规则。损失函数的值越小，意味着你的箭簇离靶心越近，你的射击技能越好。
华农DrLai·2024-02-20 19:18

【面经——《广州敏视数码科技有限公司》——图像处理算法工程师-深度学习方向】

损失函数有哪些？优缺点
有情怀的机械男·2024-02-20 15:30

神经网络权重初始化

权重是可训练的参数，意味着它们会在训练过程中根据反向传播算法自动调整，以最小化网络的损失函数。每个神经元接收到的输入信号会与相应的权重相乘，然后所有这些乘积会被累加在一起，最后可能还会加
诸神缄默不语·2024-02-20 06:49

深度学习之反向传播算法（backward()）

该方法对网络中所有权重计算损失函数的梯度。这个梯度会反馈给最优化方法，用来更新权值以最小化损失函数。
Tomorrowave·2024-02-20 01:27

机器学习中为什么需要梯度下降

在机器学习中，梯度下降是一种常用的优化算法，用于寻找损失函数的最小值。我们可以用一个简单的爬山场景来类比梯度下降的过程。假设你被困在山上，需要找到一条通往山下的路。
华农DrLai·2024-02-19 23:16

精通PyTorch：如何选择合适的优化器和损失函数

精通PyTorch：如何选择合适的优化器和损失函数引言PyTorch优化器概览PyTorch损失函数解析高级优化技巧优化器和损失函数的实战应用1.卷积神经网络（CNN）的应用实例2.循环神经网络（RNN
walkskyer·2024-02-19 16:38

OLMo论文里的模型结构的小白解析

attentionheads为32训练的token量为2.46T训练策略超参数在我们的硬件上优化训练吞吐量，同时最小化损失峰值和缓慢发散的风险来选择超参数损失峰值：在机器学习中，"损失峰值"通常指的是训练过程中损失函数的值突然增加到非常高的水平
瓶子好亮·2024-02-19 14:08

Huber loss

一种用于回归模型的损失函数，和mse相比，对outliers更不敏感。当残差较小时，损失函数是残差的二次方；当残差较大时，损失函数和残差是线性关系。
poteman·2024-02-15 02:06

如何使用pytorch自动求梯度

构建深度学习模型的基本流程就是：搭建计算图，求得损失函数，然后计算损失函数对模型参数的导数，再利用梯度下降法等方法来更新参数。
浩波的笔记·2024-02-14 23:47

吴恩达机器学习—大规模机器学习

学习大数据集数据量多，模型效果肯定会比较好，但是大数据也有它自己的问题，计算复杂如果存在100000000个特征，计算量是相当大的，在进行梯度下降的时候，还要反复求损失函数的偏导数，这样一来计算量更大。
魏清宇·2024-02-14 21:14

（Ridge， Lasso） Regression

岭回归岭回归的损失函数MSE+L2岭回归还是多元线性回归y=wTx只不过损失函数MSE添加了损失项w越小越好？
王金松·2024-02-14 15:56

机器为什么能学习(上)

我们说机器学习算法是可行的，是指它的损失函数值很小。比如在回归问题里，我们的目标是让我们用更为数学化的语言表述这件事情：首先定义一下本文需要用到的数学符号我们让本质上就是要使得足够小且。
ringotc·2024-02-13 21:16

机器学习入门--多层感知机原理与实践

反向传播是指通过计算损失函数对网络参数进行梯度
Dr.Cup·2024-02-13 13:37

机器学习入门--BP神经网络原理与实践

BP算法的核心思想是通过计算损失函数相对于网络参数的梯度，然后利用这些梯度信息来更新网络的权重和偏置，从而最小化误差。数学原理BP算法的数学原理基于链式法则计算梯度。考虑一个简单的两层神经
Dr.Cup·2024-02-13 13:37

深度学习中的前向传播和反向传播

反向传递就是计算每个参数的梯度，然后用于最小化损失函数。在深度学习中，"forward"通常指前向传播（forwardpropagation），也称为前馈传递。
处女座_三月·2024-02-13 07:56

《零基础实践深度学习》波士顿房价预测任务1.3.3.5 总结

net.b)总结本节我们详细介绍了如何使用Numpy实现梯度下降算法，构建并训练了一个简单的线性模型实现波士顿房价预测，可以总结出，使用神经网络建模房价预测有三个要点：构建网络，初始化参数w和b，定义预测和损失函数的计算方
软工菜鸡·2024-02-13 06:36

回归预测模型：MATLAB岭回归和Lasso回归

岭回归通过在损失函数中添加一个L2正则项（λ∑j=1nβj2\lambda\sum_{j=1}^{n}\beta_j^2λ∑j=1nβj2）来减小回归系数的大小，从而控制模型的复杂度和防止过拟合。
抱抱宝·2024-02-13 06:01

交叉熵损失函数基本概念及公式

Cross-EntropyLoss1.二分类2.对于多类别分类问题，其公式可以表示为：3.公式深度挖掘解释——交叉熵损失函数公式中（log）的解释总结交叉熵损失函数（Cross-EntropyLoss）
小桥流水---人工智能·2024-02-12 16:03

交叉熵损失函数（Cross-Entropy Loss）的基本概念与程序代码

交叉熵损失函数（Cross-EntropyLoss）是机器学习和深度学习中常用的损失函数之一，用于分类问题。
小桥流水---人工智能·2024-02-12 16:31

机器学习入门之基础概念及线性回归

任务目录什么是Machinelearning学习中心极限定理，学习正态分布，学习最大似然估计推导回归Lossfunction学习损失函数与凸函数之间的关系了解全局最优和局部最优学习导数，泰勒展开推导梯度下降公式写出梯度下降的代码学习
StarCoder_Yue·2024-02-12 11:01

为什么深度学习模型很难找到局部最优？

而在训练过程中，我们需要制定一个损失函数，使训练过程中的函数值“最小”。这时候，我们可以把该损失函数看做一个目标函数。从优化的思路上来讲，我们尽可能地降低训练误差就是最小化这个目标函数的过程。
蔡逸超·2024-02-12 11:30

《零基础实践深度学习》波士顿房价预测任务1.3.3.4训练过程

《零基础实践深度学习》基于线性回归实现波士顿房价预测任务1.3.3-CSDN博客1.3.3.4训练过程上述计算过程描述了如何构建神经网络，通过神经网络完成预测值和损失函数的计算。
软工菜鸡·2024-02-12 10:14

2-2 动手学深度学习v2-损失函数-笔记

损失函数，用来衡量预测值和真实值之间的区别。是机器学习里面一个非常重要的概念。
Alkali！·2024-02-12 03:44

人工智能深度学习入门指南

1.了解深度学习基本概念在开始深度学习之前，你需要了解一些基本概念，如神经网络、激活函数、损失函数、反向传播等。这些概念是深度学习的基
白猫a~·2024-02-11 23:00

YOLOv5改进 | 融合改进篇 | 华为VanillaNet + BiFPN突破涨点极限

这个主干是一种注重极简主义和效率的神经网络我也将其进行了实验，其中的BiFPN不用介绍了从其发布到现在一直是比较热门的改进机制，其主要思想是通过多层级的特征金字塔和双向信息传递来提高精度，我将其融合在一起，大家可以复制过去在其基础上配合我的损失函数
Snu77·2024-02-11 18:40

9、神经网络 三：学习与评价

目录9.1梯度检验9.2清醒检查9.3照看学习过程9.3.1损失函数9.3.2训练/评估精度9.3.3权重：更新率9.3.4每一层的激活/梯度分布9.4.5可视化9.4参数更新9.4.1一阶（SGD），
qxdx.org·2024-02-11 18:03

在CE和MSE损失函数中使用置信度的方法

以下是在一个半监督情景中weak_output_ul为弱扰动出来的logits,strong_output_ul为强扰动出来的logits两者尺寸都可看作[8,2,256,256]CE:weak_x_ul=self.encoder(A_ul,B_ul)weak_output_ul=self.main_decoder(weak_x_ul)weak_targets=F.softmax(weak_out
UndefindX·2024-02-11 14:50

GBDT--梯度提升树

目录一梯度提升树的基本思想1梯度提升树pkAdaBoost2GradientBoosting回归与分类的实现二梯度提升树的参数1迭代过程1.1初始预测结果0的设置1.2使用回归器完成分类任务1.3GBDT的8种损失函数
吓得我泰勒都展开了·2024-02-11 14:40

梯度提升树系列7——深入理解GBDT的参数调优

叶子节点的最小样本数（min_samples_leaf）1.5特征选择的比例（max_features）1.6最小分裂所需的样本数（min_samples_split）1.7子采样比例（subsample）1.8损失函数
theskylife·2024-02-11 14:40

deep learning update error loss = nan

对于分类问题，学习率太高会导致模型「顽固」地认为某些数据属于错误的类，而正确的类的概率为0（实际是浮点数下溢），这样用交叉熵就会算出无穷大的损失函数。
xyq_learn·2024-02-11 14:52

吴恩达机器学习—正则化

过拟合可能对现有数据拟合效果较好，损失函数值几乎为零，但是不能进行泛化时，即不适于非训练集的其他数据。如何解决过拟合问题特征变量过多造成过拟合绘制假设模型图像，但当特征变量变多时，绘制很困难。
魏清宇·2024-02-11 09:55

深度学习入门--参数的优化算法

假设模型参数为θ\thetaθ，损失函数为J(θ)J(\theta)J(θ)，损失函数关于参数的偏导数，也就是梯度为▽θJ(θ)\triangledown_\thetaJ(\theta)▽θJ(θ)，学习率为
我只钓小鱼·2024-02-11 03:53

【机器学习笔记】回归算法

回归算法文章目录回归算法1线性回归2损失函数3多元线性回归4线性回归的相关系数1线性回归回归分析(Regression)回归分析是描述变量间关系的一种统计分析方法例：在线教育场景因变量Y：在线学习课程满意度自变量
住在天上的云·2024-02-10 17:19

如何通过极大似然估计 MLE Maximum Likelihood Estimation 获得 交叉熵 Cross Entropy 以及 均方损失函数 Mean Square Loss ？

似然函数定义以及极大似然估计MLE(完成)---------------------------------------------------------------------------------------start注意：P(A|B)并不总是等于P(B|A)，原因如下：首先要明白一个事情，什么是似然函数？以下是CHATGPTMathSolver的回答：我自己解释一下，意思就是：观察到一组
shimly123456·2024-02-10 13:43

神经网络（Nature Network）

最近接触目标检测较多，再此对最基本的神经网络知识进行补充，本博客适合想入门人工智能、其含有线性代数及高等数学基础的人群观看1.构成由输入层、隐藏层、输出层、激活函数、损失函数组成。
栉风沐雪·2024-02-10 07:14

MATLAB实现岭回归数学建模算法

岭回归通过在损失函数中添加一个正则化项，即岭项（Ridgeterm），来解决多重共线性问题。正则化项的引入有助于限制模型参数的大小，防止它们过度膨胀。岭回归的优化目标是最小化损失函数和正
AI Dog·2024-02-10 06:00

Tensorflow2.0 对自己的图片数据集进行分类

文章目录项目介绍数据集网络模型代码实现1、导入需要的库2、定义图像加载和预处理函数3、定义构造Dataset数据集函数4、构造Dataset数据集5、构建网络6、初始化优化器和损失函数7、定义损失函数8
cofisher·2024-02-09 19:30

吴恩达机器学习笔记（2）

损失函数的理解：所谓最大似然估计，就是我们想知道哪套参数组合对应的曲线最可能拟合我们观测到的数据，也就是该套参数拟合出观测数据的概率最大，而损失函数的要求是预测结果
python小白22·2024-02-09 18:11

统计学习方法笔记之决策树

决策树学习的损失函数通常是正则化后极大似然函数，学习的算法通常是一个递归的选择最优特征，并根据该特征对训练数据进行分割，使得对各个子数据集有一个最好的分类的过程。
Aengus_Sun·2024-02-09 17:51

mathtype输入latex的花体，如L，I，O等

3、直接在mathtype输入即可以下是几个常用的例子：mathcal——花体、书法字体（calligraphy）损失函数L\mathcalLL：$\mathcalL$时间复杂度O\mathcalOO：
DK数据工作室·2024-02-09 06:32

深度学习中的激活函数、损失函数、优化算法

深度学习中的激活函数、损失函数、优化算法DL小将激活函数sigmoidtanhrelugelusoftmax损失函数分类问题常用的损失函数回归问题常用的损失函数优化算法随机梯度下降SGDAdam牛顿法DL
Chealkeo·2024-02-08 23:33

物理信息神经网络（PINN）: 将物理知识融合到深度学习中

物理信息神经网络（PINN）:将物理知识融合到深度学习中物理信息神经网络（PINN）简介PINN的工作原理PINN模型如何利用物理法则指导模型训练1.定义物理问题和相应的物理定律2.构建神经网络3.定义损失函数数据误差项
kadog·2024-02-08 07:19

机器学习 | 一文看懂SVM算法从原理到实现全解析

目录初识SVM算法SVM算法原理SVM损失函数SVM的核方法数字识别器(实操)初识SVM算法支持向量机（SupportVectorMachine，SVM）是一种经典的监督学习算法，用于解决二分类和多分类问题
亦世凡华、·2024-02-07 21:19

机器学习5-线性回归之损失函数

在线性回归中，我们通常使用最小二乘法（OrdinaryLeastSquares,OLS）来求解损失函数。线性回归的目标是找到一条直线，使得预测值与实际值的平方差最小化。
dracularking·2024-02-07 21:17

机器学习-梯度下降法

不是一个机器学习算法是一种基于搜索的最优化方法作用：最小化一个损失函数梯度上升法：最大化一个效用函数并不是所有函数都有唯一的极值点解决方法：多次运行，随机化初始点梯度下降法的初始点也是一个超参数代码演示
小旺不正经·2024-02-07 11:56

机器学习-线性回归法

线性回归算法解决回归问题思想简单，实现容易许多强大的非线性模型的基础结果具有很好的可解释性蕴含机器学习中的很多重要思想样本特征只有一个，称为：简单线性回归通过分析问题，确定问题的损失函数或者效用函数通过最优化损失函数或者效用函数
小旺不正经·2024-02-07 10:44
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他