SOFTMAX

深度学习入门之2--神经网络

目录1神经网络初解2激活函数及实现2.1初识激活函数2.1激活函数类型及实现2.1.1阶跃函数及实现2.1.2sigmoid函数及实现2.1.3Relu函数及实现2.1.4恒等函数和softmax函数及实现
梦灯·2024-01-13 13:06

感知机、多层感知机、激活函数sigmoid

以前回归输出的是实数，softmax回归输出的是概率。多层感知机多层感知机可以拟合XOR函数。一个函数实现不了，再来一个函数，组合多个函数。
你若盛开，清风自来！·2024-01-12 21:07

深度学习剖根问底：Logistic回归和Softmax回归

1．简介逻辑回归和Softmax回归是两个基础的分类模型，虽然听名字以为是回归模型，但实际我觉得他们也有一定的关系。
BigCowPeking·2024-01-12 17:57

PaddleSeg学习4——paddle模型使用TensorRT推理（c++）

paddle模型使用TensorRT推理1模型末端添加softmax和argmax算子2paddle模型转onnx模型3onnx模型转TensorRT模型3.1安装TensorRT-8.5.3.13.2
waf13916·2024-01-12 14:34

深度学习（一）深层神经网络的搭建【附实例代码】

深层神经网络文章目录深层神经网络1.MNIST数据集2.多分类问题2.1softmax2.2交叉熵3.数据加载4.搭建网络并训练前面一篇我们简要介绍了神经网络的一些基本知识，同时也是示范了如何用神经网络构建一个复杂的非线性二分类器
AutoFerry·2024-01-12 00:03

神经网络中的激活函数sigmoid tanh ReLU softmax函数

神经网络中的激活函数sigmoidtanhReLUsoftmax函数人工神经元简称神经元，是构成神经网络的基本单元，其中主要是模拟生物神经元的结构和特性，接收一组输入信号并产生输出。
oceancoco·2024-01-11 08:56

竞赛保研 基于深度学习的植物识别算法 - cnn opencv python

文章目录0前言1课题背景2具体实现3数据收集和处理3MobileNetV2网络4损失函数softmax交叉熵4.1softmax函数4.2交叉熵损失函数5优化器SGD6最后0前言优质竞赛项目系列，今天要分享的是
iuerfee·2024-01-11 07:49

torch.nn.CrossEntropyLoss()

,ignore_index=-100,reduce=None,reduction='mean',label_smoothing=0.0)计算过程nn.CrossEntropyLoss()=nn.LogSoftmax
一壶浊酒..·2024-01-10 10:36

Softmax回归

目录1.Softmax回归的从零开始实现2.softmax回归的简洁实现对重新审视softmax的实现的思考：对交叉熵损失函数的思考：小批量随机梯度下降算法的理解：1.Softmax回归的从零开始实现importtorchfromIPythonimportdisplayfromd2limporttorchasd2l
sendmeasong_ying·2024-01-10 06:54

09 Softmax回归+损失函数+图片分类数据集

Softmax回归1.回归估计一个连续值，分类预测一个离散类别2.MNIST:手写数字识别；ImageNet:自然物体分类置信度可以定义为,在特定条件下,根据一定数据做出正确抉择的概率。
sendmeasong_ying·2024-01-10 06:53

softmax详解

在神经网络中，Softmax是一个用于多类别分类的激活函数。给定一个包含原始分数（未经处理的模型输出）的向量，Softmax将这些分数转化为表示概率分布的向量。
天一生水water·2024-01-10 00:06

keras 例子

基于多层感知机的softmax分类fromkeras.modelimportSequentialfromkeras.layresimportDense,Dropout,Activationfromkeras.optimizersimportSGD
Liam_ml·2024-01-09 18:50

softmax回归+损失函数

本文章借鉴李沐老师动手深度学习,只作为个人笔记.3.4.softmax回归—动手学深度学习2.0.0documentation(d2l.ai)文章目录前言一、回归vs分类二、分类问题独热编码(One-HotEncoding
笔写落去·2024-01-08 13:42

经典论文之（三）——Transformer

目录绪论背景模型架构编码器解码器注意力层ScaledDot-ProductAttentionMulti-HeadAttentionPosition-wiseFeed-ForwardNetworks--前馈神经网络EmbeddingsandSoftmaxPositionalEncoding
维斯德尔·2024-01-08 12:41

小白学习深度学习之（二）——softmax回归

softmax回归什么是softmax回归分类问题网络架构全连接层的参数开销softmax运算图像分类数据集softmax回归的简洁实现初始化模型参数损失函数优化算法训练什么是softmax回归回归可以用于预测多少的问题
维斯德尔·2024-01-08 12:10

小白学习深度学习之（三）——多层感知机

mlp隐藏层从线性到非线性通用近似定理多层感知机的简洁实现模型K折交叉验证泛化误差、训练误差、欠拟合、过拟合权重衰减暂退法(Dropout)在学习完线性回归和softmax回归后，我们开始对深度神经网络的的探索
维斯德尔·2024-01-08 12:10

FLatten Transformer：聚焦式线性注意力模块

线性注意力将Softmax解耦为两个独立的函数，从而能够将注意力的计算顺序从(query·key)·value调整为query·(key·value)，使得总体的计算复杂度降低为线性。
我菜就爱学·2024-01-08 10:28

师傅领进门之6步教你跑通一个AI程序！

内容提纲：环境搭建了解Tensorflow运行机制MNIST(手写数字识别)softmax性线回归MNIST深度卷积神经网络（CNN）t
weixin_30915275·2024-01-08 09:19

深度学习｜7.8 softmax回归

当出现多类的时候，就需要考虑使用softmax回归。也就是说要使得输出结果符合概率且各种概率之和为1.176.3算是一个总数。softmax层相当于将输出进行归一化，使得模型输出X为各种情况的概率。
晓源Galois·2024-01-08 07:47

机器学习周报第九周

目录摘要Abstract一、循环神经网络1.存在的问题二、RNN的应用三、transformer3.1seq2seq四、线性模型五、softmax回归总结摘要RNN通过引入门控机制（如LSTM和GRU）
Ramos_zl·2024-01-08 06:02

深度学习 基本理论 3 ：之物体检测（Anchor base/NMS/softmax/损失函数/BCE/CE/zip

1、Anchorbase和Anchorfree1.1AnchorbaseAnchorbase，译为基于锚点的一个物体检测方法，也可以叫做基于一组预定义的框模型会预测每个锚点是否存在对象，并预测需要对锚点进行的调整以更好地适应该对象Anchorbase物体检测方法：FastR-CNN、SSD、YOLO、RetinaNet1.2AnchorFreeAnchorFree，无锚点方法则不依赖于预定义的锚点
机器学习杨卓越·2024-01-07 23:13

sigmoid softmax优化

1.前言最近在搞模型部署发现，推理速度不能满足我们需求，于是最近学习了优化算子技巧，学到了sigmoid，softmax算子优化，真的数学之美。
鲤鱼不懂·2024-01-07 22:40

深度学习

PyTorch初级教程PyTorch深度学习开发环境搭建全教程深度学习bug笔记深度学习基本理论1：（MLP/激活函数/softmax/损失函数/梯度/梯度下降/学习率/反向传播/深度学习面试）深度学习基本理论
机器学习杨卓越·2024-01-07 19:14

深入理解Word Embeddings：Word2Vec技术与应用

）的假设2.3One-hot向量编码2.4分类问题3Skip-gram模型3.1Skip-gram模型简介3.2目标词预测上下文3.3词语关联性的捕捉4优化Word2Vec模型的方法4.1负采样和分层softmax4.2
cooldream2009·2024-01-07 11:52

手搓没有softmax 的gpt

手搓没有softmax的gpt代码解析代码代码importpandasaspdfromtqdmimporttqdmimportnumpyasnpimportpaddle#classFeedForward
东方佑·2024-01-07 09:25

一个实例让你初识图像卷积

2.卷积层,与一维一样,把它当成一种运算就好理解了3.图像中目标的边缘检测五.学习由X生成Y的卷积核总结前言在学习卷积神经网络之前我们已经了解了线性神经网络,这里我们简单回顾一下,从我们的线性回归,,softmax
笔写落去·2024-01-07 07:25

竞赛保研 基于深度学习的中文情感分类 - 卷积神经网络 情感分类 情感分析 情感识别 评论情感分类

文章目录1前言2情感文本分类2.1参考论文2.2输入层2.3第一层卷积层：2.4池化层：2.5全连接+softmax层：2.6训练方案3实现3.1sentence部分3.2filters部分3.3featuremaps
iuerfee·2024-01-06 20:30

54、Softmax 分类器以及它的底层原理

下面开始介绍最后一个算法softmax。在前面介绍全连接算法或其他文章中，或多或少也提到了softmax。在分类网络里，softmax的作用主要是将模型的原始输出映射到0~1之间的概率分布。
董董灿是个攻城狮·2024-01-06 17:18

55、交叉熵损失函数和softmax

上一节介绍了softmax函数，这里插一篇关于损失函数的介绍，看一看softmax和损失函数是如何结合的。在很多分类任务中，损失函数使用的是交叉熵损失。
董董灿是个攻城狮·2024-01-06 17:47

Vgg和AlexNet学习笔记

AlexNetAlexNet包含8层，其中有五层卷积和三层全连接层，最后一个全连接层的输出传递给softmax层，对应1000个类标签的分布第一层中的卷积核大小是11×11，接着第二层中的是5×5，之后都是
juicybone·2024-01-06 12:33

【机器学习】损失函数(Loss Function)全总结(2023最新整理)关键词：Logistic、Hinge、Exponential、Modified Huber、Softmax、L1、L2正则化

目录一、定义二、损失函数1.回归损失函数1.1平方损失函数（quadraticlossfunction）1.2绝对（值）损失函数（absolutelossfunction）1.3对数损失函数（logarithmiclossfunction）1.4Huber损失(huberloss)1.5图像对比-优缺点2.分类损失函数2.10-1损失函数（0-1lossfunction）2.2对数似然损失函数（L
daphne odera�·2024-01-05 15:57

神经网络的核心：帮助新手理解 PyTorch 非线性激活函数

目录torch.nn子函数非线性激活详解nn.SoftminSoftmin函数简介函数工作原理参数详解使用技巧与注意事项示例代码nn.SoftmaxSoftmax函数简介函数工作原理参数详解使用技巧与注意事项示例代码
E寻数据·2024-01-05 07:10

Modeling Trajectories with Recurrent Neural Networks阅读准备知识

1.softmax函数：我认为是将输入转化为输出的一个巧妙的函数...link：http://blog.csdn.net/hejunqing14/article/details/489803212.权重的第二范式
FD_Rookie·2024-01-04 14:45

二分类任务、多分类任务、多标签分类任务、回归任务的代码实现上的区别和联系

实现方式2：使用两个输出节点和Softmax激活函数，通常使用CrossEntropyLoss。多分类任务：使用与类别数相等的输出节点和Softmax激活，损失函数是
马鹏森·2024-01-02 23:32

2020-02-19

经过5天的学习，非常开心对整个知识有了较大的收获，从最初的线性回归，softmax与分类模型，多层感知机，到学习初步的卷积神经网络，leNet网络，为解决神经网络训练中的过拟合、欠拟合和梯度消失爆炸，都进行了详细的代码实现
ninghc·2024-01-02 16:50

pytorch实现线性回归、softmax分类、多层感知器分类学习笔记

手动实现的pytorch知识点:一、定义变量（Tensor对象）1、torch.ones、torch.zeros、torch.randn等函数2、通过torch.tensor将numpy变量转换为torch的tensor变量二、Tensor对象的重要属性和方法1、requires_grad属性，为True时充当tensorflow中的Variable，为False时充当tensorflow中的pl
平常心_85d9·2024-01-02 00:47

图像分割实战-系列教程5：unet医学细胞分割实战3（医学数据集、图像分割、语义分割、unet网络、代码逐行解读）

医学细胞分割实战2下篇内容：unet医学细胞分割实战45、损失函数类importtorchimporttorch.nnasnnimporttorch.nn.functionalasFtry:fromLovaszSoftmax.pytorch.lovasz
机器学习杨卓越·2023-12-31 23:49

cnn pytorch实现（从获取数据到训练模型)

从获取数据到训练模型)1、导入必要包2、获取数据3、数据处理1、生成张量2、数据装载3、数据预处理4、定义模型0、nn.Sequential容器1、卷积2、激活3、最大池化4、全连接层5、Dropout层6、softmax
小白学习记录·2023-12-31 18:19

softmax函数

参考一文详解Softmax函数-知乎(zhihu.com)https://zhuanlan.zhihu.com/p/105722023什么是softmaxSoftmax从字面上来说，可以分成soft和max
全是头发的羊羊羊·2023-12-31 05:31

神经网络分类与回归任务

分类任务输出层一般使用Softmax，回归任务可以使用线性激活函数。损失函数：分类任务常用交叉熵损失函数（Cross-Entropy），回归任务可以使用均方误差（MSE）等。优化器：常见的有梯度下降
不做梵高417·2023-12-30 10:04

刘二大人《PyTorch深度学习实践》p9多分类问题

刘二大人《PyTorch深度学习实践》p9多分类问题一、零碎知识点1.LongTensor长整形张量2.transform结构及用法二、预备知识1.Softmax激活函数2.NLLLoss损失函数3.CrossEntropyLoss
失舵之舟-·2023-12-30 05:03

pytorch机器学习各种激活函数总结（不完整学习更新中~）

pytorch各种激活函数总结0.思维导图预览1.ReLU函数2.Sigmoid函数3.Softmax函数4.Tanh函数5.
失舵之舟-·2023-12-30 05:57

基于Hierarchical Softmax的模型

本节开始正式介绍word2vec中用到的两个重要模型——CBOW模型（ContinuousBag-of-Words）和Skip-gram模型（ContinuousSkip-gram）。由图8、9可见，两个模型都包含三层：输入层、投影层和输出层。CBOW是在已知当前词wtw_{t}wt的上下文wt−2,wt−1,wt+1,wt+2w_{t-2},w_{t-1},w_{t+1},w_{t+2}wt−2
Avada__Kedavra·2023-12-29 14:16

深度学习入门（python）考试速成之Softmax-with-Loss层

softmax函数：交叉熵误差（CrossEntropyError层）：这里的表示以为底数的自然对数，即，即。
北辰Charih·2023-12-28 21:34

卷积神经网络 反向传播

误差的计算softmax经过softmax处理后所有输出节点概率和为1损失（激活函数）多分类问题：输出只可能归于某一个类别，不可能同时归于多个类别。
pythonSuperman·2023-12-28 17:43

Transfomer重要源码解析：缩放点击注意力，多头自注意力，前馈网络

该机制的核心在于先计算查询和所有键的点积，然后进行缩放处理，应用softmax函数得到最终的注意力权重，最后用这些权重对值进行加权求和。源码解析
hadiii·2023-12-28 00:19

深度学习入门python考试速成：神经网络之前向传播

一般地，回归问题可以使用恒等函数，二元分类问题可以使用sigmoid函数，多元分类问题可以使用softmax函数。
北辰Charih·2023-12-27 13:44

sheng的学习笔记-【中】【吴恩达课后测验】Course 4 -卷积神经网络 - 第四周测验

A.【 】只需要给出一个人的图片就可以让网络认识这个人B.【 】为了解决一次学习的问题C.【 】这可以让我们使用softmax函数来学习预测一个人的身份，在这个
coldstarry·2023-12-27 01:42

43、实战 - 手写一个 batch norm 算法

在resnet50这个神经网络中，总共有conv,bn,relu,pooling,fc(全连接）,softmax这几个经典算法。
董董灿是个攻城狮·2023-12-24 23:21

阅读笔记-PRECISE ADJACENT MARGIN LOSS FOR DEEP FACE RECOGNITION

问题：首先，在以往的损失函数中提到的“边际”是Softmax决策边界之间的边际，它不代表训练集中不同类别之间的真实的边际；其次，以往的损失函数对所有可能的类对组合施加了边界，这是不必要的。
蜡笔小祎在线学习·2023-12-23 15:24
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他