Tanh激活函数

RNN LSTM语言模型 ——RNN

的结构RNN的缺点ref:https://blog.csdn.net/jizhidexiaoming/article/details/81743584梯度消失梯度爆炸梯度消失：一句话，RNN梯度消失是因为激活函数
jenye_·2023-09-22 14:05

pytorch学习3（pytorch手写数字识别练习）

网络模型设置三层网络，一般最后一层激活函数不选择relu任务步骤手写数字识别任务共有四个步骤：1、数据加载--LoadData2、构建网络--BuildModel3、训练--Train4、测试--Test
dyh_chd·2023-09-22 11:24

目标检测YOLO实战应用案例100讲-基于改进YOLOv5的口罩人脸检测（续）

目录3.4Hardswish激活函数3.5数据集3.6实验结果及分析4基于口罩人脸检测网络模型的
林聪木·2023-09-22 09:39

计算机竞赛 深度学习+opencv+python实现车道线检测 - 自动驾驶

文章目录0前言1课题背景2实现效果3卷积神经网络3.1卷积层3.2池化层3.3激活函数：3.4全连接层3.5使用tensorflow中keras模块实现卷积神经网络4YOLOV56数据集处理7模型训练8
Mr.D学长·2023-09-21 20:51

计算机竞赛 深度学习+python+opencv实现动物识别 - 图像识别

文章目录0前言1课题背景2实现效果3卷积神经网络3.1卷积层3.2池化层3.3激活函数：3.4全连接层3.5使用tensorflow中keras模块实现卷积神经网络4inception_v3网络5最后0
Mr.D学长·2023-09-21 20:51

python毕业设计 深度学习昆虫识别系统 -图像识别 opencv

文章目录0前言1课题背景2具体实现3数据收集和处理3卷积神经网络2.1卷积层2.2池化层2.3激活函数：2.4全连接层2.5使用tensorflow中keras模块实现卷积神经网络4MobileNetV2
kooerr·2023-09-21 20:20

大数据毕设项目 深度学习+opencv+python实现昆虫识别 -图像识别 昆虫识别

文章目录0前言1课题背景2具体实现3数据收集和处理3卷积神经网络2.1卷积层2.2池化层2.3激活函数：2.4全连接层2.5使用tensorflow中keras模块实现卷积神经网络4MobileNetV2
caxiou·2023-09-21 20:50

【毕设选题】深度学习+opencv+python实现昆虫识别 -图像识别 昆虫识别

文章目录0前言1课题背景2具体实现3数据收集和处理3卷积神经网络2.1卷积层2.2池化层2.3激活函数：2.4全连接层2.5使用tensorflow中keras模块实现卷积神经网络4MobileNetV2
caxiou·2023-09-21 20:50

【毕业设计】深度学习昆虫识别系统 - 图像识别 opencv python

文章目录0前言1课题背景2具体实现3数据收集和处理3卷积神经网络2.1卷积层2.2池化层2.3激活函数：2.4全连接层2.5使用tensorflow中keras模块实现卷积神经网络4MobileNetV2
caxiou·2023-09-21 20:19

计算机竞赛 深度学习+opencv+python实现昆虫识别 -图像识别 昆虫识别

文章目录0前言1课题背景2具体实现3数据收集和处理3卷积神经网络2.1卷积层2.2池化层2.3激活函数：2.4全连接层2.5使用tensorflow中keras模块实现卷积神经网络4MobileNetV2
Mr.D学长·2023-09-21 20:46

Sigmoid 函数

前言Sigmoid函数（Logistic函数）是神经网络中非常常用的激活函数，我们今天来深入了解一下Sigmoid函数。
我是任玉琢·2023-09-21 16:15

深度学习修炼（二）全连接神经网络 | Softmax，交叉熵损失函数 优化AdaGrad，RMSProp等 对抗过拟合 全攻略

文章目录1多层感知机（全连接神经网络）1.1表示1.2基本概念1.3必要组成—激活函数1.4网络结构设计2损失函数2.1SOFTMAX操作2.2交叉熵损失函数3优化3.1求导计算过于复杂？
Qodi·2023-09-21 16:26

深度学习入门---多层感知机，过拟合和欠拟合，梯度消失和梯度爆炸

MultilayerPerceptron）也叫人工神经网络（ANN，ArtificialNeuralNetwork），除了输入输出层，它中间可以有多个隐层，最简单的MLP只含一个隐层，即三层的结构，如下图：ImageName激活函数需要具备以下几点性质
一只当归·2023-09-21 11:39

【深度学习实验】前馈神经网络（三）：自定义多层感知机（激活函数logistic、线性层算Linear）

目录一、实验介绍二、实验环境1.配置虚拟环境2.库版本介绍三、实验内容0.导入必要的工具包1.构建数据集2.激活函数logistic3.线性层算子Linear4.两层的前馈神经网络MLP5.模型训练一、
QomolangmaH·2023-09-21 07:12

3. 非线性回归和逻辑回归（pytorch）

文章目录1.非线性回归1.1激活函数1.2人工神经网络2.逻辑回归上节看点：线性回归1.非线性回归在生活中大多数的现象都不是线性的，而且更加复杂的曲线或曲面，我们拟合的函数也就不再是直线或者平面。
张怼怼√·2023-09-21 01:28

基于遗传算法改进的BP神经网络图像分割，BP神经网络基本原理，遗传算法流程，

目录BP神经网络的原理BP神经网络的定义BP神经网络的基本结构BP神经网络的神经元BP神经网络的激活函数，BP神经网络的传递函数遗传算法的原理及步骤基于遗传算法改进BP神经网络的二分类代码效果图结果分析展望完整代码和数据下载
神经网络机器学习智能算法画图绘图·2023-09-20 22:32

计算机视觉与深度学习-全连接神经网络-激活函数- [北邮鲁鹏]

文章目录基础知识为什么需要非线性操作（激活函数）？
古董a·2023-09-20 18:06

【深度学习实验】前馈神经网络（二）：使用PyTorch实现不同激活函数（logistic、tanh、relu、leaky_relu）

目录一、实验介绍二、实验环境1.配置虚拟环境2.库版本介绍三、实验内容0.导入必要的工具包1.定义激活函数logistic(z)tanh(z)relu(z)leaky_relu(z,gamma=0.1)
QomolangmaH·2023-09-20 08:48

手刻 Deep Learning -第壹章 -PyTorch教学-激励函数与感知机入门（上）

一、前言本文接续前篇教学Pytorch与线性回归，本文着重在ActivationFunction（中文称激励函数），我们会介绍激励函数（也有人称激活函数？激发函数？）
无水先生·2023-09-20 01:08

小白入门深度学习 | 3-2：激活函数activation

文章目录一、什么是激活函数二、激活函数的种类1.sigmoid2.Tanh3.ReLU4.LReLU5.PReLU6.RReLU7.ELU8.Swish9.hswish三、激活函数的选择四、激活函数相关问题一
K同学啊·2023-09-19 23:15

循环神经网络解决文本分类问题

卷积网络的输入只有输入数据X，而循环神经网络除了输入数据X之外，每一步的输出会作为下一步的输入，如此循环，并且每一次采用相同的激活函数和参数。
Vic·Tory·2023-09-19 18:29

计算机竞赛 深度学习 python opencv 火焰检测识别

文章目录0前言1基于YOLO的火焰检测与识别2课题背景3卷积神经网络3.1卷积层3.2池化层3.3激活函数：3.4全连接层3.5使用tensorflow中keras模块实现卷积神经网络4YOLOV54.1
Mr.D学长·2023-09-19 17:49

计算机竞赛 深度学习 python opencv 实现人脸年龄性别识别

文章目录0前言1项目课题介绍2关键技术2.1卷积神经网络2.2卷积层2.3池化层2.4激活函数：2.5全连接层3使用tensorflow中keras模块实现卷积神经网络4Keras介绍4.1Keras深度学习模型
Mr.D学长·2023-09-19 17:48

激活函数总结（三十八）：激活函数补充(PDELU、CosLU)

激活函数总结（三十八）：激活函数补充1引言2激活函数2.1PDELU激活函数2.2CosLU激活函数3.总结1引言在前面的文章中已经介绍了介绍了一系列激活函数(Sigmoid、Tanh、ReLU、LeakyReLU
sjx_alo·2023-09-19 16:54

激活函数总结（三十七）：激活函数补充(PAU、DELU)

激活函数总结（三十七）：激活函数补充1引言2激活函数2.1Padé激活函数2.2DELU激活函数3.总结1引言在前面的文章中已经介绍了介绍了一系列激活函数(Sigmoid、Tanh、ReLU、LeakyReLU
sjx_alo·2023-09-19 16:53

激活函数总结（三十六）：激活函数补充(ARiA、m-arcsinh)

激活函数总结（三十六）：激活函数补充1引言2激活函数2.1ARiA激活函数2.2modifiedarcsinh激活函数3.总结1引言在前面的文章中已经介绍了介绍了一系列激活函数(Sigmoid、Tanh
sjx_alo·2023-09-19 16:23

激活函数总结（三十五）：激活函数补充(KAF、Siren)

激活函数总结（三十五）：激活函数补充1引言2激活函数2.1KAF激活函数2.2Siren激活函数3.总结1引言在前面的文章中已经介绍了介绍了一系列激活函数(Sigmoid、Tanh、ReLU、LeakyReLU
sjx_alo·2023-09-19 16:53

重构Transformer神经网络：优化的自注意力机制和前馈神经网络

而且，该模型还引入了非线性激活函数以增强模型的表现力。实验表
东方佑·2023-09-19 12:49

【PyTorch 攻略 （3/7）】线性组件、激活函数

神经网络中发生的计算包括应用激活函数。如果一个神经元被激活，那么这意味着输入很重要。有不同种类的激活函数。选择使用哪个激活函
无水先生·2023-09-19 11:32

激活函数之ReLU, GeLU, SwiGLU

GeLU：huggingface实现的bert里的标配激活函数。SwiGLU：目前很多大模型里的标配激活函数，如Google的PaLM，Meta的LLaMA等。
#苦行僧·2023-09-19 08:24

计算机竞赛 深度学习 python opencv 动物识别与检测

文章目录0前言1深度学习实现动物识别与检测2卷积神经网络2.1卷积层2.2池化层2.3激活函数2.4全连接层2.5使用tensorflow中keras模块实现卷积神经网络3YOLOV53.1网络架构图3.2
Mr.D学长·2023-09-19 06:15

YOLOv5算法改进（18）— 更换激活函数（SiLU、ReLU、ELU、Hardswish、Mish、Softplus等）

激活函数在神经网络中起到引入非线性因素的作用。如果不使用激活函数，神经网络的每一层都只会做线性变换，多层输入叠加后仍然是线性变换。然而，线性模型的表达能力通常不够，因此激活函数的作用就显现出来了。
小哥谈·2023-09-19 02:47

计算机视觉与深度学习-经典网络解析-ResNet-[北邮鲁鹏]

这里写目录标题ResNet参考产生背景贡献残差模块残差结构批归一化ReLU激活函数的初始化方法网络结构为什么残差网络性能好？
古董a·2023-09-19 01:26

《动手学深度学习 Pytorch版》 6.6 卷积神经网络

模型结构如下流程图（每个卷积块由一个卷积层、一个sigmoid激活函数和平均汇聚层组成）：全连接层(10)↑\uparrow↑全连接层(84)↑\uparrow↑全连接层(12
AncilunKiang·2023-09-18 03:07

4-3 nn.functional和nn.Module

利用这些张量的API我们可以构建出神经网络相关的组件(如激活函数，模型层，损失函数)。其实：Pytorch和神经网络相关的功能组件大多都封装在**torch.nn**模块下。
hxh207·2023-09-17 23:43

神经网络权重不更新与初始化

代码主要代码如下（activations.activator是用来返回激活函数的函数指针的）importactivationsimportnumpyasnpimportpandasaspdclassNeuro
ForeverHaibara·2023-09-17 21:50

PyTorch深度学习（二）【反向传播、用pytorch实现线性回归】

反向传播弄一个简单点的，两层的神经网络:加入激活函数：（不加激活函数的神经网络就是一个线性回归模型）用到的损失函数：pytorch里面的数据存储：tensor，它可以存标量、向量、矩阵、高维度数据等。
每天都是被迫学习·2023-09-17 06:17

BP神经网络的详细原理，基于BP神经网络的图像跟踪，基于BP神经网络的细胞跟踪，基于BP神经网络的视频跟踪

目标背影BP神经网络的原理BP神经网络的定义BP神经网络的基本结构BP神经网络的神经元BP神经网络的激活函数，BP神经网络的传递函数代码链接：基于BP神经网络的细胞自动跟踪，基于BP神经网络的图像跟踪（
神经网络机器学习智能算法画图绘图·2023-09-17 04:45

神经网络 02(激活函数)

一、激活函数在神经元中引入了激活函数，它的本质是向神经网络中引入非线性因素的，通过激活函数，神经网络就可以拟合各种曲线。
Darren_pty·2023-09-15 18:20

4月17日 每日打卡

其实只是code用了卷积输出1channel来表示全连接层，只要再加个激活函数就好，但是就是一直没想明白，以后代码困住了，想25分钟，要停下来，起码休息十分钟，运动运动，再回去看这个问题！今
来多喜·2023-09-15 08:17

深度学习-全连接神经网络-训练过程-权值初始化- [北邮鲁鹏]

Xavier在使用Tanh时的表现好Xavier在使用ReLU时的表现不好HE初始化（MSRA）权值初始化总结思想通过调整权值的分布使得输出与输入具有相同的分布避免全零初始化全零初始化：网络中不同的神经元有相同的输出
古董a·2023-09-15 07:59

深度学习中softmax激活函数的用法

在深度学习中，“softmax”是一种常用的激活函数，它主要用于多类别分类任务中的输出层。
小宋加油啊·2023-09-14 12:05

激活函数介绍

ReLU对比Sigmoid主要变化：1.单侧抑制2.相对宽阔的兴奋边界3.稀疏激活性(1)sigmoid函数（曲线很像“S”型）公式：image曲线：image也叫Logistic函数，用于隐层神经元输出取值范围为(0,1)它可以将一个实数映射到(0,1)的区间，可以用来做二分类。（它不像SVM直接给出一个分类的结果，LogisticRegression给出的是这个样本属于正类或者负类的可能性是多
想飞的大兔子·2023-09-13 21:26

《动手学深度学习 Pytorch版》 4.1 多层感知机

以下展示常见的激活函数。
AncilunKiang·2023-09-13 07:55

日撸代码300行：第72天（固定激活函数的BP神经网络）

代码来自闵老师”日撸Java三百行（71-80天）：日撸Java三百行（71-80天，BP神经网络）_闵帆的博客-CSDN博客扩展抽象类GeneralAnn，必须要实现对应的类内的抽象方法。核心代码就是正向和方向传播两个方法的实现。Mobp：momentumcoefficient（动量系数）.SGD通常来说下降速度比较快，但却容易造成另一个问题，就是更新过程不稳定，容易出现震荡。加入“惯性”的影响
WangX-西石油·2023-09-13 02:01

回归与聚类算法系列⑤：逻辑回归

目录1、介绍2、原理输入激活函数3、损失及其优化损失函数优化4、API5、案例：乳腺癌肿瘤预测数据集代码作者介绍：双非本科大三网络工程专业在读，阿里云专家博主，专注于Java领域学习，擅长web应用开发
逐梦苍穹·2023-09-13 00:11

基于粒子群算法改进小波神经网络的时间序列预测，基于pso-ann的回归分析

目标背影BP神经网络的原理BP神经网络的定义BP神经网络的基本结构BP神经网络的神经元BP神经网络的激活函数，BP神经网络的传递函数小波神经网络（以小波基为传递函数的BP神经网络）代码链接：粒子群优化小波神经网络时间序列预测
神经网络机器学习智能算法画图绘图·2023-09-12 16:46

基于小波神经网络的中药材价格预测，基于ANN的小波神经网络中药材价格预测

目标背影BP神经网络的原理BP神经网络的定义BP神经网络的基本结构BP神经网络的神经元BP神经网络的激活函数，BP神经网络的传递函数小波神经网络（以小波基为传递函数的BP神经网络）代码链接：基于小波神经网络的中药材价格预测
神经网络机器学习智能算法画图绘图·2023-09-12 16:46

基于小波神经网络的多分类预测，基于ANN的分类预测

目标背影BP神经网络的原理BP神经网络的定义BP神经网络的基本结构BP神经网络的神经元BP神经网络的激活函数，BP神经网络的传递函数小波神经网络（以小波基为传递函数的BP神经网络）代码链接：基于小波神经网络的多分类代码
神经网络机器学习智能算法画图绘图·2023-09-12 16:15

Batch normalization和Layer normalization

从而可以使用更大的学习率，从而加速模型的收敛速度，换言之，使用神经网络模型都会使用到激活函数，激活函数都存在饱和区，为了避免梯度消失，一般将数据输入到激活函数之前，对数据分布进行纠正，使得其位于非饱和区域
Mariooooooooooo·2023-09-12 16:51
上一页 13 14 15 16 17 18 19 20 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他