#神经网络-优化算法第12页

大模型位置编码、长度外推问题、ALiBi知识

由于传统的神经网络无法直接捕捉输入序列中的位置信息，位置编码的引入可以帮助模型更好地理解和处理序列数据。在Transformer模型中，位置编码通过为输入序列中的每个位置分配一个固定的向量来实现。

lichunericli·2024-02-13 21:09

DS Wannabe之5-AM Project: DS 30day int prep day14

自编码器是一种特殊类型的神经网络，它通过无监督学习尝试复现其输入数据。它通常包含两部分：编码器和解码器。

wendyponcho·2024-02-13 20:29

人工智能

了解到人工智能、机器学习、深度学习的关系，神经网络是深度学习的实现的模型。语音、图像、机器翻译、机器人、文本挖掘和分类。感觉机器学习自己挺感兴趣啊

阳光照我心房·2024-02-13 16:15

机器学习入门--多层感知机原理与实践

神经网络与多层感知机神经网络是一种模仿生物神经系统结构和功能的计算模型。它由许多个节点（或称为神经元）组成，这些节点通过连接权重相互连接。

Dr.Cup·2024-02-13 13:37

机器学习入门--BP神经网络原理与实践

BP神经网络引言BP神经网络，即反向传播神经网络，是一种监督学习算法，用于多层前馈神经网络的训练。

Dr.Cup·2024-02-13 13:37

机器学习入门--简单卷积神经网络原理与实践

深入理解卷积神经网络（CNN）引言卷积神经网络（ConvolutionalNeuralNetworks,CNN）是深度学习中的一种核心算法，广泛应用于图像识别、视频分析和自然语言处理等领域。

Dr.Cup·2024-02-13 13:06

Tied Block Convolution: 具有共享较薄滤波器的更简洁、更出色的CNN

摘要https://arxiv.org/pdf/2009.12021.pdf卷积是卷积神经网络（CNN）的主要构建块。

AI浩·2024-02-13 12:37

多目标优化：以嵌套单目标粒子群实现（Python）

文章目录一、算法讲解粒子群复杂约束求解方法多目标优化二、将单目标算法改为多目标一、算法讲解粒子群见链接粒子群算法求解无约束优化问题源码实现粒子群算法求解带约束优化问题源码实现复杂约束求解方法优化算法求解复杂约束问题策略

总裁余(余登武)·2024-02-13 12:58

CEC2017（Python）：五种算法（HHO、RFO、OOA、PSO、GWO）求解CEC2017

一、5种算法简介1、哈里斯鹰优化算法HHO2、红狐优化算法RFO3、鱼鹰优化算法OOA4、粒子群优化算法PSO5、灰狼优化算法GWO二、CEC2017简介参考文献：[1]Awad,N.H.,Ali,M.Z

优化算法MATLAB与Python·2024-02-13 12:27

CEC2013（python）：五种算法（OOA、WOA、GWO、DBO、HHO）求解CEC2013（python代码）

一、五种算法简介1、鱼鹰优化算法OOA2、鲸鱼优化算法WOA3、灰狼优化算法GWO4、蜣螂优化算法DBO5、哈里斯鹰优化算法HHO二、5种算法求解CEC2013（1）CEC2013简介参考文献：[1]LiangJJ

优化算法MATLAB与Python·2024-02-13 12:27

多目标优化（Python）：多目标粒子群优化算法（MOPSO）求解ZDT1、ZDT2、ZDT3、ZDT4、ZDT6（提供Python代码）

一、多目标粒子群优化算法多目标粒子群优化算法（MOPSO）是一种用于解决多目标优化问题的进化算法。它基于粒子群优化算法（PSO），通过引入多个目标函数和非支配排序来处理多目标问题。

优化算法MATLAB与Python·2024-02-13 12:57

word2vec工具学习笔记

这些模型为浅而双层的神经网络，用来训练以重新建构语言学之词文本。网络以词表现，并且需猜测相邻位置的输入词，在word2vec中词袋模型假设下，词的顺序是不重要的。

适说心语·2024-02-13 11:42

【计算机领域|IEEE独立出版，往届均已见刊并完成EI Compendex，Scopus检索】2024第四届神经网络、信息与通信工程国际学术会议（NNICE 2024）

2024第四神经网络、信息与通信工程国际学术会议（NNICE2024）将于2024年1月19-21日在中国广州举行。

艾思科蓝 AiScholar·2024-02-13 11:54

2024第四届神经网络、信息与通信工程国际学术会议（NNICE 2024）

2024第四神经网络、信息与通信工程国际学术会议（NNICE2024）将于2024年1月19-21日在中国广州举行。

艾思科蓝 AiScholar·2024-02-13 11:54

全连接神经网络实现手写数字识别

可能我的学弟学妹们会搜到这篇文章，此时的你们正在为作业发愁，哈哈其他实现手写数字识别的方法：1.聚类（K-means）实现手写数字识别2.KNN实现手写数字识别3.卷积神经网络（CNN）实现手写数字识别

zeronose·2024-02-13 10:52

基于卷积神经网络模型的手写数字识别

基于卷积神经网络模型的手写数字识别一.前言二.设计目的及任务描述2.1设计目的2.2设计任务三.神经网络模型3.1卷积神经网络模型方案3.2卷积神经网络模型训练过程3.3卷积神经网络模型测试四.程序设计一

Jc.MJ·2024-02-13 10:22

基于神经网络实现手写数字识别(matlab)

实验目的在matlab平台上，采用神经网络实现手写数字识别。在实验过程中：1、初步探讨数据集预处理的作用。2、增加对神经网络的理解，探讨隐含层层数，节点数和训练步长对识别成功率的影响，找到较佳的参数。

入门小新手·2024-02-13 10:22

基于全连接神经网络模型的手写数字识别

基于全连接神经网络模型的手写数字识别一.前言二.设计目的及任务描述2.1设计目的2.2设计任务三.神经网络模型3.1全连接神经网络模型方案3.2全连接神经网络模型训练过程3.3全连接神经网络模型测试四.

Jc.MJ·2024-02-13 10:21

【MATLAB】GA_BP神经网络回归预测算法

有意向获取代码，请转文末观看代码获取方式~也可转原文链接获取~1基本定义GA_BP神经网络回归预测算法结合了遗传算法（GeneticAlgorithm,GA）和BP神经网络（BackpropagationNeuralNetwork

Lwcah·2024-02-13 10:51

Logistic回归

训练分类器时的做法就是寻找最佳拟合参数，使用的是最优化算法。

洛克黄瓜·2024-02-13 09:27

时间序列预测——BiGRU模型

在深度学习领域，循环神经网络（RecurrentNeuralNetworks,RNNs）是常用于时间序列预测的模型之一。

Persist_Zhang·2024-02-13 09:46

DL-Paper精读：Revisiting ResNets

ImprovedTrainingandScalingStrategiesRevisitingResNets:ImprovedTrainingandScalingStrategiesarxiv.orgBackground影响一个神经网络模型的认知能力的主要因素

星月野1·2024-02-13 07:52

【机器学习】卷积和反向传播

一、说明自从AlexNet在2012年赢得ImageNet竞赛以来，卷积神经网络(CNN)就变得无处不在。从不起眼的LeNet到ResNets再到DenseNets，CNN无处不在。

无水先生·2024-02-13 07:07

【深度学习】前向传播和反向传播（四）

在深度学习中，一个神经网络其实就是多个复合函数组成。

Florrie Zhu·2024-02-13 07:26

深度学习中的前向传播和反向传播

简单而言，前向传播就是将输入的数据在神经网络中进行处理和转换，并输出最后的结果，主要是输出w值，或者b,就是参数。反向传递就是计算每个参数的梯度，然后用于最小化损失函数。

处女座_三月·2024-02-13 07:56

神经网络中的前向传播（Forward Propagation）和后向传播（Backward Propagation）

带着疑问再次梳理一遍：前向传播前向传播是神经网络进行预测的过程。在这个过程中，输入数据沿着神经网络从输入层经过隐藏层（如果有的话）最终到输出层流动。

山泼黛·2024-02-13 07:26

《零基础实践深度学习》波士顿房价预测任务1.3.3.5 总结

np.save('w.npy',net.w)np.save('b.npy',net.b)总结本节我们详细介绍了如何使用Numpy实现梯度下降算法，构建并训练了一个简单的线性模型实现波士顿房价预测，可以总结出，使用神经网络建模房价预测有三个要点

软工菜鸡·2024-02-13 06:36

使用深度学习进行“序列到序列”回归

要训练深度神经网络以根据时间序列数据或序列数据预测数值，可以使用长短期记忆(LSTM)网络。此示例使用[1]中所述的涡轮风扇发动机退化仿真数据集。

jk_101·2024-02-13 06:02

多GPU-TensorFlow

数据并行:多块GPU同时训练多个batch数据，运行在每块GPU模型基于同一神经网络，网络结构一样，共享模型参数。1.同步数据并行，

听风1996·2024-02-13 05:22

杰夫 · 迪恩：《深度学习的黄金十年：计算系统与应用》

即便五年前，有道推出有道神经网络翻译引擎（YNMT），使得翻译质量得到质的飞跃时，大家对机器翻译的质量仍然心存疑虑。但今天，人们甚至已经开始讨论未来是否还会存在翻译这个职业。

有道AI情报局·2024-02-13 05:47

机器视觉系统中图像分割技术传统方法概论1

尤其是深度神经网络广泛应用于视觉系统中后，取得了许多很明显的成效。对于自主移动机器人来说，视觉系统有着十分重要的作用，而图像分割技术更是在这个系统中担任着十分重要的角色。

欢乐马_e31d·2024-02-13 04:31

基于RBF神经网络的自适应控制器simulink建模与仿真

目录1.程序功能描述2.测试软件版本以及运行结果展示3.核心程序4.本算法原理4.1自适应控制器4.2RBF神经网络模型5.完整程序1.程序功能描述在simulink中，使用S函数编写基于RBF神经网络的自适应控制器

软件算法开发·2024-02-13 04:55

图像处理之《鲁棒图像隐写术：隐藏频率系数中的信息》论文精读

提出了一种基于可逆神经网络的端到端鲁棒隐写系统。该方法将秘密信息直接隐藏到封面图像的离散余弦变换(DCT)系数中，而不是隐藏在空间域中，显著提高了鲁棒性和抗隐写安全性。

Hard Coder·2024-02-13 02:09

【AI大事件】谷歌AI教父Hinton离职！深探AI风险与挑战，共赴智能科技新征程！

深度学习泰斗、神经网络之父、图灵奖得主Hinton突然宣布离职谷歌。Hinton，他可是AI的教父啊，而他的学生就是发明了GPT的首席科学家。他的这一举动，引发了整个科技行业的关注和讨论。

领航猿1号·2024-02-13 02:09

图像处理之《隐写网络的隐写术》论文阅读

随着深度神经网络(DNN)的快速发展，近年来越来越多的隐写网络被提出，并显示出良好的性能。与传统的手工隐写工具不同，隐写网络的规模相对较大。

Hard Coder·2024-02-13 02:08

大模型题库

Transformer架构是一种深度神经网络架构，于2017年由Vaswani等人在他们的论文“AttentionisAllYouNeed”中首次提出。

lichunericli·2024-02-12 19:28

解决什么问题需要大的计算机算力,突破极限！清华研发出新技术，可大幅提升计算机算力...

该成果所研发的基于多个忆阻器阵列的存算一体系统，在处理卷积神经网络(CNN)时的能效比图形处理器芯片(GPU)高两个数量级，大幅提升了计算设备的算力，成功实现了以更小的功耗和更低的硬件成本完成复杂的计算

weizbbs·2024-02-12 17:24

（深度学习快速入门）图对比学习综述笔记-中文信息学报2023第37卷第5期

快乐江湖·2024-02-12 15:18

王树森：学 DRL 走过的弯路太多，想让大家避开（文末赠送福利）

大家都知道，深度强化学习（DeepReinforcementLearning，DRL）就是应用了神经网络的强化学习。而强化学习是机器学习的一个分支，研究如何基于对环境的观测做出决策，以最大化长期回报。

人工智能与算法学习·2024-02-12 15:43

【人工智能Alphago背后的秘密】全网最全面的蒙特卡洛树搜索算法讲解：系统、简洁、易懂！

Alphago使用的算法如下：蒙特卡洛树搜索残余卷积神经网络-用于游戏评估和移动先验概率估计的策略和价值网络用于通过自我游戏

准确、系统、简洁地讲算法·2024-02-12 15:09

神经网络训练中的epoch和batch概念

在神经网络训练中，"epoch"和"batch"是两个基本的概念：Epoch:一个epoch代表的是整个数据集被遍历一次的过程。在一个epoch中，网络会对每一个训练样本学习一次，然后更新权重。

山泼黛·2024-02-12 14:29

深度学习笔记

DeepLearningBasic神经网络：algorithm1input1outputinput2input3input4algorithm2监督学习：1个x对应1个y；Sigmoid:激活函数sigmoid

stoAir·2024-02-12 14:28

YOLO系列详解（YOLOV1-YOLOV3）

YOLO算法作为one-stage目标检测算法最典型的代表，其基于深度神经网络进行对象的识别和定位，运行速度很快，可以用于实时系统。了解YOLO是对目标检测算法研究的一个必须步骤。

X.AI666·2024-02-12 14:49

神经网络中的分位数回归和分位数损失

在使用机器学习构建预测模型时，我们不只是想知道“预测值(点预测)”，而是想知道“预测值落在某个范围内的可能性有多大(区间预测)”。例如当需要进行需求预测时，如果只储备最可能的需求预测量，那么缺货的概率非常的大。但是如果库存处于预测的第95个百分位数(需求有95%的可能性小于或等于该值)，那么缺货数量会减少到大约20分之1。获得这些百分位数值的机器学习方法有：scikit-learn:Gradien

·2024-02-12 12:41

李宏毅机器学习笔记 2.回归

另外，最近我也在学习邱锡鹏教授的《神经网络与深度学习》，会补充书上的一点内容。通过上一次课1.机器

Simone Zeng·2024-02-12 11:34

梯度下降法的神经网络容易收敛到局部最优，为什么应用广泛？

链接：https://www.zhihu.com/question/68109802编辑：深度学习与计算机视觉声明：仅做学术分享，侵删作者：夕小瑶https://www.zhihu.com/question/68109802/answer/263503269反对回答区中一部分称“模型收敛于鞍点”的回答。当然也有的大牛可以一针见血，那我就对这个问题多展开一下吧，让鲜血流的更猛烈一些。（害怕.jpg）

woshicver·2024-02-12 11:34

西瓜书-机器学习5.4 全局最小与局部极小

两种“最优”：“局部极小”(localminimum)和"全局最小"(globalminimum)对和，若存在使得多组不同参数值初始化多个神经网络使用“模拟退火”：以一定的概率接受比当前解更差的结果，有助于

lestat_black·2024-02-12 11:32

ncc匹配（五，匹配提速的思考）

工业机器视觉设计和实现·2024-02-12 11:47

《零基础实践深度学习》波士顿房价预测任务1.3.3.4训练过程

《零基础实践深度学习》基于线性回归实现波士顿房价预测任务1.3.3-CSDN博客1.3.3.4训练过程上述计算过程描述了如何构建神经网络，通过神经网络完成预测值和损失函数的计算。

软工菜鸡·2024-02-12 10:14

《零基础实践深度学习》基于线性回归实现波士顿房价预测任务1.3.3

图3：构建神经网络/深度学习模型的基本步骤正是由于深度学习的建模和训练的过程存在通用性，即在构建不同的模型时，只有模型三要素不同，其它步骤基本一致，才产生了深

软工菜鸡·2024-02-12 09:13

推荐频道

#神经网络-优化算法