人工智能深度学习注意力神经网络第4页

翻译模型

翻译模型发展史1980年，提出基于规则的翻译1993年，IBM提出基于词的统计翻译模型2003年，Koehn提出基于短语的统计翻译模型2014年，谷歌和蒙特利尔大学提出端到端神经网络机器翻译，SequencetoSequenceLearningwithNeuralNetworks

daisy190127·2025-02-09 16:08

SCI一区级 | SAO-CNN-LSTM-Mutilhead-Attention雪消融算法优化卷积长短期记忆神经网络融合多头注意力机制多变量时间序列预测Matlab实现

天天Matlab代码科研顾问·2025-02-09 14:50

CNN卷积神经网络多变量多步预测，光伏功率预测（Matlab完整源码和数据)

代码地址：CNN卷积神经网络多变量多步预测，光伏功率预测（Matlab完整源码和数据)标题：CNN卷积神经网络多变量多步预测，光伏功率预测一、引言1.1研究背景及意义随着全球能源危机的加剧和环保意识的提升

机器学习之心·2025-02-09 13:15

DeepSeek生成对抗网络（GAN）的训练与应用

GANs通过两个神经网络（生成器和判别器）的对抗训练，实现了高质量数据的生成。DeepSeek提供了强大的工具和API，帮助我们高效地训练和应用GANs。

Evaporator Core·2025-02-09 12:41

人工智能-A* 算法与机器学习算法结合

以下将为你展示如何将A*算法与机器学习算法（这里以简单的神经网络为例）结合实现路径规划。我们会先使用A*算法生成一些路径规划数据，然后用这些数据训练一个简单的神经网络，让神经网络学习如何预测路径。

小赖同学啊·2025-02-09 12:11

激活函数篇 02 —— 双曲正切函数tanh

本篇文章收录于专栏【机器学习】以下是激活函数系列的相关的所有内容:一文搞懂激活函数在神经网络中的关键作用逻辑回归：Sigmoid函数在分类问题中的应用tanh⁡(x)=ex−e−xex+e−x\tanh

Echo-Nie·2025-02-09 12:08

深度学习的算法在人群计数（数人头）

以下是几种被广泛认为效果较好的算法类别及其特点：1.基于卷积神经网络（CNN）的算法特点：利用CNN的强大特征提取能力，直接从图像中学习人群计数的特征。

人工智能专属驿站·2025-02-09 10:25

卷积 - 感受野（Receptive Field）

卷积-感受野（ReceptiveField）flyfish感受野（ReceptiveField）是指卷积神经网络中某一层的一个特定神经元能够“看到”并响应的输入图像区域。

二分掌柜的·2025-02-09 09:14

基于PyG搭建GCN-LSTM时空犯罪预测

基于PyG搭建GCN-LSTM时空犯罪预测1.前言最近针对犯罪时空预测、犯罪分布可视化开展研究，图神经网络是必不可少的研究工具之一，为了记录学习PyG的过程，本文通过结合官网案例(非常晦涩难懂)以及网上各位大佬的学习过程

职业摸鱼能手·2025-02-09 04:01

二十一.核心动画-应用实现直播间内飘心动画

特别是在直播场景中，动态效果如屏幕飘心、点赞、烟花等互动特效，已成为增强直播氛围、吸引观众注意力的重要手段。本篇博客将重点探讨如何在直播间内实现一个经典的“飘心”动画效果。

胖虎1·2025-02-09 04:30

AI 网络安全处理开源人工智能+网络安全

人工智能在网络安全领域应用近年来，Agent系统、神经网络、顾问系统、机器学习等人工智能技术在网络安全防御中涌现出很多研究成果。总体

黑客Jack·2025-02-09 01:40

注意力机制：查询（Query）、键（Key）、值（Value）

注意力机制：查询（Query）与键（Key）在注意力机制中，查询（Query）和键（Key）是两个非常关键的概念，它们通过计算相似度来决定模型在某一时刻应该“关注”输入序列的哪一部分。

彬彬侠·2025-02-09 00:37

DQN深度强化学习：CartPole倒立摆任务（完整代码）

DQN（DeepQ-Network，深度Q网络）是Q-Learning的深度学习扩展，通过神经网络替代Q表的方式来解决高维状态空间问题（例如图像输入），开启了深度强化学习时代。它在2013年由Dee

林泽毅·2025-02-08 21:45

Vision Transformer学习笔记（2020 ICLR）

该模型直接采用原始图像块作为输入，而不是传统的卷积神经网络（CNNs），并通过Transformer架构处理这些图像块以实现高效的图像识别。

刘若里·2025-02-08 21:15

《探秘卷积神经网络的核心—卷积核》

在当今人工智能飞速发展的时代，卷积神经网络（CNN）在图像识别、语音识别等众多领域取得了令人瞩目的成就。而其中，卷积核作为CNN的核心组件，发挥着至关重要的作用。

·2025-02-08 19:57

PyTorch深度学习实战（42）——图像字幕生成

图像字幕生成0.前言1.图像字幕1.1基本概念1.2模型分析1.3数据集分析2.图像字幕生成模型小结系列链接0.前言图像字幕生成(Imagecaptioning)模型是一种将图像与对应描述文字关联起来的神经网络模型

盼小辉丶·2025-02-08 14:57

‌双非硕士的抉择：自学嵌入式硬件开发还是深入Linux C/C++走软开？

粉丝提问：老师好，我是双非硕研一电子信息专业,导师搞的神经网络。但我想找好就业的方向，打算自学嵌入式单片机什么的。之前也咨询过别人建议研究生走Linux方向。

程序员yt·2025-02-08 13:16

图神经网络实战（8）——图注意力网络(Graph Attention Networks, GAT)

图神经网络实战（8）——图注意力网络0.前言1.图注意力层原理1.1线性变换1.2激活函数1.3Softmax归一化1.4多头注意力1.5改进图注意力层2.使用NumPy中实现图注意力层3.使用PyTorchGeometric

盼小辉丶·2025-02-08 12:09

动手学图神经网络（12）：MovieLens上的链接回归

MovieLens上的链接回归在MovieLens数据集上进行评分预测的实践过程，包括数据处理、模型构建、训练以及评估等步骤，预测用户对电影的评分（即边的属性值）。环境设置使用pip安装pyg-lib、pytorch_geometric、sentence_transformers、fuzzywuzzy、captum等。importtorchprint(torch.__version__)impor

段智华·2025-02-08 11:07

神经网络压缩实验-Deep-compression

首发于个人博客，结合论文阅读笔记更佳实验准备基础网络搭建为了实现神经网络的deepcompression，首先要训练一个深度神经网络，为了方便实现，这里实现一个两层卷积+两层MLP的神经网络classnet

无用技术研究所·2025-02-08 11:06

深度学习的文本生成：从seq2seq到GPT2和GPT3

文章目录1.背景介绍1.1序列到序列（seq2seq）模型1.1.1编码器1.1.2解码器1.1.3训练1.2Transformer模型1.2.1自注意力机制1.2.2位置编码1.2.3多头注意力1.2.4

AI天才研究院·2025-02-08 11:33

Chrome中的GPU加速合成

如今，即使是最小的设备，功能强大的GPU也已成为不可或缺的一部分，人们的注意力已转移到寻找更有效地使用此基础硬件以实现更好的性能和节

~怎么回事啊~·2025-02-08 10:58

AI编程工具合集

)这里是一些知名和广泛使用的AI编程工具及其简要介绍：1.框架和库(FrameworksandLibraries)-TensorFlow:由谷歌开发的开源深度学习框架，支持多种平台，适合构建和训练复杂神经网络

109702008·2025-02-08 09:14

深度学习 - 神经网络的原理

##深度学习-神经网络的原理深度学习是机器学习的一个分支，其核心是模拟人脑神经网络的结构和功能，构建多层的神经网络模型，从数据中学习特征并进行预测或分类。**神经网络的基本原理：**1.

test猿·2025-02-08 09:43

【Block总结】DFFN，门控机制选择性保留低频和高频信息

LingshunKong,JiangxinDong,MingqiangLi,JianjunGe,JinshanPanGitHub链接:https://github.com/kkkls/FFTformer创新点频域自注意力求解器

AI浩·2025-02-08 08:36

【AI原理解析】— Gemini模型

多模态处理能力输入处理数据处理训练过程4.技术细节与优化预训练上下文长度注意机制5.安全性与编程能力安全性评估编程能力6.模型发布与应用发布时间应用方向7.性能评估8.数学基础8.1Transformer解码器基础8.1.1自注意力机制

coolkidlan·2025-02-08 06:49

冯诺依曼计算机发展瓶颈,冯诺依曼瓶颈

计算速度的提高，必然会让人感觉到智能的提高，而人脑神经网络传递信号的速度，是否也有可能提高呢？所谓“冯诺依曼瓶颈”，是冯诺依曼架构本身带来的一些限制。

weixin_39747595·2025-02-08 05:14

YOLOv10改进 | 独家创新- 注意力篇 | YOLOv10引入结合SimAM和SKAttention形成全新的SKAM注意力机制和C2f_SKAM(全网独家创新)

1.SKAM介绍SKAM（SimAMandSKAttentionModule）注意力机制结合了SimAM和SKAttention的优点，能够在图像特征提取中表现出更为优异的性能。

小李学AI·2025-02-08 04:11

MobileNetV2: Inverted Residuals and Linear Bottlenecks

以下是对这些核心内容的简要概述：MobileNetV2架构设计：提出了一种新的神经网络模块——倒残差结构（InvertedResiduals），其中的快捷连接位于瓶颈层之间。使用轻量级

TAICHIFEI·2025-02-08 03:38

Flash Attention介绍

FlashAttention是一种优化Transformer模型中注意力机制的技术，旨在提高计算效率并减少内存使用。

TAICHIFEI·2025-02-08 03:38

【神经网络搜索】NasBench301 使用代理模型构建Benchmark

【GiantPandaCV导语】本文介绍的是NAS中的一个benchmark-NASBench301,由automl.org组织发表，其核心思想是针对表格型基准存在的不足提出使用代理模型拟合架构与对应准确率。Paper:NAS-Bench-301andThecaseforsurrogatebenchmarksforNeuralArchitectureSearchCode:https://githu

*pprp*·2025-02-08 03:32

pyannote 语音活动检测/说话者变化检测/语音重叠检测

这个项目是基于PyTorch的，与webrtcvad有着天壤之别,在嘈杂环境下解决语音活动检测还是得靠神经网络,而webrtcvad在嘈杂状态下是无法工作的，感兴趣的同学可以看一下，或许你们有更好的解决方案

wx:pjcoder·2025-02-08 00:44

基于Pytorch的猫狗分类的代码演练

前段时间在人工智能课上老师给我们介绍了一下卷积神经网络CNN，顺便在课上复现了猫狗分类的相关代码。

摸爬滚打的包菜·2025-02-07 23:09

从零学习pytorch——4.基础概念讲解及神经网络模块

从零学习pytorch——4.基础概念讲解及神经网络模块在PyTorch中，nn.Module是构建神经网络模型的基础类。

PyTorch 研习社·2025-02-07 22:05

【AI中数学-信息论-综合实例】缩小AI巨人：大模型神经网络的压缩与裁剪

第六章：信息论-综合实例第二节：缩小AI巨人：大模型神经网络的压缩与裁剪术在本节中，我们将探讨压缩和裁剪大规模神经网络模型的技术，使其更加高效，适用于实际应用。

云博士的AI课堂·2025-02-07 22:03

毕业设计：基于卷积神经网络的鲜花花卉种类检测算法研究

目录前言课题背景和意义实现技术思路一、算法理论基础1.1卷积神经网络1.2目标检测算法二、数据集2.1数据集2.2数据扩充三、实验及结果分析3.1实验环境搭建3.2模型训练最后前言大四是整个大学期间最忙碌的时光

HaiLang_IT·2025-02-07 20:23

AudioLM音频生成模型简介

以下是关于AudioLM音频生成模型的一些关键信息：表格特点描述应用领域语音合成、音乐生成等核心技术自注意力机制（Self-AttentionMechanism）功能生成自然的语音对话、虚拟人物的配音、

低配天才·2025-02-07 18:09

torch库介绍

文章目录基本概念张量（Tensor）自动求导（AutomaticDifferentiation）：神经网络模块（nn.Module）优化器（Optimizer）：导入torch示例构建神经网络总结torch

codelyq·2025-02-07 15:22

MOE-conformer 流式多语种语音识别

MOE(MixtureofExperts)：MOE是一种通过专家混合来实现深度学习模型的方法，主要有以下特点：MOE由多个专家(Excpert)组成，每个专家是一个独立的神经网络(可以是MLP、CNN、

深度学习-视听觉·2025-02-07 14:16

SRMT：一种融合共享记忆与稀疏注意力的多智能体强化学习框架

在人工智能(AI)和强化学习(RL)领域的发展进程中，长期记忆维持和决策优化一直是核心技术难点。传统强化学习模型在经验回溯方面存在局限性，这显著制约了其在复杂动态环境中的应用效果。自反射记忆Transformer(SRMT)作为一种新型记忆增强型transformer架构，专注于提升基于AI的决策能力和多智能体协同效果。本研究将系统阐述SRMT的技术架构、核心功能、应用场景及实验数据，深入分析其在

·2025-02-07 13:28

ReLU激活函数的定义

ReLU（RectifiedLinearUnit，修正线性单元）是一种非常流行的激活函数，广泛应用于深度学习模型中，尤其是在卷积神经网络（CNN）中。

人工智能专属驿站·2025-02-07 13:34

RAG和KAG：AI知识增强的两大“利器”

一文读懂RAG和KAG：AI知识增强的两大“利器”阅读时长：15分钟发布时间：2025-02-07近日热文：全网最全的神经网络数学原理（代码和公式）直观解释欢迎关注知乎和公众号的专栏内容LLM架构专栏知乎

·2025-02-07 13:53

Python中的GRU模型

为了解决这些问题，研究人员提出了另一种递归神经网络模型：门控循环单元（GRU）。GRU模型和LSTM模型类似，都可以用于处理序列数据，例如自然语言处理和视频分析。两个模型的区别在于

NoABug·2025-02-07 04:37

大模型参数量及其单位的概念

以下是最常见的几种BERT模型的参数量：1.BERT-Base:-Transformer的层数（即encoder的个数）:12-隐藏单元数:768-自注意力头的数量:12-参数量:约1.1亿（110M）

这个人有丶懒·2025-02-07 03:57

RNN/LSTM/GRU 学习笔记

循环神经网络（RecurrentNeuralNetwork，RNN）是用来建模序

Curz酥·2025-02-07 02:52

神经网络Neural Networks概述

深度学习是基于人工神经网络（ANN）技术的发展而不断突破和提升，推动了人工智能的发展。相对的另一领域是生物神经网络（BiologicalNeuralNetwork，BNN）

种花家的码农·2025-02-07 00:40

2024年GitHub上最火的Python项目

82K+机器学习、神经网络(github)(libhunt)Django高效的Web开发框架，促进快速开发。

Allen-Steven·2025-02-07 00:08

目前市场上深度学习简介及沿革发展

1.感知机（Perceptron）及其扩展发展历史1958年：感知机由FrankRosenblatt提出，这是最早的人工神经网络模型，旨在模拟生物神经网络。