线性Transformer

深入浅出链表：Python实现与应用全面解析

02-算法复杂度全解析：时间与空间复杂度优化秘籍03-线性数据结构解密：数组的定义、操作与实际应用04-深入浅出链表：Python实现与应用全面解析文章目录系列文章目录前言一、链表的定义与特点1.1链表的基本结构
吴师兄大模型·2025-02-14 03:31

机器学习·逻辑回归

基于线性回归的模型，通过使用逻辑函数（如Sigmoid函数）将线性组合的结果映射到0到1之间的概率值，用于表示属于某个类别的可能性。
AAA顶置摸鱼·2025-02-14 03:00

一杯咖啡的时间学习大模型（LLM）：LLaMA解读之旋转编码RoPE（含代码实现）

相较于标准Transformer架构，LLaMA主要在以下几个方面进行了关键改进：位置编码升级：采用旋转位置编码（RotaryPositionEmbedding,RoPE）归一化革新：对每个
Bug_makerACE·2025-02-14 02:52

书籍-《机器学习数学基础》

A.AldoFaisal，ChengSoonOng出版：CambridgeUniversityPress编辑：陈萍萍的公主@一点人工一点智能下载：书籍下载-《机器学习数学基础》01书籍介绍理解机器学习所需的基本数学工具包括线性代数
·2025-02-14 01:30

零基础入门机器学习 -- 第三章第一个机器学习模型——线性回归

3.1线性回归的概念在现实生活中，许多事情都遵循某种线性关系，比如：房价vs面积：房子的面积越大，价格通常越高。工资vs工作经验：工作经验越多，薪资往往更高。
山海青风·2025-02-14 01:45

GPT 系列模型发展史：从 GPT 到 ChatGPT 的演进与技术细节

GPT（2018）：划时代的起点：GPT（GenerativePre-trainedTransformer）首次将Transformer架构与无监督预训练结合，开启了大规模语言模型的新时代。
Ash Butterfield·2025-02-14 00:08

大型语言模型的核心机制解析

摘要大型语言模型的核心机制依赖于Transformer架构，该架构通过嵌入层将输入数据转换为向量形式，并结合位置编码以保留序列中单词的顺序信息。
耶耶Norsea·2025-02-13 23:05

opencascade 标注-直线标注、半径标准、角度标注

以下是关键步骤和示例代码：显示精度（小数点后几位）SetDimensionAspect设置显示颜色SetCommonColor1.创建尺寸标注对象使用AIS_LengthDimension等类创建线性尺寸标注
一只小小汤圆·2025-02-13 23:31

Pytorch实现一个简单DeepSeek中的MLA多头潜在注意力架构

这可能与传统的Transformer中的滑动窗口或局部注意力类似。接下来，我需要考虑如何将局部注意力与多头机制结合。每个注意力头可能有不同的局部窗口，或者共享相
DukeYong·2025-02-13 19:38

【线性代数】——矩阵消元

二矩阵消元1.消元法2.单行或者单列的矩阵乘法2.1单行矩阵乘法2.2单列矩阵乘法3.用矩阵记录消元过程（初等矩阵）【行的线性组合（数乘和加法）】3.1row2-3row1的矩阵描述3.2row3-2row2
sda42342342423·2025-02-13 19:37

Deepseek的MOE架构中ColumnParallelLinear()是怎么实现的

ColumnParallelLinear可能指的是将线性层的列（即输出神经元）分布在多个设备上。在MoE中，每个专家可能是一个这样的并行层，然后通过门控机制将输入路由到不同的专家。
DukeYong·2025-02-13 18:00

《麻省理工公开课：线性代数》 中文学习笔记

《麻省理工公开课：线性代数》是麻省理工公开课中广为流传的一门好课。这是我学习MIT线性代数课程LinearAlgebra的中文参考学习笔记。希望在自己学习的同时，也对大家学习有所帮助。
派森先生·2025-02-13 18:29

值得收藏！十大中国流行的AI大模型企业及平台汇总

1.百度-文心一言百度在大模型开发上持续采用创新算法和结构，如Transformer，以优化模型性能和学习
deepseek大模型·2025-02-13 16:50

R-CNN架构

第三个模块是一组特定类别的线性支持向量机（SVM）。虽然R-CNN对特定的区域提议方法不挑剔，但选择性搜索（Selectivesearch）是最常用的方法，以便与之前的检测工作进行有对照的比较。
·2025-02-13 16:10

微软 LayoutLMv3：通过统一文本和图像掩码进行文档人工智能预训练

LayoutLMv3：通过统一文本和图像掩码进行文档人工智能预训练LayoutLMv3应用统一的文本-图像多模态Transformer来学习跨模态表示。
·2025-02-13 16:39

团队领导者指南：如何选择和应用项目管理方法论

以下是几种常见的项目管理方法论：1.瀑布模型(Waterfall)●特点:线性顺序的项目管理方法，项目分为多个阶段（如需求分析、设计、开发、测试、部署），每个阶段完成后才能进入下一个阶段。
·2025-02-13 16:36

【深度学习】常见模型-GPT（Generative Pre-trained Transformer，生成式预训练 Transformer）

GPT（GenerativePre-trainedTransformer）1️⃣什么是GPT？
IT古董·2025-02-13 16:15

高等代数笔记5：线性变换

线性映射的定义与性质线性映射的定义数学研究的主题是空间与变换，对于代数学而言，空间指的是赋予了某种运算结构的集合，变换则是空间到空间的映射。线性代数则是研究线性空间及其上的映射。
p_wh·2025-02-13 15:43

微软 LayoutLMv3：通过统一文本和图像掩码进行文档人工智能预训练

LayoutLMv3：通过统一文本和图像掩码进行文档人工智能预训练LayoutLMv3应用统一的文本-图像多模态Transformer来学习跨模态表示。
·2025-02-13 15:31

神经网络常见激活函数 9-CELU函数

文章目录CELU函数+导函数函数和导函数图像优缺点pytorch中的CELU函数tensorflow中的CELU函数CELU连续可微指数线性单元：CELU（ContinuouslyDifferentiableExponentialLinearUnit
亲持红叶·2025-02-13 15:37

高等代数复习：线性空间

文章目录线性空间定义和性质线性相关性与秩基与维数矩阵的秩同构坐标子空间子空间的定义和性质子空间的和与交直和陪集和商空间解线性方程组本篇文章适合个人复习翻阅，不建议新手入门使用线性空间定义和性质定义：（线性空间
爱吃白饭·2025-02-13 14:32

常见的深度学习模型总结

发明动机：解决传统机器学习模型在复杂数据上的局限性，如线性模型无法处理非线性关系的数据。模型特点：由多个隐藏层组成的神经网络，每一层的节点与下一层的节点完全连接。
编码时空的诗意行者·2025-02-13 13:29

23、深度学习-自学之路-激活函数relu、tanh、sigmoid、softmax函数的正向传播和反向梯度。

在使用这个非线性激活函数的时候，其实我们重点还是学习的是他们的正向怎么传播，以及反向怎么传递的。如下图所示：第一：relu函数的正向传播函数是：当输入值（隐藏层）值大于了，就输出自己本身的值。
小宇爱·2025-02-13 13:22

【深入探索-deepseek】高等数学与AI的因果关系

目录数学在AI不同领域的应用区别一、计算机视觉领域1.线性代数2.微积分3.概率论与统计二、自然语言处理领域三、语音识别领域四、数学在AI不同领域应用的逻辑图五、参考资料数学在AI不同领域的应用区别一、
我的青春不太冷·2025-02-13 11:09

数学建模与MATLAB实现：插值技术详解

本文基于一维插值与二维插值的理论框架，结合MATLAB代码实战，系统讲解拉格朗日插值、分段线性插值、三次样条插值等方法，并通过温度预测、地貌分析等案例，帮助读者掌握插值技术的核心原理与实现技巧。
青橘MATLAB学习·2025-02-13 11:39

树Tree

目录树的基本概念树的主要类型树的常见操作树（Tree）是一种非线性数据结构，用于表示具有层次关系的数据。树由节点（Node）组成，每个节点可以有零个或多个子节点。
顾北辰20·2025-02-13 09:24

使用 HuggingFace 库进行本地嵌入向量生成

pipinstallsentence-transformers!pipi
qq_37836323·2025-02-13 09:50

机器学习面试笔试知识点-线性回归、逻辑回归(Logistics Regression)和支持向量机(SVM)

机器学习面试笔试知识点-线性回归、逻辑回归LogisticsRegression和支持向量机SVM微信公众号：数学建模与人工智能一、线性回归1.线性回归的假设函数2.线性回归的损失函数（LossFunction
qq742234984·2025-02-13 07:39

线性回归、逻辑回归及SVM

1，回归（LinearRegression）回归其实就是对已知公式的未知参数进行估计。可以简单的理解为：在给定训练样本点和已知的公式后，对于一个或多个未知参数，机器会自动枚举参数的所有可能取值（对于多个参数要枚举它们的不同组合），直到找到那个最符合样本点分布的参数（或参数组合）。当然，实际运算有一些优化算法，肯定不会去枚举的。注意，回归的前提是公式已知，否则回归无法进行。回归中的公式基本都是数据分
@迷途小书童·2025-02-13 07:38

Altera PDN 设计和 FPGA 收发器性能

虽然低功耗应用中通常采用低泄漏(LDO)线性稳压器，但这一方法必须仔细的隔离电压源。电路板设
FPGA技术实战·2025-02-13 07:05

机器学习: 逻辑回归

逻辑回归模型输出的是概率值，通常使用sigmoid函数将线性组合映射到0和1之间。1.概念逻辑回归用于解决分类问题，特别是二分类问题。它通过估计输入变量与目标变量之间的关系来预测目标变量的类别。
小源学AI·2025-02-13 07:04

逻辑回归不能解决非线性问题，而svm可以解决

逻辑回归和支持向量机（SVM）是两种常用的分类算法，它们在处理数据时有一些不同的特点，特别是在面对非线性问题时。1.逻辑回归逻辑回归本质上是一个线性分类模型。
江河地笑·2025-02-13 07:01

Flux如何工作？这款新图像生成AI可与Midjourney一较高下

它代表了人工智能生成艺术领域的重大进展，采用了一种“混合架构”，将transformer和diffusion技术相结合，参数规模达120亿。
硅基创想家·2025-02-13 05:53

transformer

导语：2017年，一篇名为《AttentionisAllYouNeed》的论文横空出世，提出了Transformer模型，彻底改变了自然语言处理（NLP）领域的格局。
我爱派生·2025-02-13 04:45

python+OpenCv笔记（十一）：中值滤波

中值滤波：原理：中值滤波是一种典型的非线性滤波技术，基本思想是用像素点邻域灰度值的中值来代替该像素点的灰度值。应用：中值滤波对椒盐噪声来说尤其有用，因为它不依赖于邻域内那些与典型值差别很大的值。
ReadyGo!!!·2025-02-13 03:05

【python 机器学习】sklearn转换器与预估器

文章目录sklearn转换器与预估器1.什么是转换器（Transformer）？通俗介绍：学术解释：2.什么是预估器（Estimator）？
人才程序员·2025-02-13 03:04

超详细的数据结构3（初阶C语言版）栈和队列。

文章目录栈和队列1.栈1.1概念与结构1.2栈的实现2.队列2.1概念与结构2.2队列的实现总结栈和队列1.栈1.1概念与结构栈：⼀种特殊的线性表，其只允许在固定的⼀端进行插⼊和删除元素操作。
懒羊羊大王&·2025-02-13 00:42

欧拉线性筛

题目描述使用欧拉线性筛法输出2到n之间的所有整数包括n（2usingnamespacestd;constintMaxN=1e5+5;boolisPrime[MaxN];//表示是否为素数true-非素数
oziang20120318·2025-02-12 23:07

【独家首发】蜣螂算法DBO优化Transformer-BiLSTM负荷数据回归预测【含Matlab源码 6568期】

Matlab武动乾坤博客之家
Matlab武动乾坤·2025-02-12 23:04

BP神经网络学习内容分享：学习激活函数和损失函数

具体来说，激活函数的作用包括以下几个方面：（1）引入非线性：激活函数的核心功能之一是引入非线性因素。由于神经网络的线性组合本身仍然是线性的，如果不使用激活函数，那么无论网络有多少层
强哥带你学BP神经网络·2025-02-12 19:32

神经网络常见激活函数 7-ELU函数

文章目录ELU函数+导函数函数和导函数图像优缺点pytorch中的ELU函数tensorflow中的ELU函数ELU指数线性单元：ELU（ExponentialLinearUnit）函数+导函数ELU函数
亲持红叶·2025-02-12 19:30

AI基础 -- AI学习路径图

人工智能从数学到大语言模型构建教程第一部分：AI基础与数学准备1.绪论：人工智能的过去、现在与未来人工智能的定义与发展简史从符号主义到统计学习、再到深度学习与大模型的变迁本书内容概览与学习路径指引2.线性代数与矩阵运算向量与矩阵的基本概念矩阵分解
sz66cm·2025-02-12 16:40

Zane的线代学习笔记 #6 置换与转置

前言上篇笔记的末尾我们提到过置换矩阵和转置的内容，不过并不完整，在这篇笔记中，我会对这两个知识点进行补充，讲完之后，我们的线性方程部分就基本上讲完了。
ZaneYooo·2025-02-12 15:37

深度学习语义分割实战：ResNet 与 ViT 结合的模型解析

本项目结合了ResNet（ResidualNetwork）和ViT（VisionTransformer），构建了高性能的语义分割模型。本文将详细解析该模型的架构、训练流程及其应用。
高山仰星·2025-02-12 15:06

从零开始掌握Python数据结构：提升代码效率的必备技能！

文章目录系列文章目录前言一、数据结构概述1.1数据结构的定义与作用1.1.1数据结构的基本作用1.2数据结构的分类1.2.1线性数据结构1.2.2树形数据结构1.2.3图形数据结构1.3学习数据结构的意义
吴师兄大模型·2025-02-12 13:55

DeepSeek 与 Transformer 架构的深度关联

而Transformer架构，自2017年横空出世以来，便成为了众多先进自然语言处理模型的底层基石，DeepSeek的成功也与它有着密不可分的联系。
JoveZou·2025-02-12 10:08

【数据结构】数据结构简要介绍

数据结构的分类：数据结构可以大致分为两类：线性结构和非线性结构。1.线性结构线性结构中的数据按顺序排列，每个元素有唯一的前驱和后继。
自信的小螺丝钉·2025-02-12 09:02

JAVA--栈和队列

栈-Stack栈是一种先入后出的限定性线性表。数据的插入和删除操作仅在同一端进行，称为栈顶（top），另一端为固定的一端，称为栈底（Bottom）。特征是先入后出。
子夜夏歌·2025-02-12 09:29

四、自然语言处理_08Transformer翻译任务案例

0、前言在Seq2Seq模型的学习过程中，做过一个文本翻译任务案例，多轮训练后，效果还算能看Transformer作为NLP领域的扛把子，对于此类任务的处理会更为强大，下面将以基于Transformer
学不会lostfound·2025-02-12 08:53

深度学习算法informer（时序预测）（一）（数据编码讲解）

前言：informer代码是在transformer代码基础上进行优化，请先了解transformer原理informer代码中数据编码包括三部分，位置编码、数据编码、时间编码目标：时序数据有7个特征，
槑槑紫·2025-02-12 05:33
上一页 7 8 9 10 11 12 13 14 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他