Transformer系列第5页

VIT（Vision Transformer）【超详细 pytorch实现

CNN的局限性：传统的CNN通过局部卷积核提取特征，虽然可以通过堆叠多层卷积扩大感受野，但仍然依赖于局部信息的逐步聚合，难以直接建模全局依赖关系。ViT的优势：ViT使用自注意力机制（Self-Attention），能够直接捕捉图像中所有patch（图像块）之间的全局关系。这种全局建模能力在处理需要长距离依赖的任务（如图像分类、目标检测）时表现更好。全流程图像预处理+分块图像尺寸标准化，如(224

周玄九·2025-02-27 17:54

数据结构之链表简介：原理、实现与应用

二、链表的基本概念链表是一种线性数据结构，由一系列节点组成，每个节点包含两部分：数据部分和指向下一个节点的指针。链表的头节点

陈辰学长·2025-02-27 17:24

大数据最全大模型入门到应用——LangChain：索引（Indexes）-[文本分割器

分类目录：《大模型从入门到应用》总目录LangChain系列文章：基础知识快速入门安装与环境配置链（Chains）、代理（Agent:）和记忆（Memory）快速开发聊天模型模型（Models）基础知识大型语言模型

2401_84182507·2025-02-27 17:22

解锁状态模式：Java 编程中的行为魔法

系列文章目录后续补充~~~文章目录一、状态模式：概念与原理二、状态模式的深度剖析（一）模式定义与核心思想（二）模式结构与角色三、状态模式的实际应用场景（一）电商系统中的订单状态管理（二）游戏开发中的角色状态管理

编程巫师·2025-02-27 16:51

大语言模型原理与工程实践：Transformer 大语言模型预训练

大语言模型原理与工程实践：Transformer大语言模型预训练关键词：大语言模型、预训练、Transformer、自监督学习、计算资源、数据处理文章目录大语言模型原理与工程实践：Transformer

AI天才研究院·2025-02-27 16:18

大模型核心技术原理: Transformer架构详解！

在大模型发展历程中，有两个比较重要点：第一，Transformer架构。它是模型的底座，但Transformer不等于大模型，但大模型的架构可以基于Transformer；第二，GPT。

大模型猫叔·2025-02-27 16:13

自动驾驶之BEVDet

经典主干网络比如resnet,SwinTransformer等。neck有==FPN==,PAFPN等。

maxruan·2025-02-27 16:13

大模型最新面试题系列：深度学习基础（二）

21.解释模型容量与过拟合的关系，如何在理论上平衡两者？模型容量与过拟合的关系模型容量指的是模型能够学习的复杂模式的能力，通常与模型的参数数量、网络结构的复杂度等相关。过拟合是指模型在训练数据上表现很好，但在未见过的测试数据上表现不佳。当模型容量较低时，模型可能无法学习到数据中的复杂模式，导致欠拟合，即在训练集和测试集上的表现都较差。随着模型容量的增加，模型能够学习到更复杂的模式，在训练集上的表现

人肉推土机·2025-02-27 15:08

为什么选择Linux而放弃windows，比较Windows和Mac它出色的优势在哪儿？

虽然源码不开放，但适配市面上几乎所有的x86机器，Windows和各家硬件厂商总体是合作共建生态圈，从市场份额看，Windows是个人电脑桌面操作系统的霸主；Linux内核开放、开源，可以基于Linux内核开发一系列各种各样的操作系统

MAX在码字·2025-02-27 15:06

iOS音视频：OpenGL常用术语介绍

1、前言【iOS音视频】是个系列，里面会记录一些博主在iOS音视频方面的学习笔记、踩到的坑，以便温故而知新。

【零声教育】音视频开发进阶·2025-02-27 14:59

【漫话机器学习系列】106.线性激活函数（Linear Activation Function）

1.什么是线性激活函数？线性激活函数是一种最简单的激活函数，数学表达式为：即输出与输入保持完全线性关系。这意味着对于任何输入值x，其输出将等于输入值本身，函数图像为一条通过原点的直线。在神经网络中，激活函数的作用是将网络的线性组合映射到某种非线性输出。传统的线性激活函数常用于一些特定场景，比如回归问题，其中预测的目标值与输入特征之间可能存在线性关系。2.线性激活函数的特点线性关系：与其他常见的激活

IT古董·2025-02-27 13:25

ubuntu终端指令集 shell编程基础（一）

磁盘指令连接与查看：磁盘与Ubuntu有两种连接方式；使用ls/dev/sd*查看是否连接成功，通过df系列指令查看磁盘使用信息。若U盘已挂载，相关操作可能失败，需用umount取消挂载。

zm·2025-02-27 13:22

AI时代已来！企业如何实现AI能力全覆盖？

我们特别针对企业中高层管理者、企业基层员工及个人推出AI系列实战课程。课程介绍：随着AI技术的快速发展，企业如何引入和有效地应用AI，将AI与实际业务和办公场景结合，驱动企业的转型创新和业务的提质增

·2025-02-27 13:27

全面解析Maven构建生命周期：阶段、作用与示例

Maven生命周期的定义Maven生命周期是指一系列有序的构建阶段（phases），这些阶段定义了构建过程的步骤。

微笑听雨。·2025-02-27 12:18

行为型模式 - 策略模式 (Strategy Pattern)

行为型模式-策略模式(StrategyPattern)策略模式定义了一系列的算法，并将每个算法封装起来，使它们可以相互替换。策略模式让算法的变化独立于使用算法的客户端。以下是几个策略模式的经典案例。

_真相只有一个·2025-02-27 11:13

【RAG系列】知识加工的艺术 - 文档预处理实战手册

知识加工的艺术-文档预处理实战手册原始文档文档拆分结构化数据非结构化数据表格处理器文本分割器格式化CSV语义分块知识图谱一、文本拆分的积木法则1.1机械分割vs语义理解固定窗口上下文感知段落拆分...模型参数量达到175B时...语义拆分模型参数量......175B时表现分割策略对比方法优点缺点代码示例固定窗口O(1)时间复杂度割裂技术术语text.split("\n\n")滑动窗口保留局部上下

什么都想学的阿超·2025-02-27 10:35

自编大模型系列之 01 使用 Python 从头构建 LLaMA 3 编写您自己的十亿参数LLM（教程含源码）

LLaMA3是继Mistral之后最有前途的开源模型之一，可以解决各种任务。我之前在Medium上写过一篇博客，介绍如何使用LLaMA架构从头开始创建一个具有超过230万个参数的LLM。现在LLaMA-3已经发布，我们将以更简单的方式重新创建它。我们不会在本博客中使用GPU，但您至少需要17GB的RAM，因为我们将加载一些大小超过15GB的文件。如果这对您来说是个问题，您可以使用Kaggle作为解

知识大胖·2025-02-27 10:33

数据安全_笔记系列09_人工智能（AI）与机器学习（ML）在数据安全中的深度应用

数据安全_笔记系列09_人工智能（AI）与机器学习（ML）在数据安全中的深度应用人工智能与机器学习技术通过自动化、智能化的数据分析，显著提升了数据分类、威胁检测的精度与效率，尤其在处理非结构化数据、复杂威胁场景和降低误报

宁宁可可·2025-02-27 10:33

【算法系列】有趣的计数排序

文章目录计数排序（CountingSort）详解一、基本思想1.基本原理2.适用场景3.稳定性二、实现步骤1.统计频率2.累积频率3.构建输出数组4.复制回原数组三、代码实现四、时间复杂度分析五、空间复杂度分析六、计数排序的优缺点七、总结计数排序（CountingSort）详解计数排序（CountingSort）是一种非比较型排序算法，适用于整数排序。它通过计算每个元素出现的次数来确定它们在输出数

binbinxyz·2025-02-27 10:32

【算法系列】希尔排序算法

文章目录希尔排序算法：一种高效的排序方法一、基本思想二、实现步骤1.初始化增量2.分组与排序3.缩小增量4.最终排序三、代码实现四、增量序列的选择1.Shell增量序列2.Hibbard增量序列3.Sedgewick增量序列五、时间复杂度六、总结希尔排序算法：一种高效的排序方法在讨论希尔排序之前，我们先回顾一下选择排序的基本概念。选择排序是一种简单的排序算法，其核心思想是通过多次遍历数组，逐步找到

binbinxyz·2025-02-27 09:30

深入解析STL与模板元编程的应用与心得

本文将围绕侯捷C++系列课程中的STL（StandardTemplateLibrary，标准模板库）与模板元编程部分展开学习笔记，分享个人对这两大主题的深入理解与学习心得。

爱编程的Loren·2025-02-27 08:23

导读：生活中的设计模式——启程之前，请不要错过我

的特点基本语法常用容器List（列表）Tuple（元组）Dictionary（字典）类的定义Demo让你顿悟重要说明两年前CSDN出了一个产品叫ink，旨在提供一个高质量的写作环境，那时就有写设计模式这一系列的想法了

陌尘(MoChen)·2025-02-27 08:52

华为真的就比小米高端？小米15和华为mate70该怎么选

网上众说纷纭，有人说华为Mate系列一直走高端路线，品质和性能那都是顶尖的；也有人觉得小米15性价比超高，配置也毫不逊色。

佳晓晓·2025-02-27 08:19

(十)趣学设计模式之外观模式！

想象一下，你想做一道复杂的菜(比如：佛跳墙)，你需要准备各种食材、处理食材、烹饪食材等等一系列

码熔burning·2025-02-27 07:11

Spring Boot整合策略模式：概念、使用场景、优缺点及企业级Java

1.策略模式概念策略模式通过定义一系列算法，并将其封装在可互换的策略对象中，使得这些算法可以相互替换。它将算法的选

程序才子·2025-02-27 06:36

【HeadFirst系列之HeadFirst设计模式】第13天之代理模式：控制对象访问的利器！

代理模式：控制对象访问的利器！大家好！今天我们来聊聊设计模式中的代理模式（ProxyPattern）。如果你曾经需要控制对某个对象的访问，或者在访问对象时添加额外的逻辑（如权限检查、日志记录等），那么代理模式就是你的救星！本文基于《HeadFirst设计模式》的代理模式章节，通过生动的故事和Java代码示例，带你轻松掌握代理模式的精髓。我们还会探讨代理模式在JDK和Spring等框架中的应用，让你

工一木子·2025-02-27 06:35

大语言模型(LLM)入门学习路线图，附资源汇总，收藏这篇就够了

这份资料重点介绍了我们应该掌握哪些核心知识，并推荐了一系列优质的学习视频和博客，旨在帮助大家系统性地掌握大型语言模型的相关技术。大语言模

AI小白熊·2025-02-27 06:34

用于训练基于pytorch构建的小型字符级语言模型的数据集汇总

前文，我们从零开始基于transformer框架在pytorch上构建一个小型字符级语言模型，并编写了完整的python示例，模型是需要训练的，所以在原有代码的基础上，我们寻找一些公开的数据集对模型进行训练

搏博·2025-02-27 06:03

计算机操作系统--Linux初识01

计算机操作系统--Linux初识01准备工作实验一：Linux软件部署及应用软件安装QQ官网下载二进制软件包.deb格式百度网盘官网下载软件包.rpm软件卸载软件更新此系列博客将会记录学校任务的完成情况

血月无华AUV·2025-02-27 06:31

Navicat Premium 16/17 安装包（Win/Mac）支持M系列芯片可视化数据库管理工具

目录下载链接:https://pan.baidu.com/s/1faPBE6hZPwjVOErTLiy6oA?pwd=1234提取码:1234一、环境部署与基础配置1.1双版本安装指南1.2中文汉化配置二、数据库管理核心功能2.1多协议连接方案2.2数据迁移与同步三、高阶开发技巧3.1智能SQL编辑器3.2可视化查询构建3.3数据模型设计四、效率革命：15个杀手级技巧4.1快捷键矩阵4.2自定义工

吃汤圆的抹香鲸·2025-02-27 04:49

大模型openai范式接口调用方法

OpenAI范式接口因其简洁、统一和高效的设计，成为了与大型语言模型（如GPT系列）交互的行业标准。它的优势在于：统一接口：无论是文本生成还是对话生成，都遵循统一标准，便于开发者快速上手和复用代码。

TFATS·2025-02-27 04:48

vue组件间通信的八大方法

再读vue官方文档系列文章目录vue组件间通信的八大方法文章目录再读vue官方文档系列文章目录前言一、通信种类？二、八大通信方式1.props和$emit2.

@LitterFisher·2025-02-27 04:44

恢复更新--vue源码系列1之如何看源码

文章目录前言一、前提二、如何看1.学会断点debuger2.整体看代码3.结合别人的vue源码解释总结前言本系列为vue2.6版本的源码分析系列一、前提你总不能一个vue的项目也没写过吧二、如何看1.学会断点

@LitterFisher·2025-02-27 04:44

深度学习的前沿与挑战：从基础到最新进展

深度学习的工作原理深度学习的关键技术1.卷积神经网络（CNN）2.循环神经网络（RNN）3.生成对抗网络（GAN）4.变分自编码器（VAE）5.自注意力机制与Transformer深度学习的应用1.计算机视觉

Jason_Orton·2025-02-27 03:09

【最全福利】全套清华大学DeepSeek教程

DeepSeek作为清华大学推出的开源AI模型，不仅在技术上取得了突破，更通过一系列教程和资源，让普通人也能轻松上手。今天，就让我们一起探索清华大学分享的五个DeepSeek宝藏资源。

大模型入门学习·2025-02-27 03:39

JavaEE进阶(1) Spring Web MVC 注解和参数传递

SpringMVC提供了一系列的注解，简化了我们的开发工作，让我们能够通过更简洁和可读的方式来处理请求。

Purified_Soda·2025-02-27 03:09

# 零基础到红队渗透笔记（5）Shor量子算法对传统密码学的威胁和应对

声明：本系列笔记只为记录学习过程和师傅们探讨，发布在站内的版本经我本人反复核对，已对涉密及敏感信息进行处理，部分内容收集于网络，如涉及侵权或违规请联系我马上删除文章。

复苏之枫·2025-02-27 03:06

【网络安全】网络安全防护体系

1.2网络安全防护体系的定义网络安全防护体系是指由一系列相互关联的网

网络安全-杰克·2025-02-27 02:30

NVIDIA JetPack 6.2 引入超级模式

NVIDIAJetPack6.2为NVIDIAJetsonOrinNano和JetsonOrinNX模块引入超级模式借助SuperModes，JetsonOrinNX系列可将AITOPS提升高达70%。

雨田嘟嘟·2025-02-27 02:27

python系列&deep_study系列：使用python操作麦克风录制讲话，实时语音识别转换为文字

使用python操作麦克风录制讲话，实时语音识别转换为文字使用python操作麦克风录制讲话，实时语音识别转换为文字项目步骤VoskPyaudio完整代码使用python操作麦克风录制讲话，实时语音识别转换为文字在这个项目中，我们将建立一个系统，它可以使用麦克风录制现场讲话，然后通过语音识别进行转录。这可用于自动记录和转录会议、讲座和其他活动，能过自动记录演讲内容。我们将编写代码，来开始和停止录音

坦笑&&life·2025-02-27 02:57

适合 C++ 学习的开源项目——在 GitHub 学编程

等等See，这就是本系列文章的由来，我们希望学习各类编程语言的同学们，读（Mark）完我们的入门系列，可以找到学习的方向、系统的学习某一门语言，然后做个简单的小玩意，不只是Hello

java领域·2025-02-27 01:52

LayoutInflater & Factory2

专注于分享各领域原创系列文章，擅长java后端、移动开发、商业变现、人工智能等，希望大家多多支持。

Android西红柿·2025-02-27 01:22

uml类图

专注于分享各领域原创系列文章，擅长java后端、移动开发、商业化变现、人工智能等，希望大家多多支持。目录一、导读二、概览三、推荐阅读一、导读我们继续总结学习基础知识，温故知新。二、概览无他，唯记录尔！

Android西红柿·2025-02-27 01:22

python与C系列语言的差异总结（4）

如果具有传统编译型语言的经验，大家可能会对是否使用字典而犹豫不决，担心字典的效率比列表或数组低。事实上Python字典的执行速度已经相当快了。Python语言的许多内部特性都依赖于字典，为提高字典的效率已经投入了大量的心血。Python的所有数据结构都经过了高度优化，因此不应该花太多时间去考虑哪个更快，哪个效率更高。pass语句也可在Python中需要语句的其他任何地方使用。pass语句用作语句的

yyc_audio·2025-02-27 01:50

IntelliJ IDEA 2024.3.X最新版补丁，亲测全系可用！！！

●本教程适用于JetBrains全系列产品，包括IDEA、Pycharm、WebStorm、Phpstorm、Datagrip、RubyMine、CLion、AppCode等。

彼岸的包子·2025-02-27 00:46

【Python大语言模型系列】如何在LangChain中使用ReAct构建AI Agent（案例+源码）

一、引言========当前，在各个大厂纷纷卷LLM的情况下，各自都借助自己的LLM推出了自己的AIAgent，比如字节的Coze，百度的千帆等，还有开源的Dify。你是否想知道其中的原理？是否想过自己如何实现一套AIAgent？当然，借助LangChain就可以。ReAct（ReasoningandAction）是一个框架，其核心思想，就是通过思维链的方式，引导模型将复杂问题进行拆分，一步一步地

脱泥不tony·2025-02-27 00:12

JavaScript系列（87）--Webpack 高级配置详解

Webpack高级配置详解️Webpack是前端工程化中最流行的构建工具之一，掌握其高级配置可以帮助我们构建更高效、更优化的应用。本文将深入探讨Webpack的高级配置技巧和最佳实践。Webpack核心概念回顾小知识：Webpack本质上是一个现代JavaScript应用程序的静态模块打包器。当Webpack处理应用程序时，它会递归地构建一个依赖关系图，其中包含应用程序需要的每个模块，然后将所有这

ᅟᅠ ‌‍‎‏ 一进制·2025-02-27 00:11

不重视数据质量，企业要出大问题！

而数据质量，作为这一系列决策的基石，其重要性不言而喻。数据质量是什么那么，数据质量具体是指什么呢？从概念上讲，数据质量指的是数据满足明确或隐含需求的程度，是衡量

·2025-02-27 00:12

云上玩转DeepSeek系列之五：实测优化16%, 体验FlashMLA加速DeepSeek-V2-Lite推理

2月25日，DeepSeek-AI面向社区开源了其技术成果FlashMLA（https://github.com/deepseek-ai/FlashMLA），这是一个面向推理优化的高效多层注意力（Multi-HeadLatentAttention）解码内核。该技术通过优化多头潜在注意力机制和分页KV缓存系统，显著提升了大语言模型的长序列处理能力与推理效率。我们第一时间在人工智能平台PAI上进行拆箱

·2025-02-27 00:41

如何利用GPT创作诗歌与短篇故事赚钱

GenerativePre-trainedTransformer（GPT）作为一种强大的自然语言处理工具，为普通人提供了创作诗歌和短篇故事的新途径，并能够通过这些创作实现赚钱的机会。

·2025-02-27 00:08

推荐频道

Transformer系列