自我注意力第5页

创新引领的人工智能模型系列：MiniMax-01 系列震撼登场

MiniMax-01MiniMax-01MiniMax-01系列模型首次大规模实现线性注意力机制，传统Transformer架构不再是唯一的选择。这个模型的参数量高达4560亿，其中单次激活459亿。

·2025-03-03 17:52

Day7、Vue3 组件通信技术

鼓励：每一次自我怀疑，都是成长的信号，它在提醒你正站在突破的边缘。大胆向前，你的能力远超想象，自信会为你推开成功之门。———————

码有余悸·2025-03-03 13:25

Redis缓存穿透，缓存击穿，缓存雪崩实战代码总结

大家好，给大家先做个自我介绍我是码上代码，大家可以叫我码哥我也是一个普通本科毕业的最普通学生，我相信大部分程序员或者想从事程序员行业的都是普通家庭的孩子，所以我也是靠自己的努力，从毕业入职到一家传统企业

码上代码·2025-03-03 10:00

华为笔试 4.24 第二题：这一题只通过了36%why

offer准备在剩下这几个月做一段软件开发实习，我之前有小公题解|#[NOIP2010]数字统计##includeusingnamespacestd;intm阿里控股爱橙科技啥啥治理中心Java一面50分钟自我介绍

huaxinjiayou·2025-03-03 06:30

2024年前端提效项目盘点之：低代码拖拽生成页面（架构设计篇）

现在把这一些系列实践的经验自我总结一下，形成一个低代码专栏。每个项目都分为思路架构设计和实践各两篇文章。

前端77·2025-03-03 06:30

WatchDog 看门狗

在分布式系统中，watchdog常常与分布式锁、健康检查、超时机制等结合使用，来确保系统在异常情况下能够及时发现问题并进行自我修复。

不要成为根号三·2025-03-03 05:15

探索 Mobile-Agent：X-PLUG 推出的创新型移动智能操作代理

目录前言一、项目概述二、主要功能1、操作定位2、自我规划3、自我反思4、多应用操作三、技术原理四、应用场景1、自动化移动设备操作2、移动设备性能评估3、提高移动应用程序适应性五、在线体验六、本地部署1.

寻道AI小兵·2025-03-02 21:17

注意力机制：让机器学会“挑重点”

注意力机制：让机器学会“挑重点”前言在日常生活中，我们总是无意识地选择性地关注某些信息，而忽略其他部分。比如，听音乐时，我们可能会更关注旋律或歌词；阅读文章时，我们会优先留意标题和核心观点。

·2025-03-02 17:54

敏捷研发项目如何管理

其中，打造跨职能自组织团队尤为重要，因为敏捷方法强调团队内不同角色的充分协作，允许成员在自我管理与快速交付之间取得平衡。

·2025-03-02 17:51

Llama 2架构深度解析：Meta开源的70B参数大模型设计哲学

一、架构设计理念Llama2作为Meta开源的商用级大语言模型，其架构设计体现了三大核心原则：效率优先：在7B/13B/70B参数规模下保持线性计算复杂度扩展性强化：通过改进注意力机制支持4k上下文长度安全性内嵌

AI时代已来！·2025-03-02 14:46

Transformer 代码剖析9 - 解码器模块Decoder （pytorch实现）

其独特的三级注意力机制架构使其在机器翻译、文本生成等任务中表现出色。

lczdyx·2025-03-02 13:05

韭菜的自我修养——认知篇

这个社会充满了镰刀和韭菜的故事。大佬们有资金、资源、人脉、信息差。他们通过各种眼花缭乱的操作轻轻松松占据了食物链的顶端。人和人之间更是通过圈层隔开，一个圈层就是一个世界。**普通人大多充当的角色，无疑是韭菜。韭菜们越茁壮的成长，镰刀们越无情的收割。最终结局是，大部分人永远处于手停口停的状态。犹如地主家的那头驴，不断拉磨换取生存。思考一个问题，普通人能避免韭菜的命运吗？甚至能拥有一把小小的镰刀吗？一

_findyi·2025-03-02 10:36

字节跳动后端日常实习一二+hr面面经（已OC）

看了一圈大厂发现字节实习生给的薪资最高，福利也挺不错的，就通过内推投了字节的后端实习，很快就收到了面试邀约，从一面到收到offer一共6天，以下是本次面试的面经（部分题目可能记不太清了）一面：上来先是自我介绍

桜翊·2025-03-02 02:05

字节跳动后端开发一面面经

2023-08-07字节跳动后端开发一面1自我介绍：学历背景-实习/项目-校园经历-获奖2介绍一下java全栈实习：业务-解决方案-工作-成果-反思3xx功能怎么做的：业务-表设计-前端原型-功能-前后端接口

我喝AD钙·2025-03-02 02:05

字节后端面试面经综合分析

目录一、字节豆包后端一面面经解析（一）自我介绍（二）实习项目拷打（三）手撕代码（四）C++多态相关问题（五）智能指针相关问题（六）malloc相关问题（七）mmap相关问题（八）多线程相关问题（九）MySQL

阿贾克斯的黎明·2025-03-02 01:30

嵌入式面经111题答案汇总_含技术答疑_嵌入式三大项目分享

字节AdsInfra系统架构开发实习面经Timeline：3.20投递4.12一面4.25二面4.29挂一面1、自我介绍2、实习做的题解|#牛客每个人最近的登录日期(五)#selectt.date,ifnull

huaxinjiayou·2025-03-01 21:34

【vLLM 学习】使用 Neuron 安装

目前NeuronSDK不支持分页注意力(PagedAttention)，但Transforme

HyperAI超神经·2025-03-01 14:47

YOLOv5 + SE注意力机制：提升目标检测性能的实践

为此，引入注意力机制成为了一种有效的改进方法。本文将详细介绍如何在YOLOv5中引入SE（Squeeze-and-Excitatio

那年一路北·2025-03-01 13:09

SQL 实战—递归 SQL：层级结构查询与处理树形数据

递归SQL是指在SQL查询中，自我引用以遍历层级结构或处理递归关系的一种方式。MySQL8.0、PostgreSQL和SQLServer等数据库均

m0_74823239·2025-03-01 09:41

Transformer 代码剖析1 - 数据处理（pytorch实现）

它摒弃了传统的循环结构，完全基于注意力机制，显著提高了处理序列数据的效率和性能。本文将通过对一个具体的项目代码结构进行详细分析，带领大家深入了解Transformer模型的数据处理部分。

lczdyx·2025-03-01 06:18

注意力机制中的查询Q、键K、值V与态势感知

注意力机制中的查询（Q）、键（K）、值（V）与态势感知中的态、势、感、知之间存在一定的对应关系。

人机与认知实验室·2025-03-01 06:45

注意力机制是如何提取有用信息的？

我们用通俗的方式解释注意力机制是如何通过比较查询（Query,Q）和键（Key,K）的相似度，来决定从值（Value,V）中提取多少有用信息的。

人机与认知实验室·2025-03-01 06:45

DeepSeek技术全景解析：架构创新与行业差异化竞争力

一、DeepSeek技术体系的核心突破架构设计：效率与性能的双重革新Multi-headLatentAttention(MLA)：通过将注意力头维度与隐藏层解耦，实现显存占用降低30%的同时支持4096

二进制coder·2025-03-01 01:40

【llm对话系统】大模型源码分析之 LLaMA 模型的 Masked Attention

在大型语言模型（LLM）中，注意力机制（AttentionMechanism）是核心组成部分。

kakaZhui·2025-02-28 20:03

阿里巴巴DIN模型原理与Python实现

其核心思想是通过注意力机制动态捕捉用户历史行为中与当前候选商品相关的兴趣。

eso1983·2025-02-28 09:08

技术大咖面对面 | 网易技术大佬的自我修养

技术人的成长是一个长期的过程，从一个懵懂的青涩少年，到一个具有一定影响力的技术专家，伴随的是自己能力的提升、认知的升级、影响力的壮大。都说成长没有捷径，但有方法，那这条成长的路，我们要怎么走，才能少走弯路，更快前行呢？基本素养根据自己这么多年的亲身经历，以及周围同事的成长路径，我总结了下面六条技术人应当具备的基本素养，作为我们技术之路能够走得更远，走得更顺的基石。1长期学习技术人的底气来自于技术。

网易数智·2025-02-28 03:52

什么是提示词？

目录从生活场景认识提示词专业定义解析提示词的底层逻辑应用场景全解析优秀提示词的设计法则典型场景案例分析未来发展趋势成为提示词设计师的路径提示词管理：PromptMinder提示词自动生成：Promptate一、从生活场景认识提示词：无处不在的思维导航清晨的闹钟响起时，“再睡5分钟"的念头是一个自我暗示的提示词

正宗咸豆花·2025-02-27 23:47

web前端开发面试题

1.一些开放性题目1.自我介绍：除了基本个人信息以外，面试官更想听的是你与众不同的地方和你的优势。2.项目介绍3.如何看待前端开发？4.平时是如何学习前端开发的？5.未来三到五年的规划是怎样的？

书亦何欢*·2025-02-27 23:44

浅析 DeepSeek 开源的 FlashMLA 项目

浅析DeepSeek开源的FlashMLA项目DeepSeek开源周Day1（2025年2月24日）放出的开源项目——FlashMLA，是一款针对Hopper架构GPU高效多层级注意力(Multi-LevelAttention

X.Cristiano·2025-02-27 20:18

注意力机制（Attention Mechanism）详细分类与介绍

注意力机制（AttentionMechanism）是近年来在深度学习中非常流行的一种技术，特别是在自然语言处理（NLP）、计算机视觉等任务中，具有显著的效果。

Jason_Orton·2025-02-27 20:46

VIT（Vision Transformer）【超详细 pytorch实现

ViT的优势：ViT使用自注意力机制（Self-Attention），能够直接捕捉图像中所有patch（图像块）之间的全局关系。

周玄九·2025-02-27 17:54

CORS Missing Allow Origin

自用小总结问题出现背景：前后端交互问题描述：脚本无法获取响应主体（原因：CORSMissingAllowOrigin问题分析：前后端交互数据形式不匹配自我检查：用postman检查后端接口是否能用，排除前端和后端其中一个尝试更改

打怪升级&·2025-02-27 16:46

挑战自我，以笔为马——CSDN大学生写作创作挑战赛等你来！

####活动启事亲爱的大学生博主们，你们好！如果你热爱写作，渴望展现自己的创作才华，那么这个活动就是为你量身定制的。这是一个为期14天的创作挑战赛，我们诚挚地邀请你一同发掘写作的魅力，书写出属于我们自己的故事。无论你是想分享技术见解，还是希望与读者进行深度的交流和互动，这个活动都是你的舞台。 **一、活动内容** **1.创作主题**： *计算机领域相关内容，VIP、付费专栏文章

爱编程的Loren·2025-02-27 12:18

python怎么用pip怎么用_python的pip怎么用

爱文斯坦·2025-02-27 07:41

深度学习的前沿与挑战：从基础到最新进展

深度学习的工作原理深度学习的关键技术1.卷积神经网络（CNN）2.循环神经网络（RNN）3.生成对抗网络（GAN）4.变分自编码器（VAE）5.自注意力机制与Transformer深度学习的应用1.计算机视觉

Jason_Orton·2025-02-27 03:09

云上玩转DeepSeek系列之五：实测优化16%, 体验FlashMLA加速DeepSeek-V2-Lite推理

2月25日，DeepSeek-AI面向社区开源了其技术成果FlashMLA（https://github.com/deepseek-ai/FlashMLA），这是一个面向推理优化的高效多层注意力（Multi-HeadLatentAttention

·2025-02-27 00:41

课程概况：第1讲

课程大纲1、讲师自我介绍2、讲课风格介绍3、课程内容介绍-------------------------------------------------------------------------

道法—自然·2025-02-26 23:04

技术硬核：突出FP8、3倍速度、90%成本暴降等技术参数，强化可信度

DeepSeek近期开源项目详细分析1.FlashMLA：大模型推理效率革命技术特点：首个开源项目FlashMLA是针对英伟达Hopper架构GPU（如H800）优化的高效多头潜在注意力（MLA）解码内核

guzhoumingyue·2025-02-26 20:45

AI岗位面试指南：高频文档问题解析与应答策略

应答框架：背景与目标："项目源于客户需要将文本生成延迟从2秒压缩至800ms以内，同时保证BLEU分数不低于0.82"技术创新点："采用知识蒸馏+动态量化方案，设计分层注意力裁剪策略"量化成果："推理速度提升

阿三0812·2025-02-26 19:07

HarmonyOS Next典型布局案例：运营横幅（Banner）

在HarmonyOSNext应用开发中，运营横幅（Banner）是吸引用户注意力、展示重要信息的关键元素。而Swiper组件则是实现Banner轮播效果的得力助手。今天，咱

·2025-02-26 19:02

云原生周刊：云原生和 AI

FlashMLA是专为NVIDIAHopper架构GPU（如H100、H800）优化的高效多头潜在注意力（MLA）解码内核，旨在提升大模型推理性能，特别是针对可变长度序列进行了优化。

·2025-02-26 19:58

知识的诅咒

8年级儿子周末的“放飞自我”时间到来，却玩不了游戏，心急火燎。可我观察到，他除了找我解决问题，似乎没有主动想办法去修理，反而转头去玩手机游戏。

·2025-02-26 14:17

大模型知识蒸馏：技术突破与应用范式重构——从DeepSeek创新看AI基础设施演进路径

大模型服务器厂商·2025-02-26 13:20

Python参数传递机制全解：位置参数 vs 关键字参数（含实战案例与最佳实践）

(a,b,operation='add'):#a,b是位置参数，operation是带默认值的位置参数pass1.2核心差异特性位置参数关键字参数传递方式按位置顺序按参数名指定灵活性低高可读性依赖顺序自我描述性强二

燃灯工作室·2025-02-26 02:39

【YOLOv11改进[注意力]】引入YOLOv12的A2C2f模块改进v11

目录一YOLOv121区域注意力(AreaAttention)2R-ELAN(残差高效层聚合网络)3架构优化4实验二魔改YOLOv111整体修改

Jackilina_Stone·2025-02-25 19:20

月之暗面开源新一代注意力机制：处理1000万token能快16倍，已在Kimi上进行验证

❤️如果你也关注AI的发展现状，且对AI应用开发感兴趣，我会每日分享大模型与AI领域的开源项目和应用，提供运行实例和实用教程，帮助你快速上手AI技术！AI在线答疑->智能检索历史文章和开源项目->尽在微信公众号->搜一搜：蚝油菜花「你的LLM还在为长文本「爆内存」？Moonshot突破性方案：千万token推理速度提升16倍！」大家好，我是蚝油菜花。当同行还在为以下问题头疼时——32k上下文跑批处

蚝油菜花·2025-02-25 15:53

即插即用的注意力机制21种

提示：谬误之处请指出更正摘要随着深度学习特别是自然语言处理领域的飞速发展，注意力机制（AttentionMechanism）已成为提升模型表现的关键技术，本文主要记录了即插即用的注意力机制结构的功能、出处及核心代码

@Mr_LiuYang·2025-02-25 14:40

扫地僧009·2025-02-25 13:31

GPT-2源码实现及GPT-3、GPT-3.5、GPT-4及GPT-5内幕解析(二)

NLP_Matrix_Space5.2GPT-2源码实现逐行解析本节讲解GPT-2源码，gpt2.py是一个使用NumPy实现的代码，在代码中实现了GELU激活函数、softmax函数、层归一化、线性层、前馈神经网络、多头自注意力机制

段智华·2025-02-25 09:35

《时间管理软件大推荐：找到适合你的高效助手》

想要学习新技能、提升自我，却总是抽不出时间？如果你也有以上这些问题，那么你可能急需提升自己的时间管理能力了。在这个快节奏的时代，时间管理能力已经成为了我们必备的技能之一。

·2025-02-24 23:49

推荐频道

自我注意力