稀疏矩阵乘法

第一章：优化概述_《C++性能优化指南》notes

程序设计题（5题）答案及详解多选题答案：程序设计题答案示例1.优化字符串类实现：性能对比输出：2.热点循环优化3.算法优化实践优化后的二分查找实现4.并发优化设计实现5.高性能数学计算优化实现优化代码示例(矩阵乘法

郭涤生·2025-03-26 14:58

TensorFlow之sparse tensor

目录前言创建sparsetensorsparsetensor的运算:前言sparsetensor稀疏tensor,tensor中大部分元素是0,少部分元素是非0.创建sparsetensorimporttensorflowastf

浊酒南街·2025-03-26 13:19

H100赋能生成式AI算力革新

其核心突破在于第四代TensorCore与Transformer引擎的协同设计，通过动态稀疏计算与混合精度支持，将大规模矩阵运算效率提升至新高度。

智能计算研究中心·2025-03-26 04:13

图论 24. Floyd算法（多源最短路问题）

如果是稀疏图，floyd是从节点的角度去计算了，例如图中节点数量是1000，就一条边，那floyd的时间复杂度依然是O(n^3)。如果源

Mophead_Zarathustra·2025-03-26 02:51

代码随想录算法训练营第五十二天（图论）| 98. 所有可达路径、深度优先搜索、广度优先搜索

特点：空间复杂度高：无论图是否稀疏，邻接矩阵都需要O(V^2)的空间，因为每个节点都需要为所有其他节点预留位置。

*MaybE·2025-03-25 21:21

科学计算（2）：矩阵特征值计算

幂法幂法是求解矩阵主特征值（按模最大的特征值）及其对应特征向量的经典迭代方法，尤其适用于大型稀疏矩阵。

♚放晴♛~·2025-03-25 20:38

ai-by-hand-excel: 用 Excel 手搓各种 AI 算法和模型

小众AI·2025-03-25 09:14

模型量化的原因和方法

这包括理解参数的概念、采用量化技术、剪枝、稀疏表示等方法。参数的概念权重(Weights)定义：权重是连接输入特征与输出预测之间的系数。

潇湘馆记·2025-03-25 06:27

图论--最短路算法

1Floyd2Dijkstra算法3Dijkstra+堆优化4Bellman-Ford5SPFA(ShortestPathFasterAlgorithm)0图的储存方式边目录(记下来，仅此而已)邻接矩阵(适合稠密图)邻接表(适合稀疏图

Dream_Maker_yangkai·2025-03-25 04:38

基于推理的强化学习智能体设计与开发

理论基础与核心概念1.1推理强化学习（Reasoning-EnhancedRL）定义核心思想：在传统强化学习的马尔可夫决策过程（MDP）基础上，引入符号推理、因果推断和知识引导机制，解决复杂环境中的长程依赖和稀疏奖励问题

由数入道·2025-03-24 17:45

AF3 rot_matmul 和 rot_vec_mul函数解读

AlphaFold3rigid_utils模块的rot_matmul和rot_vec_mul函数实现了手动计算两个旋转矩阵的乘法A×B以及矩阵-向量乘法R×t，避免了直接用矩阵乘法的AMP（AutomaticMixedPrecision

qq_27390023·2025-03-24 04:23

利用Pinecone和Hybrid Search实现高效向量检索

HybridSearch结合了密集向量和稀疏向量检索的优势，在提高检索准确性的同

dgay_hua·2025-03-23 05:35

GS-SLAM论文阅读笔记-MGSO

前言MGSO首字母缩略词是直接稀疏里程计(DSO)，我们建立的光度SLAM系统和高斯飞溅(GS)的混合。

zenpluck·2025-03-21 17:29

CCF CSP 历年真题 C语言版满分代码集合 (至2021.9 持续更新中

灰度直方图2021-4-2领域均值2020-12-1期末预测之安全指数2020-12-2期末预测之最佳阈值2020-9-1称检测点查询2020-9-2风险人群筛查2020-6-1线性分类器2020-6-2稀疏向量

JY_0329·2025-03-21 17:55

无矩阵乘法LLM：效率与性能双突破

标题：无矩阵乘法LLM：效率与性能双突破文章信息摘要：无矩阵乘法的LLMs通过创新技术替代传统矩阵乘法操作，显著降低了计算成本，减少了对GPU的依赖。

XianxinMao·2025-03-21 08:42

【人工智能】注意力机制深入理解

文章目录**一、注意力机制的核心思想****二、传统序列模型的局限性****三、Transformer与自注意力机制****1.自注意力机制的数学公式****四、注意力机制的关键改进****1.稀疏注意力

问道飞鱼·2025-03-21 08:09

互联网打工人的发际线保卫战：与代码共舞，和头发共存

某大厂程序员小李摸了摸日渐稀疏的头顶，看着钉钉弹出的第17条客户反馈，突然意识到：在这场与需求、bug、OKR的持久战中，头发和健康正在悄然“掉线”。

·2025-03-21 03:23

软考中级软件设计师考点知识点笔记总结 day05

文章目录4、栈和队列4.1、栈的定义4.2、队列定义5、串、数组、矩阵和广义表5.1、串5.2、数组5.3、稀疏矩阵5.4、广义表4、栈和队列4.1、栈的定义线性表是具有相同数据类型的n个数据元素的有限序列

莫问alicia·2025-03-20 14:41

使用 DashVector 进行高效的矢量检索和自查询检索器演示

DashVector是一个完全托管的向量数据库服务，提供了对高维稠密和稀疏向量的支持，允许实时插入和过滤搜索。

bavDHAUO·2025-03-19 19:34

神经网络模型压缩&实例教程—非结构化剪枝

相反，已知生物神经网络使用高效的稀疏连接。为了在不牺牲准确性的情况下减少内存、电池和硬件消耗，通过减少模型中的参数数量来确定压缩模型的最佳技术是很重要的。

程序先锋·2025-03-18 04:41

PyTorch 模型剪枝实例教程一、非结构化剪枝

而众所周知，生物神经网络使用高效的稀疏连接（生物大脑神经网络balabala啥的都是稀疏连接的），考虑到这一点，为了减少内存、容量和硬件消耗，同时又不牺牲模型预测的精度，在设备上部署轻量级模型，并通过私有的设备

小风_·2025-03-18 00:41

数据结构-稀疏矩阵-十字链表存储

当矩阵的非零元个数与位置在操作中变化较大时，就不宜用顺序存储结构来表示三元组的线性表。在链表中，每个非零元可用一个含5个域的结点表示，其中i,j,e这三个域分别表示该非零元所在的行的值，向右域right用以链接同一行中下一个非零元，向下域down用以链接同一列中下一个非零元，向右域right用以链接同一行中下一个非零元，向下域down用以链接同一列中下一个非零元。同一行的非零元通过right域链接

辣条不爱辣·2025-03-17 23:02

java数组

目录一、数组概念二、数组的声明与初始化三、数组操作示例四、数组属性与注意事项五、内存结构分析六、常见操作七、二维数组八、稀疏数组一、数组概念数组是Java中用于存储相同类型数据的有序集合，具有以下特性：

TwitCoder·2025-03-17 12:12

计算机视觉（Computer Vision, CV）的入门到实践的详细学习路线

一、基础准备1.数学基础线性代数深入矩阵运算，理解矩阵乘法、转置、逆等基本概念。掌握特征值与特征向量的几何意义，理解其在图像压缩、特征提取中的应用。

云梦优选·2025-03-16 18:57

大模型巅峰对决：DeepSeek vs GPT-4/Claude/PaLM-2 全面对比与核心差异揭秘

喜欢可以到主页订阅专栏目录技术架构对比性能表现与基准测试多模态与多语言能力推理效率与成本分析开源生态与行业适配应用场景与案例研究未来发展与技术趋势代码实现与调用示例1.技术架构对比DeepSeek：动态稀疏激活的混合专家系统

accurater·2025-03-16 16:40

数学：矩阵

文章目录前言1.基本矩阵运算1.1矩阵加法1.2矩阵减法1.3矩阵乘法2.转置矩阵3.旋转矩阵小结【全文大纲】:https://blog.csdn.net/Engineer_LU/article/details

极客 - L U·2025-03-16 11:06

深度学习 Deep Learning 第2章线性代数

张量操作是神经网络计算的基石，矩阵乘法是前向传播的核心，范数约束模型复杂度，而生成空间理论揭示模型表达能力的本质。本章介绍线性代数的基本内容，为进一步学习深度学习做准备。

odoo中国·2025-03-16 07:07

NPU的工作原理：神经网络计算的流水线

·矩阵乘法单元和卷积加速器并行工作，高效完成计算。4.结果输出·计算完成后，输出结果（如分类标签、检测框）返回给主机或其他处理器。5.任务调度·在多任务场景下，NPU的任

绿算技术·2025-03-16 02:28

llm数据存储基础设施

链接:https://i68.ltd/notes/posts/20250310-llm-db/infinity专为LLM应用程序构建的AI原生数据库，可提供对密集向量、稀疏向量、张量（多向量）和全文的快速混合搜索项目仓库

galileo2016·2025-03-15 17:24

(4-4)DeepSeek底层架构技术：混合专家架构技术

MoE架构通过动态任务分配和稀疏激活机制，减少了不必要的计算量，提升了模型的效率和灵活性。例如，DeepSeek-V3拥有6710亿参数，但每个输入token仅激活370亿参数。

码农三叔·2025-03-15 01:10

H100解锁生成式AI算力新纪元

其创新性设计聚焦三大技术支柱：第三代TensorCore通过稀疏计算与混合精度支持，显著提升矩阵运算效率；显存带宽优化技术结合HBM3高带宽内存，将数据吞吐量提升至3.35TB/s，有效缓解大规模模型训练中的显存墙问题

智能计算研究中心·2025-03-14 22:43

形象理解线性代数的本质（三）矩阵的升维和降维

而在矩阵乘法计算中，这种降维打击时刻存在着。本节讲解一下矩阵乘法中造成的升维和降维。

_躬行_·2025-03-14 16:47

HBase学习二：HBase的表结构

HBase的表结构初次接触HBase，可能看到以下描述会懵：“基于列存储”，“稀疏MAP”，“RowKey”,“ColumnFamily”。

hucs420109·2025-03-13 18:46

数据结构----数组与广义表专题

数组与广义表专题数组的顺序表示和实现前言数组中任意一个元素存储地址的计算一维数组二维数组更一般的二维数组矩阵的压缩存储前言对称矩阵三角矩阵前言上三角对应关系下三角关系三对角矩阵下标对应关系稀疏矩阵前言稀疏矩阵的三元组表示用三元组表示矩阵的转置优化快速转置数组的顺序表示和实现前言在计算机中

落春只在无意间·2025-03-13 15:19

【AI论文】SEAP: 无训练稀疏专家激活修剪，解锁大型语言模型的潜力

本文介绍了稀疏专家激活修剪（SEAP）方法，这是一种无需训练的修剪方法，通过选择性地保留与任务相关的参数来降低推理开销。

东临碣石82·2025-03-12 19:53

HBase2.6.1部署文档

HBase特性列存储模型：HBase的数据是按列族存储的，适合高稀疏数据。行键分区

CXH728·2025-03-12 17:10

Sglang部署大模型常用参数详解

Sglang部署大模型常用参数详解常用启动命令HTTP服务器配置API配置并行处理张量并行数据并行专家并行内存和调度其他运行时选项日志记录多节点分布式服务LoRA内核后端约束解码推测解码双稀疏性调试选项优化选项参数概览常用启动命令要启用多

小树苗m·2025-03-12 16:36

H100架构解析与性能优化策略

本文将从核心架构创新与典型场景调优两个维度展开：首先解析第三代TensorCore的稀疏计算加速机制、FP8混合精度支持特性及其对矩阵运算的优化效果；其次，针对显存子系统中HBM3堆栈布局、L2缓存分区策略以及数据预取算法的协同优化进行拆解

智能计算研究中心·2025-03-11 21:36

PointPillars:数据预处理

在PointPillars算法中，将点云划分为点柱（Pillars）是核心步骤之一，用于将稀疏点云数据转换为规则的张量表示，方便后续2D卷积操作。

壹十壹·2025-03-11 16:55

2022IJCAI速读：SparseTT，使用稀疏Transformers进行视觉跟踪

原文标题：SparseTT:VisualTrackingwithSparseTransformers中文标题：SparseTT：使用稀疏Transformers进行视觉跟踪代码地址：GitHub-fzh0917

夜深人静打代码·2025-03-10 00:53

【蓝桥杯学习笔记】12.数据结构——单调栈

系列文章目录【蓝桥杯学习笔记】1.入门基本语法及练习题【蓝桥杯学习笔记】2.常用模型----最大公约数和最小公倍数【蓝桥杯学习笔记】3.质数判断【蓝桥杯学习笔记】5.矩阵乘法【蓝桥杯学习笔记】6.一图看懂差分数组

Master_L u·2025-03-08 10:13

矩阵压缩（数组降维，对角矩阵，对称矩阵，稀疏矩阵）

矩阵压缩（降维，对角矩阵，对称矩阵，稀疏矩阵）1.二维数组降一维问题描述：将二维数组压缩成一维数组，可以节省空间或提高计算效率。常见的方式是按行或按列将二维数组展平为一维数组。

Amazing_snack·2025-03-08 09:31

探讨矩阵：从基础到应用

2.3矩阵乘法若有一个x行y列的矩阵与一个y行z列的矩阵，他们就可以相乘，得到一个x行z列的矩阵。但是，

LIUJH1233·2025-03-08 09:28

【代码详解】信道编码——低密度奇偶校验码LDPC

LDPC码是一种基于稀疏校验矩阵的线性分组码，其校验矩阵（H矩阵）中非零元素极少（低密度）。由于其稀疏性，即校验矩阵中非零元素占比低，能够降低编解码的复杂度。编码原理在传统通信中，编码过

禾风hefeng·2025-03-07 21:27

大模型入门

24k小善·2025-03-06 17:05

L1与L2正则化：防止过拟合的双刃剑

L1正则化（Lasso）通过将不重要的特征权重归零来实现特征选择，适用于稀疏模型和高维数据集，但可能导致欠拟合。

XianxinMao·2025-03-06 14:31

Word2Vec向量化语句的计算原理

生成的向量具有低维（通常100-300维）、连续且稠密的特点，解决了传统One-Hot编码的高维稀疏和语义缺失问题。二、向量化的核心步骤（以Skip-Gram模型为例）示例句子假设句子为：“Theq

堕落年代·2025-03-06 11:38

搜广推校招面经三十六

稀疏性问题:用户行为数据通常是稀疏的，导致相似性计算复杂度增加。多

Y1nhl·2025-03-06 02:54

深度学习突破：LLaMA-MoE模型的高效训练策略

LLaMA-MoE是一种基于LLaMA系列和SlimPajama的MoE模型，它通过将LLaMA的前馈网络（FFNs）划分为稀疏专家，并为每层专家插入top-K个门，从而显著减小模

人工智能大模型讲师培训咨询叶梓·2025-03-06 01:44

词向量Word Embedding

3.维度灾难：高维情形下将导致数据样本稀疏，距离计算困难，这

m0_60217276·2025-03-05 09:01

推荐频道