E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
数学推导
机器学习&&深度学习——自注意力和位置编码(
数学推导
+代码实现)
作者简介:一位即将上大四,正专攻机器学习的保研er上期文章:机器学习&&深度学习——注意力分数(详细
数学推导
+代码实现)订阅专栏:机器学习&&深度学习希望文章对你们有所帮助自注意力和位置编码引入自注意力多头注意力基于多头注意力实现自注意力比较
布布要成为最负责的男人
·
2023-08-18 07:04
机器学习
深度学习
人工智能
自然语言处理
机器学习&&深度学习——注意力分数(详细
数学推导
+代码实现)
作者简介:一位即将上大四,正专攻机器学习的保研er上期文章:机器学习&&深度学习——机器翻译(序列生成策略)订阅专栏:机器学习&&深度学习希望文章对你们有所帮助这篇文章实际上应该要接着上次讲过的注意力提示和注意力池化讲的,但是由于学到后面感觉有点不对劲,因为我跳过了一些基础的东西,所以导致transformer的思想有点疑惑,所以暂停了注意力机制的学习,而去实现了机器翻译。这边接着上次的注意力机
布布要成为最负责的男人
·
2023-08-18 07:03
机器学习
深度学习
人工智能
pytorch
机器学习&&深度学习——transformer(机器翻译的再实现)
作者简介:一位即将上大四,正专攻机器学习的保研er上期文章:机器学习&&深度学习——自注意力和位置编码(
数学推导
+代码实现)订阅专栏:机器学习&&深度学习希望文章对你们有所帮助transformer(
布布要成为最负责的男人
·
2023-08-18 07:30
深度学习
机器学习
transformer
机器翻译
人工智能
自然语言处理
【傅里叶级数与傅里叶变换】
数学推导
——3、[Part4:傅里叶级数的复数形式] + [Part5:从傅里叶级数推导傅里叶变换] + 总结
文章内容来自DR_CAN关于傅里叶变换的视频,本篇文章提供了一些基础知识点,比如三角函数常用的导数、三角函数换算公式等。文章全部链接:基础知识点Part1:三角函数系的正交性Part2:T=2π的周期函数的傅里叶级数展开Part3:周期为T=2L的函数展开Part4:傅里叶级数的复数形式Part5:从傅里叶级数推导傅里叶变换总结文章目录Part4:傅里叶级数的复数形式Part5:从傅里叶级数推导傅
小地瓜重新去华容道工作
·
2023-08-17 21:10
图像处理
MATLAB
傅里叶分析
【傅里叶级数与傅里叶变换】
数学推导
——2、[Part2:T = 2 π的周期函数的傅里叶级数展开] 及 [Part3:周期为2L的函数展开]
文章内容来自DR_CAN关于傅里叶变换的视频,本篇文章提供了一些基础知识点,比如三角函数常用的导数、三角函数换算公式等。文章全部链接:基础知识点Part1:三角函数系的正交性Part2:T=2π的周期函数的傅里叶级数展开Part3:周期为T=2L的函数展开Part4:傅里叶级数的复数形式Part5:从傅里叶级数推导傅里叶变换总结文章目录Part2:T=2πT=2\piT=2π的周期函数的傅里叶级数
小地瓜重新去华容道工作
·
2023-08-17 21:40
MATLAB
图像处理
傅里叶分析
【傅里叶级数与傅里叶变换】
数学推导
——1、基础知识点回顾及[Part1:三角函数的正交性]介绍
文章内容来自DR_CAN关于傅里叶变换的视频,本篇文章提供了一些基础知识点,比如三角函数常用的导数、三角函数换算公式等。文章全部链接:基础知识点Part1:三角函数系的正交性Part2:T=2π的周期函数的傅里叶级数展开Part3:周期为T=2L的函数展开Part4:傅里叶级数的复数形式Part5:从傅里叶级数推导傅里叶变换总结文章目录基础知识点Part1:三角函数系的正交性基础知识点设α\alp
小地瓜重新去华容道工作
·
2023-08-17 21:38
MATLAB
图像处理
傅里叶分析
神经网络全连接层
数学推导
全连接层分析对于神经网络为什么都能产生很好的效果虽然其是一个黑盒,但是我们也可以对其中的一些
数学推导
有一定的了解。
Fasthand_
·
2023-08-16 07:03
人工智能
神经网络
机器学习
深度学习
算法
扩散模型(DDPM)介绍
文章目录扩散模型扩散过程前向过程逆向过程网络结构文章主要介绍了DDPM扩散模型,包含了详细的
数学推导
,可能公式有点多,但是只要能够耐心看完,相信会有一些收获的。好了下面进入正题。
楚沐向阳
·
2023-08-12 08:58
AIGC
人工智能
数组和字符串-二维数组
文章目录旋转矩阵题意:解:代码:零矩阵题意:解:代码:对角线遍历题意:解:代码:旋转矩阵题意:将矩阵旋转90度解:翻转法,先水平翻转再对角线翻转
数学推导
法,四个数字一组代码:#includeusingnamespacestd
Qian丶Xi
·
2023-08-10 01:55
力扣每日一题
c++
leetcode
主成分分析学习笔记
概述主成分分析(PrincipalComponentAnalysis)是一种常见的数据分析方式,常用于高维数据的降维,提取数据的主要特征分量,其
数学推导
可以从最大可分性和最近重构性两个角度着手,前者的优化条件为划分后方差最大
huhubbdd
·
2023-08-08 08:39
机器学习
PCA
主成分分析
深度学习
SVM和LR的区别
2、损失函数不同SVM的损失函数是Hinge损失函数:LR的损失函数是log损失函数:3、理论基础不同SVM基于严格的
数学推导
;LR基于统计。
小孙的日常学习
·
2023-08-07 22:30
机器学习
1.白板推导系列,up主shuhuai008的个人空间-哔哩哔哩(゜-゜)つロ乾杯~Bilibili2.up主,主要是机器学习的
数学推导
GRNovmbrain的个人空间-哔哩哔哩(゜-゜)つロ乾杯~Bilibiliup
南_橘子猪
·
2023-08-07 08:34
机器学习&&深度学习——非NVIDIA显卡怎么做深度学习(坑点排查)
作者简介:一位即将上大四,正专攻机器学习的保研er上期文章:机器学习&&深度学习——数值稳定性和模型化参数(详细
数学推导
)订阅专栏:机器学习&&深度学习希望文章对你们有所帮助这一部分掉坑真的不知道掉了多少个
布布要成为最负责的男人
·
2023-08-06 17:07
机器学习
深度学习
人工智能
机器学习--- 均方误差损失(Mean Squared Error, MSE) -->[附代码]
文章目录一、简介二、
数学推导
2.1导数计算首先求解bbb:然后求解www:三、代码实现3.1python代码实现3.2torch代码实现参考资料一、简介欧氏距离损失经常用在线性回归问题(求解的是连续问题
Jankin_Tian
·
2023-08-02 15:13
机器学习基础知识
损失函数
机器学习&&深度学习——数值稳定性和模型化参数(详细
数学推导
)
作者简介:一位即将上大四,正专攻机器学习的保研er上期文章:机器学习&&深度学习——Dropout订阅专栏:机器学习&&深度学习希望文章对你们有所帮助这一部分包括了很多概率论和数学的知识,而书上的推导很少,这边会做个比较细致的讨论,数学基础不行就去补,不能拖,深入浅出的感觉是最让人感到心情愉悦的。数值稳定性和模型初始化梯度消失和梯度爆炸梯度消失梯度爆炸让训练更加稳定参数初始化讨论(各种概率论思维
布布要成为最负责的男人
·
2023-08-02 13:40
机器学习
深度学习
人工智能
概率论
多样性红利学习笔记——关于个人能力与集体智慧
不管是个人还是集体,多样性(diversity)都可以带来显著的积极效果,这一结论是有坚实的
数学推导
作支撑的。
不在瓜田便在梨下
·
2023-07-29 18:54
机器学习&&深度学习——多层感知机的简洁实现
作者简介:一位即将上大四,正专攻机器学习的保研er上期文章:机器学习&&深度学习——多层感知机的从零开始实现订阅专栏:机器学习&&深度学习希望文章对你们有所帮助之前的
数学推导
或者思维构建的过程是很慢的
布布要成为最负责的男人
·
2023-07-27 19:03
机器学习
深度学习
人工智能
学习笔记:pbrt中次表面反射的漫反射求解I
尽管是一种简单实现,不过其中也涉及了很多
数学推导
,笔记中将介绍其中容易理解的部分。这种简单实现采用了光子束漫散射模型。这个模型在简化实现时,引入了四个假设。假设一,介质是高散射率介质;假设
ghostee
·
2023-07-25 19:02
机器学习第十课_svm算法
本篇文章从“不适定问题”开始介绍SVM的思想,通过支撑向量与最大间隔引申到如何将其转换为最优化问题,并
数学推导
求解有条件限制的最优化问题。相信学完本篇之后,大家一定会对SVM算法有一个大体上的认识。
素心似锦
·
2023-07-23 22:50
【机器学习教程】五、支持向量机(Support Vector Machines)
SVM的原理基于统计学习理论和几何学的概念,并具有较好的理论基础和严格的
数学推导
。本文将深入介绍SVM的算法发展、重要论文、原理以及应用,并提供一个复杂的实战案例。
晨星同行
·
2023-07-22 11:19
《机器学习教程》
本科毕设100例
支持向量机
机器学习
人工智能
使用numpy创建三层神经网络
numpy网络编程本文参考于:书本《MakeYourOwnNeuralNetwork》中文《Python神经网络编程》书中源代码本文代码托管github通过此次实践对于神经网络的认识更加深刻,通过
数学推导
到代码实践让自己有了比较大的收获一
雁瑜彭
·
2023-07-21 09:37
深度学习
numpy
神经网络
python
卡尔曼滤波(三)(最优化递归数字处理算法)
卡尔曼增益的推导(0)视频推荐和前言【卡尔曼滤波器】3_卡尔曼增益超详细
数学推导
~全网最完整_哔哩哔哩_bilibili协方差矩阵都是对称矩阵,求逆也是对称矩阵,并且它很可能是对角阵,也就是除了对角线以外其他元素都是
十年前的树
·
2023-07-19 13:10
数字处理算法
算法
人工智能
理解优化器(Optimizer)
本文与其他介绍optimizer有所不同的是:本文完整地阐述了批量学习、在线学习两条路线的optimizer进化史本文只从感知上进行理解,不涉及
数学推导
,着重于记忆与理解,而非严肃的论文体本文为了从理解入手
无数据不智能
·
2023-07-19 08:45
深度学习
机器学习
机器学习
深度学习
人工智能
算法
糖果传递—
数学推导
、贪心
均分纸牌&&糖果传递均分纸牌糖果传递均分纸牌题目链接AcWing1536.均分纸牌问题描述分析这道题有个特殊的地方就是A1只能从A2获取纸牌,或者A1只能将多余的纸牌给A2,此操作后A1的纸牌数应该为avg。A2的纸牌只能从A3获取,或者给A3不能从A1获取,或者给A1,因为A1==avg,这样做会使得操作重复(A1就是通过A2来达到avg的),这样我们就能知道当前的数Ai要通过Ai+1来达到av
chp的博客
·
2023-07-17 06:58
排序
日常训练
数学推导
算法
c++
手搓GPT系列之 - 通过理解LSTM的反向传播过程,理解LSTM解决梯度消失的原理 - 逐条解释LSTM创始论文全部推导公式,配超多图帮助理解(中篇)
本文承接上篇,继续就SeppHochreiter1997年的开山大作LongShort-termMemory中APPENDIXA.1和A.2所载的
数学推导
过程进行详细解读。希望可以帮助
马尔科夫司机
·
2023-07-16 19:20
nlp
lstm
人工智能
自然语言处理
机器学习
手搓GPT系列之 - 通过理解LSTM的反向传播过程,理解LSTM解决梯度消失的原理 - 逐条解释LSTM创始论文全部推导公式,配超多图帮助理解(下篇)
本文承接上篇上篇在此和中篇中篇在此,继续就SeppHochreiter1997年的开山大作LongShort-termMemory中APPENDIXA.1和A.2所载的
数学推导
过程进行详细解读。
马尔科夫司机
·
2023-07-16 19:18
nlp
lstm
人工智能
深度学习
nlp
基于Scikit-learn的机器学习基本算法(二)梯度下降
批量梯度下降根据
数学推导
,可通过代码直接实现。X_b=np.
刘爱玛
·
2023-06-24 11:17
【文生图系列】基础篇-变分推理(
数学推导
)
KL散度前向vs反向KL前向KL反向KL可视化问题描述变分推理ELBO:EvidenceLowerBound参考此篇博文主要介绍什么是变分推理(VariationalInference,VI),以及它的
数学推导
公式
马鹤宁
·
2023-06-19 13:48
机器学习和深度学习之旅
机器学习
AIGC
变分推理
人工智能
stable
diffusion
表示学习(Representation Learning) Part2--Auto-Encoders、VAEs、GANs
文章目录Compression:Auto-EncodersCaptureparameterdistribution(variance):VariationalAuto-Encoders原理介绍
数学推导
生成数据
丸丸丸子w
·
2023-06-18 00:24
深度学习
生物信息
人工智能
表示学习
深度学习
VAE
GAN
史密斯圆图
在不涉及复杂的
数学推导
,仍能把圆图用起来。比如,共轭匹配。RL=1+jX,需要找到-jX来抵消+jX,消掉虚部之后,只留下实部,最终等效为RL‘=1。史密斯圆图是由复数坐标系转化而来的。
队长-Leader
·
2023-06-13 03:22
硬件设计
硬件工程
深度学习笔记之Seq2seq(三)注意力机制的执行过程
Context}Context向量的缺陷注意力机制的动机Seq2seq\text{Seq2seq}Seq2seq中的Attention\text{Attention}Attention结构注意力模型的
数学推导
整理引言上一节介绍了
静静的喝酒
·
2023-06-12 19:30
深度学习
深度学习
人工智能
Seq2seq
注意力机制
VAE——变分自编码器的
数学推导
问题考虑一个生成模型(Generativemodel),可以从一个隐变量(latentvariable,z)映射到一张图片(x),用有向无环图模型(directedacyclicgraphicalmodel/Bayesiannetwork)表示为上图表示,x的分布可以通过首先从p(z)采样得到z后再从p(x|z)采样建模。p(z)是先验概率,意味着只需要选择一个合适的分布就可以了,一般采用单位高斯
ffiirree
·
2023-06-10 19:42
机器学习
机器学习
人工智能
用Python作一条已知曲线的等距曲线
-知乎等距线_百度百科目录1.等距线2.
数学推导
3.示例4.代码与结果1.等距线等距线(equidistantline)亦称平行曲线,一种平面曲线,即由一已知曲线所产生的另一曲线。平行曲线如下图。
Forest_Zhan
·
2023-06-08 15:07
#
数据处理与分析
python
机器学习笔记<一>:PCA降维详解
文章目录前言直观理解
数学推导
代码实现PCA的局限性如何选定kkk值?为什么通过对特征值的选择可以减少噪声?前言本篇文章主要从对PCA的降维的直观理解、
数学推导
等方面对PCA降维进行讨论。
有点猫匿
·
2023-06-07 20:50
机器学习
数据分析
可视化
支持向量机SVM——原理及相关
数学推导
系列一
(一)前言支持向量机比较适合于高维数据,可以减缓维数灾难问题;也非常适用于小样本,建模只需要“支持向量”即可。支持向量机的思想非常简单,就是可以找到一个超平面使得不同类别的数据可以尽量分开,并且为了增加测试集分类的鲁棒性(robust),希望这个超平面与各类别距离最近的数据点均越远越好。定义1.1:测试样本(x,y)的类别预测规则,如下:上面的式子可以统一为.(二)线性可分的SVM基本原理因为下面
7NIC7
·
2023-04-17 16:32
【
数学推导
找规律】全排列的价值【蓝桥杯13届】
欢迎观看我的博客,如有问题交流,欢迎评论区留言,一定尽快回复!(大家可以去看我的专栏,是所有文章的目录)文章字体风格:红色文字表示:重难点★✔蓝色文字表示:思路以及想法★✔如果大家觉得有帮助的话,感谢大家帮忙点赞!收藏!转发!我的qq号是:1210931886,欢迎大家加群,一起学习,互相交流,共同进步✨全排列的价值原题链接这个题目简单来说,就是求1~n的所有排列组合中,存在多少对一个前面的数小于
编程浩
·
2023-04-15 22:44
dfs
&&
bfs
数学找规律
蓝桥杯
职场和发展
算法
机器学习笔记之前馈神经网络(四)反向传播算法[
数学推导
过程]
机器学习笔记之前馈神经网络——反向传播算法[
数学推导
过程]引言回顾:感知机算法非线性问题与多层感知机反向传播算法(BackPropagation,BP\text{BackPropagation,BP}BackPropagation
静静的喝酒
·
2023-04-15 06:18
深度学习
机器学习
机器学习
反向传播算法
链式求导法则
前馈神经网络
深度学习
扩散模型Diffusion轻松入门
本文是我的学习笔记,只能叫入门文章,因为扩散模型的严谨
数学推导
公式很多,还没有研究透彻,不敢说一文吃透扩散模型。此文适合对生成模型有一些了解,要整体理解什么是扩散模型、模型原理、应用在什么地方的同学。
拉姆哥的小屋
·
2023-04-14 10:31
深度学习
人工智能
算法
2023.04.09 学习周报
文章目录摘要文献阅读1.题目2.摘要3.简介4.本文贡献5.传统方法6.IDLSTM-EC7.实验7.1数据集7.2基线7.3评估指标7.4实验结果8.结论9.展望MDS降维算法1.基本思想2.优化目标3.
数学推导
无糖绿一点都不好喝
·
2023-04-10 02:05
深度学习
分类算法3_SVM
数学推导
部分
SVM优化部分简述1.问题引入对于如上如图的红、紫色样本点,希望找到一决策边界(表示权重向量,表示样本特征矩阵,b表示偏置)使得两条平行与决策边界的虚线到决策边界的相对距离最大化。两类数据中距离决策边界最近的点,就称为”支持向量“。紫色类的点为xp,红色的点为xr,可以得到:两式相减,得到:上是两边同除以,则可以得到:即:所以最大边界所对应的决策边界就是要最大化d,就是求解的最小值。可以转化为以下
我还是霸霸
·
2023-04-09 09:18
数学原理—嵌入矩阵
目录1.嵌入矩阵的基本作用2.嵌入矩阵的数学解释3.嵌入矩阵在联合分布适应中的
数学推导
主要包括以下几个步骤4.在JDA中,怎么得到嵌入矩阵5.联合分布自适应中如何得到嵌入矩阵(另一种解释)1.嵌入矩阵的基本作用在机器学习中
Top Secret
·
2023-04-09 07:30
数学原理
矩阵
机器学习
深度学习
机器学习 - SVD分解算法的物理意义
奇异值分解算法是一种在机器学习中经常使用到的一个算法,SVD主要用于数据压缩和数据降维,在图像压缩、推荐系统有着极其重要的作用,本文将着重理解SVD分解算法的物理意义以及我们将用Python代码将这个过程可视化,
数学推导
将不是本文的重点
L_1900
·
2023-04-02 08:37
机器学习笔记
学习笔记
机器学习
算法
深度学习
跟着AI学AI(1): 线性回归模型
跟着AI学AI-1:线性回归模型提问:请使用numpy实现一个线性回归模型代码提问:请使用unittest生成测试用例提问:请描述下线性回归模型的梯度下降提问:请描述下线性回归模型的
数学推导
提问:线性回归模型的损失函数是什么
幻灰龙
·
2023-04-01 21:50
跟着AI学AI
人工智能
线性回归
python
BBR算法及其收敛性
争取用一个简单的
数学推导
过程和一张图搞定。除非TCP端节
KafakaK
·
2023-04-01 19:46
视频优化
cs285-lec5-policy gradient
文章目录总结
数学推导
怎么计算J(θ)J(\theta)J(θ)?怎么优化J(θ)J(\theta)J(θ)?
KpLn_HJL
·
2023-03-31 21:12
#
强化学习
算法
强化学习
policy
gradient
Pure_PRNG——高质量伪随机数生成器Py库
LCG优点是简洁快速,有清晰的
数学推导
,可计算实现超长周期
FSS_Sosei
·
2023-03-30 00:15
7个角度,用 ChatGPT 玩转机器学习
比如【个人首测】百度文心一言VSGPT-4这篇文章中,我就用文心一言、GPT-4和notionAI测试生成机器学习相关代码、
数学推导
等问题,还用NotionAI完整写过机器学习模型的教程。
机器学习算法与Python实战
·
2023-03-22 04:37
机器学习
chatgpt
人工智能
观远AI实战 | 机器学习系统的工程实践
这些文章中绝大多数内容都跟酷炫的新模型、高大上的
数学推导
有关。但是PeterNorvig说过,“Wedon’thavebetteralgorithms.Wejusthavemoredata.”。
观远数据
·
2023-03-21 19:27
人工智能
AI
机器学习
特征
强化学习 | Multi Agents | Trust Region | HATRPO | HAPPO
其code作者写了论文解析blog,核心点解释得蛮清晰,不涉及复杂的
数学推导
。认真读下其blog就能懂个大概,再重读论文便轻松了全文共7k字,纯手敲。含大量手写笔记,含大量个人主观理解。较于前
111辄
·
2023-03-19 08:54
强化学习
强化学习
增强学习
ICLR
trust
region
multi-agents
七律 读 Scott Page 《多样性红利》
不管是个人还是集体,多样性(diversity)都可以带来显著的积极效果,这一结论是有坚实的
数学推导
作支撑的。
旃檀之林
·
2023-03-19 02:38
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他