机器学习笔记——吴恩达第12页

吴恩达机器学习（十九）—— 异常检测

吴恩达机器学习系列内容的学习目录→\rightarrow→吴恩达机器学习系列内容汇总。

大彤小忆·2023-10-09 16:44

《deep learning》前两周课程总结

学习深度学习，当然从吴恩达的《deeplearning》开始，原理讲得很透彻也很易懂，适合我这种没什么基

liuchungui·2023-10-09 06:16

LSTM在text embedding中的作用(Cross modal retrieval)

如图吴恩达深度学习课程中LSTM结构图：相比于原始的RN

__main__·2023-10-09 01:00

机器学习笔记 - 两个静态手势识别的简单示例

一、关于手势识别手势识别方法通常分为两类：静态或动态。静态手势是那些只需要在分类器的输入处处理单个图像的手势，这种方法的优点是计算成本较低。动态手势需要处理图像序列和更复杂的手势识别方法。进一步了解可以参考下面链接。静态手势识别和动态手势识别的区别和技术路线简介-CSDN博客为了实现完全沉浸式的AR应用，系统的输出（例如可视化）以及系统的输入必须适应用户的现实。计算的发展和新技术的易用性推动了Ki

坐望云起·2023-10-09 00:33

Python数据分析 - 机器学习笔记：第一章数据分析 - 1.4.2.设置坐标系

前言：本文是学习网易微专业的《python全栈工程师》中的《数据分析-机器学习工程师》专题的课程笔记，欢迎学习交流。一、课程目标掌握Matplotlib坐标系的基本设置方法掌握汉语和负数显示设置方法二、详情解读2.1.坐标网格%matplotlibinline#表示当前代码生成的图插入当前浏览器中importnumpyasnpimportmatplotlib.pyplotaspltx=np.ara

WinvenChang·2023-10-08 19:15

机器学习笔记 - 基于pytorch、grad-cam的计算机视觉的高级可解释人工智能

一、pytorch-gradcam简介Grad-CAM是常见的神经网络可视化的工具，用于探索模型的可解释性，广泛出现在各大顶会论文中，以详细具体地描述模型的效果。Grad-CAM的好处是，可以在不额外训练的情况下，只使用训练好的权重即可获得热力图。1、CAM是什么？CAM全称ClassActivationMapping，既类别激活映射图，也被称为类别热力图、显著性图等。它是一张和原始图片等同大小图

坐望云起·2023-10-08 13:24

吴恩达深度学习＜笔记＞优化算法

吴恩达深度学习优化算法一、1.Mini-batchgradientdescent二、GradientdescentwithmomentumRMSpropAdam优化算法学习率衰减一、1.Mini-batchgradientdescent

不自知的天才·2023-10-07 20:58

吴恩达深度学习笔记优化算法

一、Mini-batchgradientdescent(小批量梯度下降法)Mini-batch：把整个训练数据集分成若干个小的训练集，即为Mini-batch。为什么要分？梯度下降法必须处理整个训练数据集，才能进行下一次迭代。当训练数据集很大时，对整个训练集进行一次处理，处理速度较慢。但是如果每次迭代只使用一部分训练数据进行梯度下降法，处理速度就会变慢。而处理的这些一小部分训练子集即称为Mini-

uponwyz·2023-10-07 20:27

【深度学习】吴恩达-学习笔记优化算法（动量梯度，RMSprop，Adam）、参数初始化、Batch Norm

目录动量梯度下降法：让梯度下降的过程中纵向波动减小RMSprop:消除梯度下降中的摆动Adam优化算法:神经网络参数初始化学习率衰减BatchNorm关于Batch_norm:Batch_norm在测试时：动量梯度下降法：让梯度下降的过程中纵向波动减小动量梯度下降法采用累积梯度来代替当前时刻的梯度。直观来讲，动量方法类似把球推下山，球在下坡时积累动力，在途中速度越来越快，如果某些参数在连续时间内梯

—Xi—·2023-10-07 20:55

2.2吴恩达深度学习笔记之优化算法

1.Mini_batchgradientdescent小批量梯度下降法思想：batchgd是一次性处理所有数据，在数据集较大时比如500万个样本，一次迭代的时间会很长，而mini_batchgd是把数据集分为多个子数据集，每个eopch中对子集进行一次处理实现：实现mini_batch分为两步，第一步shuffle，将原集打乱，乱序步骤确保将样本被随机分成不同的小批次。第二步partition分割

Traviscxy·2023-10-07 20:25

深度学习笔记之优化算法(三)动量法的简单认识

机器学习笔记之优化算法——动量法的简单认识引言回顾：条件数与随机梯度下降的相应缺陷动量法简单认识动量法的算法过程描述附：动量法示例代码引言上一节介绍了随机梯度下降(StochasticGradientDescent

静静的喝酒·2023-10-07 20:20

机器学习笔记第7课：线性判别分析算法

逻辑回归是一种传统的分类算法，仅限于两类分类问题。如果你有两个以上的类，那么线性判别分析算法是首选的线性分类技术。线性判别分析法简称LDA，表示起来非常简单。它包含你的数据经由每个类计算之后的统计属性。对于单个输入变量，这包括：每个类别的平均值。对所有类别计算的方差。通过计算每个类的判别值，并对具有最大值的类进行预测，从而做出完整的预测。这项技术假设数据具有高斯分布（钟形曲线），因此最好事先从数据

首席IT民工·2023-10-07 16:56

【无标题】

【机器学习】机器学习笔记（吴恩达）-CSDN博客1.误差平方代价函数，对于大多数问题，特别是回归问题，都是一个合理的选择。2.梯度下降会自动采取更小的步骤，所以不需要随时间减小学习率a。

FlyingAnt_·2023-10-06 20:53

吴恩达机器学习（八）

异常检测第一百二十三课：问题动机什么是异常检测？判断xtext，即新的飞机引擎是否能像一个正常的引擎一样工作？更正式的定义：建立模型p(x)，将xtest与p(x)进行比较：欺诈检测：寻找网站中操作异常的用户工业生产领域计算机机群管理第一百二十四课：高斯分布正态分布两个参数，均值u；方差σ^2u控制钟形曲线的中心位置，σ控制钟形曲线的宽度例子：阴影面积的积分都是1！参数估计问题：参数估计问题就是给

带刺的小花_ea97·2023-10-06 10:31

sheng的学习笔记-【中文】【吴恩达课后测验】Course 1 - 神经网络和深度学习 - 第三周测验

课程1_第3周_测验题目录：目录第一题1.以下哪一项是正确的？A.【】a[2](12)a^{[2](12)}a[2](12)是第12层，第2个训练数据的激活向量。B.【】X是一个矩阵，其中每个列都是一个训练示例。C.【】a4[2]a^{[2]}_4a4[2]是第2层，第4个训练数据的激活输出。D.【】a4[2]a^{[2]}_4a4[2]是第2层，第4个神经元的激活输出。E.【】a[2]

coldstarry·2023-10-05 09:54

机器学习笔记 - 深入研究spaCy库及其使用技巧

一、简述spaCy是一个用于Python中高级自然语言处理的开源库。它专为生产用途而设计，这意味着它不仅功能强大，而且快速高效。spaCy在学术界和工业界广泛用于各种NLP任务，例如标记化、词性标注、命名实体识别等。安装，这里使用阿里的源。pipinstallspacy-ihttps://mirrors.aliyun.com/pypi/simple/pipinstallspacy_pkuseg-i

坐望云起·2023-10-05 07:32

机器学习笔记（5,6）--林轩田机器学习基石课程

这两个lecture，集中证明了，当我的hepothesis个数看起来有无限多种时，也就是前面讲到的，找一个超平面（直线）做二元划分问题时，超平面（直线）应该有无限多个，那PLA还能否能learning的问题。具体的证明过程不在复述了，提一下我认为最重要的一点：当出现break的时候，就意味着，hepothesisset的个数会是多项式多个，具体是通过动态规划bound住上界的方法。以后等基石看完

数学系的计算机学生·2023-10-05 07:27

sheng的学习笔记-【中英】【吴恩达课后测验】Course 1 - 神经网络和深度学习 - 第四周测验

课程1_第4周_测验题目录：目录第一题1.在我们的前向传播和后向传播实现中使用的“缓存”是什么？A.【】它用于在训练期间缓存成本函数的中间值。B.【】我们用它将在正向传播过程中计算的变量传递到相应的反向传播步骤。它包含了反向传播计算导数的有用值。C.【】它用于跟踪我们正在搜索的超参数，以加快计算速度。D.【】我们用它将反向传播过程中计算的变量传递到相应的正向传播步骤。它包含用于计算正向传播

coldstarry·2023-10-04 21:56

ubuntu之路——day10.4 什么是人的表现

结合吴恩达老师前面的讲解，可以得出一个结论：在机器学习的早期阶段，传统的机器学习算法在没有赶超人类能力的时候，很难比较这些经典算法的好坏。也许在不同的数据场景下，不同的ML算法有着不同的表现。

初仔仔·2023-10-04 20:31

sheng的学习笔记-【中文】【吴恩达课后测验】Course 2 - 改善深层神经网络 - 第二周测验

课程2_第2周_测验题目录：目录第一题1.当输入从第8个mini-batch的第7个的例子的时候，你会用哪种符号表示第3层的激活？A.【】a[3]{8}(7)a^{[3]\{8\}(7)}a[3]{8}(7)B.【】a[8]{7}(3)a^{[8]\{7\}(3)}a[8]{7}(3)C.【】a[8]{3}(7)a^{[8]\{3\}(7)}a[8]{3}(7)D.【】a[3]{7}(8)

coldstarry·2023-10-04 19:46

sheng的学习笔记-【中文】【吴恩达课后测验】Course 2 - 改善深层神经网络 - 第三周测验

课程2_第3周_测验题目录：目录第一题1.如果在大量的超参数中搜索最佳的参数值，那么应该尝试在网格中搜索而不是使用随机值，以便更系统的搜索，而不是依靠运气，请问这句话是正确的吗？A.【】对B.【】不对答案：B.【√】不对第二题2.每个超参数如果设置得不好，都会对训练产生巨大的负面影响，因此所有的超参数都要调整好，请问这是正确的吗？A.【】对B.【】不对答案：B.【√】不对第三题3.在超参数

coldstarry·2023-10-04 19:46

sheng的学习笔记-【中文】【吴恩达课后测验】Course 2 - 改善深层神经网络 - 第一周测验

课程2_第1周_测验题目录：目录第一题1.如果你有10,000,000个例子，你会如何划分训练/验证/测试集？A.【】33%训练，33%验证，33%测试B.【】60%训练，20%验证，20%测试C.【】98%训练，1%验证，20%测试答案：C.【√】98%训练，1%验证，20%测试第二题2.验证集和测试集应该：A.【】来自同一分布B.【】来自不同分布C.【】完全相同（一样的(x,y)对

coldstarry·2023-10-04 19:45

sheng的学习笔记-【目录】【中文】【deplearning.ai】【吴恩达课后作业目录】

学习吴恩达的深度学习，用于记录笔记知识目录和引用文章原文见下面，但已经变为收费的：【目录】【中文】【deplearning.ai】【吴恩达课后作业目录】_吴恩达深度学习何宽-CSDN博客免费的用于学习的

coldstarry·2023-10-04 19:15

sheng的学习笔记-【中文】【吴恩达课后测验】Course 1 - 神经网络和深度学习 - 第一周测验

课程1_第1周_测验题目录：目录第一题1.“人工智能是新电力”这个比喻指的是什么？A.【】人工智能为我们的家庭和办公室的个人设备供电，类似于电力。B.【】通过“智能电网”，人工智能正在传递新一波的电力。C.【】人工智能在计算机上运行，因此由电力驱动，但它让计算机做以前不可能做的事情。D.【】与100年前开始的电力类似，人工智能正在改变多个行业。答案：D.【√】与100年前开始的电力类似，人

coldstarry·2023-10-04 19:13

sheng的学习笔记-【中文】【吴恩达课后测验】Course 1 - 神经网络和深度学习 - 第二周测验

课程1_第2周_测验题目录：目录第一题1.神经元计算什么？A.【】神经元计算激活函数后，再计算线性函数（z=Wx+b）B.【】神经元计算一个线性函数（z=Wx+b），然后接一个激活函数C.【】神经元计算一个函数g，它线性地缩放输入x（Wx+b）D.【】神经元先计算所有特征的平均值，然后将激活函数应用于输出答案：B.【√】神经元计算一个线性函数（z=Wx+b），然后接一个激活函数第二题2.以

coldstarry·2023-10-04 19:13

机器学习笔记(二)

过拟合如下图左边,模型出现了过拟合现象为了解决过拟合现象,其中一个做法是多收集数据,如右图。第二种做法是减少模型的特征数量,即x第三种做法是正则化正则化就是减少x前面的参数w的数值,不用消除x正则化的梯度下降如下,因为只是缩小了w的值,而b的值保持不变正则化的工作原理就是缩小参数w的值假如wj(1-0.0028)那么wj就会一点点变小

半岛铁盒@·2023-10-04 19:35

机器学习笔记 -- 神经网络

1、什么是神经网络1.1非线性假设无论是线性回归还是逻辑回归，都存在这样一个缺陷，那就是当特征过多时，计算量会非常大。这时，神经网络应运而生，极大地弥补了这方面的缺点。1.2神经元与大脑每个神经元都可以看做一个处理单元，它有多个树突（输入），一个轴突（输出）。多个信息经过树突传递到神经元，处理后，再通过轴突输出。这便是神经网络的生物模型。基于此，我们设计出了类似的神经网络模型。x1x_1x1、x2

算法导航·2023-10-04 09:16

机器学习笔记 -- 线性回归

1、定义线性回归是一种通过属性的线性组合来进行预测的线性模型，其目的是找到一条直线或一个平面或者更高维度的超平面，使得预测值与真实值的误差最小化。2、代价函数代价函数度量全部样本集的平均误差。越小则拟合效果越好。J(θ1,θ2,...,θn)=12m∑i=1m(hθ(x(i))−y(i))2J(\theta_1,\theta_2,...,\theta_n)=\frac{1}{2m}\sum_{i=

算法导航·2023-10-04 09:16

机器学习笔记--支持向量机

1、支持向量机概述1.1基本概念支持向量机（SupportVectorMachine,SVM）是一类按监督学习方式对数据进行二元分类的广义线性分类器，其决策边界是对学习样本求解的最大边距超平面。1.2硬间隔、软间隔和非线性SVM硬间隔指的就是完全分类准确，不能存在分类错误的情况。软间隔，就是允许一定量的样本分类错误。1.3算法思想找到集合边缘上的若干数据（称为支持向量（SupportVector）

算法导航·2023-10-04 09:45

机器学习笔记

1.线性回归模型2.损失函数3.梯度下降算法多元特征的线性回归当有多个影响因素的时候,公式可以改写为:

半岛铁盒@·2023-10-02 07:01

吴恩达机器学习——无监督学习

1.k-means的步骤：先随机选择K个簇中心，1）划分样本：每个样本分配到距离最近的簇。2）更新簇中心位置：计算分配之后每个簇的中心位置，更新簇中心位置。迭代上述过程，直到簇中心位置不变。2.代价函数迭代完成后，每个样本距离所属簇中心的距离的均方和。稍微说明了下，上述迭代过程就是最小化代价函数的过程（分别从样本相对于簇中心的距离，和簇的位置，两个维度的最小化）3.随机初始化建议的做法，随机选择K

睡不好觉的梨·2023-10-01 15:44

机器学习笔记 - 基于强化学习的贪吃蛇玩游戏

机器学习笔记-DeepQ-Learning算法概览深度Q学习是一种强化学习算法，它使用深度神经网络来逼近Q函数，用于确定在给定状态下采取的最佳操作。

坐望云起·2023-09-30 13:03

回顾经典，Netflix的推荐系统架构

这里是「王喆的机器学习笔记」的第三十一篇文章。最近因为忙着书出版和DLP-KDDWorkshop的事情，没太多时间更新专栏，等过了这段时间再跟大家多聊聊。

王喆的机器学习笔记·2023-09-30 11:41

吴恩达《Machine Learning Yearning》学习笔记-1

第一部分：数据准备-建立合适的开发集和测试集1.从相同的分布中选择开发集和测试集，且开发集和测试集数据需要与你预期的算法使用场景保持一致。这样开发集能够更好的指导团队的改进优化方向，测试集能真正衡量算法在实际场景中的性能。开发集和测试集的分布可以与训练数据不同。2.选定一个数值型的评估标准作为团队的优化方向。如果存在多个目标，那么可以考虑：1.合并成一个（如求平均误差）标准；或者，定义一个优化目标

城市守望者·2023-09-29 20:20

计算机基础每日学习笔记 | 20210116

寒假刷完课~后面还想刷一下吴恩达老师的机器学习（CrashCourse到P4C

不热爱技术的设计不是好产品·2023-09-27 20:10

线性回归&逻辑回归&正则化

本文为《吴恩达机器学习》课程笔记线性回归代价函数CostFuction它的目标是:选择出可以使得建模误差的平方和能够最小的模型参数批量梯度下降BatchGradientDescent是学习率（learningrate

susion哒哒·2023-09-27 20:50

机器学习笔记 - Deep Q-Learning算法概览

一、Q-Learning强化学习大致可以分为两类：无模型强化学习算法和基于模型的强化学习算法。无模型强化学习算法不会学习环境转换函数的模型来预测未来状态和奖励。Q学习、深度Q网络和策略梯度方法是无模型算法，因为它们不创建环境转换函数的模型。1、Q-学习算法Q-学习算法的流程为：1.初始化您的Q表2.使用Epsilon-Greedy探索策略选择一个操作3.使用贝尔曼方程更新Q表

坐望云起·2023-09-27 06:30

打开深度学习的锁：（2）单隐藏层的神经网络

需要导入的包二、构建神经网络的架构三、初始化函数四、激活函数4.1tanh（双曲正切函数）函数五，前向传播六、损失函数七、后向传播八、梯度下降九、构建预测十、聚合和主函数完整代码：总结导言本篇知识背景来源于吴恩达教授的

Jiashun Hao·2023-09-26 04:51

机器学习笔记七-----------------使用Prophet（时间序列模型）预测家用电量的数据的笔记一------数据集解析

一，数据集的下载其实家庭用电量预测仅仅是个“引子”，如果有电网数据的话，可以开发适合业务需求的模型，比如通过预测各时段各区域的用电量来协助电网更好地实现电能调度；除此之外，还可以用于发电量预测，比如光伏电站、风力发电站、水电站发电量预测…等等。模型一般不是问题，关键在数据和数据处理。数据集名称为：IndividualhouseholdelectricpowerconsumptionDataSet，

YOULANSHENGMENG·2023-09-26 04:48

「AI大咖谈」FLAG资深工程师谈ML Infra和分布式模型服务

这里是「王喆的机器学习笔记」的第三十六篇文章。今天我们「AI大咖谈」邀请的大咖是一位在FLAG中某家工作了4年的资深机器学习工程师。

王喆的机器学习笔记·2023-09-25 16:36

机器学习笔记——9.25课堂补充

机器学习笔记——9.25课堂补充一、泰勒展开二阶近似向量形式二、有关梯度下降几个小问题？1.梯度下降能否保证找到最优的参数？2.梯度下降法参数更新能否保证损失函数值每次下降？

AgentSmart·2023-09-25 08:33

机器学习笔记 - 通过人工干预实现安全强化学习的思路

1、人类干预强化学习深度强化学习在一些棋类游戏、视频游戏以及现实3D环境中的导航和控制任务方面取得了惊人的进展。这些成就是在模拟环境中实现的。深度强化学习能否将这一成功转化为现实世界的任务？这里面临两个主要问题。第一个是深度强化学习需要大量的观察（在现实世界的任务中获得这些观察是缓慢且昂贵的）。强化学习在实际应用中的第二个障碍是安全性。无模型强化学习代理只能通过反复试验来学习。为了学会避免灾难，他

坐望云起·2023-09-25 06:03

【ML/DL】深层神经网络模型python实现

实现文章目录深层神经网络模型python实现注：1.准备工作导入必要的包导入数据集2.创建模型(1)初始化参数(2)前向传播(3)计算cost(4)反向传播(5)更新参数(6)合成模型3.训练模型注：数据集及详细讲解请查找吴恩达深度学习第一课第四周

落叶阳光·2023-09-25 04:18

机器学习笔记 - 生成代理的架构框架

来自Google研究人员提出的生成代理架构，它由三个主要组件组成：内存流模块、反射模块以及规划和反应模块。这种革命性的方法为模仿人类行为和认知的人工智能驱动实体开辟了新的可能性，为先进且迷人的游戏和虚拟环境铺平了道路。这种生成代理架构包括三个主要组件：A、记忆流：一种长期记忆模块，以“记忆对象”的形式记录智能体的经验，其中包含描述、记录时间以及智能体检索它们的时间。记忆流中最基本的项目是观察，它是

坐望云起·2023-09-24 19:05

机器学习笔记1

1、机器学习算法分类监督学习：目标值：类别-分类问题分类算法：K-近邻算法、贝叶斯分类、决策树和随机森林、逻辑回归目标值：连续型的数据-回归问题回归算法：线性回归、岭回归无监督学习：目标值：无-无监督学习算法：聚类K-means2、机器学习开发流程1）获取数据2）数据处理3）特征工程4）机器学习算法训练-模型5）模型评估6）应用3、特征工程-数据集可用数据集：1）sklearn自带的2）kaggl

从白天到早上·2023-09-24 16:35

2020年6月3日

今天没什么硬性任务，于是主要精力都用来复习吴恩达的deeplearning网课笔记，果然有些知识点还是需要学而时习之的。

真昼之月·2023-09-24 10:21

排得更好VS估得更准VS搜的更全「推荐、广告、搜索」算法间到底有什么区别？

这里是「王喆的机器学习笔记」的第三十八篇文章。今天我们聊一聊推荐、广告、搜索算法的区别。

王喆的机器学习笔记·2023-09-24 06:08

第五章多变量线性回归

该系列文章为，观看“吴恩达机器学习”系列视频的学习笔记。虽然每个视频都很简单，但不得不说每一句都非常的简洁扼要，浅显易懂。非常适合我这样的小白入门。

tomas家的小拨浪鼓·2023-09-24 05:59

机器学习笔记 - 维度诅咒的数学表达

1、点之间的距离kNN分类器假设相似的点也可能有相同的标签。但是，在高维空间中，从概率分布中得出的点往往不会始终靠近在一起。我们可以用一个简单的例子来说明这一点。我们将在单位立方体内均匀地随机绘制点（如图所示），并研究该立方体内测试点的k个最近邻将占用多少空间。想象单位立方体。所有训练数据都在这个立方体内均匀采样，即，并且我们正在考虑这样一个测试点的k=10个最近邻。令ℓ为包含测试点的所有k-nn

坐望云起·2023-09-24 05:46

机器学习笔记:adaBoost

1介绍AdaBoost（AdaptiveBoosting）是一种集成学习方法，它的目标是将多个弱分类器组合成一个强分类器通过反复修改训练数据的权重，使得之前分类错误的样本在后续的分类器中得到更多的关注每一轮中，都会增加一个新的弱分类器，直到达到某个预定的错误率或者达到预定的最大迭代次数2详细算法介绍

UQI-LIUWJ·2023-09-23 16:17

推荐频道

机器学习笔记——吴恩达