机器学习笔记——吴恩达第15页

李宏毅机器学习笔记：RNN循环神经网络

RNN一、RNN1、场景引入2、如何将一个单词表示成一个向量3种典型的RNN网络结构二、LSTMLSTM和普通NN、RNN区别三、LSTM的训练一、RNN1、场景引入例如情景补充的情况，根据词汇预测该词汇所属的类别。这个时候的Taipi则属于目的地。但是，在订票系统中，Taipi也可能会属于出发地。到底属于目的地，还是出发地，如果不结合上下文，则很难做出判断。因此，使用传统的深度神经网络解决不了问

ZEERO~·2023-09-03 21:55

吴恩达gradio课程：diffusion 文生图（Image to Text）模型

文章目录内容简介主要的Block元素构建应用程序界面改进内容简介使用了基于Diffusion模型的图像生成技术,可以从文本描述中生成图像。通过简单的Python代码调用模型接口,只需要提供文本提示即可生成图像。使用Gradio构建了一个简洁的网页界面,可以自定义文本提示来生成图像。接口可以控制生成图像的大小和细节程度等参数。使用GradioBlocks,它可以创建更复杂的用户界面布局。主要的Blo

Cachel wood·2023-09-03 20:44

吴恩达gradio课程：文本摘要和NER

文章目录`APIToken`获取文本摘要小型专家模型构建文本摘要应用程序构建命名实体识别应用程序NERAPIToken获取获取方式参考：HuggingFace的APItoken获取方式指南文本摘要使用distilbart-cnn模型构建了一个文本摘要应用。该模型专门用于文本摘要任务。使用Gradio创建了一个简单的用户界面,允许用户输入文本并生成摘要。使用了一个BERT模型构建了一个命名实体识别应

Cachel wood·2023-09-03 20:43

CV 开发的自我修养

CV开发者自我修养|吴恩达教程/笔记/刷题资料最全汇总书籍教程⋅sophie⋅于4个月前⋅746阅读吴恩达老师在机器学习领域的知名度是众所周知的，他在coursera平台上发布的《机器学习》课程，在国内外都可以说是机器学习入门的第一课和最热门课程

thousand_·2023-09-03 18:42

机器学习笔记之最优化理论与方法(四) 凸函数：定义与基本性质

机器学习笔记之最优化理论与方法——再回首：凸函数定义与基本性质引言凸函数的定义严格凸函数凸函数的推论：凹函数常见凸函数凸函数的基本性质几种保持函数凸性的运算凸集与凸函数之间的关联关系引言本节将介绍凸函数定义及其基本性质

静静的喝酒·2023-09-03 07:36

论文笔记：DEEP DECLARATIVE DYNAMIC TIME WARPING FOREND-TO-END LEARNING OF ALIGNMENT PATHS

DynamicTimeWarping动态时间规整（&DTW的python实现）【DDTW，WDTW】_UQI-LIUWJ的博客-CSDN博客近年来，可微DTW被广泛地研究Soft-DTW使用技巧替代min，使之可微机器学习笔记

UQI-LIUWJ·2023-09-02 05:53

智聚长沙、共襄盛举 | 1024 程序员节讲师征集

这个由GoogleFellowJeffDean、研究员GregCorrado和当时还在斯坦福任教的教授吴恩达共同发起的项目，成功让普罗大众首次亲眼目睹深度学习的威力，并打响了自己的名号。

CSDN资讯·2023-08-31 15:46

机器学习笔记之最优化理论与方法(一)最优化问题概述

机器学习笔记之最优化理论与方法——最优化问题概述引言什么是最优化问题最优化问题的基本形式最优化问题的分类各分类最优化问题的数学表达约束优化VS无约束优化线性规划VS非线性规划连续优化VS离散优化单目标优化

静静的喝酒·2023-08-31 07:36

机器学习笔记之最优化理论与方法(二)凸集的简单认识(上)

机器学习笔记之最优化理论与方法——凸集的简单认识[上]引言凸优化问题与凸集合凸函数的关系凸优化问题简单示例凸集的简单示例基本定义：凸集关于凸集性质的等价条件，凸组合，凸包常见凸集引言本节将介绍关于凸集的基本信息

静静的喝酒·2023-08-31 07:32

机器学习 - 吴恩达版(Stanford)笔记 003

Topic:definitionofsupervisedlearning如果你有一个朋友想卖掉自己的房子，他的房子大小是想知道自己的房子可以卖多少钱。学习算法可以帮助他做什么呢？学习算法可以根据数据画一条直线或者曲线来拟合数据.如果用一条直线来拟合数据点，我们大致可以得出，房子可以卖150,000刀但也许我们有更好的拟合方式，比如使用多项式或者高次函数。例如使用二次函数(quadraticfunc

Wallace_QIAN·2023-08-30 18:07

机器学习笔记之核函数再回首：Nadarya-Watson核回归python手写示例

机器学习笔记之核函数再回首——Nadaraya-Watson核回归手写示例引言回顾：Nadaraya-Watson\text{Nadaraya-Watson}Nadaraya-Watson核回归通过核函数描述样本之间的关联关系使用

静静的喝酒·2023-08-30 09:37

卷积神经网络之一维卷积、二维卷积、三维卷积

如果你对卷积维度的计算不清楚，可以参考我之前的博客吴恩达深度学习笔记（deeplearning.ai）之卷积神经网络（CNN）（上）。

bebr·2023-08-30 05:32

AI培训班有存在的必要吗？

本文由【AI前线】原创，原文链接：t.cn/RY3RQEVAI前线导语：“被称为“业界良心”吴恩达在Coursera的免费机器学习课程，学员数目有超过两百万；而最近国内某人工智能教育平台创始人也在微博宣称其培训平台已经吸引到将近十万的付费学员

AI前线·2023-08-30 00:58

机器学习笔记 - 基于OpenMMLab在自定义数据集上训练RTMDet网络

一、什么是RTMDet？RTMDet是一种高效的实时目标检测器，其自报告指标优于YOLO系列。它在COCO上实现了52.8%的AP，在NVIDIA3090GPU上实现了300+FPS，使其成为当前号称最快、最准确的目标检测器之一。RTMDet与其他实时物体检测器的对比。RTMDet采用了一种在主干和颈部具有兼容能力的架构，该架构使用包含大内核深度卷积的基本构建块构建。这种设计增强了模型捕获全局上下

坐望云起·2023-08-29 19:29

Machine Learning Resources

浩瀚之宇·2023-08-29 06:01

机器学习笔记 - 对象/目标检测技术发展史概览

一、简述物体检测算法的发展已经取得了长足的进步，从早期的计算机视觉开始，通过深度学习达到了很高的准确度。我们首先回顾早期传统的目标检测方法：Viola-Jones检测器、HOG检测器和基于部件的方法，它们在该领域发展之初就被广泛使用。然后，逐渐转向基于两阶段和一阶段目标检测神经网络的更现代的深度学习目标检测方法：RCNN、YOLO、SSD和CenterNet。这些方法提供了一种端到端的架构，允许算

坐望云起·2023-08-29 05:27

吴恩达机器学习——正则化

7.1过拟合的问题过拟合问题简单来说就是泛化能力差：所建的机器学习模型在训练样本中准确率很高，在验证数据集中准确率低——也就是说模型难以推广到新的数据。下图是一个回归问题的例子：第一个模型是一个线性模型，欠拟合，不能很好地适应我们的训练集；第三个模型是一个四次方的模型，过于强调拟合原始数据，而丢失了算法的本质：预测新数据。我们可以看出，若给出一个新的值使之预测，它将表现的很差，是过拟合，虽然能非常

SCY_e62e·2023-08-29 00:26

李宏毅机器学习笔记：结构学习，HMM，CRF

李宏毅机器学习笔记：结构学习，HMM，CRF1、隐马尔可夫模型HMM1.1Sequence2Sequence1.2HMM1.3Viterbi算法1.3HMM模型的缺点2、CRF2.1CRF模型2.2CRF

ZEERO~·2023-08-28 22:43

吴恩达深度学习--logitic回归损失函数

2.3logitic回归损失函数学习损失函数和误差函数可以用来检测算法运行情况，如在算法输出时定义损失，yhat和实标y有可能是一个或半个平方误差。平方误差函数你可以如此操作，但一般在逻辑回归里不进行此操作，因为当研究参数时，我们讨论的优化问题将会变成非凸问题，所以优化问题会产生多个局部最优解，梯度下降算法也就无法找到全局最优解。函数L被称为损失函数，需要进行设定，才能在实标为y时对输出yhat进

862180935588·2023-08-28 15:54

机器学习理论笔记（二）：数据集划分以及模型选择

经验误差与过拟合3训练集与测试集的划分方法3.1留出法（Hold-out）3.2交叉验证法（CrossValidation）3.3自助法（Bootstrap）4调参与最终模型5结语1前言欢迎来到蓝色是天的机器学习笔记专栏

蓝色是天·2023-08-27 23:34

机器学习笔记-阻尼牛顿法

文章目录前言一、阻尼牛顿法二、算法实例总结前言在学习了牛顿法之后，我们了解到牛顿法存在一个致命的问题：牛顿法的搜索方向不一定就是下降方向。这直接可能会导致牛顿法不会收敛。为了解决这个问题，我们主要的改进的方向有两点：改进使得牛顿法的搜索方向就是其函数值下降的方向。改进使得牛顿法不是下降方向的搜索方向变成是下降方向的搜索方向。一、阻尼牛顿法阻尼牛顿法就上述改进点中的第二点，为牛顿法沿牛顿方向

复杂混沌·2023-08-27 19:41

机器学习笔记之优化算法(十九)经典牛顿法的收敛性分析

机器学习笔记之优化算法——经典牛顿法的收敛性分析引言回顾：算法的收敛性分析Wolfe\text{Wolfe}Wolfe准则的收敛性分析梯度下降法在凸函数的收敛性分析梯度下降法在强凸函数的收敛性分析经典牛顿法的收敛性分析收敛性定理介绍证明过程关于隐含条件的说明引言上一节整体介绍了经典牛顿法

静静的喝酒·2023-08-27 19:09

机器学习笔记 - 数据科学中基于 Scikit-Learn、Tensorflow、Pandas 和 Scipy的7种最常用的特征工程技术

坐望云起·2023-08-27 13:09

机器学习笔记之优化算法(十九)牛顿法与正则化

机器学习笔记之优化算法——再回首:牛顿法与正则化引言回顾：经典牛顿法及其弊端牛顿法：算法步骤迭代过程中可能出现的问题正则化HessianMatrix\text{HessianMatrix}HessianMatrix

静静的喝酒·2023-08-26 11:08

机器学习笔记：神经网络层的各种normalization

0预处理中的normalization和standardization归一化normalization找到某种映射关系，将原数据映射到[a,b]区间上eg,min-maxnormalization标准化（Standardization）用大数定理将数据转化为一个标准正态分布*batchnormalization这些做的其实感觉类似于standardization的事儿1Normalization的

UQI-LIUWJ·2023-08-26 07:34

机器学习笔记之优化算法(十八)经典牛顿法

机器学习笔记之优化算法——经典牛顿法引言回顾：下降方向下降方向的几何意义经典牛顿法整体介绍关于牛顿方向判断牛顿方向是否为下降方向引言本节将介绍优化算法——经典牛顿法(NewtonMethod)(\text

静静的喝酒·2023-08-26 00:34

机器学习笔记之优化算法(十七)梯度下降法在强凸函数的收敛性分析

机器学习笔记之优化算法——梯度下降法在强凸函数的收敛性分析引言回顾：梯度下降法在强凸函数的收敛性二阶可微——梯度下降法在强凸函数的收敛性推论引言上一节介绍并证明了：梯度下降法在强凸函数上的收敛速度满足Q

静静的喝酒·2023-08-25 16:16

论文笔记： MOGRIFIER LSTM

2020ICLR修改传统LSTM当前输入和隐藏状态充分交互，从而获得更佳的上下文相关表达1MogrifierLSTMLSTM的输入X和隐藏状态H是完全独立的机器学习笔记：GRU_gruc_UQI-LIUWJ

UQI-LIUWJ·2023-08-25 05:22

机器学习笔记 - 使用 AugMix 增强图像分类模型的鲁棒性

一、简述图像分类模型能够预测与训练数据具有相同分布的数据。然而，在现实场景中，输入数据可能会发生变化。例如，当使用不同的相机进行推理时，照明条件、对比度、颜色失真等可能与训练集不同，并显着影响模型的性能。为了应对这一挑战，Hendrycks等人提出了AugMix算法。可以应用于任何图像分类模型，以提高其鲁棒性和不确定性估计。AugMix是一种数据增强技术，可生成每个训练图像的增强变化。当与一致性损

坐望云起·2023-08-23 12:41

吴恩达 GPT Prompting 课程

PromptingGuidelines目录GuidelinesforPromptingPromptingPrinciplesPrinciple1:Writeclearandspecificinstructions1.1:Usedelimiterstoclearlyindicatedistinctpartsoftheinput1.2:Askforastructuredoutput1.3:Askthe

学习溢出·2023-08-23 08:29

机器学习笔记 - PyTorch Image Models图像模型概览 (timm)

一、简述PyTorchImageModels(timm)是一个用于最先进的图像分类的库，包含图像模型、优化器、调度器、增强等的集合；是比较热门的论文及代码库。虽然越来越多的低代码和无代码解决方案可以轻松开始将深度学习应用于计算机视觉问题，但我们经常与希望寻求定制解决方案的客户合作针对他们的具体问题；利用最新、最伟大的创新来超越这些服务提供的性能水平。由于新的架构和训练技术被引入到这个快速发展的领域

坐望云起·2023-08-23 02:45

机器学习笔记 - 使用 ResNet-50 和余弦相似度的基于图像的推荐系统

坐望云起·2023-08-22 21:23

李宏毅机器学习笔记——16. Conditional Generation by RNN&Attention(RNN条件生成与注意力机制)

摘要：本章内容是讲解了Generation，Attention，TipsforGeneration，一是围绕用RNN实现Generation（生成）的方法与基本原理，先应用生成句子去介绍生成的基本原理，接着举例无条件的生成图片，其不同的是：将图片上的每个像素点看成一个word，并需要考虑各像素之间的几何关系，所以我们需要借助3D-LSTM完善了Generation图片功能。但是在实际应用中，我们的

HSR CatcousCherishes·2023-08-22 17:05

【吴恩达机器学习】第六周—机器学习系统设计

31.jpg1.应用机器学习的建议1.1下一步做什么仍然使用预测房价的学习例子，假如你已经完成了正则化线性回归，也就是最小化代价函数J的值，假如，在你得到你的学习参数以后，如果你要将你的假设函数放到一组新的房屋样本上进行测试，假如说你发现在预测房价时产生了巨大的误差，现在你的问题是要想改进这个算法，接下来应该怎么办？获得更多的训练实例——通常是有效的，但代价较大，下面的方法也可能有效，可考虑先采用

Sunflow007·2023-08-21 22:16

机器学习笔记之优化算法(十五)Baillon Haddad Theorem简单认识

机器学习笔记之优化算法——BaillonHaddadTheorem简单认识引言BaillonHaddadTheorem\text{BaillonHaddadTheorem}BaillonHaddadTheorem

静静的喝酒·2023-08-21 13:19

机器学习笔记之优化算法(十六)梯度下降法在强凸函数上的收敛性证明

机器学习笔记之优化算法——梯度下降法在强凸函数上的收敛性证明引言回顾：凸函数与强凸函数梯度下降法：凸函数上的收敛性分析关于白老爹定理的一些新的认识梯度下降法在强凸函数上的收敛性收敛性定理介绍结论分析证明过程引言本节将介绍

静静的喝酒·2023-08-21 13:19

机器学习笔记 - 基于keras + 小型Xception网络进行图像分类

一、简述Xception是深度为71层的卷积神经网络，仅依赖于深度可分离的卷积层。论文中将卷积神经网络中的Inception模块解释为常规卷积和深度可分离卷积运算（深度卷积后跟点卷积）之间的中间步骤。从这个角度来看，深度可分离卷积可以理解为具有最大数量塔的Inception模块。下图是原始深度可分离卷积Xception中改进的深度可分离卷积原始的深度可分离卷积是深度卷积后跟点卷积。修改后的深度可分

坐望云起·2023-08-20 07:04

吴恩达机器学习2011版本学习笔记

这是看完视频后，按自己的理解做了笔记。监督学习学的比较认真，33之后的无监督学习心态已经浮躁了，以后要再学一遍2022最新版视频课。1，有正确答案是有监督学习，反之是无监督学习2，模型就是把训练数据拟合为一个公式(严格来说是个函数，关系)。入门的拟合的方法是最小二乘法，先假设一个公式，代入不同系数，然后再把训练数据的x依次代入求y，然后看y与训练数据的正确答案的方差。这样假设的系数作z，与结果方差

zhaot1993·2023-08-19 21:05

[Machine Learning] decision tree 决策树

正好原本的学习进度刚刚完成这部分，所以集成一个笔记了,本文中所有的截图绝大多数来自吴恩达老师的公开课

ViceMusic5·2023-08-19 11:34

机器学习笔记 - 使用VGG16深度学习模型进行图像相似度比较

一、简述VGG16是一个强大的预训练模型，可用于识别图像之间的相似性。通过使用该模型，我们可以从不同图像中提取高级特征并进行比较以识别相似性。该技术具有广泛的应用，从图像搜索和推荐系统到安全和监控。在本文中，将利用该模型来查找两个图像之间的相似性。这里利用机器学习库（例如keras和）scikit-learn来构建和训练我们的图像相似性模型。除了提到的库之外，我们还将分别使用numpy和matpl

坐望云起·2023-08-18 08:56

5-2 Coursera吴恩达《序列模型》第二周课程笔记-自然语言处理和词嵌入

上一篇文章5-1Coursera吴恩达《序列模型》第一周课程笔记-循环序列网络(RNN)我们主要介绍了循环神经网络（RNN）的基本概念、模型和具体应用。

双木的木·2023-08-17 19:42

机器学习笔记：线性链条件随机场（CRF）

0引入：以词性标注为例比如我们要对如下句子进行标注：“小明一把把把把住了”那么我么可能有很多种词性标注的方法，中间四个“把”，可以是“名词+名词+动词+名词”，可以是“名词+动词+动词+名词”等多种形式。那么，哪种标注序列最有可能是正确的呢？我们如果可以给每一个标注序列进行打分，打分越高的表示这个标注序列越靠谱，那么就会容易的多。打分最高的就是最可能的标注序列。对于标注序列问题，我们可以设计一组特

UQI-LIUWJ·2023-08-17 14:09

机器学习笔记：主动学习（Active Learning）初探

1基本介绍监督学习问题中，存在标记成本昂贵且难以大量获取的问题。针对一些特定任务，只有行业专家才能为样本做上准确标记。在此问题背景下，主动学习（ActiveLearning,AL）尝试通过选择性地标记较少数据而训练出表现较好的模型。主动学习最重要的假设是不同样本对于特定任务的重要程度不同，所以带来的表现提升也不全相同。选取较为重要的样本可以使当前模型以较少的标记样本数得到较好的表现在这一过程中，主

UQI-LIUWJ·2023-08-17 14:09

机器学习理论笔记（一）：初识机器学习

文章目录1前言：蓝色是天的机器学习笔记专栏1.1专栏初衷与定位1.2本文主要内容2机器学习的定义2.1机器学习的本质2.2机器学习的分类3机器学习的基本术语4探索"没有免费的午餐"定理（NFL）5结语1

蓝色是天·2023-08-16 23:47

机器学习吴恩达——第二周

7逻辑回归7.1分类问题在分类问题中，我们要预测的变量y是离散的值，比如说0，1。这时我们可以采用逻辑回归来处理问题。在分类问题中，我们尝试预测的是结果是否属于某一个类(例如正确或错误)。分类问题的例子有:判断一封电子邮件是否是垃圾邮件;判断一次金融交易是否是欺诈;之前我们也谈到了肿瘤分类问题的例子，区别一个肿瘤是恶性的还是良性的。首先是二元的分类问题，那么结果y只有两种情况，0和1.二元分类问题

荔枝葡萄干·2023-08-16 15:54

2022-01-15 吴恩达来信：建立AI职业生涯的小tips

来源：吴恩达来信：建立AI职业生涯的小tips(qq.com)亲爱的朋友们,人工智能持续创造着无数令人兴奋的工作机会，我知道你们中的许多人都希望在这个领域发展自己的职业生涯。

我想要日更徽章·2023-08-15 22:11

机器学习笔记 - 在 Vision Transformer 中可视化注意力

2022年，视觉变换器(ViT)成为卷积神经网络(CNN)的有力竞争对手，后者现已成为计算机视觉领域的最先进技术，并广泛应用于许多图像识别应用中。在计算效率和准确性方面，ViT模型超过了当前最先进的(CNN)几乎四倍。一、视觉转换器(ViT)如何工作？视觉转换器模型的性能由优化器、网络深度和数据集特定的超参数等决策决定。CNN比ViT更容易优化。纯Transformer和CNN前端之间的区别在于将

坐望云起·2023-08-15 07:39

反向传播算法

吴恩达神经网络课程里，反向传播算法最难理解的是反向传播阶段怎样调整各层次的权值，费用函数的双层求和符号令人无限头大，于是费用函数的偏导数就更难证明。

若_6dcd·2023-08-14 07:00

机器学习（一）模型三要素

模型迭代要求4.策略阶段要点（三）优化算法：1.普通参数2.超参数二、深度学习改变了什么1、大规模数据性能提升可观2、隐式特征学习--AE本文是对李航博士《机器学习方法》，邱锡鹏博士的《神经网络与深度学习》，吴恩达机器学习课程

元吉光·2023-08-14 05:43

机器学习笔记：李宏毅 stable diffusion

1基本框架①：文字变成向量②：喂入噪声+文字encoder，产生中间产物③：decoder还原图片2textencoder这张图越往右下表示效果越好，可以看到textencoder尺寸越大，对后续生成图片的增益越多3评价图片生成好坏的标准3.1FID现有一个训练好的CNN模型，可以生成真实影像和生成图像的representation这两组表征的分布越近，效果越好——>我们sample一堆图片，然后

UQI-LIUWJ·2023-08-14 01:49

推荐频道

机器学习笔记——吴恩达