机器学习笔记——吴恩达第15页

【吴恩达机器学习】第六周—机器学习系统设计

31.jpg1.应用机器学习的建议1.1下一步做什么仍然使用预测房价的学习例子，假如你已经完成了正则化线性回归，也就是最小化代价函数J的值，假如，在你得到你的学习参数以后，如果你要将你的假设函数放到一组新的房屋样本上进行测试，假如说你发现在预测房价时产生了巨大的误差，现在你的问题是要想改进这个算法，接下来应该怎么办？获得更多的训练实例——通常是有效的，但代价较大，下面的方法也可能有效，可考虑先采用

Sunflow007·2023-08-21 22:16

机器学习笔记之优化算法(十五)Baillon Haddad Theorem简单认识

机器学习笔记之优化算法——BaillonHaddadTheorem简单认识引言BaillonHaddadTheorem\text{BaillonHaddadTheorem}BaillonHaddadTheorem

静静的喝酒·2023-08-21 13:19

机器学习笔记之优化算法(十六)梯度下降法在强凸函数上的收敛性证明

机器学习笔记之优化算法——梯度下降法在强凸函数上的收敛性证明引言回顾：凸函数与强凸函数梯度下降法：凸函数上的收敛性分析关于白老爹定理的一些新的认识梯度下降法在强凸函数上的收敛性收敛性定理介绍结论分析证明过程引言本节将介绍

静静的喝酒·2023-08-21 13:19

机器学习笔记 - 基于keras + 小型Xception网络进行图像分类

一、简述Xception是深度为71层的卷积神经网络，仅依赖于深度可分离的卷积层。论文中将卷积神经网络中的Inception模块解释为常规卷积和深度可分离卷积运算（深度卷积后跟点卷积）之间的中间步骤。从这个角度来看，深度可分离卷积可以理解为具有最大数量塔的Inception模块。下图是原始深度可分离卷积Xception中改进的深度可分离卷积原始的深度可分离卷积是深度卷积后跟点卷积。修改后的深度可分

坐望云起·2023-08-20 07:04

吴恩达机器学习2011版本学习笔记

这是看完视频后，按自己的理解做了笔记。监督学习学的比较认真，33之后的无监督学习心态已经浮躁了，以后要再学一遍2022最新版视频课。1，有正确答案是有监督学习，反之是无监督学习2，模型就是把训练数据拟合为一个公式(严格来说是个函数，关系)。入门的拟合的方法是最小二乘法，先假设一个公式，代入不同系数，然后再把训练数据的x依次代入求y，然后看y与训练数据的正确答案的方差。这样假设的系数作z，与结果方差

zhaot1993·2023-08-19 21:05

[Machine Learning] decision tree 决策树

正好原本的学习进度刚刚完成这部分，所以集成一个笔记了,本文中所有的截图绝大多数来自吴恩达老师的公开课

ViceMusic5·2023-08-19 11:34

机器学习笔记 - 使用VGG16深度学习模型进行图像相似度比较

一、简述VGG16是一个强大的预训练模型，可用于识别图像之间的相似性。通过使用该模型，我们可以从不同图像中提取高级特征并进行比较以识别相似性。该技术具有广泛的应用，从图像搜索和推荐系统到安全和监控。在本文中，将利用该模型来查找两个图像之间的相似性。这里利用机器学习库（例如keras和）scikit-learn来构建和训练我们的图像相似性模型。除了提到的库之外，我们还将分别使用numpy和matpl

坐望云起·2023-08-18 08:56

5-2 Coursera吴恩达《序列模型》第二周课程笔记-自然语言处理和词嵌入

上一篇文章5-1Coursera吴恩达《序列模型》第一周课程笔记-循环序列网络(RNN)我们主要介绍了循环神经网络（RNN）的基本概念、模型和具体应用。

双木的木·2023-08-17 19:42

机器学习笔记：线性链条件随机场（CRF）

0引入：以词性标注为例比如我们要对如下句子进行标注：“小明一把把把把住了”那么我么可能有很多种词性标注的方法，中间四个“把”，可以是“名词+名词+动词+名词”，可以是“名词+动词+动词+名词”等多种形式。那么，哪种标注序列最有可能是正确的呢？我们如果可以给每一个标注序列进行打分，打分越高的表示这个标注序列越靠谱，那么就会容易的多。打分最高的就是最可能的标注序列。对于标注序列问题，我们可以设计一组特

UQI-LIUWJ·2023-08-17 14:09

机器学习笔记：主动学习（Active Learning）初探

1基本介绍监督学习问题中，存在标记成本昂贵且难以大量获取的问题。针对一些特定任务，只有行业专家才能为样本做上准确标记。在此问题背景下，主动学习（ActiveLearning,AL）尝试通过选择性地标记较少数据而训练出表现较好的模型。主动学习最重要的假设是不同样本对于特定任务的重要程度不同，所以带来的表现提升也不全相同。选取较为重要的样本可以使当前模型以较少的标记样本数得到较好的表现在这一过程中，主

UQI-LIUWJ·2023-08-17 14:09

机器学习理论笔记（一）：初识机器学习

文章目录1前言：蓝色是天的机器学习笔记专栏1.1专栏初衷与定位1.2本文主要内容2机器学习的定义2.1机器学习的本质2.2机器学习的分类3机器学习的基本术语4探索"没有免费的午餐"定理（NFL）5结语1

蓝色是天·2023-08-16 23:47

机器学习吴恩达——第二周

7逻辑回归7.1分类问题在分类问题中，我们要预测的变量y是离散的值，比如说0，1。这时我们可以采用逻辑回归来处理问题。在分类问题中，我们尝试预测的是结果是否属于某一个类(例如正确或错误)。分类问题的例子有:判断一封电子邮件是否是垃圾邮件;判断一次金融交易是否是欺诈;之前我们也谈到了肿瘤分类问题的例子，区别一个肿瘤是恶性的还是良性的。首先是二元的分类问题，那么结果y只有两种情况，0和1.二元分类问题

荔枝葡萄干·2023-08-16 15:54

2022-01-15 吴恩达来信：建立AI职业生涯的小tips

来源：吴恩达来信：建立AI职业生涯的小tips(qq.com)亲爱的朋友们,人工智能持续创造着无数令人兴奋的工作机会，我知道你们中的许多人都希望在这个领域发展自己的职业生涯。

我想要日更徽章·2023-08-15 22:11

机器学习笔记 - 在 Vision Transformer 中可视化注意力

2022年，视觉变换器(ViT)成为卷积神经网络(CNN)的有力竞争对手，后者现已成为计算机视觉领域的最先进技术，并广泛应用于许多图像识别应用中。在计算效率和准确性方面，ViT模型超过了当前最先进的(CNN)几乎四倍。一、视觉转换器(ViT)如何工作？视觉转换器模型的性能由优化器、网络深度和数据集特定的超参数等决策决定。CNN比ViT更容易优化。纯Transformer和CNN前端之间的区别在于将

坐望云起·2023-08-15 07:39

反向传播算法

吴恩达神经网络课程里，反向传播算法最难理解的是反向传播阶段怎样调整各层次的权值，费用函数的双层求和符号令人无限头大，于是费用函数的偏导数就更难证明。

若_6dcd·2023-08-14 07:00

机器学习（一）模型三要素

模型迭代要求4.策略阶段要点（三）优化算法：1.普通参数2.超参数二、深度学习改变了什么1、大规模数据性能提升可观2、隐式特征学习--AE本文是对李航博士《机器学习方法》，邱锡鹏博士的《神经网络与深度学习》，吴恩达机器学习课程

元吉光·2023-08-14 05:43

机器学习笔记：李宏毅 stable diffusion

1基本框架①：文字变成向量②：喂入噪声+文字encoder，产生中间产物③：decoder还原图片2textencoder这张图越往右下表示效果越好，可以看到textencoder尺寸越大，对后续生成图片的增益越多3评价图片生成好坏的标准3.1FID现有一个训练好的CNN模型，可以生成真实影像和生成图像的representation这两组表征的分布越近，效果越好——>我们sample一堆图片，然后

UQI-LIUWJ·2023-08-14 01:49

机器学习笔记：李宏毅diffusion model

1概念原理首先sample一个都是噪声的vector然后经过denoisenetwork过滤一些杂质接着继续不断denoise，直到最后出来一张清晰图片【类似于做雕塑，一开始只是一块石头（噪声很杂的雕塑），慢慢雕刻出想要的花纹】同一个denoisenetwork的模型反复使用但每一个stage输入的图片的状况差异很大——>完全是同一个模型效果不一定好denoisenetwork还多需要一个输入，野

UQI-LIUWJ·2023-08-14 01:46

机器学习 - 吴恩达版(Stanford)笔记 005

Topic:ModelRepresentation假设你的朋友有一个1250squarefeet的房子，如何借助这个数据估价？之前提到，这是一个监督学习算法。在此我们定义训练集(TrainingSet)的概念。对于监督学习，我们有特征集合x，和目标集合y一一对应，组成训练集。而对于训练集里的单条数据，他的特征组，和结果，写作,整个监督学习的过程即如上图：输入trainingset，使learnin

Wallace_QIAN·2023-08-13 23:19

AI数学基础10——多个样本神经网络输入公式

本文是吴恩达深度学习课程第一门课3.4节的总结单个样本输出公式如下所示：当扩展到m的样本时，可以用for循环来实现多个样本的神经网络输出值计算，在《AI数学基础6——向量化（Vectorization）

LabVIEW_Python·2023-08-13 13:03

机器学习笔记 - 基于PyTorch + 类似ResNet的单目标检测

坐望云起·2023-08-13 06:21

机器学习笔记 - 关于向量嵌入embedding在机器学习中的使用

向量嵌入概述向量嵌入是机器学习中最有趣和最有用的概念之一。它们是许多NLP、推荐和搜索算法的核心。如果您曾经使用过推荐引擎、语音助手、语言翻译器等工具，您就会遇到过依赖嵌入的系统。与大多数软件算法一样，机器学习算法也需要使用数字。有时，我们的数据集包含数值列或可以转换为数值的值（序数、分类等）。其他时候我们会遇到更抽象的东西，比如整个文本文档。我们为这样的数据创建向量嵌入，它们只是数字列表，以便用

坐望云起·2023-08-12 20:59

机器学习笔记 - 基于C++的深度学习二、实现卷积运算

一、卷积卷积是信号处理领域的老朋友。最初的定义如下在机器学习术语中：I(…)通常称为输入K(…)作为内核，并且F(…)作为给定K的I(x)的特征图。虑多维离散域，我们可以将积分转换为以下求和对于二维数字图像，我们可以将其重写为：<

坐望云起·2023-08-12 14:48

UFLDL新版教程与编程练习（六）：Multi-Layer Neural Network（多层神经网络）

UFLDL是吴恩达团队编写的较早的一门深度学习入门，里面理论加上练习的节奏非常好，每次都想快点看完理论去动手编写练习，因为他帮你打好了整个代码框架，也有详细的注释，所以我们只要实现一点核心的代码编写工作就行了

赖子啊·2023-08-12 12:18

机器学习笔记 - 基于C++的深度学习三、实现成本函数

机器学习中的建模作为人工智能工程师，我们通常将每个任务或问题定义为一个函数。例如，如果我们正在开发面部识别系统，我们的第一步是将问题定义为将输入图像映射到标识符的函数F(X)。但是问题是如何知道F(X)公式？事实上，使用公式或一系列固有规则来定义F(X)是不可行的（有一天我会解释原因）。一般来说，我们不是寻找或定义正确的函数F(X)，而是尝试找到F(X)的近似值。我们将这种近似称为假设函数，或者简

坐望云起·2023-08-12 05:59

机器学习笔记：李宏毅chatgpt 大模型 & 大资料

1大模型1.1大模型的顿悟时刻EmergentAbilitiesofLargeLanguageModels，TransactionsonMachineLearningResearch2022模型的效果不是随着模型参数量变多而慢慢变好，而是在某一个瞬间，模型“顿悟”了这边举的一个例子是，比如让模型回答鸡兔同笼问题一开始小模型什么都学不到，故而效果不好随着模型参数量增大，模型慢慢地会一定地推导了，但是

UQI-LIUWJ·2023-08-12 03:37

吴恩达机器学习笔记（二）

模型描述：根据房间的大小（平方数）预测其能售卖出的价格1、监督学习（每个例子都有一个正确的输出值）1.1、回归问题，可以预测一个准确的数值输出1.2、分类问题，可以预测离散值输出（只有0和1的离散值输出）2、训练集（trainingset）：在监督学习中提供“参考”的数据集合三个要素：训练集的数量，输入变量，输出变量训练样本（trainingexample）：（x^(i),y^(i)）第i个训练样

五大人·2023-08-12 02:26

机器学习笔记之优化算法(十三)关于二次上界引理

机器学习笔记之优化算法——关于二次上界引理引言回顾：利普希兹连续梯度下降法介绍二次上界引理：介绍与作用二次上界与最优步长之间的关系二次上界引理证明过程引言本节将介绍二次上界的具体作用以及它的证明过程。

静静的喝酒·2023-08-11 20:41

机器学习笔记值优化算法(十四)梯度下降法在凸函数上的收敛性

机器学习笔记之优化算法——梯度下降法在凸函数上的收敛性引言回顾：收敛速度：次线性收敛二次上界引理梯度下降法在凸函数上的收敛性收敛性定理介绍证明过程引言本节将介绍梯度下降法在凸函数上的收敛性。

静静的喝酒·2023-08-11 20:10

机器学习笔记 - 基于C++的深度学习一、向量运算

由于它们的可扩展性和灵活性，现在很少找到不使用TensorFlow、PyTorch、Paddle......（这里的省略号是指各种成熟的深度学习库）的项目。花时间从头开始编写机器学习算法（即在没有任何基础框架的情况下）似乎有些重复造轮子的感觉。然而，事实并非如此。自己编写算法可以让我们清楚、扎实地理解算法如何工作以及模型真正在做什么。C++曾经是一种古老的语言，但在过去十年中发生了巨大的发展。主要

坐望云起·2023-08-11 08:37

深度学习阶段性回顾

本文针对过去两周的深度学习理论做阶段性回顾，学习资料来自吴恩达老师的2021版deeplearning.ai课程，内容涵盖深度神经网络改善一直到ML策略的章节。

猫咪的白手套·2023-08-11 06:20

机器学习笔记 - 使用CLIP在没有数据的情况下创建图像分类器

想象一下，如果我们现在需要对人们是否戴眼镜进行分类，但您没有数据或资源来训练自定义模型。该怎么办？这里我们了解如何使用预先训练的CLIP模型来创建自定义分类器，而无需任何培训。这种方法称为零样本图像分类，它可以对原始CLIP模型训练期间未明确看到的类别图像进行分类。一、CLIP理论背景CLIP（对比语言-图像预训练）模型由OpenAI开发，是一种多模态视觉和语言模型。它将图像和文本描述映射到相同的

坐望云起·2023-08-11 02:31

平安夜前

在网易云课堂上听吴恩达的深度学习的课程，然后在推特上关注了他，他说了一

给梦想一点时间·2023-08-10 21:18

机器学习笔记之优化算法(十一)梯度下降法：凸函数VS强凸函数

机器学习笔记之优化算法——梯度下降法：凸函数VS强凸函数引言凸函数：凸函数的定义与判定条件凸函数的一阶条件凸函数的梯度单调性凸函数的二阶条件强凸函数强凸函数的定义强凸函数的判定条件强凸函数的一阶条件强凸函数的梯度单调性强突函数的二阶条件引言本节将介绍凸函数

静静的喝酒·2023-08-10 10:01

神经网络基础-卷积神经网络

本文参考：本文参考吴恩达老师的Coursera深度学习课程，很棒的课，推荐本文默认你已经大致了解深度学习的简单概念，如果需要更简单的例子，可以参考吴恩达老师的入门课程：http://study.163.

Dominic221·2023-08-10 06:09

吴恩达作业（5）CNN神经网络(tensorflow实现)--手势识别

题目：输入手势图片，判断手势数字。如：输出数字555数据集：test_signs.h5：训练集，维度为：（1080，64，64，3），即1080张64*64的彩色图片train_signs.h5：测试集，维度为：（120，64，64，3），即120张64*64的彩色图片参考博客目的：搭建卷积层:CONV2D−>RELU−>MAXPOOL−>CONV2D−>RELU−>MAXPOOL−>FLATTE

快乐活在当下·2023-08-10 06:35

机器学习笔记1_逻辑回归

@[toc]1LogisticRegressionLogisticRegression逻辑回归，简称LR，适合于分类问题1.1LR模型对于线性回归模型，需要拟合一个的函数，回归问题适合于连续的问题，而对于分类问题，需要得到一系列离散的标签，以二分类为例，需要预测的类别为0，1.可以使用sigmoid函数将连续问题转化为离散问题:sigmoid函数的图像为：sigmoid其中，时，，时，.Sigmo

cuiyr123·2023-08-09 17:41

机器学习笔记：李宏毅ChatGPT Finetune VS Prompt

1两种大语言模型：GPTVSBERT2对于大语言模型的两种不同期待2.1“专才”2.1.1成为专才的好处IsChatGPTAGoodTranslator?APreliminaryStudy2023Arxiv箭头方向指的是从哪个方向往哪个方向翻译表格里面的数值越大表示翻译的越好可以发现专门做翻译的工作会比ChatGPT好一些HowGoodAreGPTModelsatMachineTranslatio

UQI-LIUWJ·2023-08-09 08:43

吴恩达机器学习笔记（自用）

吴恩达机器学习机器学习的定义什么是机器学习？

cosθ·2023-08-09 06:02

机器学习笔记自用

matplotlib.legend中的ncol，例如plt.legend(label,loc=0,ncol=4)表示一行可放置4个标签loc表示位置常用位置如下

鄙人不善奔跑·2023-08-09 05:00

「AI大咖谈」阿里算法专家谈大规模推荐系统粗排层的设计与实现

这里是「王喆的机器学习笔记」的第三十七篇文章。今天我们「AI大咖谈」邀请的大咖是阿里的算法专家王哲，所以今天是一次王喆对王哲的访谈。

王喆的机器学习笔记·2023-08-09 05:20

机器学习啃书计划

机器学习啃书计划reference：西瓜书和吴恩达视频https://github.com/Vay-keen/Machine-learning-learning-notes/blob/master/周志华

IKKA·2023-08-08 18:40

机器学习笔记之优化算法(十一)凸函数铺垫：梯度与方向导数

机器学习笔记之优化算法——凸函数铺垫：梯度与方向导数引言回顾：偏导数方向余弦方向导数方向导数的几何意义方向导数的定义方向导数与偏导数之间的关联关系证明过程梯度(Gradient)(\text{Gradient

静静的喝酒·2023-08-08 18:38

机器学习笔记：李宏毅ChatGPT：生成式学习的两种策略

1策略1“各个击破”——autoregressivemodel“各个击破”——一个一个生成出来2策略2：“一次到位”——non-autoregressvemodel一步到位，全部生成出来2.1non-autoregressivemodel如何确定长度？两种策略策略1：始终生成固定长度（比如100），如果出现end，那么end后面的部分直接扔掉策略2：首先输出一个数字n，表示之后我们要输出多长，然后

UQI-LIUWJ·2023-08-08 17:41

机器学习笔记 - week9 -（十五、异常检测）

15.1问题的动机在接下来的一系列视频中，我将向大家介绍异常检测(Anomalydetection)问题。这是机器学习算法的一个常见应用。什么是异常检测呢？为了解释这个概念，让我举一个例子吧：假想你是一个飞机引擎制造商，当你生产的飞机引擎从生产线上流出时，你需要进行QA(质量控制测试)，而作为这个测试的一部分，你测量了飞机引擎的一些特征变量，比如引擎运转时产生的热量，或者引擎的振动等等。这样一来，

火箭蛋头·2023-08-08 05:12

机器学习-吴恩达9(1)-异常检测

“黑中有白，白中有黑，没有绝对的白，也没有绝对的黑，黑可衬白，白可映黑。万物皆可转换”。本文中对异常检测算法做了小结，主要包含：问题产生高斯分布算法使用场景八种无监督异常检测技术异常检测和监督学习对比特征选择异常检测NoveltyDetection异常是相对于其他观测数据而言有明显偏离的，以至于怀疑它与正常点不属于同一个数据分布。异常检测是一种用于识别不符合预期行为的异常模式的技术，又称之为异常值

皮皮大·2023-08-07 20:17

机器学习——支持向量机（数学基础推导篇）

支持向量机（SVM）——原理篇机器学习笔记（五）：支持向量机（SVM）支持向量机算法（SVM）详细讲解(含手推

# JFZero·2023-08-07 11:32

机器学习笔记 - 关于GPT-4的一些问题清单

一、简述据报道，GPT-4的系统由八个模型组成，每个模型都有2200亿个参数。GPT-4的参数总数估计约为1.76万亿个。近年来，得益于GPT-4等高级语言模型的发展，自然语言处理(NLP)取得了长足的进步。凭借其前所未有的规模和能力，GPT-4为语言AI设立了新标准，并为机器生成内容开辟了一个充满了无限可能性的世界。然而，GPT-4令人印象深刻的性能背后隐藏着控制其行为的复杂参数网络。我们这里将

坐望云起·2023-08-07 06:29

机器学习笔记 - 基于Python发现最佳计算机视觉模型的神经架构搜索技术NAS

典型案例YOLO-NAS(NeuralArchitectureSearch)机器学习笔记-YOLO-NAS最高效的

坐望云起·2023-08-07 05:52

第十四章无监督学习

该系列文章为，观看“吴恩达机器学习”系列视频的学习笔记。虽然每个视频都很简单，但不得不说每一句都非常的简洁扼要，浅显易懂。非常适合我这样的小白入门。

tomas家的小拨浪鼓·2023-08-07 01:24

推荐频道

机器学习笔记——吴恩达