笔记为自我总结整理的学习笔记，若有错误欢迎指出哟~吴恩达课程笔记——参数VS超参数、深度学习的实践层面六、参数VS超参数1.参数和超参数的区别2.什么是超参数？3.如何寻找超参数的最优值？

笔记为自我总结整理的学习笔记，若有错误欢迎指出哟~笔记链接【深度学习】吴恩达课程笔记(一)——深度学习概论、神经网络基础吴恩达课程笔记——浅层神经网络、深层神经网络四、浅层神经网络1.双层神经网络表示2

L1深度学习概论4深层神经网络作业链接：吴恩达《深度学习》-Heywhale.com0作业任务构建一个任意层数的深度神经网络实现构建深度神经网络所需的所有函数使用这些函数构建一个用于图像分类的深度神经网络学习目标

L1深度学习概论3浅层神经网络作业链接：吴恩达《深度学习》-Heywhale.com0作业任务用1层隐藏层的神经网络分类二维数据目标：实现具有单个隐藏层的2分类神经网络使用具有非线性激活函数的神经元计算交叉熵损失实现前向和后向传播

L1深度学习概论2神经网络基础课程视频共145min6s2.1二分分类BinaryClassification一些表示方法m：数据集的规模mtrain：训练集规模mtest：测试集规模nx：输入特征向量的维度，简写为n(x,y)：一组单独训练样本y：在二分类中，0/1的输出结果，即y∈{0,1}x：nx维度的输入特征向量，即x∈Rnx训练集：{(x(1),y(1)),(x(2),y(2)),…,(

深度学习概论什么是神经网络上图的单神经元就完成了下图中函数的计算。下图的函数又被称为ReLU（修正线性单元）函数复杂的神经网络也是由这些简单的单神经元构成。实现后，要得到结果，只需要输入即可。x那一列是输入，y是输出，中间是隐藏单元，由神经网络自己定义用神经网络进行监督学习领域所用的神经网络房产预测等领域标准架构StandardedNN计算机视觉卷积神经网络CNN音频，文字翻译（一维序列问题）循环

笔记为自我总结整理的学习笔记，若有错误欢迎指出哟~吴恩达课程笔记——深度学习概论、神经网络基础一、概念区别1.深度学习与机器学习2.深度学习与神经网络二、什么是神经网络1.分类2.特点3.工作原理4.神经网络示意图

一、梯度下降算法梯度下降算法的目标是通过反复迭代来更新模型参数，以便最小化代价函数。代价函数通常用于衡量模型的性能，我们希望找到使代价函数最小的参数值。这个过程通常分为以下几个步骤：初始化参数：随机或设定初始参数的数值，如0,1,...,。计算代价函数的梯度：对于每个参数，计算代价函数J(0,1,...,)对该参数的偏导数，即梯度，表示为∂J/∂。更新参数：使用梯度信息来更新参数，根据以下规则更新

Introduction1.MachineLearningdefinitionArthurSamuel(1959).MachineLearning:Fieldofstudythatgivescomputerstheabilitytolearnwithoutbeingexplicitlyprogrammer.古老的、正式的定义编写西洋棋程序，让程序自己跟自己下棋，让程序明白什么是好的布局、坏的布局。

——吴恩达1.数据预处理数据预处理需要根据数据本身的特性进行，有缺失的要填补，有无效的要剔除，有冗余维的要删除，这些步骤都和数据

吴恩达提到过机器学习的根本其实就是数据，所以我只想回过头从数据起源这边重新审视自己的模型。顺便将自己对特征工程的所有理解系统地整理出来，给自己做个笔记，也给未来的小白做个领路。

本文主要参考吴恩达老师的深度学习课程[1]笔记部分。0.导语序列模型，是自然语言处理的基础，本集讲解循环序列模型。

学习视频：[中英字幕]吴恩达机器学习系列课程学习资料：https://github.com/fengdu78/Coursera-ML-AndrewNg-NotesGitHub不好用的话，我在CSDN资源区也上传了开源资料

一、代价函数的概念代价函数是在监督学习中用于评估模型的性能和帮助选择最佳模型参数的重要工具。它表示了模型的预测输出与实际目标值之间的差距，即建模误差。代价函数的目标是找到使建模误差最小化的模型参数。二、代价函数的理解训练集数据：假设我们有一个训练集，其中包含个样本（数据点），每个样本都有一个特征和一个对应的目标值。模型的假设函数：我们构建一个假设函数ℎ()用于预测目标值。在单变量线性回归中，这个假

这节课学习的同样是一个监督学习嵌入向量的模型，上节课的skip-gram使用的softmax分类器求和带来的计算量太大了，这节课使用的算法可以避免这个问题。这节课名字叫做负采样，那么正采样呢？我们还是像上节课一样，在一句话里随机选出一个context，然后在一定的词距范围内选择一个词。这两个词组成的一个pair就叫做正样本，然后再在词典当中随机选择一个词，把它们设置成不相关，这就叫做负样本，这些随

一、监督学习例如房屋价格的数据集。在监督学习中，我们将已知的房价作为"正确答案"，并将这些价格与房屋的特征数据一起提供给学习算法。学习算法使用这些已知答案的数据来学习模式和关系，以便在未知情况下预测其他房屋的价格。这就是监督学习，通过提供正确答案来训练算法以做出准确的预测或估计。二、回归问题回归：推测出这一系列连续值属性。回归问题：根据输入特征来预测或推测出连续的数值结果。举例来说，房价预测可以被

一、单变量线性回归单变量线性回归是监督学习中的一种算法，通常用于解决回归问题。在单变量线性回归中，我们有一个训练数据集，其中包括一组输入特征（通常表示为）和相应的输出目标（通常表示为）。这个算法的目标是学习一个线性函数，通常表示为ℎ()，其中是要学习的参数，以便将输入特征映射到输出目标。具体地，对于单变量线性回归，通常使用以下形式的线性函数：其中：ℎ()表示通过算法学习到的假设（或预测）函数。0和

参考资料：[中英字幕]吴恩达机器学习系列课程黄海广博

WhatisMachineLearning?TwodefinitionsofMachineLearningareoffered.ArthurSamueldescribeditas:"thefieldofstudythatgivescomputerstheabilitytolearnwithoutbeingexplicitlyprogrammed."Thisisanolder,informaldef

原文来自Quora：How-should-you-start-a-career-in-Machine-LearningCoursera上的斯坦福机器学习旨在帮助广大观众开始机器学习。如果您熟悉基本的编程（用任何语言），我建议从那里开始。许多人通过完成MOOC来获得机器学习方面的工作。其他类似的在线课程也会有帮助;例如，约翰·霍普金斯大学的数据科学专业。参加Kaggle或其他在线机器学习比赛也帮助人

文章目录ChatGPTPromptEngineeringforDevelopers(吴恩达)引言指南Principleprinciple1-Usedelimitersprinciple1-Askforstructuredoutputprinciple1

第一课内容比较简单，大致分为三类1.人工智能的主要应用无人驾驶；垃圾邮件的分类；推荐系统，图片识别，语音识别，文字识别等等。2.机器学习的定义TomMitchell(1998)Well-posedLearningProblem:AcomputerprogramissaidtolearnfromexperienceEwithrespecttosometaskTandsomeperformanceme

第一题答案B分析：当代价函数呈上升趋势的时候，可以试着将学习率减小第二题答案CD分析：A：随机梯度下降并不能并行化，错误。B：批量梯度下降是在每一次迭代后计算代价函数，错误。C：在随机梯度下降算法执行之前，先要将样本打乱，正确。D：在大量数据样本的情况下，随机梯度下降要比批量梯度下降效率高，正确。第三题答案AD第四题答案CD第五题答案ACD

前10个很简单，对此没什么疑惑，第十一题我有一些迷，查阅网上资料后，清楚了一些，把我的理解挂上正则化是为了防止过拟合开发集和测试集是属于同一分布的，此时两者的错误率相差很大，说明对开发集适应的太好，过拟合了，从而导致对测试集测试的不好。改善的策略有很多，为了防止过拟合，可以增加开发集大小等如果把数据放进数据集之后，训练的话就会造成对原有的图像进行再训练，这将会导致过拟合、新样本相对于总样本比例非常

课程3_第1周_测验题目录：目录要解决的问题①这个例子来源于实际项目，但是为了保护机密性，我们会对细节进行保护。②现在你是和平之城的著名研究员，和平之城的人有一个共同的特点：他们害怕鸟类。③为了保护他们，你必须设计一个算法，以检测飞越和平之城的任何鸟类，同时警告人们有鸟类飞过。市议会为你提供了10,000,000张图片的数据集，这些都是从城市的安全摄像头拍摄到的。它们被命名为:y=0：图片中没有鸟

课程3_第2周_测验题目录：目录要解决的问题①为了帮助你练习机器学习的策略，本周我们将介绍另一个场景，并询问你将如何行动。②我们认为这个在机器学习项目中工作的“模拟器”将给出一个任务，即领导一个机器学习项目可能是什么样的！③您受雇于一家初创公司，制造自动驾驶汽车。④您负责检测图像中的道路标志（停车标志、人行横道标志、施工先行标志）和交通信号（红绿灯）。⑤目标是识别每张图像中的这些对象。例如，上面的

“数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限而已”——机器学习界；类似的，吴恩达曾说过：“特征工程不仅操作困难、耗时，而且需要专业领域知识。应用机器学习基本上就是特征工程。”赛题：

正则化（regularization）过拟合问题（overfitting)Underfitting（欠拟合）–>highbias(高偏差)Overfitting（过拟合）–>highvariance(高方差)Overfitting:Ifwehavetoomanyfeatures,thelearnedhypothesismayfitthetrainingsetverywell,butfailtoge

前言使用正则化技术缓解过拟合现象，使模型更具泛化性1.过拟合问题(Overfit)2.代价函数(CostFunction)3.线性回归的正则化(RegularizedLinearRegression)4.逻辑回归的正则化(RegularizedLogisticRegression)正则化(Regularization)(一)过拟合问题(Overfit)  先看两张图：  两张图分别代表回归问题和分

目录过拟合问题代价函数正则化线性回归正则化逻辑回归【此为本人学习吴恩达的机器学习课程的笔记记录，有错误请指出！】

今天终于完成了吴恩达的机器学习课程，所有作业都已经完成，历时半年，难掩心中的兴奋。有时候也会迷茫，下一步，要学什么呢？

来源：Coursera吴恩达深度学习课程上篇文章介绍了RNN的数学符号（Notation），现在我们讨论一下怎样才能建立一个神经网络来学习X到Y的映射。如下图所示。

反向传播的详细推导一文弄懂神经网络中的反向传播法——BackPropagation最近在看深度学习的东西，一开始看的吴恩达的UFLDL教程，有中文版就直接看了，后来发现有些地方总是不是很明确，又去看英文版

Ref:讲解视频【官方教程】ChatGLM+LangChain实践培训_哔哩哔哩_bilibili吴恩达教授讲的【LangChain+ChatGLM-6B】LLM应用开发实践LangChain_Intro_v02

在这里说明一下，卷积神经网络主要应用在图像识别上面，吴恩达在谷歌主要做的工作就是这个。我们对一张简单的图像进行一个预处理后，会得到我们用人眼，人脑所不能体会到的一些特征

概述及资源分享大二结束后的暑假，学习吴恩达深度学习（[双语字幕]吴恩达深度学习deeplearning.ai_哔哩哔哩_bilibili）的课程，在做编程作业的时候总是遇到一些报错，尤其是导入所需要的库的时候会报一些

吴恩达教授可能是许多人接触AI的启蒙课导师吧，在过去的十多年中，他的《MachineLearning》课程已经对数百万的学习者产生了积极影响。

非常感谢AndrewNg吴恩达教授的无私奉献！！！索引第一章机器学习绪论MachineLearning机器学习Supervisedlearning监督学习Unsupervisedlea

一、强化学习类详解这一部分主要详细讲述代码中强化学习类的部分，关于强化学习的相关知识可从视频吴恩达机器学习中获取。def__init__(self,n_states,n_acti

作者|智商掉了一地斯坦福大学的吴恩达教授可能是许多人接触AI的启蒙课导师吧，在过去的十多年中，他的《MachineLearning》课程已经对数百万的学习者产生了积极影响。

FirstExampleimportnumpyasnpa=np.random.randn(5)print(a)print(a.shape)result:[1.189619880.057224651.83658954-0.6092621-1.32062653](5,)Thearrayofahavefivegaussianrandomnumbervariablesandtheshapeofarraya

我们关心得J（w,b）是一个平均函数，这个损失函数L。a^i是训练样本的预测值以上是对于单个例子的逻辑回归。我们可以初始化J=0，dw1dw2db都为0回顾我们正在做的细节，dw1、dw2、db作为累加器

摘要:本文是吴恩达(AndrewNg)老师《机器学习》课程，第一章《绪论：初识机器学习》中第4课时《无监督学习》的视频原文字幕。为本人在视频学习过程中逐字逐句记录下来以便日后查阅使用。现分享给大家。

1.吴恩达深度学习课后作业汇总2.机器学习基石课后练习汇总3.sublimetext主题生成器持续更新

“千里之堤，溃于蚁穴；”一些细节可能导致整个程序的问题，将在吴恩达作业中个人遇到的小bug总结一下。1.在做吴恩达深度学习课第一课第三周作业时，发现梯度不变，后来找到原因是因为1和1.0。。

知识更新非常快，需要一直学习才能跟上时代进步，举个例子：吴恩达老师在深度学习课上讲的TensorFlow使用，这个肯定是他近几年才学的，因为谷歌开源了TensorFlow也就很短的时间。

tensorflow2.0中的自然语言处理基本都是入门级的，而且也正如课程设计目标，主体放在tensorflow的基本使用上。围绕的NLP相关问题有：文本如何变为数字送入模型进行处理？（word-key/one-hot、embeddings）文本分类怎么做？比如情感分析？贴label做分类文本预测怎么做？比如模仿莎士比亚文笔？这里必须将文本视作序列，所以用LSTMs。0Aconversationw

目录1.单变量线性回归：2.多变量线性回归 最近在学习吴恩达老师的机器学习课程，所以在这里记录一下，主要是完成他的课后作业。

目录1）数据处理2）代价函数3）Scikit-learn训练数据集4）正规方程练习1还包括一个房屋价格数据集，其中有2个变量（房子的大小，卧室的数量）和目标（房子的价格）。我们使用我们已经应用的技术来分析数据集。1）数据处理还是那个建议，大家拿到数据先看看数据长什么样子。path='ex1data2.txt'data2=pd.read_csv(path,header=None,names=['Si

需要记住的经验之谈：当你在编写神经网络或逻辑回归时，都要尽可能避免使用显示的for循环，有时候无法完全避免for循环，但如果能使用内置函数或其他方法来计算想要的答案，通常会比直接用for循环跟快例子1：你想要计算向量U，它是矩阵A和向量V的乘积：根据矩阵乘法的定义:非向量化的实现方法是;这是一个两层的for循环，分别对i和j进行循环向量化的实现方式是：消除了两层for循环，运行速度要快的多例子2：