CH4-李宏毅机器学习第5页

2021-08-21

李宏毅机器学习P13深度学习简介DL的发展DL的步骤1.构建model2.设置lossfunction3.调整参数，使得totalloss最小（这样就获得最好的function）深度学习与机器学习反向传播机制深度学习简介

z7mysun·2022-12-26 15:15

2021-08-16

李宏毅机器学习P1-P2P1机器学习介绍P1机器学习介绍机器学习是具有一种学习能力（寻找最好的function）；Regression输出是一个数，Classification输出的是Yes/no或classx

z7mysun·2022-12-26 15:45

2021-08-19

李宏毅机器学习P5-P8P5误差误差的来源BiasVarianceHowtodowitherror?

z7mysun·2022-12-26 15:45

Coursera机器学习+deeplearning.ai+斯坦福CS231n

日志20170410Coursera机器学习2017.11.28updatedeeplearning台大的机器学习课程：台湾大学林轩田和李宏毅机器学习课程Coursera机器学习Week5：NeuralNetworks

weixin_34005042·2022-12-26 07:34

NLP-D8-李宏毅机器学习---预训练模型问题&adaptation&explainable AI&RL&learningmap

----0648今天还是醒的挺早的，4点50就起床了。在犹豫是去看比赛，还是把老师的课听完。因为还是很想看无监督学习和强化学习的，最后决定先看课叭。看了姜成翰助教关于预训练模型中遇到问题的讲解。一共讲了两个问题，以及相应解决方法：1、数据量小，模型难以fine-tune的问题2、参数量过大问题其中我产生了两个问题：1、promt-tuning和fine-tuning有什么不同？大体来说，原来是多加

甄小胖·2022-12-25 21:31

[Datawhale组队学习|李宏毅机器学习]学习笔记03

本篇笔记包含学习章节：P5误差从哪来P6梯度下降P7梯度下降（用AOE演示）P8梯度下降（用Minecraft演示）目录一、误差的来源二、梯度下降（一）学习率的选择（1）手动调整（2)自适应学习率（3）Adagrad算法（4）随机梯度下降法（5）特征缩放（二）梯度下降法的数学基础（三）梯度下降的限制：局部最优一、误差的来源error来自于bias和variance。关于偏差和方差的认识可以从射箭的

喜欢皂粉·2022-12-24 14:16

【学习】无监督学习、PCA、Matrix Factorization、HAC、K-means、分布式表示、NE、LLE、 t-SNE

李宏毅机器学习一、无监督学习clustering1、K-means2、HAC分布式表示线性降维3、PCA弱点应用矩阵分解MatrixFactorization无监督学习:邻居嵌入NEManifoldLearningLLE

Raphael9900·2022-12-24 13:14

Datawhale 李宏毅机器学习 Task6

这期学习的主题是：卷积神经网络。百科上的解释：卷积神经网络（ConvolutionalNeuralNetworks,CNN）是一类包含卷积计算且具有深度结构的前馈神经网络，是深度学习的代表算法之一。卷积神经网络具有表征学习能力，能够按其阶层结构对输入信息进行平移不变分类，因此也被称为“平移不变人工神经网络。卷积神经网络一、为什么用CNN我们都知道CNN常常被用在影像处理上，如果你今天用CNN来做影

社区小萌新·2022-12-23 16:37

李宏毅机器学习三天速成~第八课~Backprapagation

1.什么是Backpropagation(反向传播)?Backpropagation是一种有效计算Gradient(梯度)，即微分（偏微分）的方法。在推导Backpropagation的过程前首先需要介绍一下计算微分的链式规则2.ChainRule链式规则这是计算偏微分的基本功3.Backpropagation的推导下图中，是指在train的过程中output的y与实际的y之间的距离Functio

薛定谔小猫@Historia·2022-12-23 09:03

AI Studio学习笔记:李宏毅机器学习研讨课（三）

深度学习前置知识：线性映射的复合依然是线性映射。前馈神经网络：L：神经网络的层数:第l层的神经元的净输入:第l层神经元的输出关于神经元计算：全连接：l+1的第i个神经元和l层的第j个神经元连接关于矩阵计算：关于数据处理:原始数据输入->线性变化（Y=AX+b）->激活函数（Z=(Y)）->神经元得到输入输出->所有神经元后计算losspytorch中backward()：反向传播计算中自动求梯度均

陈曦749·2022-12-23 01:59

飞桨【李宏毅机器学习特训营】心得记录

【李宏毅机器学习特训营】心得记录百度paddle训练营的机器学习课程，是由台大教授李宏毅正式授权的，全网最新最全系列AI课程视频，有中文字幕、配套专属课程作业，在线助教答疑的入门课程课程链接：https

€M@ichelle&·2022-12-23 01:29

【小白学AI】百度PaddlePaddle《李宏毅机器学习》特训营--学习心得

（本人水平有限，此文档只适合小白，高手就直接飞过啦）文章目录一、数学基础复习：二、英文名词对照：三、Pthon语法操作：四、最后精华总结数学、英语、派森勤查、勤看、勤练有幸观看了飞桨AiStudio在B站组织的机器学习课程，虽然从头到尾都是一头雾水，但还是硬着头皮坚持了下来，回看一段时期以来的紧张学习才感到收获还是不小的。下面就个人在学习中遇到的问题及学习方法向各位新入手小白做个简单的介绍，希望大

sxaah·2022-12-23 01:57

李宏毅机器学习特训营*PaddlePaddle小白初探课节一

李宏毅机器学习特训营*PaddlePaddle小白初探课节一课节一—1机器学习介绍1.1机器学习及相关名词间的关系1.2机器学习出现前的“机器学习(误)”1.3SowhatisMachineLearning1.4FrameworkofMachineLearning1.5

baddy`·2022-12-23 01:57

李宏毅机器学习特训营之作业二年收入判断

作业2-年收入判断课程链接https://aistudio.baidu.com/aistudio/education/group/info/1978项目链接https://aistudio.baidu.com/aistudio/projectdetail/1774774项目描述二元分类是机器学习中最基础的问题之一，在这份教学中，你将学会如何实作一个线性二元分类器，来根据人们的个人资料，判断其年收入

独上高楼望尽天涯路·2022-12-23 01:56

【李宏毅机器学习特训营】完结撒花！

目录一、我的作业二、学习情况1.自行搭建模型2.自行封装数据集三、遇到的困难1.对模型的理解不足2.数据集调用四、谈谈收获一、我的作业作业1-PM2.5.作业2-年收入判断.作业3-食物图片分类.作业4-语句分类.作业5-迁移学习.(课程链接).二、学习情况这是第二次完整的参与百度飞浆，距离第一次参加(第一次Paddle深度学习训练营之旅)已经过去了快一年的时间。实际上这次课程期间自己并没有太多时

_小十三·2022-12-23 01:56

李宏毅机器学习作业三

前言项目三是训练一个简单的卷积神经网络，实现食物图片的分类。现在还没有完成，在这里做一个记录。第三个作业比前面两个难了不少，遇到了很多困难，首先还是去理解老师已经给出的代码。这里用了paddlepaddle的深度学习框架，代码里碰到很多不懂的api就去paddlepaddle官网找文档然后加了注释。现在代码已经理解了但是运行还有一些错误。数据集分别为training、validation以及tes

qq_37195826·2022-12-23 01:55

李宏毅机器学习2021系列作业2-年收入判断

李宏毅机器学习2021系列作业2-年收入判断项目描述二元分类是机器学习中最基础的问题之一，在这份教学中，你将学会如何实作一个线性二元分类器，来根据人们的个人资料，判断其年收入是否高于50,000美元。

闲人_Yty·2022-12-23 01:25

《李宏毅机器学习特训营》免费开放！直播教学！

AlphaGo战胜“石神”李世石，人工智能开始闯进大众的视野，机器学习成为同学入门人工智能领域的学习首选。提起机器学习，就不能不说一位人物，他就是台湾大学李宏毅教授。李宏毅老师说：“你可以将它作为你机器学习的第一门课！”李宏毅老师官方授权百度飞桨最新系列课程，在飞桨WAVESUMMIT峰会期间，老师也对开发者送上了祝福????????????点击边框调出视频工具条课程上线后，好评如潮。但是，通过上

PaperWeekly·2022-12-23 01:23

课程笔记-00开营仪式-paddlepaddle李宏毅机器学习特训营

课程特色·课程有课程群，每个阶段有助教直播讲解，与作业难点解析。·通过实践作业、考试、打卡、时间完成比赛。·表现突出的同学有机会获得前往台湾的机会。课程形式：录播视频理论讲述+自我锻炼学习能力作业实践课后针对关键知识强化变成动手能力直播讲解助教结合课程讲解作业难点打比赛通过比赛检验自身技术助教老师：李老师、晓沐老师等晓沐老师：计算机视觉物体检测语义分割和三维重建与部署有相当多的经验课程学习计划课程

Jason_____Wang·2022-12-23 01:53

李宏毅机器学习特训营机器学习作业4-语句分类

目录项目描述数据集介绍项目要求环境配置/安装编码1-of-NencodingBagofWords(BOW)wordembedding文本数据预处理Word2Vec定义数据读取器定义模型半监督学习训练预测测试集修改总结项目描述本次作业是要让同学接触自然语言处理当中一个简单的任务——语句分类（文本分类）给定一个语句，判断他有没有恶意（负面标1，正面标0）数据集介绍有三个文件，分别是training_l

bianhuaHYQ·2022-12-23 01:53

李宏毅机器学习hw1~4作业强化点

李宏毅机器学习hw1~4作业强化点总结李宏毅机器学习hw11.特征选择2.激活函数3.学习率李宏毅机器学习hw2HMM李宏毅机器学习hw31.dropout2.目标检测Loss设置3.模型融合李宏毅机器学习

沅沅要努力学习啊!!!·2022-12-22 18:42

李宏毅机器学习 hw2 boss baseline 解析

hw2代码任务描述：MulticlassClassification，让你判断给定的向量是属于哪一个phoneme,由于一个phoneme可能包含好多个向量，所以要对数据进行处理，对向量进行拼接。不同baseline要求方法分析先给出我最终使用的过bossbaseline的方法，后面再介绍我一步步的思考过程。助教提示过bossbaseline要使用RNN模型，所以我们直接使用BiLSTM模型，在p

失败人生自救指南·2022-12-22 18:07

李宏毅机器学习-explainable machine learning（机器学习的可解释性）及代码

目录为什么需要机器学习的可解释性？InterpretableVSPowerful什么叫做好的ExplanationexplainableML的分类LocalExplanation（局部可解释性）哪个元件最重要遮挡实验SaliencyMap改进SaliencyMap——noisygradient与SmoothGradSaliencyMap局限性：gradientsaturation（梯度饱和）网络如

iwill323·2022-12-22 13:44

李沐论文精读：BERT 《BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding》

Pre-trainingofDeepBidirectionalTransformersforLanguageUnderstanding官方代码地址：https://github.com/google-research/bert课程推荐：李宏毅机器学习

iwill323·2022-12-22 12:29

2020李宏毅机器学习笔记-ELMO, BERT, GPT

目录摘要1.Background2.ELMO3.BERT3.1TrainingofBERT3.1.1Approach1:MaskedLM3.1.2Approach2:NextSentencePrediction(NSP)3.2HowtouseBERT3.2.1case1:classification3.2.2case2:SlotFilling（插槽填充）3.2.3case3:NLI（自然语言推理）

ZN_daydayup·2022-12-22 06:03

【李宏毅机器学习】Transformer（p23）学习笔记

老二次元了。。。文章目录TransformerSequence用CNN取代RNNSelf-AttentionSelf-attentionisallyouneed.流程Self-attention是如何并行计算的？矩阵运算！Self-attention的变形Multi-headSelf-attentionPositionEncodingSeq2SeqwithAttentionTransformerE

duanyuchen·2022-12-22 06:00

【DL】5 BERT入门——李宏毅机器学习课程笔记(ELMO，BERT，GPT)

ELMO，BERT，GPT1.Review2.ELMO3.BERT3.1训练BERT3.2使用BERT3.3ERNIE3.4BERT学到了什么4.GPT小结视频地址1.Review如何让电脑读人类的词汇？最早采用1-of-NEncoding，显然一个词用一个向量表示不合理，之后采用Word-Class，但是这种分类还是太粗糙了，再后来采用WordEmbedding同一个词汇可能有不同的意思：Hav

Yang SiCheng·2022-12-22 06:29

【DL】3 Transformer入门——李宏毅机器学习课程笔记

Transformer1.为什么要使用Self-attention？2.Self-Attention2.1基本思想2.2平行化(矩阵)计算2.3Multi-headSelf-attention2.4PositionalEncoding3.Transformer结构4.Attention可视化5.应用场景小结1.为什么要使用Self-attention？Transformer的中文意思是’变形金刚’

Yang SiCheng·2022-12-22 06:58

训练seq2seq模型的一些Tips——李宏毅机器学习笔记

CopyMechanism有时我们并不需要decoder创造一些东西出来，有些内容是可以从encoder复制而来。最早具有复制能力的模型：PointerNetwork例如：chat-botSummarization至少要训练百万篇文章GuidedAttentionMonotonicAttentionLocation-awareattention语音识别往往也会犯很多低级的错误，例如语音合成中念短句

我是小蔡呀～～～·2022-12-22 06:27

2021李宏毅机器学习笔记--17 transformer

2021李宏毅机器学习笔记--17transformer摘要一、transformer二、Self-Attention三、Muliti-headself-attention四、PositionEncoding

guoxinxin0605·2022-12-22 06:25

【Transformer】——李宏毅机器学习笔记

Transformer前言transformer是一个sequence-to-sequence(seq2seq)的modelinputasequence，outputasequence.Theoutputlengthisdeterminedbymodel.例如语音辨识：那么为什么不能把以上三种模型结合起来，进行语音识别呢？因为有一些语言根本没有文字。Languagewithouttext.台语、闽

我是小蔡呀～～～·2022-12-22 06:23

Transformer及变体详解教程（更新中）

Transformer：李宏毅机器学习笔记——Transformer_NLP小白+的博客-CSDN博客_李宏毅transformer详解Transformer中Self-Attention以及Multi-HeadAttention

KuromiHan·2022-12-22 03:11

【学习】numpy、self-supervised learning自监督学习

李宏毅机器学习和numpy基础一、numpy1、NumPyNdarray对象2、NumPy数据类型3、NumPy数组属性4、NumPy创建数组numpy.emptynumpy.zerosnumpy.ones5

Raphael9900·2022-12-20 19:02

【学习】自监督学习2、GPT、PLM

李宏毅机器学习一、自监督学习1、GPT模型怎么使用GPT？

Raphael9900·2022-12-20 19:00

使用Pytorch搭建CNN模型完成食物图片分类（李宏毅视频课2020作业3，附超详细代码讲解）

模型训练2.4.1Training2.4.2Validating2.5模型测试2.6运行结果3完整代码3.1我的版本3.2原始版本（需要GPU且安装cuda）0前言本文利用深度学习框架-Pytorch复现了李宏毅机器学习

Y_蒋林志·2022-12-20 01:51

李宏毅机器学习特训营机器学习作业3-食物图片分类

目录项目描述数据集介绍项目要求数据增强读取数据获取训练集的信息，包括读取路径和对应的标签自定义数据读取器定义模型（VGG）修改vgg11训练再训练所有数据残差网络预测用训练好的vgg模型进行推理项目描述作业基于paddle2.0训练一个简单的卷积神经网络，实现食物图片的分类。数据集介绍本次使用的数据集为food-11数据集，共有11类标签为0-10Bread,Dairyproduct,Desser

bianhuaHYQ·2022-12-20 01:49

李沐精读论文：transformer 《Attention Is All You Need》 by Google

论文：AttentionIsAllYouNeed视频：Transformer论文逐段精读【论文精读】_哔哩哔哩_bilibili课程（推荐先看这个）：李宏毅机器学习：self-attention（自注意力机制

iwill323·2022-12-18 07:47

[Datawhale-李宏毅机器学习-39期]-002-回归+003-误差和梯度下降+004-反向传播机制

咋说嘞，神经网络就是一个函数，拟合线性非线性的数据。改了一个小程序(代码修改自：https://blog.csdn.net/weixin_42318554/article/details/121940694)，构建了一个两层convnet和两层的mlp看看效果如何，003-是介绍了SGD的基本原理004-是介绍深度学习的相关知识有趣的点：回顾一下deeplearning的历史：1958:Perce

deyiwang89·2022-12-17 17:16

李沐精读论文：GAN

5ca3e9b122f61f8f06494c97b1afccf3-Paper.pdf视频：GAN论文逐段精读【论文精读】_哔哩哔哩_bilibili课程：CS231n2022PPT笔记-生成模型GenerativeModeling李宏毅机器学习

iwill323·2022-12-16 08:00

李宏毅机器学习 hw1 boss baseline 解析

hw1代码任务描述任务很简单，就是一个回归问题，给你过去四天新冠肺炎感染人数的相关情况，让你预测最后一天的新冠感染人数。上图展示了特征的解析特征共有117维，首先是37维的关于州的one-hot编码，然后是4维的特征表示是否有新冠相像的疾病，后面8维是行为指标，例如戴口罩，到别的州旅游等等，之后的3维是精神健康指标，例如是否感到焦虑，沮丧等等，最后一维是当天感染的人数。因为一共有五天，所以特征为3

失败人生自救指南·2022-12-15 14:47

李宏毅机器学习 hw8 strong baseline 解析

hw8代码任务描述用自编码器进行异常检测，训练数据都是正常的数据，测试数据有正常有异常的，让你检测出其中的异常数据。训练一个自编码器使其能够还原输入的图像，使用MSEloss作为损失函数。使用测试数据均方差损失函数的数值作为Anomalyscore，使用ROCAUCscore作为评价指标，ROCAUCscore知道TP,TN,FP,FN的意思再结合助教给的例子就很容易理解。ROCAUCscore越

失败人生自救指南·2022-12-15 14:47

分类：概率生成模型 - 李宏毅机器学习笔记

目录1.若用回归模型硬train分类任务2.二分类任务2.1概率生成模型3.数学上的形式1.若用回归模型硬train分类任务如图，class2的标签是-1（红色的点），class1的标签是1（蓝色的点），横纵坐标是特征值。测试的时候输出可能不会正好就是1或-1，若输出接近1则认为是class1，接近-1则认为是class2，我们期待找到一条如图绿色的线能很好的分开两个标签，像左图回归任务训练出来的

一杯敬朝阳一杯敬月光·2022-12-15 09:38

李宏毅机器学习_11-0深度生成模型（上下)

把图片拆成一个个像素，一个一个像素的生成VAE就是引入噪音的，autoencoding,还引入了均值和方差的限制通过引入噪音，让输出能分布在一定的范围参数之间互相决定，x>z和z>x缺点只能基于原来的，跟原始的越像越好，不能产生新的无监督，就是本身的分布让似然函数最大就好，假设当前数据服从某种分布，假如是正态分布，就变成了找正态分布的均值和方差让当前似然函数最大。KL散度的概念，描述的就是距离。G

愚昧之山绝望之谷开悟之坡·2022-12-15 09:05

李宏毅机器学习笔记-生成模型和逻辑回归

目录概率生成模型分类问题实例模型改进生成模型步骤总结后验概率的数学推导逻辑回归逻辑回归步骤逻辑回归和线性回归的比较为什么不使用MSE判别模型VS生成模型多分类逻辑回归的限制补充：生成式模型和判别式模型概率生成模型概率生成模型，简称生成模型（GenerativeModel），是概率统计和机器学习中的一类重要模型，指一系列用于随机生成可观测数据的模型。生成模型的应用十分广泛，可以用来不同的数据进行建模

iwill323·2022-12-15 09:32

2020李宏毅机器学习笔记-Recurrent Neural Network

目录RNN（循环神经网络）摘要Introduction（介绍）LSTMThree-gateMemoryCellLSTMExampleLSTMStructureLearningTargetLossFunctionTrainingErrorSurfaceHelpTechniquesRNN的应用ManytooneManytomanyRNNv.s.StructuredLearning总结与展望RNN（循环

ZN_daydayup·2022-12-15 06:34

李宏毅机器学习之Recurrent Neural Network

应用举例：slotfilling（空值填充），以买票系统为例当出现Destination时会出现相关的地址名，当出现timeofarrival时会出现时间。有记忆功能的神经网络，就是RNN。1.1常用编码方式1.2介绍RNN其实现过程为：step1:假设所以神经元权重为1，偏差为0。所以的激活函数为线性的。1.3RNN的变体形式ElmanNetwork：将隐藏层的w值存起来，在下一时刻在读出来。J

weixin_43848117·2022-12-15 06:32

李宏毅机器学习作业13——网络压缩，模型剪枝，知识蒸馏，Depthwise Separable Convolution

理论参见：高效深度学习软硬件设计——神经网络压缩、Pruning模型剪枝、权值共享、低秩近似_iwill323的博客-CSDN博客目录任务和数据集任务描述数据集导包辅助函数数据处理显示文件夹和文件数量transformsDataset数据加载函数分类模型训练加载数据集训练函数进行训练推断加载数据architecturedesign概念DepthwiseSeparableConvolution建立模

iwill323·2022-12-15 06:28

Datawhale十月组队学习--《李宏毅机器学习》--Task02

Datawhale十月组队学习：《李宏毅机器学习》往期指路 Task01：什么是机器学习文章目录Datawhale十月组队学习：《李宏毅机器学习》往期指路前言一、回归（Regression）二、模型步骤

二进制研究员·2022-12-14 16:46

Datawhale十月组队学习--《李宏毅机器学习》--Task01

提示：机器学习原链接文章目录前言一、什么是机器学习二、机器学习相关的技术2.1监督学习2.2半监督学习2.3无监督学习2.4迁移学习2.5监督学习中的结构化学习2.6强化学习总结前言第三次组队学习，内容是李宏毅老师的《机器学习/深度学习》，接下来的时间坚持吧~一、什么是机器学习要做的其实是让机器有自己学习的能力，也就我们要做的应该machinelearning的方向。讲的比较拟人化一点

二进制研究员·2022-12-14 16:45

【(强推)李宏毅2021/2022春机器学习课程】专栏汇总

视频学习21年笔记深度学习（李宏毅）--一个好的博客合集[机器学习入门]经典台大李宏毅机器学习课程从这里开始–别人整理的合集！又找到一个好的博客合集--李宏毅深度学习笔记

I"ll carry you·2022-12-13 17:40

推荐频道

CH4-李宏毅机器学习