E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
CH4-李宏毅机器学习
李宏毅机器学习
笔记(十)——循环神经网络(RNN)
文章目录一.时间序列模型与神经网络的改进二.RNN的各种变种1.细胞变种——长短期记忆网络(LSTM)2.结构变种3.与传统机器学习相融合三.RNN的梯度下降四.RNN的应用1.多输入单输出问题2.多输入多输出问题3.阅读理解类问题一.时间序列模型与神经网络的改进 本次我们以各种语言处理的问题为例。我们先考虑一个实体识别问题:即输入一句话,输出对应的每个字在这句话中属于哪种定义的实体。 如果我
Unique13
·
2020-08-16 11:00
神经网络
人工智能
李宏毅机器学习
笔记(十二)——半监督学习
文章目录一.什么是半监督学习二.分类问题生成模型中的EM算法三.基于低密度分离的分类1.自我学习2.基于信息熵的正则化3.半监督SVM四.基于平滑假设的分类1.基于聚类的分类方式2.基于图的分类方式(1).定义节点(2).定义边和权重(3).定义图的平滑度(4).综合考虑一.什么是半监督学习 在现实中,所谓的数据是很多的,例如图片数据,随处拍都会有很多,然而所谓的有标签的数据,最开始都是要由人来
Unique13
·
2020-08-16 11:00
聚类
机器学习
李宏毅机器学习
笔记(五)——全连接神经网络
文章目录一.线性分类的弊端与神经网络的引入二.深度学习的三个步骤三.全连接神经网络一.线性分类的弊端与神经网络的引入 我们可以看如下的异或二分类问题,我们显然可以看到,我们使用一条直线显然是无法将其分开的。 但是我们可以用以下思路来想:我们是否可以转变一下特征,做一个所谓的线性变换,使其可以线性可分?这样当然是可以的而且有多种方式,比如视频中所示的方式,再或者是x1x_1x1和x2x_2x2之
Unique13
·
2020-08-16 11:59
李宏毅机器学习
笔记(八)——训练神经网络的进阶技巧
文章目录一.训练后可能出现的问题二.解决欠拟合1.更高级的优化器2.新的激活函数三.解决过拟合1.早期停止——面向第三步优化2.正则化——面向第二步优化3.Dropout——面向第一步优化一.训练后可能出现的问题 类似于简单的回归问题,各种神经网络也会存在着欠拟合和过拟合的情况。我们这里不考虑数据集中的噪声和数据量的影响,就考虑使用神经网络的三个步骤。对于一个足够复杂的神经网络,如果出现了欠拟合
Unique13
·
2020-08-16 10:44
李宏毅机器学习
课程笔记(1): 机器学习概述
(1950年提出)人工智能是我们希望达成的目标,希望机器可以和人一样智能,而机器学习是实现人工智能的一种方式,而深度学习是机器学习中的一种方式,深度学习主要指的是基于机器学习中神经网络的各种模型。下面介绍几种为了实现人工智能的方式:hand-craftedrules人工智能:早期的人工智能,其本质就是通过许多if判断语句去实现,通俗的讲就是用大量的判断语句,如果接收到一些信号,就做出相应的指令。这
wasser000
·
2020-08-16 08:22
李宏毅机器学习笔记
台大
李宏毅机器学习
作业4(HW4)——可解释机器学习
李宏毅老师课程共有8个作业,在网上大约可以搜到前三个作业的解答,分别是PM2.5预测,人薪酬的二分类和表情分类,我在做这三次作业中主要参考了秋沐霖的三篇博客,链接如下:作业1:线性回归预测PM2.5----台大
李宏毅机器学习
作业
Horizon2333
·
2020-08-16 05:25
李宏毅机器学习
作业二Classification:年收入分类
1作业任务二元分类是机器学习中最基础的问题之一,在这份教学中,你将学会如何实作一个线性二元分类器,来根据人们的个人资料,判断其年收入是否高于50000美元。我们将以两种方法:logisticregression与generativemodel,来达成以上目的,你可以尝试了解、分析两者的设计理念及差别。2原始代码导入数据集X_train_fpath='./data/X_train'Y_train_f
Geek_sun
·
2020-08-15 05:25
机器学习
李宏毅机器学习
作业一Linear Regression:预测PM2.5
作业任务:本次作业使用丰原站的观测记录,分成trainset跟testset,trainset是丰原站每个月的前20天所有数据。testset则是从丰原站剩下的数据中取样出来。数据的样例如下每18行为一日中18个feature的变化情况,一天共有24小时,因此有24列数据。首先进行数据预处理需要将前两列不需要的数据删除并将所有RAINFALL行为NR的数据项替换成0importpandasaspd
Geek_sun
·
2020-08-15 05:24
机器学习
预测PM2.5--
李宏毅机器学习
梯度下降作业
初学python和机器学习,此文的写作目的仅仅是日常学习笔记。code以及详细参考:https://blog.csdn.net/iteapoy/article/details/105431738原始代码1.载入train.csvimportnumpyasnpimportsysimportpandasaspd#读入train.csv,繁体字以big5为编码,用pandas库读取csv文件data=p
sharon_JIAN
·
2020-08-14 14:20
python
机器学习
人工神经网络(NN)和卷积神经网络(CNN)
推荐吴恩达机器学习课程(网易云课堂),
李宏毅机器学习
课程(b站)人工神经网络简称神经网络(NN),是目前各种神经网络的基础,其构造是仿造生物神经网络,将神经元看成一个逻辑单元,其功能是用于对函数进行估计和近似
Link_Ray
·
2020-08-13 12:03
机器学习
台大
李宏毅机器学习
公开课2020版登陆B站
课程简介:真正大师的课程往往都是免费的,诸如吴恩达,李飞飞等。不过大家应该对李宏毅老师也不陌生吧?很多机器学习初学者,首选李宏毅老师。毕竟中文授课,而且他讲课通俗易懂、课程案例生动有趣(还记得宝可梦和帝国时代)。近期,他的《机器学习2020》上线了,相比MachineLearning(2019,Spring)新增了可解释性机器学习、对抗攻击、网络压缩等内容。课程资料链接:http://speech
机器学习算法与Python实战
·
2020-08-11 03:43
李宏毅机器学习
:RNN(下)
RNN的LearningRNN在Learning时如何定义lossfunction呢?以slotfilling为例,对每个输入xi,其输出的yi与相应的referencevector计算crossentropy,crossentropy之和就是lossfunction.训练时wordsequence不能打散,要先用x1得到y1,再用x2得到y2.定义好lossfunction之后,用gradien
sinat_32279627
·
2020-08-10 21:30
深度学习
反向传播算法推导过程
原理部分参考
李宏毅机器学习
PPT,以下推导过程详细且易理解。参考博客1.变量定义上图是一个三层人工神经网络,layer1至layer3分别是输入层、隐藏层和输出层。
IDEAL1995
·
2020-08-10 12:14
智能优化算法
李宏毅机器学习
作业2:Winner还是Losser(含训练数据)
训练数据以及源代码在我的Github:https://github.com/taw19960426/DeepLearning/tree/master/%E4%BD%9C%E4%B8%9A/%E4%BD%9C%E4%B8%9A2%E6%95%B0%E6%8D%AE一、作业说明给定训练集spam_train.csv,要求根据每个ID各种属性值来判断该ID对应角色是Winner还是Losser(收入是否
唐维康
·
2020-08-09 12:17
深度学习
机器学习
李宏毅
李宏毅机器学习
-----逻辑回归Logistic Regression
接上上一节的内容,我们认为通过概率模型最后推导出来函数还是为了求出最优的w和b,所以为什么不直接找一个function来直接求呢?那就是今天要介绍的LogisticRegretion![上节链接]链接逻辑回归的FunctionSet后验概率Pw,b(C1∣x)P_{w,b}(C_1|x)Pw,b(C1∣x)就是σ(z)\sigma(z)σ(z),而z=wx+b,推导出functionset就是fw
zyuPp
·
2020-08-09 04:54
李宏毅机器学习
机器学习
李宏毅机器学习
笔记(5): Classification:Probabilistic Generative Model
Classification:ProbabilisticGenerativeModel分类问题属于比较常见的问题之一了,这次李老师讲的是一个比较基础的分类问题的模型,为了让我们对这个问题进一步了解,可以更好地继续学习。1分类分类问题是通过对大量输入进行分析,寻找模型,将样本进行分类,从而之后输入的样本,可以分类到合适的类。这个问题还是很容易理解的,看例子:接下来对宝可梦的属性进行分类。当然,首先要
wasser000
·
2020-08-08 23:22
李宏毅机器学习笔记
李宏毅机器学习
笔记(6):logistic Regression
这一部分是接着上一部分进行描述的,上一部分,我们把使用贝叶斯公式得到的结果推导,发现结果是一个线性的函数,我们针对这个函数,试试可不可以把这个函数求解出来。很容易发现,这是一个回归问题,我们就把他称作是逻辑回归,做这个回归问题一步一步来吧:1模型选择functionset首先我们还是需要选择合适的模型,确立我们的目标。上一节了解了我们的目标确定相关的P(C1|x),使用它进行一个判决,高于阈值便确
wasser000
·
2020-08-08 23:22
李宏毅机器学习笔记
李宏毅机器学习
笔记(7):Deep Learning
1前言对于深度学习(神经网络)的应用,在目前这个时间段来说,使用对象,发展研究实在是太多了。这也可以算是这个时代非常热门的一项技术了。这里可以看一下,图1-1了解下深度学习的历史上的起伏。图1-1深度学习的历史上的起伏可以看到58年提出感知机后由于有人提出了感知机受限后就冷下去了,后经历了一些起伏直到06年的RBM(受限玻尔兹曼机)的提出。RBM提出使得深度学习得到了发展与突破,但是RBM其实并没
wasser000
·
2020-08-08 23:50
李宏毅机器学习笔记
李宏毅机器学习
笔记(8):backpropagation
0引言回顾一下之前学习过的,在求解神经网络时,我们通常使用梯度下降算法进行求解。首先,先自定义一组参数作为我们的起始值,之后计算我们需要使用的梯度,有了梯度之后就可以利用它进行迭代求解了,如图0-1。显而易见的是,在一个神经网络中,可能参数数目成千上万,远超过我们的想象,那么这么庞大的计算量,我们就需要一些可以辅助我们的工具。backpropagation(反向传播)可以帮助我们有效的进行渐变迭代
wasser000
·
2020-08-08 23:50
李宏毅机器学习笔记
李宏毅机器学习
——学习笔记(16) Unsupervised Learning——Deep generative models
Generativemodels:(1)PixelRNN:根据前面的pixel,输出下一个pixel。这种方式可以收集大量的图片进行无监督训练,训练网络。通过部分的图像就可以预测后面的图像。如果直接进行训练的话,RGB的值都会偏向于中间点,图像呈现灰色或者棕色。可以直接用one-hot编码的形式,让整个网络产生一个颜色(红色,黄色,蓝色…)。将相似的颜色用一个颜色来表示。图片压缩和RGB转换后的文
青芒·1
·
2020-08-08 17:43
机器学习
机器学习基础随笔(6)Deep Learning
DeepLearning参考资料:台湾大学
李宏毅机器学习
课程和PPTDeeplearning跟machinelearning一样,也是“大象放进冰箱”的三个步骤:在Deeplearning的step1里
追求大牛的皮蛋
·
2020-08-08 10:56
李宏毅机器学习
-----分类:概率生成模型
上期回顾,上一期我们把gradientdescent详细的说了一遍,如果还是不熟悉的可以重新看一遍,反正我也还没有十拿九稳的拿下它,因为数学基础太差了,要补好数学,才能有更深的理解,放上链接:
李宏毅机器学习
zyuPp
·
2020-08-06 13:50
李宏毅机器学习
机器学习
李宏毅机器学习
HW1 PM 2.5预测 by python
李宏毅机器学习
HW1PM2.5预测bypython数据连接这是我的第一篇文章以前常常划水查需要的资料,这次在
李宏毅机器学习
课程中想找到看看有没有合适的代码,但没有找到满意的,于是决定分享出我的代码希望一起交流一下
养只大胖猫
·
2020-08-04 21:43
算法方面
2020
李宏毅机器学习
与深度学习——Logistic Regression
Step1.FunctionSetStep2.GoodnessofaFunctionStep3.FindthebestfunctionStep1:我们这里有一个LogisticRegression作为Function。Step2:衡量我们程式的好坏。假设我们有一组训练集(Xn,Ci),这组训练集是根据我们这个几率函数产生的,那给我们一组w和b,我们就可以得到它们产生训练集的几率,最好的参数w和b就
gohna
·
2020-08-04 09:48
机器学习
机器学习
深度学习
人工智能
李宏毅机器学习
——循环神经网络(一)
引言今天来介绍一下循环神经网络(RecurrentNeuralNetwork,RNN),和现在比较常用的长短期记忆网络(LSTM)。并且通过多个例子来阐述这些概念,个人觉得还是比较容易理解的。循环神经网络我们以一个例子来引入RNN,这个例子就是填槽(SlotFilling)。假设你要做一个智能订票系统。假设有个人对你的订票系统说:“IwouldliketoarriveTaipei(台北)onNov
愤怒的可乐
·
2020-08-04 09:36
人工智能
读书笔记
李宏毅机器学习
课程笔记9:Recurrent Neural Network
台湾大学李宏毅老师的机器学习课程是一份非常好的ML/DL入门资料,李宏毅老师将课程录像上传到了YouTube,地址:NTUEEML2016。这篇文章是学习本课程第25-26课所做的笔记和自己的理解。Lecture25,26:RecurrentNeuralNetworkRNN的基本概念与SimpleRNN以订票系统中的SlotFilling为例,我们希望订票系统听到用户说:”Iwouldliketo
徐子尧
·
2020-08-04 08:56
李宏毅机器学习课程
李宏毅机器学习
笔记2020(一)
一、机器学习的本质就是自动寻找函式例如二、寻找什么样子得到函数式1.regression(回归):Theoutputofthefunctionisascalar.:函数的输出是一个数值例如:2.classfication(分类):1)BinaryClassification(二元分类):2)multi-classClassification(多层次分类):3.generation(生成):产生有结
阿归i
·
2020-08-04 08:58
李宏毅2020机器学习作业1——Linear Regression
—————————————————————————————————————————————开始之前声明:本文参考了
李宏毅机器学习
作业说明(需),基本上是将代码复现了一遍,说明中用的是googlecolab
科研鬼才
·
2020-08-04 06:29
[机器学习入门]
李宏毅机器学习
笔记-33 (Recurrent Neural Network part 2;循环神经网络 part 2)
[机器学习入门]
李宏毅机器学习
笔记-33(RecurrentNeuralNetworkpart2;循环神经网络part2)PDFVIDEORNNLearningTargetcost就是每一个时间点的output
holeung
·
2020-08-04 01:55
机器学习
机器学习入门
Lee-ML-notes-RNN_LSTM
RNNLSTM
李宏毅机器学习
课件截图简短的笔记RNN循环神经网络(RecurrentNeuralNetwork,RNN)是一种用于处理序列数据的神经网络。
h_astro
·
2020-08-03 23:37
机器学习
深度学习
机器学习
lstm
预测PM2.5----
李宏毅机器学习
作业HW1
作业说明数据:train.csv训练集,包含1年*12个月*20天*24小时*18种污染物的测试值test.csv测试集,包含240个例子*18种污染物*9小时的测试值ans.csv结果集,是测试集内容应该有的结果,即标准值,包含240个数字题目简述:给出训练集,要求使用梯度下降的方法,建立一个模型,输入数据是空气污染物连续九个小时含量,输出数据是连续九小时之后的第十个小时的PM2.5的含量(如输
我要变猴子!
·
2020-08-03 23:52
机器学习
李宏毅机器学习
完整笔记发布,AI界「最热视频博主」中文课程笔记全开源
(给机器学习算法与Python学习加星标,提升AI技能)负责:王佳旭、金一鸣成员:黑桃、李威、排骨、追风者、Summer、杨冰楠转自:Datawhale(ID:Datawhale)开源地址:https://github.com/datawhalechina/leeml-notes配套视频:https://www.bilibili.com/video/av59538266提起李宏毅老师,熟悉机器学习
机器学习算法与Python学习-公众号
·
2020-08-03 21:43
李宏毅机器学习
笔记(四)——分类问题
文章目录一.二分类问题1.贝叶斯分类器2.Logistic回归3.生成模型vs判别模型二.多分类问题1.选择预测函数(1).指数族分布(2).广义线性模型假设(3).softmax回归2.计算损失值3.优化一.二分类问题 在二分类中,最终我们要的输出就是两个数值,代表着分到了第一类还是第二类。对比一下我们的回归问题,对于每个点输出的值是在整个实数范围内的,因此分类不能直接的用回归的思想去解决,要
Unique13
·
2020-08-03 15:15
机器学习
人工智能
李宏毅机器学习
2020版笔记1-课程流程
课程流程图Regression(回归)要找的函数的输出是一个数值(scalar)。例如:PM2.5数值预测Classification(分类)二分类输出只有两个类:RNN中输入句子,输出是正面还是负面多分类有多个输出类:从多个已知类中输出一个。CNN中图像分类Generation(生成)生成句子或图片:SupervisedLearning给机器输入带标签的数据进行训练:评估函数的Loss,机器找出
MUTANT_HXY
·
2020-08-03 14:10
机器学习笔记
【
李宏毅机器学习
笔记】8、Tips for Training DNN
【
李宏毅机器学习
笔记】1、回归问题(Regression)【
李宏毅机器学习
笔记】2、error产生自哪里?
qqqeeevvv
·
2020-08-03 12:38
机器学习
【
李宏毅机器学习
笔记】 24、集成学习(Ensemble)
【
李宏毅机器学习
笔记】1、回归问题(Regression)【
李宏毅机器学习
笔记】2、error产生自哪里?
qqqeeevvv
·
2020-08-03 12:38
机器学习
【
李宏毅机器学习
笔记】 18、支持向量机(Support Vector Machine,SVM)
【
李宏毅机器学习
笔记】1、回归问题(Regression)【
李宏毅机器学习
笔记】2、error产生自哪里?
qqqeeevvv
·
2020-08-03 12:38
机器学习
【
李宏毅机器学习
笔记】 17、迁移学习(Transfer Learning)
【
李宏毅机器学习
笔记】1、回归问题(Regression)【
李宏毅机器学习
笔记】2、error产生自哪里?
qqqeeevvv
·
2020-08-03 12:06
机器学习
【
李宏毅机器学习
笔记】 23、循环神经网络(Recurrent Neural Network,RNN)
【
李宏毅机器学习
笔记】1、回归问题(Regression)【
李宏毅机器学习
笔记】2、error产生自哪里?
qqqeeevvv
·
2020-08-02 15:59
机器学习
【
李宏毅机器学习
笔记】 12、Unsupervised Learning - Linear Methods
【
李宏毅机器学习
笔记】1、回归问题(Regression)【
李宏毅机器学习
笔记】2、error产生自哪里?
qqqeeevvv
·
2020-08-02 15:27
机器学习
[机器学习入门]
李宏毅机器学习
笔记-4(Where does the error come from ;误差分析)
PDFVIDEO[机器学习入门]
李宏毅机器学习
-4(Wheredoestheerrorcomefrom?
holeung
·
2020-07-27 15:59
SVM优化对偶问题
Author:修远;说明:本文为Datawhale下开源项目《
李宏毅机器学习
》Supportvector的补充内容。作者水平有限,还望学习者批评指正。
Datawhale
·
2020-07-15 17:42
李宏毅机器学习
【更新中】
李宏毅机器学习
学习笔记汇总
之前粗略地学过一次,准备这个暑假再详细地学一次,做做笔记,这篇博客作为一个汇总。课程链接:https://www.bilibili.com/video/BV1JE411g7XF由于我的笔记在本地是用OneNote写的,好像无法导出为markdown,所以第一节博客内容都是从OneNote上以图片形式放上来的。本强迫症思来想去觉得这样太麻烦了,明天还是用markdown写吧QAQ我吐了,第二节是用t
duanyuchen
·
2020-07-15 12:03
Machine
Learning
机器学习
李宏毅
学习笔记汇总
2020台大
李宏毅机器学习
DL预备——深度学习简介
BriefIntroductionofDeepLearning·Deeplearning的历史深度学习从发现开始起起伏伏,直到2012年,在ILSVRCimagecompetition中深度学习的技术得到了广泛的关注。图1·Deeplearning的步骤深度学习的步骤与机器学习类似,也可以看成三个步骤图2Step1:NeutralNetwork深度学习是有多层的神经网络构成。假设输入一组数据,如图
ebook_sea
·
2020-07-15 10:29
李宏毅机器学习
笔记01
线性回归好记性不如烂笔头,梳理了一下知识点,方便自己忘记时,巩固知识首先是机器学习的三个步骤:Step1:ModelStep2:GoodnessofFunctionStep3:FindthebestfunctionStep1:本次是分析宝可梦(神奇宝贝!!!)进化前的CP值对进化后的CP值的预测。线性回归的分析,这里先假设model是f(xncp)=b+w*xncpStep2:建立一个随时函数来判
矜持的小牙刷
·
2020-07-14 21:44
李宏毅机器学习
笔记(二)——欠拟合与过拟合
文章目录一.误差的来源1.实例——手枪打靶2.打靶与回归的联系3.方差的来源4.偏差的来源5.欠拟合与过拟合的概念二.减少误差的策略一.误差的来源 这里的误差就是指我们在测试集上的误差,而不是训练集上的损失值。1.实例——手枪打靶 我们把每次的打靶看成是独立同分布的样本,中心为我们的目标。我们很容易可以看出,误差来源于两个部分:偏差(bias)和方差(variance)。其中偏差指的是样本的平
Unique13
·
2020-07-12 22:47
机器学习
人工智能
机器学习之Ensemble(一些推导与理解)
本文借助了
李宏毅机器学习
笔记,主要是想用通俗易懂的语言来解释相关概念,并且使自己掌握得更加牢靠!!集成学习主要分为串行的Boosting和并行的Bagging,以及Stacking,下面将依次介绍。
Cyril_KI
·
2020-07-12 21:47
Machine
Learning
笔记
李宏毅机器学习
笔记(一)——线性回归
文章目录一.什么是回归二.回归的简单例子与步骤1.提出问题2.建立函数模型3.评价预估函数的好坏4.如何找到最优参数5.利用测试集对结果进行评估6.重新选择函数模型,进入循环一.什么是回归 总的来说,其实回归就是一种预测。我们给出了一些已有的数据和对应的结果,然后我们又给出了一些未知结果的数据,然后我们去找出一个函数,去尽量好的得到对应的结果,这其实就是广义上的回归问题。 当然,这个所谓的"函
Unique13
·
2020-07-12 20:27
机器学习
人工智能
李宏毅机器学习
(四)误差
在上一节我们已经看到,更复杂的模型不一定会让其在测试集上的表现更好。其实误差(Error)有两个来源,一个来自偏差(Bias),一个来自方差(Variance)。了解这两个来源是大有裨益的,因为我们可以对得到的模型误差进行分析,看是来自偏差还是方差,然后用相应的方法解决,进而提高模型的性能。对于宝可梦的例子而言,真实的函数y^=f^(x)\hat{y}=\hat{f}\left(x\right)y
AndyFree96
·
2020-07-12 04:54
机器学习
机器学习
[机器学习入门]
李宏毅机器学习
笔记-32 (Recurrent Neural Network part 1;循环神经网络 part 1)
[机器学习入门]
李宏毅机器学习
笔记-32(RecurrentNeuralNetworkpart1;循环神经网络part1)PDFVIDEORecurrentNeuralNetworkExampleApplicationslot
holeung
·
2020-07-11 23:46
机器学习
机器学习入门
上一页
12
13
14
15
16
17
18
19
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他