机器学习基石

林轩田机器学习基石课程学习笔记1 — The Learning Problem

（转载）林轩田机器学习基石课程学习笔记1—TheLearningProblemWhenCanMachineLearn?WhyCanMachineLearn?HowCanMachineLearn?
nupt想象之中·2019-11-08 10:00

《机器学习基石》学习笔记<1>

WhenCanMachinesLearn?先放个summary:)主要框架1.CourseInstruction2.WhatisMachineLearning1>机器学习的概念机器学习的概念理解总的来说就是给机器位一些资料，根据资料'学习'，然后会某些技能，这个技能可能是做判断题，选择题……2>keyessenceofML机器学习的关键本质当思考一个问题是否适合用机器学习来解决时，可以从3个方面来
glassyw·2019-11-08 01:36

《机器学习基石》学习笔记<2>

WhenCanMachinesLearn?——part2这部分让机器学会回答判断题，是非题(即yes/no)主要内容：内容框架1.PorceptronHypothesisSet把收集的资料换一个角度看待，用向量来表示，并且每一个维度都有对应的权重，以此来给每个客户'评分'，通过计算分数与门槛的差值来判断要不要给信用卡。之前提到y是我们想要的结果，用-1,1来代表wi是权重h(x)的演变为了方便书写
glassyw·2019-11-04 23:36

连载 | 机器学习基石 Lec 5:Growth Function & Break Point

Lec5：TrainingversusTestingtips：符号含义参照Lec1上一节中我们得到在一些条件下，learningisfeasible！这一节我们将接着上一节探讨在M=|H|无限大时是怎样的？learning实际可以分两部分看待：1）Ein（g）≈0：在in-sample上应该尽量小，这是在train时希望的事情。2）Eout（g）≈Ein（g）：Eout要和Ein接近，这是test
青禾ws·2019-11-04 22:44

《机器学习基石》课程学习总结（一）

《机器学习基石》课程非常棒，作为总结，本文重点是梳理课程中的知识脉络，同时尽可能说白话，让没有机器学习背景的朋友也能看懂。一、这个课程好在哪里？
milter·2019-10-31 09:17

机器学习基石-林轩田 Lecture 2：Perceptron Hypothesis Set

复习（机器学习的流程）有一个未知的映射f:X→Yf:X\toYf:X→Y（上次的案例是信用卡）训练集D:(x1,y1),...,(xN,yn)D:(x_1,y_1),...,(x_N,y_n)D:(x1,y1),...,(xN,yn)（银行的历史记录）有一个假说集HHH，从中得到了学习算法AAA最后的假说g≈fg\approxfg≈f从一个简单的数据集入手，学习感知器现在这里有一个银行用户的数据对
Mr. Water·2019-09-22 14:57

机器学习基石-林轩田 Lecture 1：The learning problem

课程构成课程分为数学篇和方法篇，每篇都约四周的时间，每个核心问题需要约4讲时间讨论课程的规划基本如下WhenCanMachinesLearn?[何時可以使用機器學習]第一講：TheLearningProblem[機器學習問題]第二講：LearningtoAnswerYes/No[二元分類]第三講：TypesofLearning[各式機器學習問題]第四講：FeasibilityofLearning[
Mr. Water·2019-09-18 22:57

机器学习基石 6.3 Bounding Function: Inductive Cases

文章目录1.Estimating$B(4,3)$2.PuttingItAllTogether3.BoundingFunction:TheTheorem4.TheThreeBreakPoints5.FunTime1.EstimatingB(4,3)B(4,3)B(4,3)写一个程序把B(4,3)B(4,3)B(4,3)暴力算出来。得到B(4,3)=11B(4,3)=11B(4,3)=11。给B(4,
海盐味的可爱多·2019-09-11 07:36

机器学习基石 5.4 Break Point

文章目录1.TheFourGrowthFunctions2.BreakPointof$\mathcal{H}$3.TheFourBreakPoints4.FunTime5.Summary1.TheFourGrowthFunctions目前已知的4种成长函数：如果成长函数是一个多项式（polynomial），那么右侧随着NNN增大而减小。如果成长函数是指数形式（exponential），右侧的变化就
海盐味的可爱多·2019-09-11 01:39

机器学习基石 5.3 Effective Number of Hypotheses

文章目录1.Dichotomies:Mini-hypotheses2.GrowthFunction3.GrowthFunctionforPositiveRays4.GrowthFunctionforPositiveIntervals5.GrowthFunctionforConvexSets6.FunTime1.Dichotomies:Mini-hypotheses原来的hypothesisset：
海盐味的可爱多·2019-09-11 00:54

机器学习基石第二讲:Learning to Answer Yes/No

PerceptronHypothesisSet感知机模型：这里W,thresholdW,thresholdW,threshold的不同，使得hhh也不同，所以说这模型有它的HypothesisSet。然后向量化感知机的表达:形式化的理解，用几何的角度来理解：每一个感知机代表一条划分平面的一条线，用动画显示：这个放到后面去PerceptronLearningAlgorithm(PLA)我们知道对于线
Fraps_·2019-09-01 23:43

机器学习基石第一讲:The Learning Problem

courseintroduction本课程从基础的角度出发，回答以下几个问题：When-什么时候用机器学习Why-为什么机器学习有用How-怎么用机器学习Howbatter-怎么做到最好本门课程的目标：WhatisMachineLearning学习与机器学习：对技巧的解释：增进某一种的表现。进一步对机器学习的定义：机器学习：另一种解决思路。机器学习的三个关键：存在一个潜在的模式难以确定定于规则da
Fraps_·2019-08-29 09:50

惊为天人，NumPy 手写全部主流机器学习模型，代码超 3 万行

超过3万行代码、30多个模型，这也许能打造「最强」的机器学习基石？NumPy作为Python生态中最受欢迎的科学计算包，很多读者已经非常熟悉它了。
Tong_T·2019-07-08 16:53

惊为天人，NumPy 手写全部主流机器学习模型，代码超 3 万行

超过3万行代码、30多个模型，这也许能打造「最强」的机器学习基石？NumPy作为Python生态中最受欢迎的科学计算包，很多读者已经非常熟悉它了。
Python开发者·2019-07-06 23:05

【机器学习基石】感知机模型

根据模型H，使用演算法A，在训练样本上进行训练，器对应的g就是我们最后需要的机器学习的模型函数，一般g解决与目标函数f.perceptronlearningalgorithm的证明过程即随着迭代次数T的增加，Wf与WT越来越接近值域数学中的加法，乘法有一个共同的特点就是，可以将一个实体分解，或是组合。
乌鱼阳光·2019-06-07 13:52

台大机器学习基石(1)

台大机器学习基石(1)机器学习对于适用场景有一定的前提条件：可以找到某种模式不容易编程实现，不能对目标下一个简单的定义能找到训练的数据，数据量越大越好使用机器学习的一个小例子——银行信用卡批准例如银行会收到申请客户的个人资料
MarkKobs·2019-06-06 21:00

机器学习基石笔记：10 Logistic Regression

线性分类中的是非题变为逻辑分类中的概率题。在逻辑回归中，设置概率阈值后，大于等于该值的为O，小于改值的为X。图1软二分类1O为1，X为0：图2软二分类2图3逻辑回归的假设逻辑函数/S型函数：光滑，单调。自变量趋于负无穷时，因变量趋于0；自变量趋于正无穷时，因变量趋于1；自变量取0时，因变量值为0.5。其能够较好地模拟概率特性。图4逻辑函数图5三种线性模型逻辑回归使用交叉熵代价函数:图6交叉熵代价函
cherryleechen·2019-05-02 16:22

机器学习基石笔记：15 Validation

一、模型选择图1.1模型选择问题如何选择?视觉上NO不是所有资料都能可视化；人脑模型复杂度也得算上。通过NO容易过拟合，泛化能力差。通过NO能保证好的泛化，不过往往没法提前获得测试资料。图1.2泛化的保证折中：将样本资料分为两部分。一部分用作训练，一部分用作验证。图1.3样本内误差和测试误差的比较二、验证图2.1验证集基于验证集的模型选择：利用所有训练数据训练所有模型，得出各个模型下的最优假设；计
cherryleechen·2019-05-01 18:08

机器学习基石笔记：14 Regularization

一、正则化的假设集合通过从高次多项式的退回到低次多项式的来降低模型复杂度，以减小过拟合的可能性。如何退回?图1.1正则化通过加上约束条件：图1.2约束条件如果加了严格的约束条件，就没有必要从退回到，直接使用就可以了。图1.3严格的约束条件因此，加上松弛点的约束条件，使得模型比复杂，但到不了那么复杂。图1.4更松弛的约束条件1图1.5更松弛的约束条件2二、权重衰减正则化图2.1带正则项的回归问题的矩
cherryleechen·2019-05-01 18:40

机器学习基石笔记：Homework #3 LinReg&LogReg相关习题

问题描述图113图214-15图318图419-20程序实现13-15#coding:utf-8importnumpyasnpimportnumpy.randomasrandomimportmatplotlib.pyplotaspltdefsign(x):if(x>=0):return1else:return-1defgen_data():x1=random.uniform(-1,1,1000)x
cherryleechen·2019-05-01 16:52

机器学习基石笔记：07 The VC Dimension

一、VC维当，时，易得：被给bound住。图1.1限界函数的上限图1.2不等式的右值更新图1.3学习的可行性分析VC维：最小断点值或能shatter的最大值。这里的指的是存在个输入能被给shatter，不是任意个输入都能被给shatter。如：2维感知机能shatter平面上呈三角形排列的3个样本点，却shatter不了平面上呈直线排列的3个样本点，因为当另外2个点标签值一致时，中间那个点无法取与
cherryleechen·2019-05-01 09:43

2019年3月读书进度

《Python爬虫开发与项目实战》《数据结构与算法Python实现》机器学习:机器学习基石-林轩田文学：《大江东去》（全三册）bingo!
夜是故乡明·2019-03-22 20:53

机器学习好文收集

从最大似然估计开始，你需要打下的机器学习基石数学之美番外篇：平凡而又神奇的贝叶斯方法Bayes’Theorem:TheHolyGrailofDataScience理解矩阵（一）隐马尔科夫模型支持向量机系列
匠人_C·2019-01-29 09:25

林轩田机器学习基石课程个人笔记-第一讲

这门课叫做机器学习基石，简介如下下面开始学习第一讲啦：）机器学习是一门包含很多学科知识的方向，它包含很多的的理论知识，同样也有很多的实践的工具可供选择。
Forlogen·2019-01-13 20:06

林轩田机器学习基石（Machine Learning Foundation）

第一课机器学习问题什么是机器学习？什么是“学习”？学习就是人类通过观察、积累经验，掌握某项技能或能力。就好像我们从小学习识别字母、认识汉字，就是学习的过程。而机器学习（MachineLearning），顾名思义，就是让机器（计算机）也能向人类一样，通过观察大量的数据和训练，发现事物规律，获得某种分析问题、解决问题的能力。机器学习可以被定义为：Improvingsomeperformancemeas
dujiahei·2019-01-12 12:29

周志华机器学习 西瓜书（PDF） 斯坦福大学机器/深度学习视频 机器学习基石+技法 NLP

资料分享博客-链接过期请留言/私信周志华机器学习+统计学习基础PDF链接:https://pan.baidu.com/s/1xIl6Zz1sd6F92EByNUCoCg密码:5c47林轩田机器学习基石&
唐-coffee·2018-12-10 15:39

机器学习、深度学习在线学习资源

一、国立台湾大学林轩田教授的机器学习课程（台湾普通话）机器学习基石：https://yunpan.360.cn/surl_ymSJb7Cpj5c（提取码：4e12）机器学习技法：https://yunpan
山东科技大学遥感与机器智能实验室·2018-11-28 15:10

机器学习、深度学习在线学习资源

一、国立台湾大学林轩田教授的机器学习课程（台湾普通话）机器学习基石：https://yunpan.360.cn/surl_ymSJb7Cpj5c（提取码：4e12）机器学习技法：https://yunpan
山东科技大学遥感与机器智能实验室·2018-11-28 15:10

Coursera机器学习基石笔记week11

LinearModelsforClassification严谨一点来说，PLA并不是一种“模型”，PLA(PerceptronLearningAlgorithm)是一种“算法”，用来寻找在“线性可分”的情况下，能够把两个类别完全区分开来的一条直线，所以我们简单的把PLA对应的那个模型就叫做LinearClassification。LinearClassification模型：取s的符号作为结果输出
loserChen.·2018-11-23 15:10

机器学习基石 Lecture13: Hazard of Overfitting

机器学习基石Lecture13:HazardofOverfittingWhatisOverfitting?
无所知·2018-11-13 22:56

Coursera机器学习基石笔记week4

FeasibilityofLearningLearningisImpossible？我们想要在D以外的数据中更接近目标函数似乎是做不到的，只能保证对D有很好的分类结果。机器学习的这种特性被称为没有免费午餐（NoFreeLunch）定理。NFL定理表明没有一个学习算法可以在任何领域总是产生最准确的学习器。不管采用何种学习算法，至少存在一个目标函数，能够使得随机猜测算法是更好的算法。Probabili
loserChen.·2018-11-10 10:48

【林轩田】机器学习基石（一）

接触机器学习一年多，并没有真正的理解其中的原理，突然决定从头开始，做一些简单的记录督促自己学习。关注了一个博主，因为他写的太好了，简洁儿深刻结构清晰，从中学习很多，大部分内容从中摘抄，学习内容总结方式逻辑结构，感激博主分享https://blog.csdn.net/sjz_hahalala479Lecture1TheLearningProblem1.1WhatisMachineLearning什么
DIDADIDAJING·2018-10-27 15:28

《机器学习基石》作业笔记

本课可以为机器学习打下较为坚实的基础cousera的课程主页：https://www.coursera.org/learn/ntumlone-mathematicalfoundations台大的官网：https://www.csie.ntu.edu.tw/~htlin/course/ml15fall/一个很好的博客：https://blog.csdn.net/a1015553840/article
ThomasYoungK·2018-10-03 22:27

林轩田基石4-8讲回顾

林轩田的机器学习基石课程1-3讲主要是讲机器学习应该使用在什么地方,机器学习有哪些分类.4-8讲主要机器凭什么能学到东西(机器怎样的表现才是学到了东西)这篇文章主要回顾一下4-8讲中机器怎样的表现才表明机器学到了东西
Junes_k·2018-09-15 12:02

机器学习基石第五周笔记

机器学习需要完成两个问题：1.Ein和Eout尽可能接近2.Ein要小对于M来说（M表示hypothesis的size），如果M太小，对于第一个问题是好的，因为我们犯错误的几率降低；然而对第二个问题就不好，因为这意味着我们hypothesis的选择变少了，那不一定能找到一个足够小的Ein。如果M太大，情况又会相反。所以我们M的大小挺重要。PLA的M是无限大的（如二维平面有无数多条线），这意味着犯错
终有一天_qq1320596721·2018-09-09 18:31

机器学习基石第十六周笔记

一.Occam’sRazor这一节将会是最后一节，主要讲解了机器学习中的几个比较经典的原则（锦囊妙计）。1.奥卡姆剃刀原则:一个模型越简单越好，将模型不必要的地方最好去掉。那么怎么判断一个模型是不是简单的呢？首先一个简单的模型一般具有较少的系数。且一个简单的假设空间是选出一个简单模型的充分非必要条件。那么为什么越简单越好呢？首先越简单的假设空间的成长函数就越低，这样我们就越不能简单的找到一个h去完
SilenceHell·2018-08-18 16:14

机器学习基石第十四周笔记

一.RegularizedHypothesisSet如果发生了过拟合那么我们该怎么办呢？之前介绍了两种情况，接下来介绍第四种方法正则化。如下图，我们想将右边的过拟合红线，优化为左图的红线。我们的想法是将复杂度为10的假设空间退化成复杂度为2的假设空间，那么我们该怎么做呢？我们对两个假设空间进行分析后发现，当我们对复杂度为10的假设空间添加约束条件令w3…w10为0时，假设空间退化成复杂度为2的假设
SilenceHell·2018-08-16 16:15

机器学习基石第十三周笔记

一.What’sOverfitting什么叫作过度拟合？如下所示，当N=5时，目标f本来是个2次多项式，而我们用5次多项式对这些数据进行拟合就会造成过拟合。过拟合的Ein虽然很小而Eout却很大。上述原因可以用下图进行解释，使用高次的函数进行拟合会使d(vc)增加，这会增加假设空间的复杂度，从而使Eout与Ein的差别变大，虽然Ein会减少，但是Eout却增大，反之Eout与Ein的差距虽然比较小
SilenceHell·2018-08-15 16:10

台大机器学习基石 Lecture 13 - Hazard of Overfitting

本次Lecture主要介绍机器学习中很重要的问题：过拟合（overfitting），并且介绍了部分解决过拟合问题的方法。WhatisOverfitting?先通过一个例子来介绍badgeneralization。假设平面上有5个点，目标函数是2阶多项式：如果hypothesis是二阶多项式加上一些小的noise的话，那么这5个点很靠近这个hypothesis，很小。如果hypothesis是4阶多
ZayneHuang·2018-08-08 21:59

《机器学习》学习

学习过程      机器学习知识的个人学习心得是结合多种知识来源进行学习，包括：书上的理论、台湾林轩田老师的《机器学习基石》和《机器学习技法》讲解视频、sklearn机器学习库以及各种机器学习相关题目的实际训练等
aaamyzone·2018-08-08 00:00

下一阶段任务及安排

我目前学完了麦子学院彭亮老师的深度学习基础：机器学习课程，算是对机器学习及机器学习中的主流算法有了一个大致的了解，接下来，我将学习《机器学习》（周志华）和《机器学习实战》两本书籍，同时刷台湾大学林轩田老师的机器学习基石课程
一直特立独行的猫1994·2018-08-05 17:14

机器学习基石第7周

TheVCDimension一.DefinitionofVCDimension上次课我们知道我们的成长函数B(N,k)有上限，如图中的表所示，左边的表示B(N,k)右边的表示N^(k-1)，我们发现当N>=2,K>=3时，B(N,K)小于N^(k-1)所以我们在使用的时候直接使用N^(k-1)而不用B(N,K)。以上说明一个好的机器学习结果需要一个好的的data，一个好的假设空间和一点好的运气。V
SilenceHell·2018-08-05 16:58

机器学习基石第六周

TheoryofGeneralization一.RestrictionofBreakPoint在2Dperceptrons里面，当输入为四个点时所有可能的分类情况有2^4次方16个，但是由于有的情况不能靠一条直线将其分开，所以实际上的分类情况少于16种为14种。我们将第一次出现这种情况的输入点数称为breakPoints。breakPoints的另一种解释就是你无法将任何breakpoints的点
SilenceHell·2018-08-04 18:04

机器学习基石第二周

1.感知机与其假设空间假设输入为X，X是个多维向量分量为x1,x2,…..,xi。比如X是个银行的客户，x1,x2,……xi,就分别代表那个人的性别，年您，职业，收入等信息。感知机就是对这些分量进行加权求和，并设定一个阈值，如果求和结果大于这个阈值，那么输出一个结果，如果为负，则输出相反的结果。这里的权重组，与阈值的组合有无穷多种，我们将这些组合的集合称作假设空间H。我们的目的就是从H中学到一个最
SilenceHell·2018-07-30 11:50

4-1 Leaming is Impossible&4-2 Probability to the Rescue|机器学习基石（林轩田）-学习笔记

文章原创,最近更新：2018-07-24学习链接:4-1LeamingisImpossible4-2ProbabilitytotheRescue学习参考链接:1、台湾大学林轩田机器学习基石课程学习笔记4
durian221783310·2018-07-24 16:45

2.4 Learning to Answer Yes/No-Non-Separable Data|机器学习基石（林轩田）-学习笔记

文章原创,最近更新：2018-07-16学习链接:2.4LearningtoAnswerYes/No-Non-SeparableData学习参考链接:1、台湾大学林轩田机器学习基石课程学习笔记2--LearningtoAnswerYes
努力奋斗的durian·2018-07-16 19:05

感知机学习算法（PLA）的修正过程的理解（机器学习基石）

原理首先，PLA修正过程的数学表示：在一个循环中，t代表当前的迭代次数1.找到一个错误分类的点(xt,ytxt,yt):sign(wTtxn(t))≠yn(t)sign(wtTxn(t))≠yn(t)2.修正该错误Wt+1←Wt+yn(t)xn(t)Wt+1←Wt+yn(t)xn(t)重复循环，直到没有错误分类的点存在图解说明：用权重W来代表一个假设刚开始的时候，在一个二维的坐标上将所有点画出来：
sbill-fu·2018-07-13 09:29

台大林轩田《机器学习基石》：作业四python实现

台大林轩田《机器学习基石》：作业一python实现台大林轩田《机器学习基石》：作业二python实现台大林轩田《机器学习基石》：作业三python实现台大林轩田《机器学习基石》：作业四python实现完整代码
不晓得X·2018-06-22 16:13

台大林轩田《机器学习基石》：作业三python实现

台大林轩田《机器学习基石》：作业一python实现台大林轩田《机器学习基石》：作业二python实现台大林轩田《机器学习基石》：作业三python实现台大林轩田《机器学习基石》：作业四python实现完整代码
不晓得X·2018-06-21 11:42

台大林轩田《机器学习基石》：作业二python实现

台大林轩田《机器学习基石》：作业一python实现台大林轩田《机器学习基石》：作业二python实现台大林轩田《机器学习基石》：作业三python实现台大林轩田《机器学习基石》：作业四python实现完整代码
不晓得X·2018-06-21 09:36
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他