E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
李航统计学习笔记
对凸优化(Convex Optimization)的一些浅显理解
©作者|
李航
前单位|EPFL研究方向|计算机图形学与三维视觉最近学习了一些凸优化课程,整理笔记的同时写下一些自己的理解,向着头秃的道路上越走越远。
PaperWeekly
·
2023-02-02 11:32
算法
机器学习
人工智能
python
编程语言
机器学习+Linux学习之路
数学基础与编程基础:*《统计学习方法》
李航
*《DeepLearning》前面部分有数学原理推导*《机器学习实战》*Tensorflow官方文档资料+《Tensorflow技术解析和实战》简单看看*CS229
Frank_Zhang2ff
·
2023-02-01 14:44
学习规划
学习规划
机器学习之求解无约束最优化问题方法(手推公式版)
本篇博文内容主要来自
李航
老师的《统计学习方法》(
夏小悠
·
2023-02-01 12:52
机器学习
人工智能
python
最优化问题
算法
留言赠书|4位GNN一线大佬联手编撰新书,还未出版就爆火!
得到了清华大学教授、中国科学院院士张钹倾情作序推荐,同时韩家炜、沈向洋、张钹、
李航
、周志华等大咖联袂推荐!▲最新的GNN教程首发
文文学霸
·
2023-02-01 03:56
支持向量机(二)——线性可分支持向量机求解
笔者主要参考学习的是
李航
老师《统计学习方法(第二版)》[1]和周志华老师的西瓜书《机器学习》[2]。如有错误疏漏,烦请指正。如要转载,请联系笔者,
[email protected]
。
Herbert002
·
2023-01-31 07:21
注意力机制(1)~ 预训练语言模型
背景机器学习:偏数学(《统计学习方法》--
李航
)深度学习(人工智能)项目:大数据支持(主流)problem:目前很多项目没有大数据支持(小数据)
天狼啸月1990
·
2023-01-30 09:28
深度学习~Deep
Learning
深度学习
语言模型
人工智能
《统计学习方法》-
李航
、《机器学习-西瓜书》-周志华总结+Python代码连载(二)--线性模型(Linear model)
一、线性回归(Linearregression)线性回归试图学得一个线性模型以尽可能准确地预测实值输出标记,用公式表达为:,使得。那么怎么求得w,b呢?基本使用最小二乘法和梯度下降。最小二乘法:最小化均方差函数(本连载一中有相关解释)。梯度下降:是一种迭代算法。选取适当的初值,不断迭代,更新参数值,进行目标函数的极小化,直到收敛。由于负梯度方向是使函数值下降最快的方向,在迭代的每一步,以负梯度方向
xiao韩
·
2023-01-29 16:49
Python与AI
机器学习
学习笔记
机器学习
python/sklearn
线性模型
逻辑回归/线性回归
LDA
函数间隔和几何间隔
根据
李航
老师书,自己理清一下对于函数间隔和几何间隔部分的理解。
NIckWJJ
·
2023-01-29 10:23
笔记本
支持向量机
机器学习
算法
香蕉树上第三根芭蕉——支持向量机(SVM)中函数间隔和几何间隔的理解及二者关系的证明推导
通过去抠书上字眼,如
李航
的统计学习方法,上面对于函数间隔和几何间隔描述分别是表示训练数据集到超平面距离,表示样本数据集到超平面距离,似乎没有什么区别。
香蕉树上看芭蕉
·
2023-01-29 10:22
机器学习
SVM
Ceph介绍及原理架构分享
作者:
李航
来源:腾讯云社区原文:https://cloud.tencent.com/developer/news/344583版权声明:本文为博主原创文章,转载请附上博文链接!
苍山雪麓
·
2023-01-28 13:20
《统计学习方法》读书笔记——感知机
刚开始学习机器学习算法不久,看了
李航
老师的《统计学习方法》,对我的帮助很大,让我从什么都不知道到现在有了初步的概念,现在打算回过头来整理一下读书时的思考,希望能加深自己的理解,如果能对看这篇文章的小伙伴有所帮助那就更好了
xuqn0606
·
2023-01-25 12:35
机器学习笔记
感知机
统计学习方法
李航
:统计学习方法 学习笔记 2 感知机三问
李航
:统计学习方法学习笔记2感知机三问1.空间中任意一点x0到超平面S的距离公式推导2.Novikoff定理中为何可以直接令∣∣w^opt∣∣=1||\hatw_{opt}||=1∣∣w^opt∣∣=1
雪清Fand
·
2023-01-25 12:58
算法
学习笔记
机器学习
机器学习
算法
马尔可夫链(Markov chain)的性质
本文内容主要参考:
李航
老师的《统计学习方法》以下介绍离散状态马尔可夫链的性质。可以自然推广到连续状态马尔可夫链。
Fo*(Bi)
·
2023-01-24 17:49
算法
python
马尔可夫链
马尔可夫链(Markov chain)的基本认识
本文内容主要参考:
李航
老师的《统计学习方法》还有看看马尔科夫链一、马尔可夫链在统计学中的定义马尔可夫链(MarkovChain),描述了一种状态序列,其每个状态值取决于前面有限个状态。
Fo*(Bi)
·
2023-01-24 17:19
算法
python
马尔可夫链
复现经典:《统计学习方法》第 4 章 朴素贝叶斯
本文是
李航
老师的《统计学习方法》[1]一书的代码复现。作者:黄海广[2]备注:代码都可以在github[3]中下载。我将陆续将代码发布在公众号“机器学习初学者”,敬请关注。
湾区人工智能
·
2023-01-24 11:44
AI工程师技术学习进阶指南
数学基础微积分《北京大学高等数学B》线性代数北京大学出版社,《线性代数简明教程》MIT的线性代数公开课概率论与数理统计
李航
《统计学习方法》朴素概率论钟开来概率论朴素统计学理论北京大学出版社,《概率论与数理统计下册
保护我方鲁班七号
·
2023-01-20 13:08
机器学习
算法
人工智能
机器学习
python
AI
朴素贝叶斯模型(naive bayes)
朴素贝叶斯模型(naivebayes)注:本博客为周志华老师《机器学习》的读书笔记,但同时也参考了
李航
老师的《统计学习》方法,以及其他资料(见参考文献),虽有自己的理解,但博客里的例子是基于《机器学习》
天泽28
·
2023-01-18 17:38
机器学习&深度学习
naive
bayes
朴素贝叶斯
生成模型
机器学习(
李航
统计学习方法)
目录绪论-资料介绍绪论-频率派vs贝叶斯派频率派的观点贝叶斯派的观点监督学习与无监督学习单变量线性回归模型表示代价函数梯度下降多变量线性回归多维特征多变量梯度下降梯度下降法实践1-特征缩放梯度下降法实践2-学习率特征和多项式回归正规方程逻辑回归分类问题假说表示判定边界代价函数简化的成本函数和梯度下降高级优化多类别分类:一对多正则化过拟合的问题代价函数正则化线性回归正则化的逻辑回归模型神经网络非线性
快乐的阿江江
·
2023-01-16 08:01
机器学习
机器学习:《
李航
统计学方法》二
感知器他是二类分类的线性分类模型,输出的是实例的特征向量,而输出的是实例的类别。数据集是线性可分数据集和线性不可分的区别就是:是否可以将数据集的正实例点和负实例点完全正确地划分到超平面的两侧,也就是对所有y=1的实例都有wx+b>0,对y=-1的实例,都有wx+b<0感知机学习算法在采用不同的初值或者选取不同的误分类点的时候,解可以不同。并且感知机学习算法是基于随机梯度下降法的对损失函数的最优化算
关切得大神
·
2023-01-16 08:00
机器学习
李航
老师新作《机器学习方法》上市了!附购买链接
李航
老师的《统计学习方法》第一版于2012年出版,讲述了统计机器学习方法,主要是一些常用的监督学习方法。第二版增加了一些常用的无监督学习方法,由此本书涵盖了传统统计机器学习方法的主要内容。
风度78
·
2023-01-16 08:00
人工智能
数据挖掘
神经网络
机器学习
深度学习
《机器学习方法(第三版)——
李航
》学习笔记(二)附代码
目录三、第三章k近邻法1、k近邻算法2、k近邻模型模型距离度量k值的选择分类决策规则3、k近邻法的实现:kd树构造kd树搜索kd树四、第四章朴素贝叶斯法1、朴素贝叶斯的学习与分类2、朴素贝叶斯法的参数估计三、第三章k近邻法k近邻法是一种基本分类与回归方法。k近邻法的输入为实例的特征向量,对应于特征空间的点;输出为实例的类别,可以取多类。k近邻法的输入为实例的特征向量,对应于特征空间的点;输出为实例
HitStuHan
·
2023-01-16 08:59
初学萌新
模式识别
笔记
机器学习
学习
人工智能
《机器学习方法(第三版)——
李航
》学习笔记(三)
目录五、第五章决策树1、决策树模型与学习决策树决策树与条件概率分布决策树学习2、特征选择信息增益3、决策树生成ID3算法4、决策树的剪枝CART算法五、第五章决策树决策树是一种基本的分类与回归方法。本章主要讨论用于分类的决策树。决策树模型呈树形结构,在分类问题中,表示基于特征对实例分类的过程。它可以认为是if-then规则的集合,也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型
HitStuHan
·
2023-01-16 08:59
笔记
初学萌新
机器学习
python
算法
机器学习
人工智能
文末送书 |
李航
老师新作!机器学习经典著作《统计学习方法》全新升级
李航
著清华大学出版社2022-04-01ISBN:9787302597308定价:138.00元新书推荐今日福利|关于本书|本书在《统计学习方法》的基础上增加了深度学习的内容,全面系统地介绍了机器学习的主要方法
PaperWeekly
·
2023-01-16 08:59
人工智能
神经网络
算法
数据挖掘
机器学习
《机器学习方法(第三版)——
李航
》学习笔记(一)附代码
有幸了解到
李航
博士新书《机器学习方法》(第三版),并第一时间买了下来,此书
HitStuHan
·
2023-01-16 08:28
笔记
初学萌新
模式识别
机器学习
人工智能
python
算法
我有一个计划001之数据挖掘面试(更新ing)
2.吴恩达的深度学习的基础知识过一遍深度学习笔记,公式手推3.
李航
《统计学习》方法挑面经中的重点手推公式,有时间全都看4.牛客网的面经将下载的面经都打印,然后针对每个题学习知识点
weixin_34410662
·
2023-01-15 11:55
面试
数据结构与算法
大佬新书首发 | 《机器学习 公式推导与代码实现》正式出版!
关注过这本书的公众号读者应该知道,这本书在系列原创机器学习30讲的基础上,并参考了
李航
老师的《统计学习方法》和周志华老师的西瓜书《机器学习》的理论体系,从公式推导和代码实现两个维度来展示机器学习的基本内涵
人工智能与算法学习
·
2023-01-15 11:09
算法
人工智能
机器学习
编程语言
python
新书首发 | 《机器学习 公式推导与代码实现》正式出版!
关注过这本书的公众号读者应该知道,这本书在系列原创机器学习30讲的基础上,并参考了
李航
老师的《统计学习方法》和周志华老师的西瓜书《机器学习》的理论体系,从公式推导和代码实现两个维度来展示机器学习的基本内涵
算法channel
·
2023-01-15 11:09
算法
人工智能
机器学习
python
编程语言
人生第二本书!
关注过这本书的公众号读者应该知道,这本书在系列原创机器学习30讲的基础上,并参考了
李航
老师的《统计学习方法》和周志华老师的西瓜书《机器学习》的理论体系,从公式推导和代码实现两个维度来展示机器学习的基本内涵
Datawhale
·
2023-01-15 11:08
算法
机器学习
人工智能
python
编程语言
新书首发 | 《机器学习 公式推导与代码实现》正式出版!(文末送书)
关注过这本书的公众号读者应该知道,这本书在系列原创机器学习30讲的基础上,并参考了
李航
老师的《统计学习方法》和周志华老师的西瓜书《机器学习》的理论体系,从公式推导和代码实现两个维度来展示机器学习的基本内涵
风度78
·
2023-01-15 11:08
算法
人工智能
机器学习
python
编程语言
【
李航
统计学习笔记
】第五章:决策树
5.1树的定义树的最顶端叫根节点,所有样本的预测都是从根节点开始的每一个圆形节点表示判断,每个节点只对样本的某个属性进行判断。矩形节点是标记节点,走到矩形节点表示判断结束,将矩形节点中的标签作为对应的预测结果。怎么构建决策树?如果苹果的样本还有一个特征叫形状,我们为形状建立球形和立方型两个分支,显然所有的样本都会到球形分支里面去,这样的判断没有进行有效地划分。此外根据某个特征X,10个苹果中9个会
西风瘦马1912
·
2023-01-15 08:36
李航统计学习笔记
机器学习
决策树
李航
统计学习方法(第二版)第二章 感知机学习笔记【理论篇】
感知机感知机的定义感知机的数学表达式感知机的几何意义感知机的目标函数数据集线性可分目标函数推导感知机的优化方法原始形式随机梯度下降批量梯度下降为什么用随机梯度下降而不用批量梯度下降对偶形式为什么要转化成对偶形式感知机的定义感知机是二分类线性分类模型,输入为实例的特征,输出为实例类别,实例类别取+1和-1。感知机是属于判别模型,因为其求出分离超平面直接将输入实例划分为正例和负例。感知机的数学表达式感
禅心001
·
2023-01-13 22:04
深度学习
统计学习方法第二版
电信保温杯笔记——《统计学习方法(第二版)——
李航
》第2章 感知机
电信保温杯笔记——《统计学习方法(第二版)——
李航
》第2章感知机论文介绍特点模型结构损失函数优化目标感知机学习算法的原始形式举例算法收敛性感知机学习算法的对偶形式相关视频相关的笔记相关代码pytorchtensorflowkeraspytorchAPI
电信保温杯
·
2023-01-13 22:27
机器学习
《统计学习方法第二版》学习笔记2——感知机
感知机模型1.2感知机学习策略1.3感知机算法1.3.1原始形式算法1.3.2对偶形式算法2代码部分2.1Perceptron2.2scikit-learn实例前言本文主要参考资料:《统计学习方法》第二版
李航
sd3145265
·
2023-01-13 22:27
统计学习方法
组队学习
统计学
统计模型
机器学习
统计学习方法——第2章感知机(个人笔记)
统计学习方法——第2章感知机(个人笔记)参考《统计学习方法》(第二版)
李航
感知机就是二分类的线性分类模型,输入为特征向量,输出只为+1、-1。
没用的阿鸡
·
2023-01-13 22:52
机器学习
机器学习
统计学习方法——第7章 支持向量机(个人笔记)
统计学习方法——第7章支持向量机(个人笔记)参考《统计学习方法》(第二版)
李航
支持向量机(supportvectormachines,SVM)是一种二分类模型,是定义在特征空间上的间隔最大的线性分类器。
没用的阿鸡
·
2023-01-13 22:52
学习
支持向量机
算法
【机器学习、深度学习与强化学习】机器学习(1)---机器学习简介
参考资料很多,我先列一些我会用到的机器学习、深度学习的参考资料吧:1.西瓜书——周志华《机器学习》2.动手学深度学习——李沐3.B站李沐视频或者斯坦福CS329P4.youtube——李宏毅全套的公开课5.
李航
旋转跳跃我闭着眼
·
2023-01-11 20:05
ML
DL和RL
机器学习
深度学习
(一)感知机与python代码实现
参考
李航
老师的《统计学习方法》第二版知识点:感知机是二分类的线性分类模型,属于判别模型旨在求出将训练数据进行线性划分的分离超平面,目标求得一个超平面将正负例完全正确分开基于误分类的损失函数:L(w,b)
十二十二呀
·
2023-01-10 15:36
机器学习笔记
python
机器学习
数据挖掘
算法
(二)KNN与python代码实现
李航
老师《统计学习方法》第二版学习笔记知识点KNN是一种基本分类与回归方法三个基本要素:K值的选择、距离度量、分类决策规则直观解释:给定一个训练数据集,对新的输入实例,在训练数据集中找到与该实例最邻近的
十二十二呀
·
2023-01-10 15:36
机器学习笔记
python
数据挖掘
算法
机器学习
统计学习方法——第9章 EM算法及其推广(个人笔记)
统计学习方法——第9章EM算法及其推广(个人笔记)参考《统计学习方法》(第二版)
李航
EM算法是一种迭代算法,每次迭代由两步完成:E步,求期望;M步,求极大。
没用的阿鸡
·
2023-01-10 12:10
机器学习
算法
学习
概率论
统计学习方法——第10章 隐马尔可夫模型(个人笔记)
统计学习方法——第10章隐马尔可夫模型(个人笔记)参考《统计学习方法》(第二版)
李航
10.1隐马尔可夫模型的基本概念10.1.1隐马尔可夫模型的定义定义10.1(隐马尔可夫模型)隐马尔科夫模型是关于时序的概率模型
没用的阿鸡
·
2023-01-10 12:10
机器学习
学习
机器学习
李航
统计学习方法 第二版 课后习题答案 机器学习
李航
《统计学习方法》课后习题答案(第2版)【
李航
课后习题解答+书中疑点推导+算法代码实现+可私聊耐心解答(48小时内回复),包会!!】
#苦行僧
·
2023-01-10 09:39
李航
人工智能
自然语言处理
李航
统计学习——第二章感知机(上)
第一章主要介绍了学习方法的三要素:模型、策略、算法这章主要介绍感知机1从模型来理解感知机概念感知机是一个二分类的线性分类模型。无论是机器学习还是深度学习,按着三要素走(模型->策略->算法)模型本质还是假设空间(HypothesisSpace):所有可能的条件概率分布或决策函数。而假设空间(模型)是由参数空间决定的。【补】假设空间是所有可能决策函数的集合;而每个决策函数由一个参数向量决定;参数空间
就想做一条闲鱼
·
2023-01-10 06:56
机器学习和深度学习
学习
机器学习
R语言:感知机模型(二)
目录算法:感知机学习算法的对偶形式R语言代码效果展示相关文章资源获取算法:感知机学习算法的对偶形式
李航
《统计学习方法》(第2版)P44——算法2.2输入:线性可分的数据集T={(x1,
FightingBob
·
2023-01-10 06:54
R语言
数据分析
算法
机器学习
r语言
R语言:感知机模型(一)
最近事情太多,导致这次停更时间有点长了,但是经过了这半年的学习,也学了不少东西,思考后决定,先把
李航
的《统计学习》这本书上的算法一一代码实现一下,来检测一下是否真的学会了,所以先分享给大家的是第二章:感知机模型
FightingBob
·
2023-01-10 06:23
R语言
数据分析
机器学习
算法
r语言
正则化的通俗解释_正则化面经整理——from牛客
在解释正则化之前,老老实实的把
李航
的机器学习基础复习一遍,否则会很迷糊。
weixin_39633493
·
2023-01-09 10:31
正则化的通俗解释
数据矿工学习-《统计学习方法》思维导图1.1-监督学习与统计学习三要素
监督学习概论与统计学习三要素思维来自《统计学习方法》-
李航
凹脑图在线浏览地址:统计学习三要素才学疏浅,欢迎评论指导如想更方便地阅览思维图欢迎前往我的个人小站:www.wengjj.ink
翁JJ
·
2023-01-08 10:14
数据挖掘
《统计学习概论》思维导图
监督学习与统计学习三要素
统计学习笔记
:方差分析
方差分析(ANOVA)又称F检验。方差分析是判定方差在组间和组内是否(明显)具有区别的一种方法。如果组内差异相对于组间差异较小,则可以推断出组与组之间是有明显差异的。从形式上看,方差分析与t检验或z检验区别不大,都是检验均值是否相等,但方差分析可以同时比较多个均值。广义的方差分析分为:单因素方差分析(1-wayANOVA)双因素方差分析(2-wayANOVA)与多因素方差分析(N-wayANOVA
Bernard.Dong
·
2023-01-08 10:36
学习
python
概率论
统计学习笔记
:假设检验基本概念及U检验、T检验、F检验
文章目录1.假设检验原假设和备择假设第一类错误和第二类错误p值2.U检验单样本U检验双样本U检验3.T检验单样本T检验双样本T检验(σ12=σ22=σ2\sigma_1^2=\sigma_2^2=\sigma^2σ12=σ22=σ2未知时)3.F检验单样本正态总体方差检验双样本正态总体方差检验(方差齐性检验)1.假设检验这里只讨论双侧参数假设检验,不包含单侧及非参的假设检验。原假设和备择假设在参数
Bernard.Dong
·
2023-01-08 10:36
学习
《统计学习方法(第2版)》
李航
第十二章 监督学习方法总结 思维导图笔记
适用问题监督学习主要包括分类、标注、回归问题。标注问题是从观测序列到标记/状态序列的过程,相比二分类问题,其数目上是指数级区别。模型非概率模型,是指直接由输入X得到输出Y,或者得到输出的条件概率分布P(Y|X)的模型,对于监督学习也叫做判别模型。感知机、k近邻、支持向量机SVM、提升方法是非概率模型;概率模型首先学习联合概率密度P(X,Y),然后求出条件概率密度P(Y|X),在监督学习中称为生成模
ML--小小白
·
2023-01-08 10:35
统计学习方法笔记
python
深度学习
人工智能
机器学习
自然语言处理
【
李航
统计学习笔记
】第一章:统计学习及监督学习概论
1.1导论统计学习监督学习的实现步骤:得到一个有限的训练数据集合确定模型的假设空间,也就是所有的备选模型确定模型选择的准则,即学习的策略实现求解最优模型的算法通过学习方法选择最优模型利用学习的最优模型对新数据进行预测或分析监督学习训练集:T={(x1,y1),(x2,y2),⋯ ,(xN,yN)}T=\left\{\left(x_{1},y_{1}\right),\left(x_{2},y_{2}
西风瘦马1912
·
2023-01-08 10:51
李航统计学习笔记
机器学习
人工智能
极大似然估计
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他