E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
统计学习方法_李航
对凸优化(Convex Optimization)的一些浅显理解
©作者|
李航
前单位|EPFL研究方向|计算机图形学与三维视觉最近学习了一些凸优化课程,整理笔记的同时写下一些自己的理解,向着头秃的道路上越走越远。
PaperWeekly
·
2023-02-02 11:32
算法
机器学习
人工智能
python
编程语言
机器学习+Linux学习之路
数学基础与编程基础:*《
统计学习方法
》
李航
*《DeepLearning》前面部分有数学原理推导*《机器学习实战》*Tensorflow官方文档资料+《Tensorflow技术解析和实战》简单看看*CS229
Frank_Zhang2ff
·
2023-02-01 14:44
学习规划
学习规划
机器学习之求解无约束最优化问题方法(手推公式版)
本篇博文内容主要来自
李航
老师的《
统计学习方法
》(
夏小悠
·
2023-02-01 12:52
机器学习
人工智能
python
最优化问题
算法
留言赠书|4位GNN一线大佬联手编撰新书,还未出版就爆火!
得到了清华大学教授、中国科学院院士张钹倾情作序推荐,同时韩家炜、沈向洋、张钹、
李航
、周志华等大咖联袂推荐!▲最新的GNN教程首发
文文学霸
·
2023-02-01 03:56
支持向量机(二)——线性可分支持向量机求解
笔者主要参考学习的是
李航
老师《
统计学习方法
(第二版)》[1]和周志华老师的西瓜书《机器学习》[2]。如有错误疏漏,烦请指正。如要转载,请联系笔者,
[email protected]
。
Herbert002
·
2023-01-31 07:21
机器学习算法-KNN代码实现
机器学习算法-KNN代码实现一、KNN算法初步理解二、代码实现1.数据集处理2.创建model3.可视化总结一、KNN算法初步理解
统计学习方法
书上的解释:给定一个训练数据集,对于新的输入实例,在训练数据集中找到与该实例最邻近的
江南汪
·
2023-01-30 13:02
机器学习
机器学习
算法
python
注意力机制(1)~ 预训练语言模型
背景机器学习:偏数学(《
统计学习方法
》--
李航
)深度学习(人工智能)项目:大数据支持(主流)problem:目前很多项目没有大数据支持(小数据)
天狼啸月1990
·
2023-01-30 09:28
深度学习~Deep
Learning
深度学习
语言模型
人工智能
《
统计学习方法
》-
李航
、《机器学习-西瓜书》-周志华总结+Python代码连载(二)--线性模型(Linear model)
一、线性回归(Linearregression)线性回归试图学得一个线性模型以尽可能准确地预测实值输出标记,用公式表达为:,使得。那么怎么求得w,b呢?基本使用最小二乘法和梯度下降。最小二乘法:最小化均方差函数(本连载一中有相关解释)。梯度下降:是一种迭代算法。选取适当的初值,不断迭代,更新参数值,进行目标函数的极小化,直到收敛。由于负梯度方向是使函数值下降最快的方向,在迭代的每一步,以负梯度方向
xiao韩
·
2023-01-29 16:49
Python与AI
机器学习
学习笔记
机器学习
python/sklearn
线性模型
逻辑回归/线性回归
LDA
论文精读-基于双目图像的视差估计方法研究以及实现
基于双目图像的视差估计方法研究及实现第一章绪论1.1课题的研究背景与意义1.2双目视差估计的研究现状1.2.1传统立体匹配方法研究现状1.2.2
统计学习方法
研究现状1.2.3深度学习方法研究现状第一章绪论
【一叶知秋か]
·
2023-01-29 14:50
计算机视觉
自动驾驶
人工智能
函数间隔和几何间隔
根据
李航
老师书,自己理清一下对于函数间隔和几何间隔部分的理解。
NIckWJJ
·
2023-01-29 10:23
笔记本
支持向量机
机器学习
算法
香蕉树上第三根芭蕉——支持向量机(SVM)中函数间隔和几何间隔的理解及二者关系的证明推导
通过去抠书上字眼,如
李航
的
统计学习方法
,上面对于函数间隔和几何间隔描述分别是表示训练数据集到超平面距离,表示样本数据集到超平面距离,似乎没有什么区别。
香蕉树上看芭蕉
·
2023-01-29 10:22
机器学习
SVM
Ceph介绍及原理架构分享
作者:
李航
来源:腾讯云社区原文:https://cloud.tencent.com/developer/news/344583版权声明:本文为博主原创文章,转载请附上博文链接!
苍山雪麓
·
2023-01-28 13:20
统计学习方法
学习笔记(5)决策树
决策树5.1.决策树模型与学习5.2.特征选择5.3.决策树的生成5.4.决策树的剪枝5.5.CART算法决策树基本概述:算法类别:一种基本的分类和回归方法;基本结构:呈现树形结构,在分类问题中表示基于特征对实例进行分类的过程。主要优点:模型具有可读性,分类速度快。一般步骤:特征选择、决策树的生成和决策树的修剪。5.1.决策树模型与学习决策树的定义:分类决策树模型是一种描述对实例进行分类的树形结构
北岛寒沫
·
2023-01-26 23:16
机器学习
学习
西瓜书,南瓜书第六章:支持向量机
之前跟着
统计学习方法
对支持向量机进行了推导和学习,这次跟着datawhale和西瓜书又对支持向量机进行了深入复习,发现很多没有注意到的点,更为理解一些操作。
何草不玄丶
·
2023-01-26 12:13
支持向量机
机器学习
人工智能
《
统计学习方法
》读书笔记——感知机
刚开始学习机器学习算法不久,看了
李航
老师的《
统计学习方法
》,对我的帮助很大,让我从什么都不知道到现在有了初步的概念,现在打算回过头来整理一下读书时的思考,希望能加深自己的理解,如果能对看这篇文章的小伙伴有所帮助那就更好了
xuqn0606
·
2023-01-25 12:35
机器学习笔记
感知机
统计学习方法
《
统计学习方法
》学习笔记 chapater2——感知机
按照
统计学习方法
三要素来学习:模型、策略、算法。模型定义比较冗长,自己去看,只说核心点,模型函数:f(x)=sign(wT⋅x+b)f(x)=sign(w^T\cdotx+b)f(x)
nullpo_
·
2023-01-25 12:05
机器学习
机器学习
统计学习方法
读书笔记3-感知机SVM
文章目录1.感知机模型2.感知机的学习策略1.数据集的线性可分性2.感知机学习策略3.感知机学习算法1.原始形式-随机梯度下降法2.对偶形式4.感知机算法收敛性证明感知机是二类分类的线性分类模型,其输入是实例的特征向量,输出为实例的类别,属于判别模型。感知机旨在求出将训练数据进行线性划分的分离超平面,为此,导入基于误分类的损失函数,利用梯度下降法,对损失函数进行极小化,得到感知机模型。1.感知机模
哎呦-_-不错
·
2023-01-25 12:34
#
机器学习《统计学习方法》
机器学习
算法
python
感知机
统计学习方法
学习笔记1——感知机模型
1.感知机学习算法的原始形式输入:训练数据集T={(x1,y1),(x2,y2),...,(xn,yn)},其中xi属于R,yi属于{+1,-1},i=1,2,...,n;学习率h(0
ChaucerG
·
2023-01-25 12:31
机器学习
机器学习
统计学习方法笔记
《
统计学习方法
》学习笔记——感知机数学推导
1.什么是感知机感知机是二类分类的线性模型。2.核心思想找一个超平面,把正例和负例分开。我们可以用来表示这个超平面。(w=(x1,x2,x3,…)为法向量,决定了超平面的方向;b为截距,决定了超平面与原点的距离)我们把决策函数定义为:当wx+b>=0时,f(x)=+1,样本被分为正类;当wx+b=0的点来说,如果他被错误分类了,即预测值y=-1;对于负类点,y=+1。所以最终把他们相乘,得到的肯定
逃课去学习:)
·
2023-01-25 12:31
机器学习
机器学习
统计学习方法
学习笔记(4)朴素贝叶斯法
朴素贝叶斯法4.1.朴素贝叶斯法的学习与分类4.1.1.基本方法4.1.2.后验概率最大化的含义4.2.朴素贝叶斯法的参数估计4.1.朴素贝叶斯法的学习与分类4.1.1.基本方法朴素贝叶斯模型中的训练数据集由输入变量和输出变量的联合概率分布产生。朴素贝叶斯法通过训练数据集学习联合概率分布。具体地,学习先验概率分布和条件概率分布。朴素贝叶斯法的假定:朴素贝叶斯法进行了条件独立性假设,也就是假设各个特
北岛寒沫
·
2023-01-25 12:58
机器学习
学习
李航
:
统计学习方法
学习笔记 2 感知机三问
李航
:
统计学习方法
学习笔记2感知机三问1.空间中任意一点x0到超平面S的距离公式推导2.Novikoff定理中为何可以直接令∣∣w^opt∣∣=1||\hatw_{opt}||=1∣∣w^opt∣∣=1
雪清Fand
·
2023-01-25 12:58
算法
学习笔记
机器学习
机器学习
算法
统计学习方法
学习笔记(3)K近邻法
K近邻法3.1.K近邻算法3.2.K近邻模型3.3.K近邻法的实现:kd树3.1.K近邻算法算法步骤:给定一个训练数据集,对于一个新的输入实例,在训练数据集中找到与该实例最邻近的K个实例,这K个实例的多数属于哪一个类,就把该输入实例分为这个类。最邻近算法:最邻近算法是K=1时的特殊情形。K近邻算法特点:K近邻算法没有显式的学习过程。3.2.K近邻模型K近邻模型的三个基本要素:距离度量、K值的选择、
北岛寒沫
·
2023-01-25 12:28
机器学习
学习
算法
统计学习方法
学习笔记(2)感知机
感知机2.1.感知机模型2.2.感知机学习策略2.3.感知机学习算法感知机的概述:感知机是用于二分类的线性分类模型。输入为实例对象的特征向量,输出为实例的类别,类别用±1表示。感知机将实例划分为正负两类分离超平面,属于判别模型。感知机算法通过随机梯度下降法进行求解。感知机算法的优点在于简单且易于实现。感知机算法是神经网络算法和支持向量机算法的基础。2.1.感知机模型感知机的定义:假设输入空间包含于
北岛寒沫
·
2023-01-25 12:26
机器学习
学习
马尔可夫链(Markov chain)的性质
本文内容主要参考:
李航
老师的《
统计学习方法
》以下介绍离散状态马尔可夫链的性质。可以自然推广到连续状态马尔可夫链。
Fo*(Bi)
·
2023-01-24 17:49
算法
python
马尔可夫链
马尔可夫链(Markov chain)的基本认识
本文内容主要参考:
李航
老师的《
统计学习方法
》还有看看马尔科夫链一、马尔可夫链在统计学中的定义马尔可夫链(MarkovChain),描述了一种状态序列,其每个状态值取决于前面有限个状态。
Fo*(Bi)
·
2023-01-24 17:19
算法
python
马尔可夫链
复现经典:《
统计学习方法
》第 4 章 朴素贝叶斯
本文是
李航
老师的《
统计学习方法
》[1]一书的代码复现。作者:黄海广[2]备注:代码都可以在github[3]中下载。我将陆续将代码发布在公众号“机器学习初学者”,敬请关注。
湾区人工智能
·
2023-01-24 11:44
【ML·机器学习】S1P1统计学习
【ML·机器学习】S1·
统计学习方法
,为:【ML·机器学习】系列博客第一部分内容,内容主要相关数学、统计学等理论与计算机知识的结合。本节S1P1主要内容为介绍统计学习的相关概念,特点,对象,目的等。
脚踏实地的大梦想家
·
2023-01-22 12:30
机器学习
学习
人工智能
统计学习
AI工程师技术学习进阶指南
数学基础微积分《北京大学高等数学B》线性代数北京大学出版社,《线性代数简明教程》MIT的线性代数公开课概率论与数理统计
李航
《
统计学习方法
》朴素概率论钟开来概率论朴素统计学理论北京大学出版社,《概率论与数理统计下册
保护我方鲁班七号
·
2023-01-20 13:08
机器学习
算法
人工智能
机器学习
python
AI
《
统计学习方法
》Chapter.4 朴素贝叶斯(naive Bayes)
NaiveBayes朴素贝叶斯理论基本方法输入空间:X⊆RnX\subseteqR^nX⊆Rn为nnn维离散向量空间的集合(本文只介绍离散特征空间下的朴素贝叶斯方法)输出空间:Y={c1,c2,...,cK}Y=\{c_1,c_2,...,c_K\}Y={c1,c2,...,cK}训练数据集:T={(x1,y1),(x2,y2),...,(xN,yN)}T=\{(x_1,y_1),(x_2,y_2
taotaoiit
·
2023-01-18 17:41
统计学习方法笔记
学习方法
机器学习
人工智能
朴素贝叶斯模型(naive bayes)
朴素贝叶斯模型(naivebayes)注:本博客为周志华老师《机器学习》的读书笔记,但同时也参考了
李航
老师的《统计学习》方法,以及其他资料(见参考文献),虽有自己的理解,但博客里的例子是基于《机器学习》
天泽28
·
2023-01-18 17:38
机器学习&深度学习
naive
bayes
朴素贝叶斯
生成模型
机器学习 day1
书籍链接:http://tangshusen.me/Dive-into-DL-PyTorch/#/一、线性回归对于「线性模型」的内容,那我们就来看看「西瓜书」「
统计学习方法
」「ESL」「PRML」这几本书大概是怎么来讲解这部分内容的
dcr-lzh
·
2023-01-18 14:16
深度学习
pytorch
统计学习方法
读书笔记第五章:决策树
统计学习方法
读书笔记第五章:决策树决策树决策树模型与学习特征选择决策树的生成决策树的剪枝CART算法CART剪枝决策树决策树是一种基本的分类与回归方法。
LYPG
·
2023-01-17 12:48
机器学习(
李航
统计学习方法
)
目录绪论-资料介绍绪论-频率派vs贝叶斯派频率派的观点贝叶斯派的观点监督学习与无监督学习单变量线性回归模型表示代价函数梯度下降多变量线性回归多维特征多变量梯度下降梯度下降法实践1-特征缩放梯度下降法实践2-学习率特征和多项式回归正规方程逻辑回归分类问题假说表示判定边界代价函数简化的成本函数和梯度下降高级优化多类别分类:一对多正则化过拟合的问题代价函数正则化线性回归正则化的逻辑回归模型神经网络非线性
快乐的阿江江
·
2023-01-16 08:01
机器学习
机器学习:《
李航
统计学方法》二
感知器他是二类分类的线性分类模型,输出的是实例的特征向量,而输出的是实例的类别。数据集是线性可分数据集和线性不可分的区别就是:是否可以将数据集的正实例点和负实例点完全正确地划分到超平面的两侧,也就是对所有y=1的实例都有wx+b>0,对y=-1的实例,都有wx+b<0感知机学习算法在采用不同的初值或者选取不同的误分类点的时候,解可以不同。并且感知机学习算法是基于随机梯度下降法的对损失函数的最优化算
关切得大神
·
2023-01-16 08:00
机器学习
李航
老师新作《机器学习方法》上市了!附购买链接
李航
老师的《
统计学习方法
》第一版于2012年出版,讲述了统计机器学习方法,主要是一些常用的监督学习方法。第二版增加了一些常用的无监督学习方法,由此本书涵盖了传统统计机器学习方法的主要内容。
风度78
·
2023-01-16 08:00
人工智能
数据挖掘
神经网络
机器学习
深度学习
《机器学习方法(第三版)——
李航
》学习笔记(二)附代码
目录三、第三章k近邻法1、k近邻算法2、k近邻模型模型距离度量k值的选择分类决策规则3、k近邻法的实现:kd树构造kd树搜索kd树四、第四章朴素贝叶斯法1、朴素贝叶斯的学习与分类2、朴素贝叶斯法的参数估计三、第三章k近邻法k近邻法是一种基本分类与回归方法。k近邻法的输入为实例的特征向量,对应于特征空间的点;输出为实例的类别,可以取多类。k近邻法的输入为实例的特征向量,对应于特征空间的点;输出为实例
HitStuHan
·
2023-01-16 08:59
初学萌新
模式识别
笔记
机器学习
学习
人工智能
《机器学习方法(第三版)——
李航
》学习笔记(三)
目录五、第五章决策树1、决策树模型与学习决策树决策树与条件概率分布决策树学习2、特征选择信息增益3、决策树生成ID3算法4、决策树的剪枝CART算法五、第五章决策树决策树是一种基本的分类与回归方法。本章主要讨论用于分类的决策树。决策树模型呈树形结构,在分类问题中,表示基于特征对实例分类的过程。它可以认为是if-then规则的集合,也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型
HitStuHan
·
2023-01-16 08:59
笔记
初学萌新
机器学习
python
算法
机器学习
人工智能
文末送书 |
李航
老师新作!机器学习经典著作《
统计学习方法
》全新升级
李航
著清华大学出版社2022-04-01ISBN:9787302597308定价:138.00元新书推荐今日福利|关于本书|本书在《
统计学习方法
》的基础上增加了深度学习的内容,全面系统地介绍了机器学习的主要方法
PaperWeekly
·
2023-01-16 08:59
人工智能
神经网络
算法
数据挖掘
机器学习
《机器学习方法(第三版)——
李航
》学习笔记(一)附代码
有幸了解到
李航
博士新书《机器学习方法》(第三版),并第一时间买了下来,此书
HitStuHan
·
2023-01-16 08:28
笔记
初学萌新
模式识别
机器学习
人工智能
python
算法
我有一个计划001之数据挖掘面试(更新ing)
2.吴恩达的深度学习的基础知识过一遍深度学习笔记,公式手推3.
李航
《统计学习》方法挑面经中的重点手推公式,有时间全都看4.牛客网的面经将下载的面经都打印,然后针对每个题学习知识点
weixin_34410662
·
2023-01-15 11:55
面试
数据结构与算法
大佬新书首发 | 《机器学习 公式推导与代码实现》正式出版!
关注过这本书的公众号读者应该知道,这本书在系列原创机器学习30讲的基础上,并参考了
李航
老师的《
统计学习方法
》和周志华老师的西瓜书《机器学习》的理论体系,从公式推导和代码实现两个维度来展示机器学习的基本内涵
人工智能与算法学习
·
2023-01-15 11:09
算法
人工智能
机器学习
编程语言
python
新书首发 | 《机器学习 公式推导与代码实现》正式出版!
关注过这本书的公众号读者应该知道,这本书在系列原创机器学习30讲的基础上,并参考了
李航
老师的《
统计学习方法
》和周志华老师的西瓜书《机器学习》的理论体系,从公式推导和代码实现两个维度来展示机器学习的基本内涵
算法channel
·
2023-01-15 11:09
算法
人工智能
机器学习
python
编程语言
人生第二本书!
关注过这本书的公众号读者应该知道,这本书在系列原创机器学习30讲的基础上,并参考了
李航
老师的《
统计学习方法
》和周志华老师的西瓜书《机器学习》的理论体系,从公式推导和代码实现两个维度来展示机器学习的基本内涵
Datawhale
·
2023-01-15 11:08
算法
机器学习
人工智能
python
编程语言
新书首发 | 《机器学习 公式推导与代码实现》正式出版!(文末送书)
关注过这本书的公众号读者应该知道,这本书在系列原创机器学习30讲的基础上,并参考了
李航
老师的《
统计学习方法
》和周志华老师的西瓜书《机器学习》的理论体系,从公式推导和代码实现两个维度来展示机器学习的基本内涵
风度78
·
2023-01-15 11:08
算法
人工智能
机器学习
python
编程语言
【
李航
统计学习笔记】第五章:决策树
5.1树的定义树的最顶端叫根节点,所有样本的预测都是从根节点开始的每一个圆形节点表示判断,每个节点只对样本的某个属性进行判断。矩形节点是标记节点,走到矩形节点表示判断结束,将矩形节点中的标签作为对应的预测结果。怎么构建决策树?如果苹果的样本还有一个特征叫形状,我们为形状建立球形和立方型两个分支,显然所有的样本都会到球形分支里面去,这样的判断没有进行有效地划分。此外根据某个特征X,10个苹果中9个会
西风瘦马1912
·
2023-01-15 08:36
李航统计学习笔记
机器学习
决策树
统计学习方法
第二版 读书笔记_第二章 感知机
感知机2.1感知机模型定义2.1(感知机)假设输入空间(特征空间)是X∈Rn\mathcalX\in\mathcalR^nX∈Rn,输出空间是Y={+1,−1}\mathcalY=\{+1,-1\}Y={+1,−1}.输入x∈Xx\in\mathcalXx∈X表示实例的特征向量,对应于输入空间(特征空间)的点;输出y∈Yy\in\mathcalYy∈Y表示实例的类别.由输入空间到输出空间的如下函数
EricZHAOedu
·
2023-01-13 22:05
统计学习
学习
机器学习
算法
李航
统计学习方法
(第二版)第二章 感知机学习笔记【理论篇】
感知机感知机的定义感知机的数学表达式感知机的几何意义感知机的目标函数数据集线性可分目标函数推导感知机的优化方法原始形式随机梯度下降批量梯度下降为什么用随机梯度下降而不用批量梯度下降对偶形式为什么要转化成对偶形式感知机的定义感知机是二分类线性分类模型,输入为实例的特征,输出为实例类别,实例类别取+1和-1。感知机是属于判别模型,因为其求出分离超平面直接将输入实例划分为正例和负例。感知机的数学表达式感
禅心001
·
2023-01-13 22:04
深度学习
统计学习方法第二版
【机器学习笔记】《
统计学习方法
》第二章 感知机+随机梯度下降法
主要参考书目《
统计学习方法
》第2版,清华大学出版社参考书目MachineLearninginAction,PeterHarrington用于考研复试笔记,所以写的很简洁,自己能看懂就行。
Baolar_Code
·
2023-01-13 22:30
机器学习
机器学习
电信保温杯笔记——《
统计学习方法
(第二版)——
李航
》第2章 感知机
电信保温杯笔记——《
统计学习方法
(第二版)——
李航
》第2章感知机论文介绍特点模型结构损失函数优化目标感知机学习算法的原始形式举例算法收敛性感知机学习算法的对偶形式相关视频相关的笔记相关代码pytorchtensorflowkeraspytorchAPI
电信保温杯
·
2023-01-13 22:27
机器学习
《
统计学习方法
第二版》学习笔记2——感知机
1理论部分1.1感知机模型1.2感知机学习策略1.3感知机算法1.3.1原始形式算法1.3.2对偶形式算法2代码部分2.1Perceptron2.2scikit-learn实例前言本文主要参考资料:《
统计学习方法
sd3145265
·
2023-01-13 22:27
统计学习方法
组队学习
统计学
统计模型
机器学习
上一页
2
3
4
5
6
7
8
9
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他