E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
统计学习方法-李航
统计学习方法
| 感知机
感知机是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1二值感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面,属于判别模型一.模型介绍和学习策略1.模型介绍2.几何含义3.学习策略数据集的线性可分性二.梯度下降法1.概念2.算法3.原理三.原始形式首先任意选取一个超平面,然后用梯度下降法不断极小化目标函数在这个过程中一次随机选取一个误分类点使其梯度下
奔跑的蜗牛君666
·
2022-12-20 09:23
机器学习
学习方法
算法
统计学习方法
| K 近邻法
一.简介1.直观理解定义:是一种基本的分类与回归方法主要思想:假定给定一个训练数据集,其中实例标签已定,当输入新的实例时,可以根据其最近的K个训练实例的标签,预测新实例对应的标注信息分类问题:对新的实例,根据与之相邻的K个训练实例的类别,通过多数表决等方式进行预测回归问题:对新的实例,根据与之相邻的K个训练实例的标签,通过均值计算进行预测2.算法3.误差率二.三要素1.模型K近邻法不具有显性的学习
奔跑的蜗牛君666
·
2022-12-20 09:23
机器学习
学习方法
人工智能
统计学习方法
| 朴素贝叶斯
朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法对于给定的训练数据集,首先基于特征条件独立假设学习输入/输出的联合概率分布;然后基于此模型,对给定的输入x,利用贝叶斯定理求出后验概率最大的输出y朴素贝叶斯法实现简单,学习和预测的效率都很高,是一种常用的方法朴素贝叶斯法实际上学习到生成数据的机制,所以属于生成模型一.贝叶斯定理贝叶斯思维:先验概率→调整因子→后验概率1.条件概率2.贝叶斯定理
奔跑的蜗牛君666
·
2022-12-20 09:23
机器学习
学习方法
算法
统计学习方法
李航
课后习题答案 第二版 机器学习
李航
《
统计学习方法
》课后习题答案(第2版)【
李航
课后习题解答+书中疑点推导+算法代码实现+可私聊耐心解答(48小时内回复),包会!!】
#苦行僧
·
2022-12-20 09:50
学习方法
人工智能
深度学习
统计学习
统计学习方法
| 概论
一.简介统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科1.
统计学习方法
的步骤①得到一个有限的训练数据集合②确定学习模型的集合(模型)③确定模型选择的准则(策略)④实现求解最优模型的算法
奔跑的蜗牛君666
·
2022-12-20 09:49
机器学习
学习方法
人工智能
隐马尔可夫模型 (hidden Markov model, HMM)
本文为《
统计学习方法
》的读书笔记目录隐马尔可夫模型的基本概念隐马尔可夫模型的定义观测序列的生成过程隐马尔可夫模型的3个基本问题概率计算算法直接计算法前向算法(forwardalgorithm)后向算法(
连理o
·
2022-12-20 07:38
机器学习
概率论
自然语言处理
机器学习
数据挖掘系列(8)朴素贝叶斯分类算法原理与实践
一个简单的例子朴素贝叶斯算法是一个典型的
统计学习方法
,主要理论基础就是一个贝叶斯公式,贝叶斯公式的基本定义如下:这个公式虽然看上去简单,但它却能总结历史,预知未来。
youbo_sun
·
2022-12-19 23:39
数据挖掘
数据挖掘
机器学习——(1)
参考书籍机器学习,周志华,清华大学出版社,2016
统计学习方法
,
李航
,清华大学出版社,2012DeepLearning,I.Goodfellow,Y.BengioandA.Courville,2016课程推荐
Sky_177
·
2022-12-19 09:54
隐马尔可夫模型最详细讲解 HMM(Hidden Markov Model)
www.bilibili.com/video/BV1BW411P7gV悉尼科大徐亦达https://www.bilibili.com/video/BV1MW41167Rfshuhuai大神如果是喜欢看书的,请参考
李航
老师
BruceJust
·
2022-12-18 16:19
Machine
Learning
NLP
机器学习
算法
自然语言处理
动态规划
机器学习-白板推导系列(十四)-隐马尔科夫(HMM,Hidden Markov Model)
频率派频率派的思想就衍生出了
统计学习方法
,
统计学习方法
的重点在于优化,找lossfunction。
Paul-Huang
·
2022-12-18 16:45
机器学习-白板推导
机器学习
算法
统计学
机器学习笔记-PCA(主成分分析)
参考资料(大量参考了第一个链接,里面讲的非常详细):https://zhuanlan.zhihu.com/p/77151308
统计学习方法
(
李航
)https://zhuanlan.zhihu.com/p
Serendipity-Wu
·
2022-12-17 14:49
机器学习
机器学习
人工智能
统计学习方法
---感知机
《
统计学习方法
》系列笔记的第一篇,对应原著第二章。大量引用原著讲解,加入了自己的理解。对书中算法采用Python实现,并用Matplotlib可视化了动画出来。
千寻~
·
2022-12-17 08:04
机器学习
python
统计学习方法
感知机
《
统计学习方法
》学习笔记_感知机(手写扫描)
感知机Perceptron由Rosenblatt于1957年提出,可以说是神经网络与支持向量机的爸爸。感知机是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1二值。感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面,属于判别模型。感知机学习旨在求出将训练数据进行线性划分的分离超平面,为此,导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化,求
全自动学习机器
·
2022-12-16 13:32
学习杂记
机器学习
神经网络
深度学习
《集体智慧编程》读书笔记
书中涉及到一些机器学习相关的内容,在
统计学习方法
读书笔记和西瓜书读书笔记中有所记录,所以只简单带过.本书源代码下载地址书中使用的python技巧字典的setdefault(key,value)方法,作用是如果键不在字典中
weixin_30396699
·
2022-12-16 12:37
数据库
人工智能
python
统计学习方法
之kNN算法
统计学习方法
读书笔记之kNN算法k近邻是什么k近邻法是机器学习中最基本的分类和回归方法,也称为kNN算法。通常k近邻法用于分类问题。k近邻法假定给定一个训练数据集,其中实例类别已定。
Morgan928
·
2022-12-16 08:20
机器学习
knn最近邻
人工智能
机器学习
算法
深度之眼课程打卡-
统计学习方法
01
绪论
统计学习方法
主要是讲
李航
博士
统计学习方法
那本书,一开始主要讲解了一些基本概念。作业打卡L1和L2范式l1范数的数学定义是所有数绝对值之和。在坐标平面上它是个正方形。l2范数的数
Big_quant
·
2022-12-16 06:34
深度学习
深度之眼
统计学习方法
决策树(decision tree)——(1)生成与度量指标
**注:本博客为
李航
《
统计学习方法
》与周志华《机器学习》读书笔记,虽然有一些自己的理解,但是其中仍然有大量文字摘自李老师和周老师的书籍内容。
猿童学
·
2022-12-15 22:43
机器学习
机器学习
python
数据挖掘
sklearn
决策树算法总结
点击上方“小白学视觉”,选择加"星标"或“置顶”重磅干货,第一时间送达前言决策树是机器学习模型较常用的一种方法,
李航
老师《
统计学习方法
》详细的描述了决策树的生成和剪枝,本文根据书中的内容,对决策树进行了总结
小白学视觉
·
2022-12-15 03:49
决策树
算法
python
机器学习
人工智能
python降维中特征维度的问题
python降维中特征维度的问题最近在学PCA降维,参考的是
李航
老师的
统计学习方法
第二版,自己上手编程时发现按照
李航
老师P310页公式16.39来定义样本数据时出现了一些问题,特此记录以供日后翻阅sklearn
nofaliure
·
2022-12-14 22:48
机器学习
python
朴素贝叶斯分类
一:贝叶斯原理朴素贝叶斯分类算法是一个典型的
统计学习方法
,主要的理论基础就是贝叶斯公式。贝叶斯公式定义如下所示:先验概率:通过经验来判断事情发生的概率。后验概率:后验概率就是发生结果之后,推测原因的概
onlynb
·
2022-12-14 20:44
概率论
算法
《西瓜书》+《南瓜书》第一章笔记(Datawhale)
大部分都是基于《西瓜书》和《
统计学习方法
》的一些日常记录,本人学识浅薄,如果有存在理解、记录偏差的地方,希望大家能帮忙指出一下,笔者不胜感激!~第一章1.1引言什么是机器学习?
游弋诗
·
2022-12-14 16:33
机器学习
机器学习
算法
人工智能
《机器学习》(周志华)第一章 绪论 笔记 学习心得
第1章绪论学习心得由于我之前已经学过了
李航
老师的《
统计学习方法
(第2版)》,所以这里面的概念没有啥不懂得,不会像教程说的有些难,毕竟学过一部分了。
ML--小小白
·
2022-12-14 15:21
机器学习(周志华)
机器学习
人工智能
1.4+1.5 L1、L2正则化
2022.08.27
李航
老师《
统计学习方法
》:一.统计学习及监督学习概论#本文目的就是为学者简化学习内容,提取我认为的重点把书读薄;#本文重点:1.5正则化理解一.统计学习及监督学习概论1.4+1.5L1
羊老羊
·
2022-12-14 15:07
统计学方法
李航
机器学习
统计学习方法
L1
L2正则化
【
李航
-
统计学习方法
】1.4模型评估与模型选择
1、训练误差与测试误差不同的学习方法会给出不同的模型。当损失函数给定时,基于损失函数的模型的训练误差和模型的测试误差就成为学习方法评估的标准。训练误差的大小,对判断给定的问题是不是一个容易学习的问题有意义。也就是说,一个问题越容易学习,那么它的训练误差就越小。但这本质上不重要。测试误差,反映了学习方法对未知的测试数据集的预测能力。测试误差小的方法具有更好的预测能力,是有效的方法。通常将学习方法对未
smile4548656
·
2022-12-14 15:01
统计学习
算法
机器学习
人工智能
《
统计学习方法
》(
李航
):模型评估选择、正则化与交叉验证、泛化能力、生成模型与判别模型、监督学习应用
PS:所写内容为读书笔记,如需了解更详细内容请购买正版书籍1.4模型评估与选择1.4.1训练误差和测试误差训练误差:模型对训练集预测结果的误差测试误差:模型对测试集测试结果的误差1.4.2过拟合与模型选择过拟合(over-fitting):学习时选择的模型所包含的参数过多,以至于出现这一模型对已知数据预测很好,但对未知数据预测很差的现象。当模型的复杂度增大时,训练误差会逐渐减小并趋近于0,而测试误
APPLECHARLOTTE
·
2022-12-14 15:50
#
李航统计学习
学习
机器学习
python
【
统计学习方法
】EM算法实现之隐马尔科夫模型HMM
1基本概念1.1马尔科夫链(维基百科)马尔可夫链(英语:Markovchain),又称离散时间马尔可夫链(discrete-timeMarkovchain,缩写为DTMC),因俄国数学家安德烈·马尔可夫得名,为状态空间中经过从一个状态到另一个状态的转换的随机过程。该过程要求具备“无记忆”的性质:下一状态的概率分布只能由当前状态决定,在时间序列中它前面的事件均与之无关。这种特定类型的“无记忆性”称作
qauzy
·
2022-12-13 20:12
机器学习
数学
个人学习笔记:EM与GMM算法
本篇文章为个人学习EM算法框架时的笔记,其中主要参考了
李航
老师的《
统计学习方法
》这本书以及PRML,中间有一些内容是从其他一些网络资料上摘抄下来的,具体来源比较杂,这里就不一一列出了,如有侵权请联系删除
ZJ&ZYQ
·
2022-12-13 10:18
笔记
算法
python
机器学习
机器学习中隐马尔可夫模型(Hidden Markov Model, HMM)理论
参考书:《
统计学习方法
》《TheModelThinker》文章目录隐马尔可夫模型(HiddenMarkovModel,HMM)1.马尔可夫宿命论1.1案例1.2宿命2.马尔可夫过程3.隐马尔可夫模型3.1
天真的和感伤的想象家
·
2022-12-13 09:52
Machine
Learning
算法
机器学习
隐马尔可夫模型
hmm
em
统计学习方法
之决策树通俗理解
决策树看完本文再学习《
统计学习方法
》相应内容,效果更好如果需要《
统计学习方法
》第二版pdf,可私信领取1.决策树思想决策树显然是像人那样做决策,比如挑选苹果我们可以先看颜色,我们觉得红色的可能好些,我们再在红色的苹果中看纹理等等
dxwell6
·
2022-12-13 06:19
机器学习
决策树理解
决策树理解(一)参考书籍:《机器学习》周志华,第1版《
统计学习方法
》
李航
,第2版用来记录自己对书中知识的理解,加强自己的理解和记忆,同时提出自己迷惑不解的地方,提高自己编辑的表达能力。
小耗子-Axel
·
2022-12-13 06:18
算法
决策树
机器学习
机器学习常用角标及其含义
李航
《
统计学习方法
》:d∗=maxα,β;αi≥0θD(
MiaL
·
2022-12-12 14:13
机器学习
||《
统计学习方法
》
李航
_第1章_蓝皮(学习笔记)
第1章
统计学习方法
概论监督学习统计学习三要素模型策略(经验风险和结构经验风险)判别模型与生成模型补充(含课后作业)MLE、MAP和贝叶斯估计证明经验风险最小化等价于极大似然估计(在特定条件下)证明结构风险最小化与最大后验概率等价
Rlin_by
·
2022-12-12 14:16
统计学习方法
机器学习(0):机器学习概述及基本概念
虽然之前粗略的学过一点皮毛,但是当初笔记做的实在不好,这次趁着看吴恩达老师的机器学习教学视频以及
李航
老师的《
统计学习方法
》,重新整理一下自己的笔记,同时也是整理一下自己的思路。
棉花糖灬
·
2022-12-11 18:27
机器学习
机器学习
结合openCV学习DIP之机器学习CNN
并且以此为依据可以从其他未知图像中检测出相似或相同的该对象A.在特征提取上,传统的图像处理都是自行设计提取固定特征的算子,在深度学习上主要是利用CNN网络来广泛的提取图像的特征.笔记以吴恩达课程为基础,全面介绍机器学习相关术语,再以
李航
Heisenberg-
·
2022-12-11 16:52
DIP
机器学习
OpenCV3学习笔记
统计学习方法
李航
课后习题答案 第二版 机器学习
李航
《
统计学习方法
》课后习题答案(第2版)【
李航
课后习题解答+书中疑点推导+算法代码实现+可私聊耐心解答(48小时内回复),包会!!】
#苦行僧
·
2022-12-11 13:12
学习方法
人工智能
深度学习
统计学
西瓜书研读——第三章 线性模型:线性几率回归(逻辑回归)
西瓜书研读系列:西瓜书研读——第三章线性模型:一元线性回归西瓜书研读——第三章线性模型:多元线性回归主要教材为西瓜书,结合南瓜书,
统计学习方法
,B站视频整理~人群定位:学过高数会求偏导、线代会矩阵运算、
猛男技术控
·
2022-12-11 01:43
从小白视角研读西瓜书
逻辑回归
回归
机器学习
用python写多项式拟合_多项式最小二乘法拟合的python代码实现
最近学习
李航
《
统计学习方法
》,在github上找到了这本书对应的源码,决定自己跟着敲一敲代码,也感谢代码的贡献者,链接如下:https://github.com/fengdu78/lihang-codegithub.com
weixin_39637256
·
2022-12-11 00:21
用python写多项式拟合
统计学习方法
中GDBT简单实现
模型:加法模型、每个基学习器为CART回归树桩损失函数:平方误差迭代停止条件:基学习器数达到上限、或整体误差低于设定值importnumpyasnpimportmathimportmatplotlib.pyplotasplt#准备数据x=np.arange(1,11,1)threshold=np.linspace(1.5,9.5,num=9)y=np.array([5.56,5.70,5.91,6
围炉夜谈
·
2022-12-10 16:19
python
机器学习
“上帝的算法”——EM
相比《
统计学习方法
》、《机器学习》来说,《数学之美》没有那么多的公式理论,全是科普性质的(开拓眼界),其中也不乏一些数学原理的解释,通俗易懂。
我曾经被山河大海跨过
·
2022-12-10 15:35
机器学习
数据挖掘
EM
k-means
机器学习
数据挖掘
算法
感知机对偶算法
知识源于——《
统计学习方法
(第二版)》
李航
感知机(perception)一种二分类的线性分类模型。输入为实例的特征向量,输出为实例的类别(二分类类别为-1,+1二值)。
木北鲜生
·
2022-12-10 08:03
#
机器学习
Python
算法
机器学习
python
多模态信息抽取(一)——融合知识图谱和多模态的文本分类研究(论文研读)
实体特征表示2.3图像特征表示2.4输入层2.5训练与分类3实验3.1数据集与评价方法3.2实验环境与模型参数3.3对比实验结果与分析4结术语参考文献:摘要:传统文本分类方法主要是基于单模态数据所驱动的经验主义
统计学习方法
椒椒。
·
2022-12-10 00:54
图像处理
深度学习
自然语言处理
知识图谱
人工智能
nlp
图像处理
人工智能 - 扩展阅读
illustrated-transformer2.AttentionIsAllYouNeed:https://arxiv.org/abs/1706.03762神经网络入门1.CS231n系列CS231n课程笔记翻译:反向传播笔记-知乎
统计学习方法
JYCJ_
·
2022-12-09 17:43
人工智能
人工智能
机器学习之高斯混合模型(GMM)及python实现
本章节内容参考了
李航
博士的《
统计学习方法
》本节不同之处在于分析讨论了多维度空间的高斯混合模型1高斯混合模型推导1.1高斯混合模型定义:高斯混合模型是指具有如下形式的概率分布模型:p(y∣θ)=∑k=1Kαkϕ
董蝈蝈
·
2022-12-09 11:53
机器学习
NLP
算法
python
机器学习
人工智能
numpy
机器学习入门必读书籍——
李航
《
统计学习方法
》(文尾免费领取)
《
统计学习方法
》是计算机及其应用领域的一门重要的学科。
无知红
·
2022-12-08 16:47
人工智能
机器学习
人工智能
电子书
基于
统计学习方法
的自然语言处理概述
NLP课程(一,NLP概述和应用场景)AI工程师核心技能:现实生活中问题—>数学优化问题—>通过合适的工具来解决。whatisNLPNLP=NLU+NLG·NLU:语音/文本-->意思(understanding)·NLG:意思—>文本/语音(generate)NLPisHarder(vsComputerVision)Multiplewaystoexpress:(多语一意)·凯美瑞是日本人设计的·
子颠三号倒四
·
2022-12-08 15:43
自然语言处理
机器学习--感知机学习算法
以下只给出了感知机算法的Python代码实现,想从头开始了解机器学习以及感知机模型的推荐
李航
老师的
统计学习方法
蓝宝书感知机算法原始形式#感知机(原始形式)importnumpyasnp#创建测试集,包含三个实例点和两个类别
weixin_45752264
·
2022-12-08 12:23
机器学习
算法
python
神经网络中的Regularization和dropout
1正则化机器学学习中的正则化相关的内容可以参见
李航
的书:
统计学习方法
。参阅者可以先了解有关的内容。正则化是用来降低overfitting(过拟合)的,减少过拟合的的其他方法有:增加训练集数
这孩子谁懂哈
·
2022-12-07 18:55
Machine
Learning
机器学习
神经网络
正则
统计学
EM算法例子
参考:
统计学习方法
EM算法的一个例子_陈嘟嘟cc的博客-CSDN博客_em算法应用实例#EMalgorithm#coinA,B,C;#coinAfrontprobabilityisphi,backprobabilityis1
Goodness2020
·
2022-12-07 12:57
机器学习
算法
【机器学习】提升方法AdaBoost二分类例题 C++实现
题目来源:
统计学习方法
(第二版
李航
)第八章第一节AdaBoost例子实现P158题目:给定如图所示训练数据集。假设弱分类器由xv产生,其阈值v使该分类器在训练数据上分类误差率最低。
ayitime
·
2022-12-07 12:25
分类
c++
《
统计学习方法
》学习笔记 第十三章 无监督学习概论
目录13.1无监督学习基本原理13.2基本问题13.3无监督学习三要素13.4无监督学习方法13.1无监督学习基本原理无监督学习是从无标注的数据中学习数据的统计规律或者说内在结构的机器学习,主要包括聚类、降维、概率估计。无监督学习可以用于数据分析或者监督学习的前处理。无标注数据U={x1,x2,...,xN}U=\{x_1,x_2,...,x_N\}U={x1,x2,...,xN}模型①函数z=g
LittleFish0820
·
2022-12-07 10:15
统计学习方法
无监督学习
统计学
上一页
5
6
7
8
9
10
11
12
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他