统计学习第14页

Python机器学习学习笔记之——引言

它是统计学、人工智能和计算机科学交叉的研究领域，也被称为预测分析或统计学习。

前丨尘忆·梦·2022-12-06 13:05

统计学习方法李航课后习题答案第二版机器学习

李航《统计学习方法》课后习题答案（第2版）【李航课后习题解答+书中疑点推导+算法代码实现+可私聊耐心解答(48小时内回复)，包会！！】

#苦行僧·2022-12-05 16:25

7 支持向量机

支持向量机支持向量机(SVM)是在统计学习理论基础上发展起来的一种数据挖掘方法，1992年由Boser,Guyon和Vapnik提出，在解决小样本、非线性、高维的回归和分类问题上，有许多优势。

AlanshaoTT·2022-12-05 15:22

一张图掌握SVM——支持向量机

前言：笔者在学习SVM的过程中找了很多书籍、资料以及学习笔记，但是感觉看起来都云里雾里莫名其妙，始终不得要领，最近在看《统计学习方法》---李航---清华大学出版社---ISBN978-7-302-27595

科学元某人·2022-12-05 11:24

KNN在Mnist上的实现

KNN在Mnist上的实现原理博客：统计学习方法|K近邻原理剖析及实现|Dodo(pkudodo.com)数据集：Statistical-Learning-Method_Code/Mnistatmaster

Sky_codes·2022-12-05 10:12

机器学习——Logistic回归

Logistic回归简介Logistic回归是统计学习中的经典分类方法，属于对数线性模型，所以也被称为对数几率回归。该模型是一种分类算法，Logistic回归是一种线性分类器，针对的是线性可分问题。

fishsmans·2022-12-05 09:40

Logistic回归-机器学习

一、logistics回归是什么Logistic回归是统计学习中的经典分类方法，属于对数线性模型，所以也被称为对数几率回归。

郭小胖.·2022-12-05 09:06

如何用Python实现支持向量机（SVM）?

SVM支持向量机是建立于统计学习理论上的一种分类算法，适合与处理具备高维特征的数据集。

qq_38220914·2022-12-05 08:30

《统计学习方法》读书笔记第2章：感知机

第二章：感知机感知机（perceptron）于1957年由Rosenblatt提出，是神经网络与支持向量得基础。其输入为实例得特征向量，输出为实例得类别，是二类分类的线性分类模型，属于判别模型。感知机的学习旨在求出将训练数据进行线性划分的超平面，为此，导入基于误分类的损失函数，利用梯度下降法对损失函数进行极小化，求得感知机模型。模型感知机定义假设输入空间（特征空间）是X∈Rn\it{X}\in{R

xcj～·2022-12-04 13:00

感知机模型学习笔记及Python实现

最近刚接触李航博士的《统计学习方法》，还是挺赞的一本书，特别适合机器学习初学者的入门。里面主要阐述机器学习中的几大经典模型的理论方面，包括感知机、kNN、决策树、朴素贝叶斯、逻辑回归、SVM等。

wangxin0314·2022-12-04 13:27

《统计学习方法》读书笔记——感知机（原理+代码实现）

传送门《统计学习方法》读书笔记——机器学习常用评价指标《统计学习方法》读书笔记——感知机（原理+代码实现）《统计学习方法》读书笔记——K近邻法（原理+代码实现）《统计学习方法》读书笔记——朴素贝叶斯法（

郭义臣·2022-12-04 13:53

统计学习方法笔记，第二章感知机的python代码实现

实现的比较粗糙，代码如下：classPerceptron:importnumpyasnpdef__init__(self,w=0,b=0,lr=1,epoch=100):self.weight=wself.bias=bself.lr=lr#lr:learningrateself.epoch=epochdefsign(self,x):ifnp.dot(np.array(self.weight),x)

努力学挖掘机的李某某·2022-12-04 13:23

李航《统计学习方法》学习笔记及python实现：第二章感知机

感知机（perceptron）是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和–1二值。感知机对应于输入空间（特征空间）中将实例划分为正负两类的分离超平面，属于判别模型。感知机学习旨在求出将训练数据进行线性划分的分离超平面，为此，导入基于误分类的损失函数，利用梯度下降法对损失函数进行极小化，求得感知机模型。模型假设输入空间（特征空间）是x⊆Rn，输出空间是Y＝{+1,-

XB_please·2022-12-04 13:48

NNDL 实验五前馈神经网络（3）鸢尾花数据集

DataLoader进行封装4.5.3模型构建4.5.4完善Runner类4.5.5模型训练4.5.6模型评价4.5.7模型预测思考题总结参考：深入研究鸢尾花数据集画出数据集中150个数据的前两个特征的散点分布图：【统计学习方法

喝无糖雪碧·2022-12-04 09:14

支持向量机SVM的原理、算法、应用超详述

1.引言2.原理（线性可分、线性不可分、核函数）一.引言1.支持向量机[1-2](supportvectormachines，SVM)是建立在统计学习理论[3-4]VC维理论和结构风险最小化原理基础上的机器学习方法

king 开龙wu·2022-12-04 07:38

动态规划思想

3.HMM学习方式：有标签：统计学习无标签：EM学习importjiebaimportjieba.possegaspsgmstr='我爱北京天安门'foriinjieba.cut(m

小杨变老杨·2022-12-03 17:35

1.3 统计学习方法的三要素

1.3统计学习方法的三要素监督学习的三要素模型策略无监督学习统计学习方法的三要素为模型+策略+算法监督学习的三要素模型假设空间(HypothesisSpace）：所有可能的条件概率分布或决策函数，用F\

是我樂樂呀·2022-12-03 13:30

SVM损失函数

SVM损失函数支持向量机（SVM）是90年代中期发展起来的基于统计学习理论的一种机器学习方法，通过寻求结构化风险最小来提高学习机泛化能力，实现经验风险和置信范围的最小化，从而达到在统计样本量较少的情况下

tomatotian·2022-12-03 12:43

mysql 三阶多项式拟合,《统计学习导论-基于R应用》第三章：线性回归（代码）...

库library库：一组不含在基础R配置内的函数和数据集library(MASS)#加载库library(ISLR)#安装库install.packages("ISLR")简单线性回归fix(Boston)#查看Boston数据集names(Boston)#查看数据集的列名(预测变量+响应变量medv)'crim''zn''indus''chas''nox''rm''age''dis''rad''

岚鷲·2022-12-03 10:27

NLP之基本介绍

研究方向自然语言处理自然语言处理的目标算法相关工作业务型研究型算法工程师需要的技能关于算法的学习NLP面临的困难NLP的发展历程图灵测试NLP发展现状深度学习发展历程第一代神经网络（1958~1969）第二代神经网络（1986~1998）统计学习方法的春天

人工智能有点·2022-12-03 08:04

从零开始学人工智能--统计学习：统计学习基础知识

统计学习基础知识文章目录统计学习基础知识统计学习种类1.1监督学习1.1.1分类问题1.1.2回归问题1.2非监督学习统计学习中的基本概念2.1统计学习三要素：模型，策略，算法2.2欠拟合和过拟合2.3

千锋python和唐唐·2022-12-03 04:22

R语言聚类分析

不用指定类别的数目hclust()**(1)pvclust生成碎石图、P值和突出显示的方框**在线案例1在线案例2数据预处理鸢尾花数据：根据花萼和花瓣的长度进行归类Iris鸢尾花数据集是一个经典数据集，在统计学习和机器学习领域都经常被用作示例

来臻·2022-12-02 15:11

统计学习方法 | 第1章统计学习方法概论

第1章统计学习方法概论1．统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行分析与预测的一门学科。统计学习包括监督学习、非监督学习、半监督学习和强化学习。

weixin_30352645·2022-12-02 13:26

EM算法原理和实现的学习总结

我对EM算法的理解过程经历了如下几个阶段：看《统计学习方法》上的第9章EM算法及其推广，对EM算法需要解决的问题和原理有了一个初步的印象；（这个时候其实并不是完全明白）根据EM算法整理及其pytho

ForcedOverflow·2022-12-02 13:55

java em算法_关于EM算法原理的分析与理解（Python实现）

本文的计算公式出自《统计学习方法》，写这篇文章主要是想把自己对这个算法的思路理清，并把自己的理解记录下来，同时分享出来，希望能够帮助到打算入门机器学习的人。

山林公子·2022-12-02 13:55

《统计学习方法》第九章 EM算法(原理+代码)

EM算法EM算法是含有隐变量的概率模型极大似然估计或极大后验概率估计的迭代算法含有隐变量的概率模型的数据表示为θ\thetaθ这里，YYY是观测变量的数据，ZZZ是隐变量的数据，θ\thetaθ是模型参数EM算法通过迭代求解观测数据的对数似然函数L(θ)=log⁡P(Y∣θ){L}(\theta)=\log{P}(\mathrm{Y}|\theta)L(θ)=logP(Y∣θ)的极大化，实现极大似

小鹏AI·2022-12-02 13:54

2.逻辑回归算法梳理

逻辑回归与线性回归的联系与区别2、逻辑回归的原理3、逻辑回归损失函数推导及优化4、正则化与模型评估指标5、逻辑回归的优缺点6、样本不均衡问题解决办法7.sklearn参数参考资料1、西瓜书2、cs229吴恩达机器学习课程3、李航统计学习

weixin_30823683·2022-12-02 10:32

ESL4.4 逻辑斯蒂回归（logistic回归）学习笔记

4.4逻辑斯蒂回归这是一篇有关《统计学习基础》，原书名TheElementsofStatisticalLearning的学习笔记，该书学习难度较高，有很棒的学者将其翻译成中文并放在自己的个人网站上，翻译质量非常高

Nstar-LDS·2022-12-02 10:29

机器学习课程笔记---支持向量机

引言机器学习三种方法：1、经典的参数估计方法局限性是需要样本的先验分布2、非线性方法，如ann局限性是全靠经验，缺少理论3、统计学习理论针对小样本误差：1、一般误差真实误差2、经验误差来自样本机器学习的目标是最小化一般误差

野生蘑菇菌·2022-12-02 02:53

深度学习模型可解释性（重温入门知识）

事先事中事后三类型+LIME（模型无关分析）方法简单实现目录1.可解释性是什么0x1：广义可解释性0x2：在统计学习中的可解释性0x3：机器学习领域的可解释性1.决策树是目前业内公认可解释性最好的非线性机器学习算法

再给一碗吧·2022-12-02 00:40

线性回归、最小二乘原理（Linear_regression）

参考了统计学习方法，概率论与数理统计，工程线性代数，西瓜书，MachineLearnigwithpython做的总结，所以不能作为教程，还包含自己用sklearn做的一些对比实验，原文是写在jupyter

geter_CS·2022-12-01 02:10

《统计学习方法》(李航) 感知机模型算法

第二章感知机感知机是二分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间（特征空间）中将实例划分为正负两类的分离超平面，属于判别模型。导入基于分类的损失函数，利用梯度下降算法对损失函数进行极小化，求得感知机模型。分为原始模式和对偶模式。2.1感知机模型定义2.1（感知机）假设输入空间（特征空间）是，输出空间是。输入表示实例的特征向量，对应于输入空间

APPLECHARLOTTE·2022-11-30 20:08

《统计学习方法》K近邻算法（KNN）

第3章K近邻算法k近邻算法(kNN)是一种基本分类和回归方法。本书只讨论分类问题中的k近邻算法。k近邻算法的输入为实例的特征向量，对应于特征空间的点；输出为实例的类别，可以取多类。k近邻法假设给定一个训练数据集，其中的实例类别已定。分类时，对新的实例，根据其k个最近邻的训练实例的类别，通过多数表决等方式进行预测。因此，k近邻法不具有显式的学习过程。3.1k近邻算法输入：训练数据集其中,为实例的特征

APPLECHARLOTTE·2022-11-30 20:38

统计学习方法——机器学习和统计学习

1．统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行分析与预测的一门学科。统计学习包括监督学习、非监督学习、半监督学习和强化学习。

小陈phd·2022-11-30 20:57

李航统计学习方法公式推导参考

今天继续学习李航老师的统计学习方法，虽然老师写的很好，但是由于我的数学基础不太好，所以有些公式还是看起来有些吃力，就想在网上找一下有没有大佬写的推导公式的参考，就像周志华老师的西瓜书在网上有南瓜书作为辅助一样

东大梅西·2022-11-30 20:55

李航老师统计学习方法答案汇总

缺了第20章的答案，实在有点难，就看了看大致思想，要期末考试了，算是两个月把李航老师的书上的算法学了一遍，感觉推导了无数个公式，有些简单的算法自己也实现了。缺的知识以后再补充吧！第一部分第一章第二章第三章第四章第五章第六章第七章第八章第九章第十章第十一章第二部分第十四章第十五章第十六章第十七章第十八章第十九章第二十一章

六七～·2022-11-30 20:23

统计学习方法——第1章（个人笔记）

统计学习方法——第1章统计学习及监督学习概论《统计学习方法》（第二版）李航，学习笔记1.1统计学习1.特点（1）以计算机及网络为平台，是建立在计算机及网络上的；（2）以数据为研究对象，是数据驱动的学科；

抽屉疯了·2022-11-30 20:53

李航——《统计学习方法》（一）

第1章统计学习方法概论1.统计学习统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。也可以说统计学习就是计算机系统通过运用数据及统计方提高系统性能的机器学习。

ccj211985·2022-11-30 20:51

统计学习方法——概述

统计学习方法之概述1.统计学习的特点(1)统计学习以计算机及网络为平台，是建立在计算机及网络上的;(2)统计学习以数据为研究对象，是数据驱动的学科(3)统计学习的目的是对数据进行预测与分析;(4)统计学习以方法为中心

全部都AC·2022-11-30 20:19

《统计学习方法》

第1章统计学习方法概论1.1统计学习统计学习（statisticallearning）是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。统计学习的对象是数据（data）。

README.·2022-11-30 20:49

统计学习方法学习笔记：第十五章.奇异值分解

第十五章：奇异值分解（SVD:singularvaluedecomposition）定义与性质将一个非零的\color{red}{非零的}非零的的m×n\color{red}{m\times{n}}m×n的实矩阵A，表示为以下三个矩阵乘积的运算：A=UΣVT，这里是完全奇异值分解\color{red}{A=U\Sigma{V^T}，这里是完全奇异值分解}A=UΣVT，这里是完全奇异值分解其中，U是

小滔滔ahh·2022-11-30 18:05

《统计学习方法（第2版）》李航第15章奇异值分解 SVD 思维导图笔记及课后习题答案（步骤详细）SVD 矩阵奇异值十五章

15.1试求矩阵A=[120202]A=\left[\begin{array}{lll}1&2&0\\2&0&2\end{array}\right]A=[122002]的奇异值分解。手算了一下结果，U=15[122−1],Σ=[300020],VT=15[53234302−1−212]U=\frac{1}{\sqrt{5}}\left[\begin{array}{ll}1&2\\2&-1\end{

ML--小小白·2022-11-30 18:03

统计学习方法第15章-奇异值分解SVD

定义矩阵的奇异值分解（SVD）是指，将一个非零的m×nm\timesnm×n实矩阵A,A∈Rm×nA,A\in\mathbf{R}^{m\timesn}A,A∈Rm×n,表示为三个实矩阵相乘的形式:A=UΣVTA=U\SigmaV^{\mathrm{T}}A=UΣVT其中，UUU是mmm阶正交矩阵,VVV是nnn阶正交矩阵，Σ\SigmaΣ是由降序排列的非负的对角线元素组成的m×nm\timesn

旺旺棒棒冰·2022-11-30 18:03

复现经典：《统计学习方法》第15章奇异值分解

第15章奇异值分解本文是李航老师的《统计学习方法》一书的代码复现。作者：黄海广备注：代码都可以在github中下载。我将陆续将代码发布在公众号“机器学习初学者”，可以在这个专辑在线阅读。

风度78·2022-11-30 18:33

《统计学习方法》第十五章奇异值分解

奇异值分解矩阵的奇异值分解是指将m×nm\timesnm×n实矩阵AAA表示为以下三个实矩阵乘积形式的运算A=UΣVTA=U\SigmaV^{T}A=UΣVT其中UUU是mmm阶正交矩阵，VVV是nnn阶正交矩阵，Σ\SigmaΣ是m×nm\timesnm×n矩形对角矩阵Σ=diag⁡(σ1,σ2,⋯ ,σp),p=min⁡{m,n}\Sigma=\operatorname{diag}(\sigm

小鹏AI·2022-11-30 18:03

迈过三重门——详解SVM及其Python实现

本文主要基于李航《统计学习方法》与周志华《机器学习》完成，加入了若干个人推导与注解，文后附Python3源码。跟我推导完，相信你一定会有收获。

数清风·2022-11-30 15:45

【第三章】机器学习（2）

3.3支持向量机支持向量机基于统计学习理论，强调结构风险最小化。

Beixun_Qili·2022-11-30 14:01

（三）朴素贝叶斯与垃圾分类Python代码实现

李航老师《统计学习方法》第二版学习笔记知识点：朴素贝叶斯是基于贝叶斯定理与特征条件独立假设的分类算法属于生成模型优点：算法逻辑简单，时空开销小缺点：条件独立性的假设可能会导致牺牲一定的分类准确性朴素贝叶斯的参数估计可以是极大似然估计或贝叶斯估计贝叶斯公式

十二十二呀·2022-11-30 13:52

《统计学习方法》第1章统计学习方法概论 1.2 监督学习

《统计学习方法》第1章统计学习方法概论1.2监督学习1.2.1基本概念1.输入空间、特征空间与输出空间2.联合概率分布3.假设空间1.2.2问题的形式化1.2监督学习监督学习的任务就是学习一个模型，使模型能够对任意给定的输入

看你很6哦·2022-11-30 11:56

统计学习方法及监督学习

§1.1统计学习（statisticallearning）又称统计机器学习，目的是：对数据进行分析或预测。统计学习关于数据的基本假设是同类数据具有一定的统计规律性，可以用概率统计的方法处理。

sunflower_level1·2022-11-30 11:55

推荐频道

统计学习