《统计学习方法

《统计学习方法》 第九章 EM算法(原理+代码)

EM算法EM算法是含有隐变量的概率模型极大似然估计或极大后验概率估计的迭代算法含有隐变量的概率模型的数据表示为θ\thetaθ这里，YYY是观测变量的数据，ZZZ是隐变量的数据，θ\thetaθ是模型参数EM算法通过迭代求解观测数据的对数似然函数L(θ)=log⁡P(Y∣θ){L}(\theta)=\log{P}(\mathrm{Y}|\theta)L(θ)=logP(Y∣θ)的极大化，实现极大似
小鹏AI·2022-12-02 13:54

线性回归、最小二乘原理（Linear_regression）

参考了统计学习方法，概率论与数理统计，工程线性代数，西瓜书，MachineLearnigwithpython做的总结，所以不能作为教程，还包含自己用sklearn做的一些对比实验，原文是写在jupyter
geter_CS·2022-12-01 02:10

《统计学习方法》(李航) 感知机模型算法

第二章感知机感知机是二分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间（特征空间）中将实例划分为正负两类的分离超平面，属于判别模型。导入基于分类的损失函数，利用梯度下降算法对损失函数进行极小化，求得感知机模型。分为原始模式和对偶模式。2.1感知机模型定义2.1（感知机）假设输入空间（特征空间）是，输出空间是。输入表示实例的特征向量，对应于输入空间
APPLECHARLOTTE·2022-11-30 20:08

《统计学习方法》K近邻算法（KNN）

第3章K近邻算法k近邻算法(kNN)是一种基本分类和回归方法。本书只讨论分类问题中的k近邻算法。k近邻算法的输入为实例的特征向量，对应于特征空间的点；输出为实例的类别，可以取多类。k近邻法假设给定一个训练数据集，其中的实例类别已定。分类时，对新的实例，根据其k个最近邻的训练实例的类别，通过多数表决等方式进行预测。因此，k近邻法不具有显式的学习过程。3.1k近邻算法输入：训练数据集其中,为实例的特征
APPLECHARLOTTE·2022-11-30 20:38

统计学习方法——机器学习和统计学习

2．统计学习方法三要素——模型、策略、算法，对理解统计学习方法起到提纲挈领的作用。
小陈phd·2022-11-30 20:57

李航统计学习方法公式推导参考

今天继续学习李航老师的统计学习方法，虽然老师写的很好，但是由于我的数学基础不太好，所以有些公式还是看起来有些吃力，就想在网上找一下有没有大佬写的推导公式的参考，就像周志华老师的西瓜书在网上有南瓜书作为辅助一样
东大梅西·2022-11-30 20:55

李航老师统计学习方法答案汇总

缺了第20章的答案，实在有点难，就看了看大致思想，要期末考试了，算是两个月把李航老师的书上的算法学了一遍，感觉推导了无数个公式，有些简单的算法自己也实现了。缺的知识以后再补充吧！第一部分第一章第二章第三章第四章第五章第六章第七章第八章第九章第十章第十一章第二部分第十四章第十五章第十六章第十七章第十八章第十九章第二十一章
六七～·2022-11-30 20:23

统计学习方法——第1章（个人笔记）

统计学习方法——第1章统计学习及监督学习概论《统计学习方法》（第二版）李航，学习笔记1.1统计学习1.特点（1）以计算机及网络为平台，是建立在计算机及网络上的；（2）以数据为研究对象，是数据驱动的学科；
抽屉疯了·2022-11-30 20:53

李航——《统计学习方法》（一）

第1章统计学习方法概论1.统计学习统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。也可以说统计学习就是计算机系统通过运用数据及统计方提高系统性能的机器学习。
ccj211985·2022-11-30 20:51

统计学习方法——概述

统计学习方法之概述1.统计学习的特点(1)统计学习以计算机及网络为平台，是建立在计算机及网络上的;(2)统计学习以数据为研究对象，是数据驱动的学科(3)统计学习的目的是对数据进行预测与分析;(4)统计学习以方法为中心
全部都AC·2022-11-30 20:19

《统计学习方法》

第1章统计学习方法概论1.1统计学习统计学习（statisticallearning）是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。统计学习的对象是数据（data）。
README.·2022-11-30 20:49

统计学习方法学习笔记：第十五章.奇异值分解

第十五章：奇异值分解（SVD:singularvaluedecomposition）定义与性质将一个非零的\color{red}{非零的}非零的的m×n\color{red}{m\times{n}}m×n的实矩阵A，表示为以下三个矩阵乘积的运算：A=UΣVT，这里是完全奇异值分解\color{red}{A=U\Sigma{V^T}，这里是完全奇异值分解}A=UΣVT，这里是完全奇异值分解其中，U是
小滔滔ahh·2022-11-30 18:05

《统计学习方法（第2版）》李航 第15章 奇异值分解 SVD 思维导图笔记 及 课后习题答案（步骤详细）SVD 矩阵奇异值 十五章

15.1试求矩阵A=[120202]A=\left[\begin{array}{lll}1&2&0\\2&0&2\end{array}\right]A=[122002]的奇异值分解。手算了一下结果，U=15[122−1],Σ=[300020],VT=15[53234302−1−212]U=\frac{1}{\sqrt{5}}\left[\begin{array}{ll}1&2\\2&-1\end{
ML--小小白·2022-11-30 18:03

统计学习方法第15章-奇异值分解SVD

定义矩阵的奇异值分解（SVD）是指，将一个非零的m×nm\timesnm×n实矩阵A,A∈Rm×nA,A\in\mathbf{R}^{m\timesn}A,A∈Rm×n,表示为三个实矩阵相乘的形式:A=UΣVTA=U\SigmaV^{\mathrm{T}}A=UΣVT其中，UUU是mmm阶正交矩阵,VVV是nnn阶正交矩阵，Σ\SigmaΣ是由降序排列的非负的对角线元素组成的m×nm\timesn
旺旺棒棒冰·2022-11-30 18:03

复现经典：《统计学习方法》第15章 奇异值分解

第15章奇异值分解本文是李航老师的《统计学习方法》一书的代码复现。作者：黄海广备注：代码都可以在github中下载。我将陆续将代码发布在公众号“机器学习初学者”，可以在这个专辑在线阅读。
风度78·2022-11-30 18:33

《统计学习方法》 第十五章 奇异值分解

奇异值分解矩阵的奇异值分解是指将m×nm\timesnm×n实矩阵AAA表示为以下三个实矩阵乘积形式的运算A=UΣVTA=U\SigmaV^{T}A=UΣVT其中UUU是mmm阶正交矩阵，VVV是nnn阶正交矩阵，Σ\SigmaΣ是m×nm\timesnm×n矩形对角矩阵Σ=diag⁡(σ1,σ2,⋯ ,σp),p=min⁡{m,n}\Sigma=\operatorname{diag}(\sigm
小鹏AI·2022-11-30 18:03

迈过三重门——详解SVM及其Python实现

本文主要基于李航《统计学习方法》与周志华《机器学习》完成，加入了若干个人推导与注解，文后附Python3源码。跟我推导完，相信你一定会有收获。
数清风·2022-11-30 15:45

（三）朴素贝叶斯与垃圾分类Python代码实现

李航老师《统计学习方法》第二版学习笔记知识点：朴素贝叶斯是基于贝叶斯定理与特征条件独立假设的分类算法属于生成模型优点：算法逻辑简单，时空开销小缺点：条件独立性的假设可能会导致牺牲一定的分类准确性朴素贝叶斯的参数估计可以是极大似然估计或贝叶斯估计贝叶斯公式
十二十二呀·2022-11-30 13:52

《统计学习方法》第1章 统计学习方法概论 1.2 监督学习

《统计学习方法》第1章统计学习方法概论1.2监督学习1.2.1基本概念1.输入空间、特征空间与输出空间2.联合概率分布3.假设空间1.2.2问题的形式化1.2监督学习监督学习的任务就是学习一个模型，使模型能够对任意给定的输入
看你很6哦·2022-11-30 11:56

统计学习方法及监督学习

§1.1统计学习（statisticallearning）又称统计机器学习，目的是：对数据进行分析或预测。统计学习关于数据的基本假设是同类数据具有一定的统计规律性，可以用概率统计的方法处理。§1.2统计学习分类♧1.2.1基本分类统计学习或强化学习一般包括监督学习、无监督学习和强化学习。有时还包括半监督学习和主动学习。♡1监督学习本质是学习输入到输出的映射的统计规律。每个具体的输入实例是一个特征，
sunflower_level1·2022-11-30 11:55

逻辑回归（Logistic Regression）通俗解释

从大的类别上来说，逻辑回归是一种有监督的统计学习方法，主要
AI视觉网奇·2022-11-30 11:22

深度学习从入门到精通——统计学习方法概论

统计学习方法概论文章目录统计学习方法概论前言章节目录导读实现统计学习方法的步骤统计学习方法三要素模型模型是什么?
小陈phd·2022-11-30 10:52

统计学习方法——4.决策树——XGBoost、LightGBM

一、介绍1.XGBoost（极限梯度提升树，eXtremeGradientBoosting）：（1）XGB目标函数，一棵树的生成XGB目标函数：XGB目标函数=训练损失+正则项（树的复杂度）XGB目标函数=训练损失+正则项（树的复杂度）XGB目标函数=训练损失+正则项（树的复杂度）训练损失用于减小偏差，一般用平方损失函数或逻辑回归损失函数。正则项为全部k棵树的复杂度进行求和作为正则化项，防止模型过
要坚持写博客呀·2022-11-30 08:20

1.1 统计学习方法的定义与分类

统计学习方法的定义与分类统计学习的概念统计学习的定义统计学习运用到的领域统计学习的步骤统计学习的分类统计学习的概念统计学习的定义统计学习(StatisticalMachineLearning)是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科
是我樂樂呀·2022-11-30 08:15

kmeans算法_实战 | KMeans 聚类算法

常见的机器学习算法：监督学习算法：逻辑回归，线性回归，决策树，朴素贝叶斯，K近邻，支持向量机，集成算法Adaboost等无监督算法：聚类，降维，关联规则,PageRank等为了详细的理解这些原理，曾经看过西瓜书，统计学习方法
weixin_39904268·2022-11-30 08:00

kmeans算法_【白话机器学习】算法理论+实战之KMeans聚类算法

常见的机器学习算法：监督学习算法：逻辑回归，线性回归，决策树，朴素贝叶斯，K近邻，支持向量机，集成算法Adaboost等无监督算法：聚类，降维，关联规则,PageRank等为了详细的理解这些原理，曾经看过西瓜书，统计学习方法
weixin_39593469·2022-11-30 08:30

kmeans算法_KMeans聚类算法详解

常见的机器学习算法：监督学习算法：逻辑回归，线性回归，决策树，朴素贝叶斯，K近邻，支持向量机，集成算法Adaboost等无监督算法：聚类，降维，关联规则,PageRank等为了详细的理解这些原理，曾经看过西瓜书，统计学习方法
weixin_39824223·2022-11-30 08:30

实战 | K-Means 聚类算法

常见的机器学习算法：监督学习算法：逻辑回归，线性回归，决策树，朴素贝叶斯，K近邻，支持向量机，集成算法Adaboost等无监督算法：聚类，降维，关联规则,PageRank等为了详细的理解这些原理，曾经看过西瓜书，统计学习方法
众生皆苦唯有你最甜·2022-11-30 07:56

统计学习方法 李航 课后习题答案 第二版 机器学习

李航《统计学习方法》课后习题答案（第2版）【李航课后习题解答+书中疑点推导+算法代码实现+可私聊耐心解答(48小时内回复)，包会！！】
#苦行僧·2022-11-29 23:20

机器学习——朴素贝叶斯算法Python实现

简介这里参考《统计学习方法》李航编进行学习总结。详细算法介绍参见书籍，这里只说明关键内容。即条件独立下：p{X=x|Y=y}=p{X1=x1|Y=y}*p{X2=x2|Y=y}*...
Kalankalan·2022-11-29 19:42

通俗易懂机器学习——朴素贝叶斯算法

本文将叙述朴素贝叶斯算法的来龙去脉，从数学推导到计算演练到编程实战文章内容有借鉴网络资料、李航《统计学习方法》、吴军《数学之美》加以整理及补充基础知识补充：1、贝叶斯理论–吴军数学之美http://mindhacks.cn
snanda·2022-11-29 19:41

统计学习方法 第六章 逻辑斯谛回归与最大熵模型读书笔记

第六章逻辑斯谛回归与最大熵模型两者都属于对数线性模型6.1逻辑斯谛回归模型6.1.1逻辑斯谛分布F(x)非减，有界，连续------>F(x)为分布函数f(x)关于x=μ对称，在此处取得最大时1/4γ6.1.2二项逻辑斯谛回归模型将ω和x进行扩充，分别扩充b与1，ω·x+b可以简化成ω·x该模型的输入输出变量间不存在线性关系逻辑回归的输入变量可以是连续变量也可以是离散变量参数估计采用最大似然估计法
辰明Xucy·2022-11-29 17:51

统计学习方法 第五章 决策树 学习笔记

第五章决策树决策树(decisiontree)是一种基本的分类与回归方法。决策树可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件分布概率。优点：模型具可读性、分类速度快。学习步骤：特征选择、决策树的生成、决策树的修剪。5.1决策树的模型与学习5.1.1决策树模型5.1.2决策树与if-then规则内部条件------规则叶节点---------结论5.1.3决策树与条
辰明Xucy·2022-11-29 17:21

统计学习方法 第七章支持向量机 读书笔记

文章目录第七章支持向量机三要素模型策略算法为什么叫支持向量机7.1线性可分支持向量机与硬间隔最大化7.1.1线性可分向量机7.1.2函数间隔与几何间隔定义7.1.3间隔最大化算法7.1最大间隔算法7.1.4学习的对偶问题算法7.2线性可分支持向量机学习算法7.2线性支持向量机与软间隔最大化7.2.1线性支持向量机7.2.2原始问题与对偶问题7.2.3合页损失函数7.3非线性支持向量机与核函数7.3
辰明Xucy·2022-11-29 17:51

统计学习方法(第二版)+简博士 读书笔记

文章目录第一章统计学习及监督学习概论统计学习定义特点统计学习方法的步骤统计学习分类统计学习方法的基本分类监督学习(supervisedlearning)定义输入空间、特征空间、输出空间、实例相关表示基本假设目的形式假设空间
辰明Xucy·2022-11-29 17:51

统计学习方法 第三章 k近邻法读书笔记

第三章k近邻法3.1k近邻算法k近邻算法是一种基本的分类与回归算法。k近邻法简单直观：给定一个训练数据集，对于新输入的实例，在训练数据集中找到与该实例最邻近的k个实例，这k个实例多数属于某个类，就把该输入实例分为这个类。算法3.1(k近邻法)当k=1时，为k近邻法的特殊情况，称为最近邻算法。k近邻法没有显示的学习过程。(没办法拿到一个模型拿来计算)3.2k近邻模型实际：k近邻法使用的模型对应于特征
辰明Xucy·2022-11-29 17:51

统计学习方法 第四章 朴素贝叶斯法 学习笔记

文章目录第四章朴素贝叶斯法4.1朴素贝叶斯法的学习与分类4.1.1基本方法4.1.2后验概率最大化的含义4.2朴素贝叶斯法的参数估计4.2.1极大似然估计4.2.2学习与分类算法算法4.1朴素贝叶斯算法4.2.3贝叶斯估计第四章朴素贝叶斯法朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。4.1朴素贝叶斯法的学习与分类4.1.1基本方法因为条件之间可能含有某种关联，比如雨天对应的温度可能会
辰明Xucy·2022-11-29 17:51

统计学习方法读书笔记 第二章 感知机 【自用】

文章目录第二章感知机2.1感知机模型2.2感知机学习策略2.3感知机学习的算法2.3.1感知机学习算法的原始形式2.3.2算法的收敛性2.3.3感知机学习算法的对偶形式第二章感知机2.1感知机模型感知机是一种线性分类模型，属于判别模型假设空间：超平面：指比他所处环境空间小一维的子空间2.2感知机学习策略感知机学习目标：求得一个能够将训练集正实例点和负实例点完全正确分开的分离超平面。(即确定参数ω，
辰明Xucy·2022-11-29 17:20

《统计学习方法（第2版）》李航 第19章 马尔可夫蒙特卡罗法 MCMC 思维导图笔记 及 课后全部习题答案（步骤详细， 包含Metropolis算法，吉布斯算法代码实现）第十九章

思维导图：19.1用蒙特卡罗积分法求：∫−∞∞x2exp⁡(−x22)dx\int_{-\infty}^{\infty}x^{2}\exp\left(-\frac{x^{2}}{2}\right)dx∫−∞∞x2exp(−2x2)dx首先将被积函数分解为分布函数与待求期望的函数的乘积：∫−∞∞x2exp⁡(−x22)dx=2π∫−∞∞x212πexp⁡(−x22)dx=2πE[x2]\begin{
ML--小小白·2022-11-29 14:50

李航老师《统计学习方法》第二版第十九章马尔可夫链蒙特卡洛方法课后题答案

其他章节答案请参考我的汇总统计学习方法答案汇总，都是自己写的。
六七～·2022-11-29 14:50

复现经典：《统计学习方法》第19章 马尔可夫链蒙特卡罗法

第19章马尔可夫链蒙特卡罗法本文是李航老师的《统计学习方法》一书的代码复现。作者：黄海广备注：代码都可以在github中下载。我将陆续将代码发布在公众号“机器学习初学者”，可以在这个专辑在线阅读。
湾区人工智能·2022-11-29 14:46

《统计学习方法》第二十章 马尔可夫链蒙特卡罗法

狄利克雷分布的概率密度函数为p(θ∣α)=Γ(∑i=1kαi)∏i=1kΓ(αi)∏i=1kθiαi−1p(\theta|\alpha)=\frac{\Gamma(\sum_{i=1}^{k}\alpha_{i})}{\prod_{i=1}^{k}\Gamma(\alpha_{i})}\prod_{i=1}^{k}\theta_{i}^{\alpha_{i}-1}p(θ∣α)=∏i=1kΓ(αi)
小鹏AI·2022-11-29 14:45

《统计学习方法》全部算法

目录前言手写实现李航《统计学习方法》书中全部算法示例内容完整目录第二章感知机：第三章K近邻：第四章朴素贝叶斯：第五章决策树：第六章逻辑斯蒂回归与最大熵模型：第七章支持向量机：第八章提升方法：第九章EM算法及其推广
zhangyuexiang123·2022-11-29 01:45

统计学习方法svm课后习题_分析《统计学习方法第2版》PDF+习题部分代码+部分课件讨论...

(转载请删除括号里的内容)我虽然很喜欢模式识别和机器学习，但我暂时并不希望在这上面做深入的研究，只想把别人研究好的成熟的理论用在计算机视觉任务上。比如SVM，Adaboost，EM，朴素贝叶斯，K近邻，决策树等等。能够知道每种算法的原理，而并不想深究其实现过程以及理论证明。比如SVM，我想知道的是这种算法如何实现分类，有哪几种类型，每种适合什么样的分类任务，对应的参数的意义是什么。这样我在使用SV
weixin_39833469·2022-11-29 01:13

手写实现李航《统计学习方法》书中全部算法

点击上方，选择星标或置顶，每天给你送干货！阅读大概需要3分钟跟随小博主，每天进步一丢丢作者:Dodo编辑:深度学习自然语言处理公众号github:https://github.com/Dod-o/Statistical-Learning-Method_Code前言力求每行代码都有注释，重要部分注明公式来源。具体会追求下方这样的代码，学习者可以照着公式看程序，让代码有据可查。如果时间充沛的话，可能会
zenRRan·2022-11-29 01:33

李航老师《统计学习方法》及相关资源（代码、课件）的汇总及下载

编辑|Will出品|字节AI李航：毕业于日本京都大学电气电子工程系，日本东京大学获得计算机科学博士学位。1990年至2001年就职于日本NEC公司中央研究所，任研究员，2001年至2012年就职于微软亚洲研究院，任高级研究员与主任研究员。2012年至2017年就职于华为技术有限公司诺亚方舟实验室，任首席科学家、主任。现任字节跳动科技有限公司人工智能实验室总监，北京大学、南京大学客座教授，IEEE会
一路向北168·2022-11-29 01:03

Boosting方法及代码实战

1.Boosting基本思路  Boosting（提升）方法是一种常用的统计学习方法，应用广泛且有效，在分类问题中，它通过改变训练样本的权重，学习多个分类器，并将这些分类器进行线性组合，提高分类的性能。
很随便的wei·2022-11-29 01:31

《统计学习方法》第八章 提升方法(原理+代码)

提升方法是将弱学习算法提升为强学习算法的统计学习方法在分类学习中，提升方法通过反复修改训练数据的权值分布,构建一系列基本分类器（弱分类器）并将这些基本分类器线性组合，构成一个强分类器代表性的提升方法是AdaBoost
小鹏AI·2022-11-29 01:26

《机器学习》读书笔记1——基本概念

文章目录一、统计学习方法的概述二、机器学习的主要任务2.1什么是模型2.2极大似然估计2.3生成式模型和判别式模型2.3.1生成式模型和判别式模型区别2.3.2为啥判别式模型预测效果更好2.4损失函数2.5
神洛华·2022-11-28 16:39

统计学习方法第十六章作业：PCA主成分分析算法 代码实现

PCA主成分分析importnumpyasnpclassPCA:def__init__(self,x,R=None):self.x=np.array(x)self.dim=self.x.shape[-1]self.num=self.x.shape[0]self.R=Rself.X=Noneself.r_list=Noneself.r_v=Noneself.nk=Noneself.X_=Nonede
是算法不是法术·2022-11-28 10:43
上一页 5 6 7 8 9 10 11 12 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他