统计学习方法

西瓜书/南瓜书第一二章总结

接下来的一段时间，会以西瓜书、南瓜书为主，吴恩达机器学习与统计学习方法为辅，对原来学过的一些机器学习算法做一个总结，重点是底层原理和公式推导。
若洲的算法与AI·2022-03-16 07:48

Python实现感知机算法——李航《统计学习方法》

接下来一学期选了门《机器学习》的课程，所以打算把相关的作业也发上来！一：请说明感知机为何不能解决异或问题。答：我们知道感知机属于线性模型，由于其无法找到一个线性模型对异或问题进行划分，所以其不能解决异或问题。具体解释如下：首先我们知道感知机的数学表达式就是：f(x)=sign(wx+b)其中sign是符号函数，w和b都是感知机参数，x表示实例的特征向量，而y=f(x)就是实例的类别。以二维特征向量
请求和清风明月·2022-03-14 10:00

Raki的统计学习方法笔记0xF(15)章：奇异值分解

奇异值分解是一种矩阵因子分解方法，是线性代数的基础概念，在统计学习中被广泛运用，PCA,LSA,pLSA都要用到SVD，而EM,LSA,MCMC,又是LDA的基础，故有了这个笔记顺序任意一个m*n矩阵，都可以表示为三个矩阵的乘积（因子分解）形式，分别是m阶正交矩阵，由降序排列的非负的对角线元素组成的m*n矩形对角矩阵，n阶正交矩阵成为该矩阵的奇异值分解，矩阵的奇异值分解一定存在但是不唯一。奇异值分
爱睡觉的Raki·2022-03-14 07:45

一文彻底理解逻辑回归：从公式推导到代码实现

如果你觉得本文确实对你有帮助，请点个赞支持我一下吧正文逻辑回归在社会和自然科学中应用非常广泛，它其实是一种统计学习方法，因为它的
Marvin-wen·2022-03-04 21:00

一文彻底理解逻辑回归：从公式推导到代码实现

如果你觉得本文确实对你有帮助，请点个赞支持我一下吧正文逻辑回归在社会和自然科学中应用非常广泛，它其实是一种统计学习方法，因为它的
Marvin-wen·2022-03-04 21:00

隐马尔可夫模型（《统计学习方法》、python实现）

转载地址：http://www.hankcs.com/ml/hidden-markov-model.html本文是《统计学习方法》第10章的笔记，用一段167行的Python代码实现了隐马模型观测序列的生成
learn_tech·2022-03-04 07:08

机器学习之用sklearn实现knn

K近邻的详细算法，建议参考李航老师的统计学习方法。
倔强的石头。·2022-03-03 07:35

卷积神经网络学习小结——1基本概念与单层神经网络实现

疫情严重，待在家中无事，回想研究生生活已经转眼过去半年，然而买的李航的《统计学习方法》这本书还没有看，想到同门关于CNN的文章都快要发了，所以学习了一点关于卷积神经网络（Convolutionnetwork
wendamao·2022-03-01 07:43

《统计学习方法》文章汇总

记录重看李航《统计学习方法》的总结和复现。2020的flag就是总结完这一系列嘤嘤嘤嘤第二章感知机学习算法https://www.jianshu.com/p/d96c39610313
木一易一·2022-02-22 05:16

《统计学习方法》阅读笔记

还是要多读书，那么来认真阅读一下，统计学习方法这本书吧我滴小笔记：数据采样：https://docs.scipy.org/doc/scipy/reference/generated/scipy.interpolate.interp1d.html
PolarBearWYY·2022-02-21 13:18

电子科技大学 大二上 机器学习导论 期末复习题目录

具体已整理在线下笔记本中，这里只提供例题目录关键索引词：电子科技大学UESTC成电信软数字动漫机器学习统计学习方法机器学习导论期末考试题目时间少就直接做题了所有作业已包含所有课本题已包含所有课后习题已包含第一次作业已包含第二次作业已包含第三次作业已包含第四次作业已包含第五次作业已包含第六次作业已包含第七次作业已包含一共
ani0vo·2022-02-19 07:54

资料推荐

《统计学习方法》李航著。该书比较详细地介绍了算法的原理，只从理论层面来研究算法。通过这本书和《机器学习实战》两本书相结合，一本讲理论，一本着手实践，加在一起会有事半功倍的效果。3.
readilen·2022-02-19 01:42

机器学习的一些概念

--《机器学习（西瓜书）》关于监督学习，李航《统计学习方法》是这样描述的：从给定的、有限的、用于学习的训练数据集合出发，假设数据是独立同分布产生的；并且假设要学习的模型属于某个函数的集合，称为假设空间；
小T数据站·2022-02-19 00:28

深度学习Tensorflow相关书籍推荐和PDF下载

1.机器学习入门经典《统计学习方法》pdf下载链接:https://pan.baidu.com/s/1o99BsV4密码:b2ul2.周志华的《机器学习》pdf下载链接:https://pan.baidu.com
baihualinxin·2022-02-18 13:05

性能评价指标(Precision, Recall, F-score, MAP)

：CSDN博客原文一：Precision,Recall,F-score信息检索、分类、识别、翻译等领域两个最基本指标是召回率(RecallRate)和准确率(PrecisionRate------注意统计学习方法中
呼呼08·2022-02-17 01:21

【白话机器学习】算法理论+实战之支持向量机（SVM）

常见的机器学习算法：监督学习算法：逻辑回归，线性回归，决策树，朴素贝叶斯，K近邻，支持向量机，集成算法Adaboost等无监督算法：聚类，降维，关联规则,PageRank等为了详细的理解这些原理，曾经看过西瓜书，统计学习方法
风度78·2022-02-16 07:30

01月09日：一面

然后问我对ML的了解，我说看了Coursera的课和周志华西瓜书、李航的统计学习方法，然后针对
leobob·2022-02-13 08:28

统计学习方法——修炼学习笔记19：马尔可夫链蒙特卡罗法

蒙特卡罗法也称统计模拟方法，是通过从概率模型的随机抽样进行近似数值计算的方法。马尔可夫链蒙特卡罗法是以马尔可夫链为概率模型的蒙特卡罗法。马尔可夫链蒙特卡罗法构建一个马尔可夫链，使其平稳分布就是要进行抽样的分布，首先基于该马尔可夫链进行随机游走，产生样本的序列，之后使用该平稳分布的样本进行近似数值计算。Metropolis-Hastings算法是最基本的马尔可夫链蒙特卡罗法。吉布斯抽样是更简单、使用
Sam_L·2022-02-11 17:08

EM算法在高斯混合模型应用的理解

高斯混合模型理论下面看一下高斯混合模型EM算法的理论（出自《统计学习方法》和西瓜书《机器学习》）。高斯混合模型的定义.PNG各个参数表示的意义。各个参数表示的意
牛顿学计算机·2022-02-11 16:20

统计学习方法 李航 决策树模型 python sklearn 实现 及课后习题

李航决策树（decision）是一种基本的分类与回归算法。决策树呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为定义在特征空间与类空间上的条件概率分布。其主要优点在于模型具有可读性，分类速度快。学习时，利用训练数据，根据损失函数最小化的原则建立决策树模型。预测时，对新的数据，利用决策树模型进行分类。决策树的学习通常包括三个部分：特征选择、
蒜苗爱妞妞·2022-02-11 16:16

7小时速成集成学习实录

信息来源主要依靠CSDN和《统计学习方法》，现简单整理一下有效内容便于后续复习。
清川kiyokawa·2022-02-11 12:22

统计学习方法 李航 贝叶斯模型 python sklearn 实现 及课后习题

李航：朴素贝叶斯（naivebayes）法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习学习输入输出的联合概率分布；然后基于此模型，对给定的输入X,利用贝叶斯定理求出后延概率最大的输入y。朴素贝叶斯法实现简单，学习效率高。python代码书中4.2例题importnumpyasnpclassbayes(object):def__init__(sel
蒜苗爱妞妞·2022-02-11 08:25

李航《统计学习方法》拾遗-朴素贝叶斯

记得之前在一次网易的笔试中，完全忘记了朴素贝叶斯的计算方法，这次决心要好好看一看，争取一遍就记住！朴素贝叶斯是典型的生成模型，因此我们要估计的是X和Y的联合概率分布P(X,Y)，估计联合概率分布，可以用我们之前学到的条件概率，即P(X=x|Y=ck)=P(X=x,Y=ck)/P(Y=ck)。这里，我们可以直接得到的就是P(Y=ck)，这被称为先验概率，在使用极大似然估计的情况下，我们可以认为样本集
文哥的学习日记·2022-02-09 05:08

Ridge Regression、Lasso Regression和Elastic Net Regression

所谓结构风险最小化，即李航《统计学习方法》中所讲到的，在经验风险（经验损失）最小化的基础上加上一个正则项或惩罚项。结构风险定义经验损失：可以理解为最小化损失函数，损失函数形式可为多种形式，如
专注吃喝五十年·2022-02-05 22:06

百面机器学习｜第三章经典算法知识点

第三章经典算法0、写在前面这一章我看了之后的感觉是，需要和《统计学习方法》——李航的书配合着一起看。这一章总共20页，讲了三个经典机器学习算法，而在统计学习方法中少则有50页去讲这三个算法。
蓝白绛·2022-02-05 11:23

统计学习方法 李航 最近邻模型 python sklearn 实现 及课后习题

算法特点简单地说，k-近邻算法采用测量不同特征值之间的距离方法进行分类。优点：精度高、对异常值不敏感、无数据输入假定缺点：计算复杂度高、空间复杂度高适用数据范围：数值型和标称型李航：K近邻法（k-nearestneighbor,k-NN）是一种基本的分类与回归的方法，1968年由Cover和hart提出。k近邻的输入为实例的特征向量，对应于特征空间的点，输出为实例的类别，可以取多类。k近邻假设给定
蒜苗爱妞妞·2022-02-03 13:56

【统计学习方法】第二章 感知机

感知机模型定位：感知机属于二分类模型/线性模型/非概率模型/判别模型回顾：统计学习三要素：模型+策略+算法算法原理模型输入空间/特征空间：X⊆RnX\subseteqR^nX⊆Rn输出空间：y∈y\iny∈{-1,+1}输入到输出的映射：y=sgn(wx+b)y=sgn(wx+b)y=sgn(wx+b)【sgn为符号函数】假设空间：{f|f(x)=wx+b}几何解释：wx+b=0是特征空间中的一个
#Super Pig·2021-12-05 21:45

数据分析前期准备

基于戴戴戴师兄的视频常用工具ｅｘｃｅｌ推荐则秀老师的课程SQL《SQL必知必会》sqlzoo和牛客网刷题Tableau《商业仪表盘可视化解决方案》李航《统计学习方法》python《利用python进行数据分析
·2021-11-19 22:56

（笔记+代码+习题）统计学习方法第二章 感知机

一、机器学习的老祖宗——感知机感知机1957年由Rosenblatt提出，是神经网络与支持向量机的基础。是二类分类的线性分类模型，属于判别模型，旨在求出将训练数据进行线性划分的分离超平面，为此，导入基于误分类的损失函数，利用梯度下降法对损失函数进行极小化，求得感知机模型。训练数据集：线性可分（必存在超平面将训练集正负实例分开）学习目标：找到一个将训练集正、负实例点完全正确分开的超平面具体学习对象：
盒子先生KingO·2021-11-15 20:38

相似度 / 距离计算 (闵氏距离、马氏距离、相关系数、夹角余弦)

Ref:《统计学习方法》目录LpL_pLp距离(LpL_pLpdistance)/Minkowski距离(Minkowskidistance)马氏距离/马哈拉诺比斯距离(MahalanobisDistance
连理o·2021-10-14 20:20

最大熵模型 (maximum entropy model)

本文为《统计学习方法》的读书笔记目录最大熵原理最大熵模型的定义最大熵模型的约束条件最大熵模型的定义最大熵模型的学习约束最优化问题对偶问题(求解最大熵模型)最大熵模型的更一般形式小例子极大似然估计最大熵模型的极大似然函数最大熵模型的对偶函数极大似然估计与对偶函数极大化模型学习的最优化算法改进的迭代尺度法
连理o·2021-10-14 16:55

统计学习方法（三） 朴素贝叶斯（naive Bayes）上

统计学习方法（三）朴素贝叶斯（naiveBayes）朴素贝叶斯是一个基于贝叶斯定理与特征条件独立假设的分类方法。
唐BiuBiu·2021-09-27 21:24

统计学习方法（二） K近邻（KNN）

第一节的感知机使用了一种做辅助超平面的方式来分类，K近邻也可以分类（可以回归，但不讨论），而且从数学思想上更加直观：简单来说就是预测样本距离哪个类别最近就分为哪一类。相比感知机，K近邻天然具有多分类的能力。另外，K近邻没有明显的“学习”过程。算法最主要的是如何设置距离的度量和分类决策规则。（说白了就是怎么算距离，算好了又怎么确定类别）原书中对于K近邻是这样说的：K近邻法的输入为示例的特征向量，对应
唐BiuBiu·2021-09-09 21:21

机器学习中的距离度量（python实现）

最近读《统计学习方法》的时候用到了各种距离，这里做一个小总结，并且用numpy实现一下。一般的距离度量使用欧氏距离，就是我们生活中最常用的距离概念。但也可以使用其他的度量方式。
唐BiuBiu·2021-09-09 17:54

逻辑回归与最大熵模型

本文为《统计学习方法》第6章笔记。概论逻辑回归与最大熵模型都属于对数线性模型，逻辑回归求解似然函数的极大值，得到参数w，最大熵模型先转对偶问题，求得条件概率模型，也是通过极大值求解得到w。
米斯特芳·2021-08-28 23:09

统计学习方法第二版 李航

前言《统计学习方法》和《机器学习》这两本书，大概是做科研的小伙伴都避不开的必读书吧。笔者在很久前就已经学过该书了，但是因为先前学完没有做一个详细的整理总结。
报告，今天也有好好学习·2021-08-09 23:36

统计学习方法详解之第一章统计方法及监督学习概论

文章目录1.前言1.1常见误区1.2解决方法2.统计学习的基本概念2.1统计学习的定义2.2统计学习的重要特点2.2.1常用的数学公式2.3统计学习的对象2.4统计学习的目的3.统计学习的分类3.1统计学习的基本分类3.1.1监督学习3.1.1.1输入空间3.1.1.2联合概率分布3.1.1.3假设空间3.1.1.4问题的形式化3.1.2无监督学习3.2统计学习按算法分类3.3统计学习按技巧分类
herosunly·2021-08-08 16:30

机器学习知识点QA

wallhaven-kwrm77.jpg浮沙之上，勿筑高台自己整理的笔记文章内容都是自己从自学机器学习以来涉及到的一些知识点、经历等等，包括研一上学期默默的学习机器学习理论知识，从李航老师的《统计学习方法
青箬笠绿蓑衣_简·2021-06-27 03:50

机器学习研习日志

2020.12.23看了《统计学习方法》的1.3节：统计学习三要素
gzyuan·2021-06-25 00:03

SVM简述

然后转化成一个凸优化问题，求最优解，得到这个超平面（《统计学习方法》有简单练习）有时候会有误差，需要松弛变量。
锦绣拾年·2021-06-22 06:58

统计学习方法——李航

学习算法，是为以后工作中对RD同学工作内容有大致了解，不追求细节，想追也没那个能力~第一章统计学习方法概论1.1概论统计学习的目的是对数据进行预测与分析，手段是构建模型，并应用模型进行预测与分析，前提是同类数据具有一定统计性
天气不是很好啊·2021-06-21 19:38

统计学习方法总结

统计本文总结了常用的统计学习方法，包括模型定义，原理，适用场景，模型参数学习方法等。统计学习是根据一部分标记好的实例数据，推断待分类实例的类别，所以并不知道数据的真实分布函数。
JackMeGo·2021-06-21 05:03

最大似然估计+最大后验估计+LR

最近有时间,我查了些资料,加深了一下对这俩的理解.统计学习要素再次读到统计学习方法[1]第一章,终于开始理解1.3节的内容.统计学习方法都是由模型,策略和算法构成的.(1)模型:这里的模型,其实指的是要学习的条件概率分布
MashoO·2021-06-14 12:56

《统计学习方法》笔记（一）：统计学习方法概论

统计学习统计学习的特点以计算机及网络为平台以数据为研究对象目的是对数据进行预测和分析以方法为中心（统计学习方法构建模型并应用模型进行预测和分析）多学科领域的交叉学科HerbertA.Simon对“学习”
蒋佳秋·2021-06-13 01:46

统计学习方法

研一上机器学习课程最后准备考试的时候看过一点点这本书，没有系统得看过，最近准备系统得看一遍，顺便写一些笔记，主要框架就是李航的《统计学习方法》这本书，参考了西瓜书的一点内容和一些博客，有一些关键部分的证明自己都照着书手推了一遍
和蔼的zhxing·2021-06-12 08:04

k近邻法的kd Tree搜索

最近在读李航老师的《统计学习方法》，读到第三章的k近邻算法时，在N>>k时遍历搜索比较费时，为了更高效的搜索可以采用kdTree的方式组织Training数据，我看到一篇博客，前面的图示理解部分说的比较到位
jhttroy·2021-06-12 00:51

统计学习方法第二章：感知机(perceptron)算法及python实现

统计学习方法第二章：感知机(perceptron)算法及python实现统计学习方法第三章：k近邻法(k-NN),kd树及python实现统计学习方法第四章：朴素贝叶斯法(naiveBayes)，贝叶斯估计及
无限大的饿·2021-06-11 05:02

统计学习方法第四章：朴素贝叶斯法(naive Bayes)，贝叶斯估计及python实现

统计学习方法第二章：感知机(perceptron)算法及python实现统计学习方法第三章：k近邻法(k-NN),kd树及python实现统计学习方法第四章：朴素贝叶斯法(naiveBayes)，贝叶斯估计及
无限大的饿·2021-06-10 09:44

统计学习方法——修炼学习笔记21：PageRank算法

PageRank算法是图的链接分享的代表性算法，属于图数据上的无监督学习方法。PageRank可以定义在任意有向图上，后来被应用到社会影响力分析、文本摘要等多个问题。是在有向图上定义一个随机游走模型，即一阶马尔可夫链，描述随机游走者沿着有向图随机访问各个结点的行为。在一定条件下，极限情况访问每个结点的概率收敛到平稳分布，这时各个结点的平稳概率值就是其PageRank值，表示结点的重要度。PageR
Sam_L·2021-06-09 17:58

Dijsktra算法与Viterbi算法对比

用李航老师《统计学习方法》第186页中的HMM+Viterbi例子来分析。ScreenShot2020-06-05at9.34.13PM.png这个例子可以转化为求解下图的最优路径。
橙子_80c3·2021-06-09 07:31
上一页 11 12 13 14 15 16 17 18 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他