统计学习方法

【统计学习方法读书笔记】（四）朴素贝叶斯法

终于到了贝叶斯估计这章了，贝叶斯估计在我心中一直是很重要的地位，不过发现书中只用了不到10页介绍这一章，深度内容后，发现贝叶斯估计的基础公式确实不多，但是由于正态分布在生活中的普遍性，贝叶斯估计才应用的非常多吧！默认输入变量用XXX表示，输出变量用YYY表示概率公式描述：P(X=x)P(X=x)P(X=x)：表示当X=xX=xX=x时的概率P(X=x∣Y=ck)P(X=x|Y=c_k)P(X=x∣
Y.G Bingo·2024-09-10 03:40

【统计学习方法】感知机

Seemoredetailsinwikipdia感知机.本篇blog将从统计学习方法三要素即模型、策略、算法三个方面介绍感知机，并给出相应代码实现。
jyyym·2024-09-08 04:08

赠书 | 李航老师的蓝皮书

赠书活动统计学习方法“统计机器学习方法是实现智能化目标的最有效的手段，统计机器学习是各种智能性处理研究领域中的核心技术，并且在这些领域的发展及应用中起着决定性的作用。”
茗创科技·2024-08-25 10:04

统计学习方法（李航）--第二章 感知机（比较基础）

感知机是二分类的线性分类模型，属于判别模型，包括原始形式和对偶形式。（一）感知机模型公式为：f是输出，x是输入，w和b是参数，sign是符号函数（大于0为1，小于0为-1）几何解释：对于特征空间Rn中的一个超平面S，w是S的法向量，b是截距，将超平面空间划分为两个部分，完成2分类任务。（二）学习策略1.数据集的线性可分性：若存在wx+b的超平面可以将数据集完全分割，则称为线性可分。2.学习策略（以
人間煙火Just·2024-02-12 15:14

统计学习方法笔记之决策树

更多文章可以访问我的博客Aengus|Blog决策树的概念比较简单，可以将决策树看做一个if-then集合：如果“条件1”，那么...。决策树学习的损失函数通常是正则化后极大似然函数，学习的算法通常是一个递归的选择最优特征，并根据该特征对训练数据进行分割，使得对各个子数据集有一个最好的分类的过程。可以看出，决策树算法一般包含特征选择，决策树的生成与决策树的剪枝过程。特征选择信息增益熵和条件熵在了解
Aengus_Sun·2024-02-09 17:51

《统计学习方法：李航》笔记 从原理到实现（基于python）-- 第6章 逻辑斯谛回归与最大熵模型（2）6.2 最大熵模型

文章目录6.2最大熵模型6.2.1最大熵原理6.2.3最大熵模型的学习6.2.4极大似然估计《统计学习方法：李航》笔记从原理到实现（基于python）--第3章k邻近邻法《统计学习方法：李航》笔记从原理到实现
北方骑马的萝卜·2024-02-05 11:51

贝叶斯的缺点

贝叶斯方法是一种统计学习方法，通过利用贝叶斯定理来计算给定先验概率的情况下，后验概率的条件概率。虽然贝叶斯方法在许多领域中应用广泛且有效，但也存在一些缺点。
人机与认知实验室·2024-02-04 06:06

机器学习知识体系总结

机器学习体系概括监督学习（SupervisedLearning）十种监督学习方法统计学习方法：模型+策略+学习方法模型策略学习算法无监督学习（UnsupervisedLearning）半监督学习参考所有的知识
qq_36661243·2024-02-03 07:22

白铁时代 —— （监督学习）原理推导

来自李航《统计学习方法》文章目录-1指标相似度0概论1优化类1.1朴素贝叶斯1.2k近邻-kNN1.3线性判别分析二分类LDA多分类LDA流程LDA和PCA的区别和联系1.4逻辑回归模型&最大熵模型逻辑回归最大熵模型最优化
人生简洁之道·2024-02-03 07:46

最大熵阈值python_李航统计学习方法（六）----逻辑斯谛回归与最大熵模型

本文希望通过《统计学习方法》第六章的学习，由表及里地系统学习最大熵模型。文中使用Python实现了逻辑斯谛回归模型的3种梯度下降最优化算法，并制作了可视化动画。
weixin_39669638·2024-02-03 06:20

《统计学习方法：李航》笔记 从原理到实现（基于python）-- 第6章 逻辑斯谛回归与最大熵模型（1）6.1 逻辑斯谛回归模型

文章目录第6章逻辑斯谛回归与最大熵模型6.1逻辑斯谛回归模型6.1.1逻辑斯谛分布6.1.2二项逻辑斯谛回归模型6.1.3模型参数估计6.1.4多项逻辑斯谛回归《统计学习方法：李航》笔记从原理到实现（基于
北方骑马的萝卜·2024-02-03 06:18

李航统计学习方法----决策树章节学习笔记以及python代码

目录1决策树模型2特征选择2.1数据引入2.2信息熵和信息增益3决策树生成3.1ID3算法3.2C4.5算法4决策树的剪枝5CART算法（classificationandregressiontree）5.1回归树算法5.2分类树的生成5.3CART剪枝6PYTHON代码实例决策树算法可以应用于分类问题与回归问题，李航的书中主要讲解的是分类树，构建决策树分为三个过程，分别是特征选择、决策树生成、决
詹sir的BLOG·2024-01-31 08:20

《统计学习方法：李航》笔记 从原理到实现（基于python）-- 第5章 决策树（代码python实践）

文章目录第5章决策树—python实践书上题目5.1利用ID3算法生成决策树，例5.3scikit-learn实例《统计学习方法：李航》笔记从原理到实现（基于python）--第5章决策树第5章决策树—
北方骑马的萝卜·2024-01-31 08:17

《统计学习方法：李航》笔记 从原理到实现（基于python）-- 第4章 朴素贝叶斯法

朴素贝叶斯法的参数估计4.2.1极大似然估计4.2.2学习与算法4.2.3贝叶斯估计代码实践GaussianNB高斯朴素贝叶斯scikit-learn实例scikit-learn：伯努利模型和多项式模型《统计学习方法
北方骑马的萝卜·2024-01-30 14:25

《统计学习方法：李航》笔记 从原理到实现（基于python）-- 第1章 统计学习方法概论

文章目录第1章统计学习方法概论1.1统计学习1．统计学习的特点2．统计学习的对象3．统计学习的目的4．统计学习的方法1.2.1基本概念1.2.2问题的形式化1.3统计学习三要素1.3.1模型1.3.2策略
北方骑马的萝卜·2024-01-30 14:24

《统计学习方法：李航》笔记 从原理到实现（基于python）-- 第 2章感知机

感知机学习算法2.3.1感知机学习算法的原始形式2.3.2算法的收敛性2.3.3感知机学习算法的对偶形式实践：二分类模型（iris数据集）数据集可视化：Perceptronscikit-learn实例《统计学习方法
北方骑马的萝卜·2024-01-30 14:24

《统计学习方法：李航》笔记 从原理到实现（基于python）-- 第3章 k邻近邻法

3.2.3k值的选择3.2.4分类决策规则3.3k近邻法的实现：kd树3.3.1构造kd树3.3.2搜索kd树算法实现课本例3.1iris数据集scikit-learn实例kd树:构造平衡kd树算法例3.2《统计学习方法
北方骑马的萝卜·2024-01-30 14:24

《统计学习方法：李航》笔记 从原理到实现（基于python）-- 第5章 决策树

5.2特征选择5.2.1特征选择问题5.2.2信息增益5.2.3信息增益比5.3.1ID3算法5.3.2C4.5的生成算法5.4决策树的剪枝5.5CART算法5.5.1CART生成5.5.2CART剪枝《统计学习方法
北方骑马的萝卜·2024-01-30 14:20

自然语言处理发展(自然语言处理发展经历了哪些阶段)

此后，人们开始尝试使用统计学习方法来解决NLP中的一些关键问题，例如机器翻译和文本分类等。到了2000年代，随着深度学习和神经网络技术的发展，NLP进一步获得
2301_76571514·2024-01-29 14:25

机器学习、深度学习、自然语言处理基础知识总结

目前主要参考李航老师的《统计学习方法》一书，也有一些内容例如XGBoost、聚类、深度学习相关内容、NLP相关内容等是书中未提及的。
北航程序员小C·2024-01-26 10:43

机器学习期末复习总结笔记（李航统计学习方法）

文章目录模型复杂度高---过拟合分类与回归有监督、无监督、半监督正则化生成模型和判别模型感知机KNN朴素贝叶斯决策树SVMAdaboost聚类风险PCA深度学习范数计算梯度下降与随机梯度下降SGD线性回归逻辑回归最大熵模型适用性讨论模型复杂度高—过拟合是什么：当模型复杂度越高，对训练集拟合程度越高，然而对新样本的泛化能力却下降了，此时出现overfitting（过拟合）与泛化能力：模型复杂度与泛化
在半岛铁盒里·2024-01-24 01:01

统计学习方法-第1章-绪论

2019June28监督学习统计学习方法-第1章-绪论统计学习分类分类标准类型基本分类监督学习、无监督学习、强化学习按模型分类概率模型、非概率模型（在监督学习中，概率模型是生成模型，非概率模型是判别模型
chiemon·2024-01-21 13:04

【机器学习】基本模型简易代码整理

对数几率回归对数几率回归（LogisticRegression）是机器学习中一种广泛应用的统计学习方法，主要用于二分类问题。
_hermit:·2024-01-19 02:14

机器学习：李航 统计学习方法 笔记

詹令[email protected]待整理统计学习方法监督学习非监督学习半监督学习强化学习监督学习方法生成方法GenerativeApproach：P(Y∣X)=P(X,Y)P(X)
lealzhan·2024-01-17 08:54

机器学习算法实战案例：确实可以封神了，时间序列预测算法最全总结！

技术交流2、时间序列预测分类3、时间序列数据的特性4、时序预测评价指标5、基于深度学习的时间序列预测方法5.1统计学习方法5.2机器学习方法5.3卷积神经网络5.4循环神经网络5.5Transformer
Python算法实战·2024-01-16 15:10

逻辑回归（解决分类问题）

定义：逻辑回归是一种用于解决分类问题的统计学习方法。它通过对数据进行建模，预测一个事件发生的概率。逻辑回归通常用于二元分类问题，即将数据分为两个类别。
Visual code AlCv·2024-01-15 13:51

Machine Learning Series--Linear Regression

前言最近看了李航老师的《统计学习方法》，还正在学习吴恩达老师的《机器学习》的课程（网易公开课上有，较老的版本）。自从看过《统计学习方法》之后，发现笔记不看其实学习效果并不好。
22岁开始·2024-01-14 20:30

统计学习方法笔记之逻辑斯谛模型与最大熵模型

更多文章可以访问我的博客Aengus|Blog逻辑斯谛回归（LogisticRegression）模型是经典的分类方法，而最大熵则是概率模型中学习的一个准则，将其推广到分类问题得到最大熵模型（maximumentropymodel）。两者都属于对数线性模型。逻辑斯谛模型逻辑斯谛分布设是连续随机变量，服从逻辑斯谛分布是指具有以下分布函数和密度函数：其中，是位置参数，为形状参数。逻辑斯谛分布的密度函数
Aengus_Sun·2024-01-12 22:23

AdaBoost算法的详细数学推导过程！！

AdaBoost（AdaptiveBoosting）提升（boosting）方法是一种常用的统计学习方法，应用广泛且有效。
孤嶋·2024-01-10 08:41

逻辑回归（Logistic Regression）

什么是机器学习逻辑回归（LogisticRegression）虽然名字中包含"回归"一词，但实际上是一种用于解决分类问题的统计学习方法，而不是回归问题。
草明·2024-01-05 16:27

机器学习中的监督学习基本算法-逻辑回归简单介绍

逻辑回归逻辑回归（LogisticRegression）是一种用于解决二分类问题的统计学习方法，尽管名字中带有"回归"一词，但实际上它是一种分类算法。
Algorithm_Engineer_·2024-01-04 12:49

李航-统计学习方法-习题-第九章

9.2证明引理9.2.引理9.2若P~θ(Z)=P(Z∣Y,θ)\widetildeP_\theta(Z)=P(Z|Y,\theta)Pθ(Z)=P(Z∣Y,θ)，则F(P~,θ)=logP(Y∣θ)F(\widetildeP,\theta)=logP(Y|\theta)F(P,θ)=logP(Y∣θ).证明：F(P~,θ)=EP~[logP(Y,Z∣θ)]+H(P~)=EP~[logP(Y,Z∣
chansonzhang·2023-12-31 07:29

统计学习方法（一）生成模型与判别模型

1定义监督学习方法分为生成方法（generativeapproach）和判别方法（discriminativeapproach），所学到的模型分别为生成模型和判别模型。生成方法由数据学习联合概率分布，然后求出条件概率分布作为预测模型，即生成模型：这样的方法之所以被称为生成方法，是因为模型表示了给定输入产生输出的生成关系。典型的生成模型有：朴素贝叶斯和隐马尔科夫模型。判别方法由数据直接学习决策函数或
shijiatongxue·2023-12-26 16:23

统计学习方法笔记二---感知机(Perceptron Learning Algorithm,PLA)

简介感知机（perceptron）是二分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间（特征空间）中将实例划分为正负两类的分离超平面，属于判别模型，解决的问题是分类问题。目标/目的：求出将训练数据进行线性划分的分类超平面，为此导入误分类的损失函数，利用梯度下降法对损失函数进行最小化，求的感知机模型。感知机学习算法具有简单而易于实现的优点，分为原始
爱科研的徐博士·2023-12-25 23:13

周记：2019年第37周（9.9—9.15）

1工作：中秋节之前的阶段性工作2学习：《统计学习方法》chapter5～6。复习了之前的几章内容，顺便看了看课后习题，自己做了一部分，然后在网上找了找习题答案核对了一下。
孙文辉已被占用·2023-12-24 10:19

支持向量机——核技巧

前言：《统计学习方法》讲支持向量机——核技巧的时候，开始的实例有点误导人。我在翻阅了国外的文章后，有了一个大概的了解。
madao756·2023-12-24 03:54

统计学习方法——修炼学习笔记8：提升方法

一、提升方法AdaBootst算法1、提升方法的基本思路1984年，Kearns和Valiant提出：强可学习和弱可学习在概率近似正确（PAC）学习的框架中个，一个概念（类），如果存在一个多项式的学习算法能够学习它，并且正确率很高，称这个概念是强可学习的一个概念（类），如果存在一个多项式的学习算法能够学习它，学习的正确率仅比随机猜测略好，则称这个概念是弱可学习的。1989，Schapire证明：在
Sam_L·2023-12-23 07:41

Logistic Regression逻辑线性回归（基于diabetes数据集）

数据处理二、建模三、confusion_matrix四、ROC（ReceiverOperatingCharacteristic）介绍：LogisticRegression（逻辑回归）是一种用于解决分类问题的统计学习方法
取名真难.·2023-12-22 22:20

决策树和回归树(Decision_Tree_and_Regression_Tree)

参考了统计学习方法，西瓜书，MachineLearnigwithpython做的总结，所以不能作为教程，还包含自己用sklearn做的一些对比实验，原文是写在jupyter上的，这里是直接转为.md导过来的
geter_CS·2023-12-22 22:18

Python实现HMM（隐马尔可夫模型）

前几天用MATLAB实现了HMM的代码，这次用python写了一遍，依据仍然是李航博士的《统计学习方法》由于第一次用python，所以代码可能会有许多缺陷，但是所有代码都用书中的例题进行了测试，结果正确
Chishuo_sgp·2023-12-22 10:15

2021-08-29 合理安排内容——碎片时间做的事VS整块时间做的事

29日计划：---反馈统计学习方法6.3进一步学习，以及备课【3个小时】--未进行leetcode题目一道【1个小时】---完成一题CRF复习【2个小时】---未进行相似度实现【2个小时】---完成了编辑距离
我想要日更徽章·2023-12-20 20:46

线性回归模型用于波士顿房价预测的（普通VSsklearn库方法）比较

努力是为了不平庸~学习的最大理由是想摆脱平庸，早一天就多一份人生的精彩；迟一天就多一天平庸的困扰线性回归是一种统计学习方法，用于建立一个线性模型来预测因变量与自变量之间的关系。
醉蕤·2023-12-19 01:31

机器学习计划

，可借此机会做AI项目，搞好绩效目标：1.短期，下周四有CNN分享，提前掌握并能及时吸收提问，展现所学2.长期，养成机器学习习惯，争取年底前精通TODO：一个月内1.系统的看完一本书，如深度学习或李航统计学习方法
老梅大人·2023-12-17 10:56

深度学习学习顺序梳理

333.999.0.0&vd_source=9607a6d9d829b667f8f0ccaaaa142fcb1.吴恩达机器学习课程已学完，时间较久了，后续可以重新听一遍，整理一下笔记2.白板推导读西瓜书统计学习方法看完了
陌上阳光·2023-12-14 23:37

线性可分SVM摘记

本文主要分析了线性可分的支持向量机模型，主要取自于李航《统计学习方法》第七章。0.线性可分\qquad如下图所示，考虑训练数据“线性可分”的情况：\qquad\qquad假设分类面wTx+b=0\bo
zfoox·2023-12-02 19:11

李航《统计学习方法》(第2版）清华PPT课件介绍与分享

参考：AI派李航博士的《统计学习方法》可以说是机器学习的入门宝典，之前StrongerTang也特意分享过，李航《统计学习方法》电子版、配套课件及python实现代码分享(点击即可阅读)。
StrongerTang·2023-12-02 14:35

周记：2019年第39周（9.23—9.29）

2学习：《统计学习方法》chapter8-11，剩下的内容看完了。最后做了一个全书知识总结和整理，理论上的内容大概就这样了，接下来可以做做题库了，巩固一下知识。
孙文辉已被占用·2023-12-01 05:52

深度学习黎明时期的LeNet：揭开卷积神经网络的序幕

在这个时期，神经网络作为一种有效的统计学习方法逐渐崭
幻风_huanfeng·2023-11-29 10:29

支持向量机c++实现

本人参考李航《统计学习方法》，以及JCPlatt《SequentialMinimalOptimization:AFastAlgorithmforTrainingSupportVectorMachines
_流雲·2023-11-24 08:31

数据挖掘-k近邻算法的R实现

基础知识来自教材：李航的《统计学习方法》本人小白，仍在不断学习中，有错误的地方恳请大佬指出，谢谢！
Rr-7·2023-11-24 05:35
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他