统计学习

EM算法在二维高斯混合模型参数估计中的应用

参考：《统计学习方法》9.3EM算法在高斯混合模型学习中的应用多维高斯混合模型多维高斯混合模型具有如下形式的概率分布模型：其中d为数据的维度，为均值，为协方差矩阵。
韩明宇·2023-08-27 15:38

P,NP,NP_hard,NP_complete问题定义

背景：在看李航的《统计学习方法时》提到了NP完全问题，于是摆之。
weixin_30399821·2023-08-26 20:32

交叉方向乘子法（ADMM）算法

交替方向乘子法（ADMM）是一种求解具有可分离的凸优化问题的重要方法，由于处理速度快，收敛性能好，ADMM算法在统计学习、机器学习等领域有着广泛应用。
卡卡fantic·2023-08-26 20:02

EM算法推导--三硬币模型推导过程

本篇博客主要介绍李航《统计学习方法(第2版)》中讲解EM算法涉及到的三硬币模型案例，原文中该模型的推导过程被省略了。本篇博客主要是将该模型的具体推导过程。
Sun_Sherry·2023-08-24 12:27

动手学深度学习-pytorch版本（二）：线性神经网络

经典统计学习技术中的线性回归和softmax回归可以视为线性神经网络1.1线性回归回归(regression)是能为一个或多个自变量与因变量之间关系建模的一类方法。
Robot_Yue·2023-08-18 12:30

感知机模型(Perceptron)详细解读 | 统计学习方法学习笔记 | 数据分析 | 机器学习

本文包括：1.走近感知机-感知机与童话2.重要概念3.感知机模型的数学形式4.构建感知机的损失函数5.如何取得损失函数最小值-随机梯度下降法6.感知机模型对偶形式Python复现，使用了随机梯度下降法，梯度下降法，adagrad和对偶形式四种算法：舟晓南：感知机模型python复现-随机梯度下降法；梯度下降法；adagrad；对偶形式1.走近感知机-感知机与童话回想一下，在现实生活中，我们是怎么对
舟晓南·2023-08-18 07:56

神经网络基础-神经网络补充概念-02-逻辑回归

概念逻辑回归是一种用于二分分类问题的统计学习方法，尽管名字中带有"回归"一词，但实际上它用于分类任务。逻辑回归的目标是根据输入特征来预测数据点属于某个类别的概率，然后将概率映射到一个离散的类别标签。
丰。。·2023-08-16 04:04

【Sklearn】基于逻辑回归算法的数据分类预测（Excel可直接替换数据）)

Sklearn】基于逻辑回归算法的数据分类预测（Excel可直接替换数据）1.模型原理2.模型参数3.文件结构4.Excel数据5.下载地址6.完整代码7.运行结果1.模型原理逻辑回归是一种用于二分类问题的统计学习方法
敲代码两年半的练习生·2023-08-15 05:31

统计学习方法||章1：统计学习方法概论

统计学习统计学习的对象data：计算机及互联网上的各种数字、文字、图像、视频、音频数据以及它们的组合。数据的基本假设是同类数据具有一定的统计规律性。
周运来就是我·2023-08-14 15:25

（统计学习方法|李航）第四章 朴素贝叶斯算法——贝叶斯估计

贝叶斯估计方法：计算男女时只有两个值，所以K=2贝叶斯估计就是拉普拉斯平滑估计方法：为什么叫做贝叶斯估计呢？例题：重新回顾以下朴素贝叶斯：对他求导，求出最大值得到了色i他的估计值：那么我们可以知道对应Y=-1这类女儿国还是特例给自己留点男人
Allenspringfestival·2023-08-13 19:12

（统计学习方法|李航）第一章统计学习方法概论——四五六节模型评估与模型选择，正则化与交叉验证，泛化能力

一，模型评估与模型选择1.训练误差与测试误差假如我们有100个数据。80条记录给训练集，10条记录给测试集，10条记录给验证集先在训练集中训练模型，再在验证集上测试看哪种模型更拟合最后用测试集算出成绩表示决策函数模型拟合的好坏（对已知数据的预测效果）我们可以通过训练集测出训练误差来衡量对未知数据预测效果好坏可以利用测试集来衡量预测值和真实值不相等的个数占测试集样本总个数的比例经过模型的预测值和真实
Allenspringfestival·2023-08-10 08:40

（统计学习方法|李航）第四章 朴素贝叶斯算法

目录一，朴素贝叶斯的学习与分类1.基本方法2.后验概率最大化的含义二，朴素贝叶斯法的参数估计1.极大似然估计2.学习与分类算法3.贝叶斯估计一，朴素贝叶斯的学习与分类1.基本方法2.后验概率最大化的含义二，朴素贝叶斯法的参数估计1.极大似然估计2.学习与分类算法3.贝叶斯估计
Allenspringfestival·2023-08-09 16:22

（统计学习方法|李航）第一章统计学习方法概论七八九十节——生成模型与判别模型，分类问题，标注问题，回归问题

目录一，生成模型与判别模型二，分类问题三，标注问题四，回归问题一，生成模型与判别模型P（X,Y）是联合概率分布只要是出现联合概率分布，就一定是生成模型判别方法就是直接去求概率二，分类问题评估分类器性能的指标一般是分类准确率其定义是：对于给定的测试数据集，分类器正确分类的样本数和总样本数之比，也就是损失函数是0-1损失时候，测试数据集上的准确率。画图更好记：background：根据特征值预测是否会
Allenspringfestival·2023-08-08 14:41

（统计学习方法|李航）第五章 决策树——一二三节：决策树模型与学习，特征选择，决策树的生成，

目录一，决策树模型与学习1.决策数模型2.决策树与if-then规则3.决策树与条件概率分布4.决策树学习二，特征选择1.特征选择问题2.信息增益3.信息增益比三，决策树的生成1.ID3算法2.C4.5的生成算法一，决策树模型与学习1.决策数模型2.决策树与if-then规则3.决策树与条件概率分布4.决策树学习二，特征选择1.特征选择问题2.信息增益3.信息增益比三，决策树的生成1.ID3算法2
Allenspringfestival·2023-08-07 11:17

（统计学习方法|李航）第五章决策树——四五节：决策树的剪枝，CART算法

目录一，决策数的剪枝二，CART算法1.CART生成（1）回归树的生成（2）分类树的生成2.CART剪枝（1）剪枝，形成一个子树序列（2）在剪枝得到的子树序列T0,T1-----,Tn中通过交叉验证选取最优子树Ta一，决策数的剪枝二，CART算法1.CART生成（1）回归树的生成（2）分类树的生成2.CART剪枝（1）剪枝，形成一个子树序列（2）在剪枝得到的子树序列T0,T1-----,Tn中通过
Allenspringfestival·2023-08-07 11:17

（统计学习方法|李航）专栏学习笔记目录导航

第一章统计学习方法概论（统计学习方法|李航）第一章统计学习方法概论-一二三节统计学习及统计学习种类，统计学习三要素（统计学习方法|李航）第一章统计学习方法概论——四五六节：模型评估与模型选择，正则化与交叉验证
Allenspringfestival·2023-08-07 11:17

（统计学习方法|李航）第二章感知机——第三节感知机学习算法

目录1.感知机学习算法的原始形式2.感知机学习算法的收敛性3.感知机学习算法的对偶形式1.感知机学习算法的原始形式2.感知机学习算法的收敛性3.感知机学习算法的对偶形式
Allenspringfestival·2023-08-07 11:47

人工智能之数学（概率方面）

所以主要是理解相关数学符号，理解统计学习中一些和概率相关的算法推导，即可。基础概率：一件事情发生的概率，等于该事件发生的数目除以所发生的数目。例如电影院观影人数为100人，女生50人，男士50人，你看
aidh123·2023-08-05 14:57

01统计学习及监督学习概论

2019.06.26开始统计学习方法，在此记录下学习历程，梳理思路。
查理的小号·2023-08-05 12:45

动手学深度学习（二）线性神经网络

一、线性回归线性回归模型是一种常用的统计学习方法，用于分析自变量与因变量之间的关系。它通过建立一个关于自变量和因变量的线性方程，来对未知数据进行预测。
向岸看·2023-08-05 11:46

马尔可夫链模型总结

申明：本文内容来源于李航《统计学习方法》第二版隐马尔可夫链模型是关于时序的概率模型，描述有一个隐藏的马尔科夫链随机生成不可观测的状态随机序列，再有各个状态随机生成一个观测而产生观测随机序列的过程。
Black先森·2023-08-03 06:14

聊一聊先进的感知器和伟大的BP算法

曾经，基于统计学习的机器学习方法在AI领域占据了半边天，逻辑回归、决策树、支持向量机等算法不久就耳熟能详，「特征工程」一词瞬间火了起来，普遍认为数据弄得好+特征工程做得好≈模型能work。
Dreamcatcher风·2023-07-31 13:34

逻辑斯特回归与最大熵模型

概述逻辑回归(logisticregression)是统计学习中的经典分类方法。最大熵是概率模型学习的一个准则，将其推广到分类问题得到最大熵模型(maximumentropymodel)。
weixin_30685047·2023-07-29 04:35

机器学习：逻辑斯特回归算法

再加上一个偏置项x0,则每个样本包含n+1维特征：其中x∈Rn+1,x0=1,y∈{0,1}统计学习方法一书中：分类是监督学习的一个核心问题，在监督学习中，当输出变量Y取有限个离散值时，预测问题便
Twig程·2023-07-29 04:03

经典机器学习算法的极简实现（Python+NumPy）

大三的时候曾花两个星期学习了几个经典的机器学习算法，学习方法主要是白天参考《统计学习方法》推导公式，晚上利用公式编写实现。
木亦有知·2023-07-29 02:44

【NLP入门教程】十八、支持向量机（Support Vector Machines）

1.原理介绍支持向量机的原理基于统计学习理论和结构风险最小化原则。它的核心思想是找到一个最优超平面，将不同类别的样本分隔开来，并最大化间隔（margin）。该最优超平
晨星同行·2023-07-28 19:38

【梯度下降应用于波士顿房价预测（岭回归）】

我们从CMU统计学习数据集库中获取数据，并将其划分为训练集和测试集。
武帝为此·2023-07-28 06:11

统计学习方法学习笔记（一）————统计学习方法概论

1.统计学习（1）统计学习概念统计学习(statisticallearning)是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。
阿波拉·2023-07-27 23:08

【统计学习方法】第7章 支持向量机

支持向量机（supportvectormachines，SVM）是一种二类分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机；支持向量机还包括核技巧，这使它成为实质上的非线性分类器。支持向量机的学习策略就是间隔最大化，可形式化为一个求解凸二次规划（convexquadraticprogramming）的问题，也等价于正则化的合页损失函数的最小化问题。支持向量机
gkm0120·2023-07-25 19:55

利用Python连接MySQL将表单转化为DataFrame

利用Python连接MySQL将表单转化为DataFrame表中数据来自于《统计学习方法》第二版P71页1.创建loan_application表单CREATETABLEloan_application
DeeGLMath·2023-07-23 20:13

【机器学习教程】五、支持向量机（Support Vector Machines）

SVM的原理基于统计学习理论和几何学的概念，并具有较好的理论基础和严格的数学推导。本文将深入介绍SVM的算法发展、重要论文、原理以及应用，并提供一个复杂的实战案例。
晨星同行·2023-07-22 11:19

简明数据科学 第二部分：统计学习的关键概念

首先，将定义什么是统计学习。然后，将深入到统计学习的关键概念，了解统计学习。相信我，很简单。什么是统计学习image根据维基百科，统计学习理论是从统计学和功能分析领域进行机器学习的框架。
Mr_Quan·2023-07-22 07:16

PHP中的支持向量机算法实现原理

它基于统计学习理论和结构风险最小化原则，通过构造最优分类超平面来实现模型训练和预测。SVM算法可以应用于多个领域，比如图像识别、文本分类、异常检测等。
学习3人组·2023-07-21 06:09

回首2020

督促、提醒、授课，批改作业、统计学习情况，从没有一丝懈怠。家长和学生也
实验中学黄亚丽·2023-07-20 23:30

probit模型与logit模型的相同点，区别及关系

Probit模型和Logit模型都是常用的统计学习方法，主要用于二分类问题中。相同点：它们都是广义线性模型，通过建立数据与概率之间的联系来预测离散响应变量的可能性。
Serendipity^O^Ekko·2023-07-18 01:54

《统计学习方法》学习笔记1：以方法为中心

统计学习，也称统计机器学习，什么是学习，如果一个系统能够通过执行某个过程改进它的性能，就说这个系统可以学习。按此定义，统计机器学习，就是计算机系统通过运行数据及统计方法提高系统性能的机器学习。
王同学LM·2023-07-17 23:57

【 Logistic模型】

1.Logistic模型概述Logistic模型，又称为逻辑回归模型，是一种广泛应用于分类问题的统计学习方法。与线性回归模型不同的是，Logistic模型的输出是概
武帝为此·2023-07-17 18:59

1.1.10. Bayesian Regression（贝叶斯回归）

其实很多时候，我们机器学习的算法从本质上来看，就是一种统计学习方法。所以，贝叶斯概率学派的很多思想，是理解机器学习的关键所在。贝叶斯回归显然是贝叶斯理论在线性回归的一个应用。
matrix_studio·2023-07-17 06:31

训练集、验证集、测试集的区别和联系以及对统计学习和深度学习的意义

在我们一开始学机器学习的时候，可能大部分人和我状态一样，只知道搭建一个模型，然后读入数据去训练就完事了，后来才知道需要细分训练集、验证集和测试集。一、什么是训练集、验证集和测试集训练集：从原始数据集中分离出来的大量数据，喂给模型用来训练模型。验证集：从原始数据集中分离出来的少量数据，用来给训练集训练结束后的模型进行模型的精度评估。测试集：从原始数据集中分离出来的少量数据，用来给训练集训练结束后的模
Guapifang·2023-07-16 12:50

ML刻意练习第三周之SVM

关于具体的理论推导可以查阅统计学习方法（李航著）。序列最小优化（SMO）算法是将大的优化问题分解为多个小的优化问题来求解的。其原理是每次循环中选择两个alpha进行优化处理。
juanjuanyou·2023-07-15 22:00

机器学习-归纳偏好（西瓜书系列1）

奥卡姆剃刀原理关于归纳偏好，对于一个数据，模型有许多的归纳偏好，也就是有许多的假设，那么如何进行归纳假设的选择呢，一般性的原则就是：最简单原则-奥卡姆剃刀原理，也就是使模型的结构尽量简单，这也是《统计学习
naca yu·2023-07-15 07:16

野指针危害真的很大吗？

这里我们举个例子来说明什么是野指针，还是上学期，学妹找我借书，李航写的，统计学习方法。我就告诉她，书给我放到实验室我位置上的柜子上了。就相当于我指向一个数据给他，让她去那里找，然
小小何先生·2023-06-24 05:47

感知机——《统计学习方法第二章》

感知机模型感知机是一个二分类的线性分类模型，之所以说是线性，是因为它的模型是线性形式的。概念我们分别从输入空间、输出空间、模型结构、参数空间和假设空间来看一下感知机。输入输入空间：X⊆Rn\mathcal{X}\subseteq\mathbf{R}^nX⊆Rn；输入：x=(x(1),x(2),⋯ ,x(n))T∈Xx=\left(x^{(1)},x^{(2)},\cdots,x^{(n)}\rig
weixin_961876584·2023-06-24 04:37

最大熵模型

内容源于公众号《简博士数据分析吧》和b站《【合集】十分钟机器学习系列视频《统计学习方法》》代码来自于https://blog.csdn.net/weixin_41566471/article/details
weixin_961876584·2023-06-24 04:36

SVM——《统计学习方法第七章》

为什么叫支持向量机在第二章中我们学过感知机，它是最小化所有误分类点到超平面的距离之和，M为误分类点的集合，得到的分离超平面是不唯一的。min⁡ω,b[−∑xi∈Myi(ω⋅xi+b)]\min_{\omega,b}[-\sum_{x_i\inM}y_i(\omega\cdotx_i+b)]ω,bmin[−xi∈M∑yi(ω⋅xi+b)]在支持向量机中，{分类确信度∣ω⋅xi+b∣∣∣ω∣∣分类正确
weixin_961876584·2023-06-24 04:04

朴素贝叶斯模型(NBM)详细解读 | 统计学习方法学习笔记 | 数据分析 | 机器学习

本文包括：1.走近朴素贝叶斯-上帝到底掷不掷骰子2.重要概念3.贝叶斯公式的一般形式5.朴素贝叶斯的基本方法6.贝叶斯估计其它有关数据分析，机器学习的文章及社群朴素贝叶斯-贝叶斯估计Python复现：朴素贝叶斯（Bayes）模型python复现-贝叶斯估计；下溢出问题-知乎(zhihu.com)1.走近朴素贝叶斯-上帝到底掷不掷骰子：上帝到底掷不掷骰子，这个问题精准地概括了相对论和量子力学之间的矛
舟晓南·2023-06-19 18:36

有监督学习和无监督学习

机器学习的应用范围：机器学习与模式识别、统计学习、数据挖掘、计算机视觉、语音识别、自然语言处理等领域有着非常深的联系。模式识别=机器学习两者的主要差别在于前者是从工业界发展起来的概念，后者则
____-7·2023-06-18 14:04

【西瓜书笔记】8. EM算法（上）

EM算法的例子《统计学习方法》例9.1（三硬币模型）：假设有3枚硬币，分别记作A，B，C。这些硬币正
西风瘦马1912·2023-06-18 09:52

如何理解python中sklearn的逻辑回归，并用简单实例练习？

1.逻辑回归概念逻辑回归是一种用于分类问题的统计学习方法。尽管名字中带有"回归"二字，但逻辑回归实际上是一种分类算法，主要用于将数据分为两个或多个离散的类别。
Unknown To Known·2023-06-15 22:02

《统计学习方法》——条件随机场(下)

引言这是统计学习方法第十一章条件随机场的阅读笔记，包含所有公式的详细推导。
愤怒的可乐·2023-06-15 07:37
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他