统计学习第7页

SVM-支持向量机算法概述

支持向量机方法是建立在统计学习理论的VC维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性（即对特定训练样本的学习精度，Accuracy）和学

FishBear_move_on·2023-04-07 07:00

《统计学习方法》笔记（一）统计学习及监督学习概论

最近利用工作之余的时间正在学习李航博士的《统计学习方法》，一方面希望能够通过写作整理思路，另一方面，分享学习心得也希望可以和志同道合的小伙伴们共同探讨进步啦~github传送门：GitHub-wyynevergiveup

菜鸟研究生·2023-04-06 21:46

决策树详解--最通俗易懂的解释

决策树详解决策树的结构根节点内部结点叶节点决策树算法特征的划分选择信息增益信息增益率基尼系数决策树剪枝预剪枝后剪枝连续属性与缺失值连续属性处理缺失值处理多变量决策树决策树算法的“增量学习”决策树的结构一般的，决策树由一个根节点、若干个内部节点、若干个叶节点构成，这些节点由边组成（《统计学习方法

爱学习的小杠精·2023-04-06 13:50

NLP中面向文本表示的模型梳理

在语音处理技术中，语音信息被解析成为用音频频谱序列向量所构成的matrix，喂入神经网络或者统计学习模型进行处理；在图像处理技术中，图像信息被解析成由众多像素点构成的matrix，喂入神经网络或者统计

Gamelife27·2023-04-06 10:10

[强基计划] 统计学习方法之感知机Perceptron

感知机2.1感知机模型感知机模型属于一种判别模型，感知机的定义如下：（定义2.1）感知机：假设输入空间（特征空间）为，输出空间为y={+1,-1}，那么函数:被称为感知机，可见感知机的本质就是一个符号化函数，其中：显然，感知机是一种线性分类器。2.2数据集的线性可分特性，感知器学习方法（定义2.2）数据集的线性可分性：对一个数据集，其中，，,如果存在某一个超平面S，使能够把数据的正实例与负实例完全

zxymic·2023-04-06 04:27

2021-8-9晨间日记

今天是什么日子起床：八点就寝：十一点天气：炎热心情：较好纪念日：无任务清单昨日完成的任务，最重要的三件事：1.夜跑；2.学习；3.总结报告改进：早睡早起习惯养成：早睡早起周目标·完成进度完成7月份绩效考核表统计学习

军刀·2023-04-05 22:27

《Machine Learning in Action》—— Taoye给你讲讲Logistic回归是咋回事

在本篇文章中，我们主要是手撕Logistic回归，这个在李航老师的《统计学习方法》一书中也叫做为逻辑斯谛回归。

玩世不恭的Coder·2023-04-05 10:11

ISLR读书笔记十九：主成分分析（PCA）

前面写的一些统计学习方法都是属于监督学习（supervisedlearning），这篇主成分分析（principalcomponentsanalysis，简称PCA）和下一篇聚类分析（clustering

晓炜·2023-04-05 04:52

大总结：机器学习和视觉slam小项目--Apple的学习笔记

前言机器学习入门，主要参考网络教学视频及统计学习方法这本书，侧重学习基础学习及推导学习理论1.Python与数学牛顿迭代法—Apple的学习笔记2.数学梯度下降—Apple的学习笔记3.机器学习K临近算法

applecai·2023-04-05 00:10

Ensemble learning 概述

在机器学习和统计学习中,EnsembleLearning(集成学习)是一种将多种学习算法组合在一起以取得更好表现的一种方法。

BradleyBill·2023-04-04 21:07

统计学习方法 - 第1章 - 概论

全书章节第1章统计学习方法概论第2章感知机第3章k近邻法第4章朴素贝叶斯法第5章决策树第6章逻辑斯谛回归与最大熵模型第7章支持向量机第8章提升方法第9章EM算法及其推广第10章隐马尔可夫模型第11章条件随机场第

哔哔如是·2023-04-04 16:21

R语言：广义估计方程(GEE)

转自个人微信公粽号【易学统计】的统计学习笔记：R语言：广义估计方程(GEE)01解决何种问题在临床研究中，经常会比较两种治疗方式对患者结局的影响，并且多次测量结局。

小易学统计·2023-04-04 15:42

统计学习方法笔记之k近邻算法（附代码实现）

Aengus_Sun·2023-04-04 10:03

统计学习-笔记2

最近更新：2018-12-301.假设检验2.T检验对于这部分的内容还是比较熟悉的,都是复习比较多,更加注重于练习与理解.1.假设检验1.1显著性水平显著性水平是估计总体参数落在某一区间内，可能犯错误的概率，也就是TypeIError1.2备选检验和零假设一个研究者想证明自己的研究结论是正确的，备择假设的方向就要与想要证明其正确性的方向一致；下面总结一下单侧检验,具体如下:单侧检验方向的选择可以依

努力奋斗的durian·2023-04-03 20:29

《动手学深度学习》之多层感知机

文章目录多层感知机从线性到非线性激活函数ReLU函数sigmoid函数tanh函数模型选择、欠拟合和过拟合训练误差和泛化误差统计学习理论模型复杂性模型选择验证集KKK折交叉验证权重衰减范数与权重衰减Dropout

QxwOnly·2023-04-03 13:05

资源|机器学习和自然语言处理技术相关的一些资源总结

1.书籍统计学习，李航，清华大学出版社这本书是国内为数不多的关于机器学习写的非常好的入门级别的一本书

011b8ee4cba4·2023-04-03 10:04

复习07统计学习方法(支持向量机SVM)---图片版

技术交流QQ群:1027579432，欢迎你的加入！图1.jpg图2.jpg图3.jpg图4.jpg图5.jpg图6.jpg图7.jpg图8.jpg

CurryCoder·2023-04-03 05:58

《统计学习方法》第十八章概率潜在语义分析

概率潜在语义分析概率潜在语义分析是利用概率生成模型对文本集合进行话题分析的方法概率潜在语义分析受潜在语义分析的启发提出两者可以通过矩阵分解关联起来给定一个文本集合，通过概率潜在语义分析，可以得到各个文本生成话题的条件概率分布，以及各个话题生成单词的条件概率分布概率潜在语义分析的模型有生成模型，以及等价的共现模型其学习策略是观测数据的极大似然估计，其学习算法是EM算法生成模型表示文本生成话题，话题生

小鹏AI·2023-04-02 09:51

支持向量机SVM概述

简介支持向量机方法是建立在统计学习理论的VC维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性（即对特定训练样本的学习精度）和学习能力（即无错误地识别任意样本的能力）之间寻求最佳折中，以求获得最好的推广能力

吃肉的小馒头·2023-04-01 22:37

AI开发书籍分享

编程书籍的整理和收集目录:AI与算法数学之美机器学习凸优化理论统计学习方法数据挖掘与

weixin_34226706·2023-03-31 22:53

【scikit-learn】03：将sklearn库用于非监督性学习聚类

【scikit-learn】01：使用案例对sklearn库进行简单介绍【scikit-learn】02：使用sklearn库进行统计学习【scikit-learn】03：将sklearn库用于非监督性学习聚类

小松悦读会 | kevinelstri·2023-03-31 17:35

Day1 #100DaysofMLCoding#

2018-8-6个人前置条件：已经将《统计学习方法》《机器学习实战》一刷80%西瓜书一刷50%，tensorflow实战一刷70%kaggle上参与过titanic(Top6%)和数字识别(Top12%

MWhite·2023-03-31 15:49

统计学习方法9—EM算法

EM算法是一种迭代算法，是一种用于计算包含隐变量概率模型的最大似然估计方法，或极大后验概率。EM即expectationmaximization，期望最大化算法。1.极大似然估计在概率模型中，若已知事件服从的分布或者其他概率模型的参数，那么我们可以通过计算得到某事件发生的概率。而在估计中，这些变成了方向过程：已知一组数据发生的结果，相当于获得了经验概率，通过这组数据假设模型服从什么分布，再

breezez·2023-03-30 20:42

VSCode能运行但无法调试python

文章目录环境例子代码问题故障解决学完了经典的统计学习部分，目前打算往深度学习靠，因为经典的算法太过经典，一来不够有热点，二来对理论的深度要求比较高，很难做出有些新意。

billy145533·2023-03-30 00:00

机器学习笔记（10）

学习打卡内容：阅读《李航统计学习方法》的65-74页学习Gini指数学习回归树剪枝根据自己阅读，先写出自己所认为的笔记。前面学习了决策树的建立方法。

trying52·2023-03-28 23:56

国内计算机视觉CV方向的大牛/导师

/research.microsoft.com/en-us/people/hangli/是MSRAWebSearchandMiningGroup高级研究员和主管，主要研究领域是信息检索，自然语言处理和统计学习

philipwelia·2023-03-28 07:12

决策树（Decision Tree）

参考资料：《西瓜书》p73-p95《百面机器学习》p80-89《统计学习方法》p55-p75《机器学习_学习笔记(allinone)V0.96》p622-p650《DecisionTree-SuperAttributes

ZzzZBbbB·2023-03-28 03:46

机器学习-损失函数

一个统计学习方法基本上由三个部分组成：模型+策略+算法1，模型，，即输入样本特征，可以返回样本值或概率值的函数2，策略，有了模型，如何确定模型中的参数呢？如何根据训练数据拟合一个不错的模型呢？

莱昂纳多91·2023-03-27 09:26

NLP系列-中文分词（基于统计）

这里就用到了统计学习算法，如隐马尔科夫模型（HMM），条

城市中迷途小书童·2023-03-26 12:07

逻辑回归算法推导与基于Python的实现详解

逻辑回归概述2逻辑回归公式推导与求解2.1公式推导2.2公式求解3基于Python的实现3.1可接收参数3.2完整代码示例1逻辑回归概述逻辑回归（LogisticRegression）是一种用于分类问题的统计学习方法

专注算法的马里奥学长·2023-03-26 07:57

改进的迭代尺度法(IIS)详细解析 | 统计学习方法学习笔记 | 数据分析 | 机器学习

最大熵模型：舟晓南：统计学习方法-最大熵模型解析|数据分析，机器学习，学习历程全记录已知最大熵模型为：《统计学习方法》中直接给出对数似然函数为：现在解释如何得到上式的对数似然函数：首先根据对数似然函数的一般形式给出

舟晓南·2023-03-25 23:13

2020-4-27晨间日记

今天是什么日子起床：四点半就寝：十一点天气：晴心情：暗纪念日：任务清单昨日完成的任务，最重要的三件事：组会，统计组员学习情况看所有组员的案例分析改进：注意日间合理休息习惯养成：早起周目标·完成进度首个案例分析，完成统计学习

源记安睡心·2023-03-25 15:38

感知机模型(Perceptron)的收敛性解读 | 统计学习方法

Python复现，使用了随机梯度下降法，梯度下降法，adagrad和对偶形式四种算法：舟晓南：感知机模型python复现-随机梯度下降法；梯度下降法；adagrad；对偶形式在《统计学习方法》的感知机算法章节中

舟晓南·2023-03-25 10:12

机器学习正则化ppt_机器学习必知必会：正则化

目的：防止模型过拟合原理：在损失函数上加上某些规则(限制)，缩小解空间，从而减少求出过拟合解的可能性例子：以最简单的线性模型为例线性回归模型我们在统计学习中接触到线性回归的最小二乘估计和正则化的岭回归与拉索回归

weixin_39560604·2023-03-25 03:34

[机器学习必知必会]如何理解机器学习中的正则化

目的：防止模型过拟合原理：在损失函数上加上某些规则（限制），缩小解空间，从而减少求出过拟合解的可能性例子：以最简单的线性模型为例，我们在统计学习中接触到线性回归的最小二乘估计和正则化的岭回归与拉索回归。

TOMOCAT·2023-03-25 03:22

统计学习三要素

模型1决策函数集合2条件概率集合策略有了模型的假设空间，按照什么样的准则学习或者选择最优模型损失函数：一次预测的好坏（lossfunction）风险函数：平均意义下的模型预测的好坏损失函数10-1损失函数2平方损失函数3绝对损失函数4对数损失函数或对数似然损失函数损失函数值越小，模型就越好损失函数的期望是：学习的目的就是选择期望风险最小的模型，一方面根据期望风险最小的学习模型要用到联合分布，联合分

云之彼端09·2023-03-25 01:29

Adaboost理解笔记(matlab实现)

基本原理参考：李航的《统计学习方法》AdaBoost通过加大分类误差率小的弱分类器的权重，使其在表决中起

zoulala·2023-03-24 04:31

蓝皮书系列之朴素贝叶斯

李航的蓝皮书《统计学习方法》，可谓是机器学习的中文经典。其中所设计的一些算法，是机器学习的基础。这篇博文将要讲述蓝皮书中的第四章朴素贝叶斯法。

脑荼地·2023-03-22 02:40

李航《统计学习方法》读书笔记--统计学习方法概论

1、定义统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。统计学习的对象是数据，数据分为由连续变量和离散变量表示的类型。统计学习的目的是对数据进行预测与分析。

是小橙子呀·2023-03-22 00:52

机器学习－－基本概念要清楚～

方法＝模型＋策略＋算法统计学习首要考虑的问题是学习什么样的模型。在监督学习过程中，模型就是所要学习的条件概率分布或决策函数。

suxuer·2023-03-20 20:46

[R语言] Heatmap绘图经验总结

热力图（Heatmap）是统计学习中不可或缺的图形之一，在生信领域中尤为常见，它通过颜色的深浅程度来判断不同类别间的差异，通常结合数据特征的相关系数矩阵来判断其显著性。

YERA·2023-03-20 01:20

统计机器学习入门——线性回归-CSDN公开课-专题视频课程

统计机器学习入门——老司机带你读经典"系列课程使用经典的ISLR（AnIntroductiontoStatisticalLearningwithApplicationsinR）为教材，结合具体案例，介绍统计学习的基本概念和常用算法

程序员研修院·2023-03-16 20:30

（九）从零开始学人工智能--统计学习：KNN&SVM&决策树

统计学习基础算法-KNN&SVM&决策树文章目录统计学习基础算法-KNN&SVM&决策树1.KNN（k-NearestNeighbor）1.1距离选择1.2K值选择1.3维度灾难1.4KNN的优缺点2.

小花技术大本营·2023-03-15 10:41

K近邻算法(k-Nearest Neighbour, KNN)

《机器学习》周志华k近邻学习《统计学习方法》李航k近邻法KNN算法思想k-最近邻(k-NearestNeighbour,kNN)算法是一种基本分类与回归方法，属于监督学习方法，其工作机制非常简单：给定测试样本

　木夕敢敢·2023-03-14 07:37

2022第十三届蓝桥杯第三题刷题统计学习心得

首先按照题目所说小明周一至周五每天练a道题，周六和周日每天练b道题，并且是从周一开始训练，那么我们可以设置两个内循环，第一个内循环是周一至周五的练习量并记录天数，第二个内循环则是周六和周日的练习量并记录天数，注意每记录一次总练习量就需要判断是否大于所计划的练习量，当大于或等于所计划的量时,我们可以写return0直接结束程序。因为两个内循环之间是要形成一个环，就是说从第二个内循环就要转回到第一个内

沉迷代码的小小小菜鸡·2023-03-13 20:31

统计学习方法读书笔记（第二章）

感知器感知器是二类分类的线性分类模型，属于辨别模型。输出为实例的类别，取+1与-1二值。目的是求出将训练数据进行线性划分的分离超平面。误分类点判别的结果与输入的类别不同（异号）则为误分点，那么判据为image.png损失函数通过求出误分类点到超平面的总距离，评价划分效果的好坏。求总距离最小时的情况，利用梯度下降法，分别求w，b的偏导数。image.pngimage.pngimage.pngimag

gibyeng·2023-03-13 14:19

NLP预训练语言模型（一）：马尔科夫链与HMM的三个基本问题

隐马尔科夫模型（HMM）是一种有向图模型，是结构最简单的动态贝叶斯网，是可用于标注问题的统计学习模型，描述由隐藏的马尔科夫链随机生成观测序列的过程，属于“生成式模型”。

机智的可达鸭·2023-03-13 05:46

k近邻(KNN)模型详细解读 | 统计学习方法学习笔记 | 数据分析 | 机器学习

本文包含：1.走近k近邻-你周围的人决定了你是怎样的人2.重要概念3.k近邻算法的数学形式4.k近邻模型的直观认识5.如何计算距离6.k值的选择7.k近邻算法的损失函数8.kd树数据结构9.搜索kd树KNN模型Python复现，使用了线性扫描；权值优化两种算法：舟晓南：k近邻（KNN）模型python复现-线性扫描；带权值的近邻点优化方法1.走近k近邻-你周围的人决定了你是怎样的人：人是群居动物，

舟晓南·2023-03-10 00:12

《统计学习方法》笔记（二）感知机模型