机器学习实战+西瓜书第5页

机器学习实战教程（一）：K-近邻算法（a）

一、简单k-近邻算法本文将从k-近邻（kNN）算法的思想开始讲起，使用python3一步一步编写代码进行实战训练。并且，我也提供了相应的数据集，对代码进行了详细的注释。除此之外，本文也对sklearn实现k-近邻算法的方法进行了讲解。实战实例：电影类别分类、约会网站配对效果判定、手写数字识别。本文出现的所有代码和数据集，均可在我的github上下载，欢迎Follow、Star：Github代码地址

公子曼步·2023-11-05 03:32

【西瓜书+花书】速通

参考：BV1qY4y187Ff第一部分：机器学习回归算法1.机器学习概述数据挖掘：大规模机器学习算法去计算用户情况计算机视觉：无人驾驶汽车推荐算法……预测样本->特征抽取（转换成计算机能够理解的数据，重要！提取特征）->学习函数->预测实用工具：Numpy科学计算pandas数据分析matplotlib数据可视化scikit-learn机器学习2.回归算法监督学习（有标签）、无监督学习（无标签）回

NN今夜无眠·2023-11-04 03:53

机器学习实战梯度上升数学推导_机器学习实战原理/代码：Gradient-Descent（梯度下降）...

OUTLINE:这个点的导数为负，如果每次加上这个导数会向左走，是梯度上升。要梯度下降，则加负号，前面乘以一个系数，控制每次移动的步长有可能找到的是：局部最优解implementation：找到这个二次函数的最低点。（梯度下降法）首先：lossfunction是啥？很明显，就是这个二次函数，我们要让这个lossfunction达到0，就说明我们找到了最小值点。于是，每次求出迭代的点的导数值，乘以-

weixin_39936792·2023-11-04 02:08

Python机器学习实战（一）

文章目录基于逻辑回归实现乳腺癌预测基于k-近邻算法实现鸢尾花分类基于决策树实现葡萄酒分类基于朴素贝叶斯实现垃圾短信分类基于支持向量机实现葡萄酒分类基于高斯混合模型实现鸢尾花分类基于主成分分析实现鸢尾花数据降维基于奇异值分解实现图片压缩基于逻辑回归实现乳腺癌预测#基于逻辑回归实现乳腺癌预测fromsklearn.datasetsimportload_breast_cancerfromsklearn.

数据攻城小狮子·2023-11-03 09:05

现成调包>底层编写>算法改进——我对k-means由浅入深的理解

不赘述，原理可参考：《机器学习》周志华《机器学习实战》网络博客、百度因为研究数据不公开，本期数据采用随机构造数据，如下代码：##【代码1】随机产生点##i

交通科研Lab·2023-11-02 15:30

2023年第七期丨全国高校大数据与人工智能师资研修班

全国高校大数据与人工智能师资研修班邀请函2023年第七期线下班（昆明）：数据采集与机器学习实战线上班（七大专题）:PyTorch深度学习与大模型应用实战数据采集与处理实战大数据分析与机器学习实战大数据技术应用实战

泰迪智能科技·2023-10-31 16:40

机器学习实战k近邻２－约会网站

发布的代码都是经本人调试，在Python2.7上可以正常运行的。后面还会附带一些自己在写代码过程中遇到的问题。#!/usr/bin/python#-*-coding:UTF-8-*-fromnumpyimport*importoperatorfromosimportlistdirdefclassify0(inX,dataSet,labels,k):dataSetSize=dataSet.shape

suxuer·2023-10-29 11:58

集成学习——AdaBoost

下面是西瓜书里

没天赋的学琴·2023-10-29 10:32

10000字！图解机器学习特征工程

数据对齐2.2缺失值处理原文链接：https://www.showmeai.tech/article-detail/208作者：showmeAI引言上图为大家熟悉的机器学习建模流程图，ShowMeAI在前序机器学习实战文章

赵孝正·2023-10-28 20:39

Python机器学习实战：如何用Pandas处理缺失值

机器学习实战：这里没有艰深晦涩的数学理论，我们将用简单的案例和大量的示例代码，向大家介绍机器学习的核心概念。我们的目标是教会大家用Python构建机器学习模型，解决现实世界的难题。

数据工程与机器学习·2023-10-28 17:26

机器学习实战梯度上升数学推导_机器学习-白板推导系列(二)-数学基础笔记

视频如下：机器学习-白板推导系列(二)-数学基础_哔哩哔哩(゜-゜)つロ干杯~-bilibiliwww.bilibili.com一、概率-高斯分布1-极大似然估计高斯分布在统计机器学习中占据重要的地位。本节内容主要是利用极大似然估计计算高斯分布下的最优参数。Data:假设数据中有个样本，每个样本为维数据（含有个feature）所有的样本都独立同分布于高斯分布MLE：极大似然估计MLE：求最优的使得

weixin_39644377·2023-10-28 17:24

（《机器学习》完整版系列）第2章模型评估与选择 ——2.5 代价的曲线美

学习器（打分器）既产生ROC曲线【西瓜书图2.4】，又产生代价曲线【西瓜书图2.5】。代价曲线（常将错误率称为代价），代价曲线为一种特殊的直线簇的包络。

人工干智能·2023-10-28 14:29

Azure - 机器学习实战：快速训练、部署模型

本文将指导你探索Azure机器学习服务的主要功能。在这里，你将学习如何创建、注册并发布模型。此教程旨在让你深入了解Azure机器学习的基础知识和常用操作。关注TechLead，分享AI全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验，同济本复旦硕，复旦机器人智能实验室成员，阿里云认证的资深架构师，项目管理专业人士，上亿营收AI产品研发负责人。一、开始之前的准备要深入Azu

TechLead KrisChang·2023-10-28 13:00

自然语言处理系列十四》中文分词》机器学习统计分词》感知器分词

注：此文章内容均节选自充电了么创始人，CEO兼CTO陈敬雷老师的新书《分布式机器学习实战》（人工智能科学与技术丛书）【陈敬雷编著】【清华大学出版社】文章目录自然语言处理系列十四中文分词感知器分词总结自然语言处理系列十四中文分词中文分词

陈敬雷-充电了么-CEO兼CTO·2023-10-27 16:04

（西瓜书）ID3决策树代码详解

importmathimportoperatordefcreateDataSet():labels=['年龄','工作','房子','信贷情况']#特征标签dataSet=[[0,0,0,0,'no'],[0,0,0,1,'no'],[0,1,0,1,'yes'],[0,1,1,0,'yes'],[0,0,0,0,'no'],[1,0,0,0,'no'],[1,0,0,1,'no'],[1,1,1

xiao_haohao·2023-10-27 14:06

西瓜书决策树实现（基于ID3）——采用字典数据结构

很久没有更新，最近实现《西瓜书》决策树，贴出来给大家共享。

大叔变码农·2023-10-27 14:33

【机器学习】决策树（理论与代码）

计算可以参考周志华西瓜书。计算信息熵Ent(D)与信息增益Gain（D）。原理的话就是选取信息增益最大的为根，以此类推。

读书猿·2023-10-27 04:23

机器学习第一章练习题

摘自书籍--------《机器学习实战：基于Scikit-Learn和TensorFlow》1.你会怎么定义机器学习？答：机器学习是一门能够让系统从数据中学习的计算机科学。

星动OvO·2023-10-27 01:09

吃瓜教程3——决策树（西瓜书第四章）

目录一、算法原理从几何角度理解最终目的二、ID3决策树自信息信息熵信息增益ID3决策树三、C4.5决策树增益率一、算法原理从几何角度理解根据某种准则划分特征空间最终目的将样本越分越“纯”二、ID3决策树自信息信息熵（以离散型为例）即自信息的期望，度量随机变量X的不确定性，信息熵越大越不确定；X各个取值概率均等时信息熵最大（最不确定），某个取值概率为1时信息熵最小（最确定）。将样本类别标记y视作随机

雾里看花的学习日常·2023-10-26 22:12

吃瓜笔记04 决策树

学习内容：西瓜书和南瓜书--第4章讲解课程：Datawhale吃瓜教程（【吃瓜教程】《机器学习公式详解》（南瓜书）与西瓜书公式推导直播合集_哔哩哔哩_bilibili）目录第4章决策树4.1算法流程4.2

cookie222·2023-10-26 22:05

机器学习实战（集成学习）

集成学习简介集成学习的核心是如何产生并结合“好而不同”的个体学习器根据个体学习器的生成方式，目前的集成学习方法大致分为两大类个体学习器间存在强依赖关系，必须串行生成的序列化方法（Boosting）个体学习器之间不存在强依赖关系、可同时生成的并行方法（Bagging和随机森林RandomFrost）Bagging与随机森林Bagging基于有放回的采样（自助采样法），基本流程为：将训练集进行采样，每

清水一个僧·2023-10-26 12:02

机器学习实战——决策树算法

点击查看：数据集+代码决策树该流程图就是一个决策树，长方形代表判断模块（decisionblock），椭圆形代表终止模块（terminatingblock），表示已经得出结论，可以终止运行。从判断模块引出的左右箭头称作分支（branch），它可以到达另一个判断模块或者终止模块。决策树ID3算法上一篇的k-近邻算法可以完成很多分类任务，但是它最大的缺点就是无法给出数据的内在含义，决策树的主要优势就在

if 雨田人尹＝＝雷伊：·2023-10-26 04:15

ML in Action笔记——CH4 朴素贝叶斯

——摘自《西瓜书》朴素贝叶斯和贝叶斯的最大区别就是：朴素，即条件独立，算法引入朴素贝叶斯的目的是为了降低计算量优点：在数据较少的情况下仍然有效，可以处理多类别问题。缺点：对于输入数据的

猴子姑娘呀·2023-10-24 20:44

《机器学习实战》笔记（四）：Ch4 - 基于概率论的分类方法:朴素贝叶斯

第四章基于概率论的分类方法:朴素贝叶斯[代码][ch04]基于贝叶斯决策理论算法优缺点优点:在数据较少的情况下仍然有效。可以处理多类别问题。缺点:对于输入数据的准备方式较为敏感。范围:标称型数据。Tip:贝叶斯决策理论的核心思想是选择高概率对应的类别，即选择具有最高概率的决策贝叶斯法则后验概率=标准似然度*先验概率。贝叶斯定理对于变量有二个以上的情况，贝叶斯定理亦成立。例如：P(A|B,C)=P(

Liu_Goodfellow·2023-10-24 20:09

《机器学习实战》学习记录-ch3

第3章分类PS:个人记录，抄书系列，建议看原书原书资料：https://github.com/ageron/handson-ml2目录第3章分类3.1MNIST数据集3.2训练二元分类器3.2.1随机梯度下降SGD3.3性能测量3.3.1使用交叉验证测量准确率3.3.2混淆矩阵3.3.3精度和召回率3.3.4精度/召回率权衡3.3.5ROC曲线多元分类器3.5误差分析3.6多标签分类3.7多输出分

Cyan青·2023-10-24 20:09

《机器学习实战》ch1 ~ ch15 笔记目录

《机器学习实战》笔记（一）：Ch1-机器学习基础《机器学习实战》笔记（二）：Ch2-k-近邻算法《机器学习实战》笔记（三）：Ch3-决策树《机器学习实战》笔记（四）：Ch4-基于概率论的分类方

Liu_Goodfellow·2023-10-24 20:09

机器学习实战---PM2.5预测

文章目录一.预处理二、模型训练三、测试四、模型预测五、保存预测结果感受项目数据集数据集介绍使用丰原站的观测记录，分成trainset跟testset，trainset是丰原站每个月的前20天所有资料。testset则是从丰原站剩下的资料中取样出来。train.csv:每个月前20天的完整资料。test.csv:从剩下的资料当中取样出连续的10小时为一笔，前九小时的所有观测数据当作feature，第

Sinlair·2023-10-24 20:06

《机器学习实战》学习记录-ch4

4.1线性回归importnumpyasnpimportmatplotlib.pyplotaspltimportpandasaspdX=2*np.random.rand(100,1)#生成[0,1)之间的数据y=4+3*X+np.random.randn(100,1)#生成一组正态分布的数据，高斯噪声X_b=np.c_[np.ones((100,1)),X]X_b[:5]array([[1.,0.

Cyan青·2023-10-24 20:03

西瓜书——贝叶斯分类器+EM算法

西瓜书贝叶斯分类器详解https://blog.csdn.net/yangjingjing9/article/details/79986371贝叶斯分类器应用—水果分类https://blog.csdn.net

又笨又懒的猪·2023-10-24 05:46

Python3《机器学习实战》学习笔记（八）：支持向量机原理篇之手撕线性SVM

一前言二什么是SVM三线性SVM数学建模1决策面方程2分类间隔方程3约束条件4线性SVM优化问题基本描述5求解准备6拉格朗日函数7KKT条件8对偶问题求解SMO算法1Platt的SMO算法2SMO算法的解法四编程求解线性SVM1可视化数据集2简化版SMO算法五总结一前言说来惭愧，断更快半个月了，本打算是一周一篇的。感觉SVM瞬间难了不少，推导耗费了很多时间，同时身边的事情也不少，忙了许久。本篇文章

essenge·2023-10-24 04:27

周志华《机器学习》西瓜书新出算法推导视频！（超级详细）

如果你对人工智能跃跃欲试，第一步该怎么办？我通常的做法是，先收集人工智能有关的信息，或者问问身边正在学习的师兄师姐，寻求他们的方法或建议。如果你已经开始学习，并且了解一点机器学习这个概念，那么你就应该知道这本书“周志华《机器学习》”，号称人工智能领域中文版开山之作这是一本面向中文读者的机器学习教科书，适合正在学习机器学习的学生，以及对人工智能机器学习感兴趣的人士。为了让读者通过本书对机器学习有所了

深度之眼订阅号·2023-10-21 18:31

python3《机器学习实战系列》学习笔记----1.K-近邻算法

前言一、K-近邻算法概述1.1简述1.2距离测量的方法1.3KNN算法的一般流程1.3.1准备：使用python导入数据1.3.2实施KNN分类算法1.3.2.1KNN伪代码1.3.2.2KNN算法二、示例：使用K-NN算法改进约会网站的配对效果2.1一般流程2.1.1准备数据：从本文中解析数据2.1.2分析数据：使用Matplotlib创建散点图2.1.3准备数据：归一化数值2.1.4测试算法：

mcyJacky·2023-10-21 16:28

机器学习实战笔记（三）：使用k-近邻算法的手写识别系统（Python3 实现）

完整代码及数据地址：https://github.com/cqulun123/Machine-Learning-in-Action0使用k-近邻算法的手写识别系统的步骤(1)收集数据：提供文本文件。(2)准备数据：编写函数classify0()，将图像格式转换为分类器使用的list格式。(3)分析数据：在Python命令提示符中检查数据，确保它符合要求。(4)训练算法：此步骤不适用于k-近邻算法。

max_bay·2023-10-21 16:24

（西瓜书）一元线性归回代码详解

importnumpyasnpimportmatplotlib.pyplotaspltdeftrue_fun(X):#因为我们没有样本来训练，所以我们自己生成一些样本，假设true_fun是理想线性回归函数return1.5*X+0.2np.random.seed(0)#随机种子n_sample=30#生成30个样本点"""生成随机数据作为训练集"""train_X=np.sort(np.rand

xiao_haohao·2023-10-21 13:25

李航统计学习感知机算法实现

前言李航的《统计学习方法》和西瓜书是入门机器学习进而到深度学习的经典书籍，笔者是数学专业大二在读，在编程方面仍有许多不足之处，在已经看完相关经典书籍后开始编程实践。

没有改名卡y·2023-10-21 08:09

机器学习实战(第2章)

一.快速查看数据结构1.housing.head():查看DataFrame的前5行2.housing.info():查看DataFrame的总行数，每个属性的类型及非空值的数量3.housing['xx'].value_counts():查看有多少xx有多少取值，每种取值分别有多少数量4.housing.describe():显示DataFrame中的数值摘要二.创建测试集(只把函数列出)1.t

好好学习天天向上W·2023-10-21 02:17

用python做逻辑回归_机器学习之逻辑回归(纯python实现)

本文参考机器学习实战的相应部分，看一下数据集。//两个特征-0.01761214.0530640-1.3956344.66

weixin_39620252·2023-10-20 10:08

唐宇迪机器学习实战课程笔记(全)

1.线性回归1.1线性回归理论1.2线性回归实战2.训练调参基本功(线性回归、岭回归、Lasso回归)2.1线性回归模型实现2.2不同GD策略对比2.3多项式曲线回归2.4过拟合和欠拟合2.5正则化3.分类模型评估(Mnist实战SGD_Classifier)3.1K折交叉验证K-foldcrossvalidation3.2混淆矩阵ConfusionMatrix3.3准确率accuracy、精度p

Yuezero_·2023-10-19 18:28

《机器学习实战》— 基于概率论的分类方法：朴素贝叶斯

知更鸟女孩·2023-10-19 10:28

机器学习实战--基于概率论的分类方法：朴素贝叶斯

前言：朴素贝叶斯算法是有监督的学习算法，解决的是分类问题，如客户是否流失、是否值得投资、信用等级评定等多分类问题。该算法的优点在于简单易懂、学习效率高、在某些领域的分类问题中能够与决策树、神经网络相媲美。但由于该算法以自变量之间的独立（条件特征独立）性和连续变量的正态性假设为前提，就会导致算法精度在某种程度上受影响。基于贝叶斯决策理论的方法1.贝叶斯决策理论假设现在有一个数据集，它由两类数据组成，

aaaaPIKACHU·2023-10-19 10:24

《Machine Learning in Action》—— 剖析支持向量机，单手狂撕线性SVM

《MachineLearninginAction》——剖析支持向量机，单手狂撕线性SVM前面在写NumPy文章的结尾处也有提到，本来是打算按照《机器学习实战/MachineLearninginAction

玩世不恭的Coder·2023-10-19 06:22

机器学习实战城市居民消费水平

31省城市居民消费水平分类k-means算法采用默认距离即欧式距离。importnumpyasnpfromsklearn.clusterimportKMeansdefloadData(filePath):fr=open(filePath,'r+')lines=fr.readlines()retData=[]retCityName=[]forlineinlines:items=line.strip(

让时间来沉淀吧·2023-10-18 01:01

吃瓜教程1--概念准备

目录一、西瓜书准备篇1、绪论（1）假设空间（2）归纳偏好2、模型评估与选择（1）经验误差与过拟合（2）评估方法二、南瓜书准备篇机器学习的相关技术1.监督学习（1）Regression（2）Classification2

雾里看花的学习日常·2023-10-17 05:21

Day01-《西瓜书》-模型评估与选择(DataWhale)

一、绪论出处：Datawhale吃瓜教程（https://www.bilibili.com/video/BV1Mh411e7VU）案例：水果摊旁，挑个根蒂蜷缩，敲起来声音浊响的青绿西瓜。期待是皮薄后瓤甜的瓜1.1引言机器学习研究如何通过计算的手段，利用经验来改善系统自身的性能。经验以数据形式存在学习算法在计算机上从数据中产生模型的算法模型泛指从数据中学到的结果机器学习分类根据训练数据是否拥有标记信

liying_tt·2023-10-17 04:16

【1】机器学习实战peter Harrington——学习笔记

机器学习实战peterHarrington——学习笔记综述数据挖掘十大算法本书结构一、机器学习基础1.1机器学习1.2关键术语1.3机器学习主要任务1.4如何选择合适的算法1.5开发机器学习应用程序的步骤综述机器学习算法在包含信息检索和数据挖掘在内的多个领域都有着十分广泛的应用

手可摘辰·2023-10-16 11:03

浅谈机器学习中的过拟合

本篇博客主要是基于花书（古德费洛的《DeepLearning》）和西瓜书（周志华的《机器学习》）撰写的，其中插入了博主的一些个人见解，如有不对之处希望大家指出来一起来讨论一下嘿嘿，万分感谢。

Maples丶丶·2023-10-16 04:10

机器学习sklearn实战

机器学习sklearn实战今天开始学习机器学习实战，好多年都没有下定决心把这个学好。

sea_bi·2023-10-15 11:37

机器学习实战 --- sklearn

前言随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文主要介绍机器学习的基础内容。源码：https://gitee.com/qinlewei/machine_learning.git一、sklearn数据集对于一个初入机器学习的小白来说，数据是分析必不可少的。sklearn中含有前人整理好的数据集可以直接导入调用，此外也可以从kaggle上下载数据集，上的数据具

不加糖咖啡q·2023-10-15 11:34

机器学习期末总复习详解

机器学习实战第一章人工智能引擎机器学习与人工智能，深度学习的关系：进行机器学习的步骤机器学习算法的分类第二章模型评估经验误差与过拟合评估方法性能度量第三章k邻近算法KNN算法流程时间复杂度kd树k邻近算法优缺点第四章决策树决策树算法流程划分选择信息增益

打代码能当饭吃？·2023-10-14 22:16

树模型（一）孤立森林

孤立森林（IsolationForest）算法是西瓜书作者周志华老师的团队研究开发的算法，一般用于结构化数据的异常检测。

湿物男·2023-10-14 21:31

推荐频道

机器学习实战+西瓜书