E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
【周志华
《统计学习方法》-李航、《机器学习-西瓜书》-
周志华
总结+Python代码连载(二)--线性模型(Linear model)
一、线性回归(Linearregression)线性回归试图学得一个线性模型以尽可能准确地预测实值输出标记,用公式表达为:,使得。那么怎么求得w,b呢?基本使用最小二乘法和梯度下降。最小二乘法:最小化均方差函数(本连载一中有相关解释)。梯度下降:是一种迭代算法。选取适当的初值,不断迭代,更新参数值,进行目标函数的极小化,直到收敛。由于负梯度方向是使函数值下降最快的方向,在迭代的每一步,以负梯度方向
xiao韩
·
2023-01-29 16:49
Python与AI
机器学习
学习笔记
机器学习
python/sklearn
线性模型
逻辑回归/线性回归
LDA
机器学习
周志华
通俗总结(1)
机器学习的大致结构为“输入-模型-输出”。根本任务就是训练出符合要求的模型。根据训练时输入是否有标注可以分为“监督督学习”和“无监督学习”,前者主要是分类和回归,后者主要是聚类。在训练时有两个重要原则。一是“没有免费的午餐”,即没有一种算法能适应所有情况。二是“奥卡姆剃刀”,在所有选择都可以时候,选最简单那个。从时间顺序上,20世纪50年代的基于神经网络的“连接主义”,60-70年代的基于逻辑的“
银月魔狼
·
2023-01-28 20:56
《机器学习(
周志华
)》Chapter7 贝叶斯分类 课后习题答案
7.1试使用极大似然法估算西瓜数据集3.0中前3个属性的类条件概率.即求属性为X={色泽,根蒂,敲声},c={是,否},的类条件概率P(x|c)根据西瓜书P149.极大似然法,同理假设P(x|c)具有确定的形式并且被参数向量θc唯一确定。根据公式可得题目转化为求:$$LL(\mathop\theta\nolimits_C)=\sum\limits_{x\in\mathopD\nolimits_c}
周博u010083327
·
2023-01-28 15:59
机器学习
机器学习
周志华
课后习题答案
【机器学习】
周志华
西瓜书第七章贝叶斯分类器习题--实现AODE分类器,以西瓜数据集3.0为训练集,对“测1”进行判别。
fromnumpyimport*importnumpyasnpimportpandasaspd#读取文件格式为xlsx的数据defdataLoad(filename):df=pd.read_excel(fliename,header=None)#这里为获取属性列表将header设置成NonepropLabelSet=df.values[0:1,1:-1]#属性列表dataSet=df.values
弓长纟隹为
·
2023-01-28 15:29
python
开发语言
【机器学习】
周志华
西瓜书第七章贝叶斯分类器习题--实现拉普拉斯修正的朴素贝叶斯分类器,以西瓜数据集3.0为训练集,对“测1”进行判别
watermelon_4.3.xlsxfromnumpyimport*importnumpyasnpimportpandasaspd#读取文件格式为xlsx的数据defdataLoad(filename):df=pd.read_excel(fliename,header=None)propLabelSet=df.values[0:1,1:-1]#属性列表['色泽''根蒂''敲声''纹理''脐部''
弓长纟隹为
·
2023-01-28 15:59
深度学习
人工智能
决策树代码(python)
ID3决策树前言最近学习决策树,看了
周志华
的西瓜书,也看了很多博客,此文记录一下学习心得,理论部分网上已经有很多了,此处不再赘述。由于本人对西瓜数据集的属性不太感冒,所以用的例子是男女,声音,头发。
D.ziyu
·
2023-01-28 08:53
机器学习
算法
决策树
ID3
周志华
《机器学习》读书记录
周志华
《机器学习》读书记录(8)第八章集成学习课后习题这章主要讲了融合算法包括1.Boosting(Adaboost)将一个弱学习器提升为强学习器2.Bagging(并行式集成学习)让我没想到的是随机森林算法也是并行式集成学习的一种
GundamDyname
·
2023-01-27 17:10
机器学习周志华
机器学习
《机器学习》
周志华
习题答案8.5
用Bagging,以决策树为树桩,在西瓜数据集上实现。#!/usr/bin/python#-*-coding:utf-8-*-importnumpyasnpimportmatplotlib.pyplotaspltfromsklearn.ensembleimportBaggingClassifierfromsklearn.treeimportDecisionTreeClassifierfile1=o
weixin_30359021
·
2023-01-27 17:10
数据结构与算法
人工智能
python
【机器学习】
周志华
西瓜书第八章集成学习习题8.5--编程实现Bagging模型,以决策树桩为基学习器,在西瓜数据集3.0a上训练一个Bagging集成,并与教材图8.6进行比较。
(1)问题理解与分析编程实现Bagging模型,以决策树桩为基学习器,在西瓜数据集3.0a上训练一个Bagging集成,并与教材图8.6进行比较。(2)Bagging算法原理阐述若想得到泛化性能强的集成,集成中的个体学习器应尽可能相互独立;虽然“独立”在现实任务中无法做到,但可以设法使基学习器尽可能具有较大的差异。给定一个训练数据集,一种可能的做法是对训练样本进行采样,产生出若干个不同的子集,再从
弓长纟隹为
·
2023-01-27 17:40
学习
人工智能
吃瓜第一次笔记【未整理完1.0version】
笔记待整理
周志华
教授建议使用西瓜书方式:学习机器学习的第一本书读三次第一次通读速度,细节不懂就略过,第一次要快,一个月内读完,目的是了解机器学习的疆域、基本思想、基本概念阅读其他具体分支的读物(三月、半年
MathPie
·
2023-01-27 10:56
人工智能
python
西瓜书南瓜书第一二章读后总结
西瓜书是由圈内的大佬南京大学
周志华
教授主编的,通过仔细地阅读之后,无疑对机器学习领域好多基本的概念以及背景知识更加了解了。
兰特740
·
2023-01-27 09:22
人工智能
西瓜书习题2.5的证明
rank}AUC=1−lrank的推导分析在期末考试暂时告一段落之后,可以将前段时间学习《机器学习》时整理的一部分内容更新了.在学习第二章的ROCROCROC曲线部分时,遇到了题目中的表达式的证明的问题.
周志华
老师用到了初学者深恶痛绝的几个字来完成讲解
SARIHUST
·
2023-01-27 08:47
机器学习
机器学习
推荐:
周志华
《机器学习》西瓜书精炼版笔记来了!
西瓜书《机器学习》无疑是机器学习的必读书籍。本书作为该领域的入门教材,在内容上尽可能涵盖机器学习基础知识的各方面。为了使尽可能多的读者通过本书对机器学习有所了解,作者试图尽可能少地使用数学知识.然而,少量的概率、统计、代数、优化、逻辑知识似乎不可避免。对于这本书,我是非常推荐的。但是对于很多初学者或者数学基础不是特别扎实的同学们来说,想要完整、清晰地弄懂这本书其实并不容易。因此,一份优秀的笔记对于
风度78
·
2023-01-27 08:12
西瓜书第四章个人总结(初学者自己整理)
学习完
周志华
老师的第四章决策树算法,还是有挺多地方不会的,推荐南瓜书的讲解。浅浅总结一下自己的问题和收获。首先是决策树的基本流程,决策树是基于树结构来进行决策的。
兰特740
·
2023-01-27 08:40
决策树
人工智能
值得收藏,这份机器学习算法资料着实太香
最初接触的是
周志华
老师的《机器学习》一书,这本书公式推导具体到每一步,十分详尽,是一本不可多得的理论书籍。
机器学习社区
·
2023-01-26 10:52
机器学习
机器学习
算法
人工智能
【论文解读】关于深度森林的一点理解
2017年年初,南京大学
周志华
老师上传了一篇名为:DeepForest:TowardsAnAlternativetoDeepNeuralNetworks的论文,一石激起千层浪,各大媒体纷纷讨论着,这似乎意味着机器学习的天色要变
Y.G Bingo
·
2023-01-26 09:24
机器学习方法
深度学习
周志华
深度森林
机器学习
机器学习-
周志华
-个人练习8.3和8.5
8.3从网上下载或自己编程实现AdaBoost,以不剪枝决策树为基学习器,在西瓜数据集3.0a上训练一个AdaBoost集成,并与图8.4进行比较。8.5试编程实现Bagging,以决策树桩为基学习器,在西瓜数据集3.0a上训练一个Bagging集成,并与图8.6进行比较。这两道题代码我没有直接编,而是调用的scikit-learn库的集成学习模块进行AdaBoost和Bagging集成,因而只能
qilixuening
·
2023-01-25 15:10
自学练习
Python
机器学习
集成学习
AdaBoost
Bagging
周志华
-机器学习(西瓜书) 集成学习 课后练习题8.3 Adaboost & 8.5 Bagging Python实现
目录scikit-learn及其安装scikit-learn安装集成学习一、利用sklearn库进行分析8.38.5二、8.5编程实现引用scikit-learn及其安装scikit-learnscikit-learn是一个python的机器学习工具,可以进行简单高效的数据挖掘和数据分析,基于NumPy,SciPy和matplotlib构建。功能简介应用举例分类(Classification)识别
Piobac
·
2023-01-25 15:37
大数据
机器学习
决策树
python
五月份组队学习【吃瓜教程】Task02打卡笔记
笔记部分内容来源于网络检索,如有侵权联系可删本次学习针对的对象:有高数、线代、概率论与数理统计基础的同学内容说明:
周志华
老师的“西瓜书”是机器学习经典入门教材,值得反复阅读,配合“南瓜书”从本科数学基础的视角进行讲解
miskirito
·
2023-01-25 11:52
1
学习
概率论
机器学习
【Datewhale一起吃瓜 Task1】
周志华
西瓜书第一章+第二章
这里写目录标题机器学习是干什么的机器学习的理论基础:PAC模型基本术语关于数据关于假设关于模型训练机器学习任务分类归纳偏好模型的评估和选择训练流程划分数据集的方法留出法交叉验证自助法性能度量机器学习是干什么的我们目前处于大数据时代,每天会产生数以亿计的数据。如何让数据产生价值,机器学习应运而生!机器学习致力于研究如何通过计算手段,能够利用经验来改善系统自身的性能。可以理解成:想办法让计算机自己分析
有理想、有本领、有担当的有志青年
·
2023-01-25 11:07
人工智能
深度学习
【机器学习-
周志华
】学习笔记-第十三章
记录第一遍没看懂的记录觉得有用的其他章节:第一章第三章第五章第六章第七章第八章第九章第十章十一章十二章十三章十四章十五章十六章13.1未标记样本让学习器不依赖外界交互、自动地利用未标记样本来提升学习性能,就是半监督学习。可分为纯半监督学习和直推学习,前者假定训练数据中的未标记样本并非待预测的数据,而后者则假定学习过程中所考虑的未标记样本恰是待预测数据,学习的目的就是在这些未标记样本上获得最优泛华性
vircorns
·
2023-01-24 11:40
#
机器学习
机器学习
算法
半监督学习
【机器学习-
周志华
】学习笔记-第三章
记录第一遍没看懂的记录觉得有用的其他章节:第一章第三章第五章第六章第七章第八章第九章第十章十一章十二章十三章十四章十五章十六章第二章主要是一些基础的介绍,实际做一次项目以后,都很好理解;并且,个人感觉,在实际应用中,很多东西是需要现查的(超小声)第三章三个不同思路使用线性模型:3.2是让线性模型尽可能误差小的通过所有数据点3.3用非线性变化后的线性模型代表标签的后验概率3.4通过数据点映射到线性模
vircorns
·
2023-01-24 11:39
#
机器学习
机器学习
人工智能
矩阵
机器学习 -- 《机器学习》(
周志华
)第四章笔记
机器学习–《机器学习》(
周志华
)第四章笔记摘要本章为决策树(decisiontree)内容,决策树是一种较为常见的机器学习方法。决策树基于“树”型,是一种常见的自然判断,是一种“判定”的过程。
小灰机大
·
2023-01-24 11:31
机器学习
机器学习
机器学习_
周志华
_西瓜书_学习笔记_第一章
绪论1.1引言以计算的手段利用经验(数据)来改善系统自身性能。在计算机上面从数据中产生模型,我们提供经验数据,基于经验和数据产生模型,面对新的情况模型会给我们相应的判断。另一本经典教材的作者Mitchell给出了一个形式化的定义,假设:P:计算机程序在某任务类T上的性能。T:计算机程序希望实现的任务类。E:表示经验,即历史的数据集。若该计算机程序通过利用经验E在任务T上获得了性能P的改善,则称该程
Tenora鸢栀
·
2023-01-23 20:41
机器学习
学习笔记
机器学习
Datawhale 吃瓜教程组队学习 task01
Datawhale吃瓜教程组队学习task01还没写完,会持续更新~~上个月看了
周志华
老师的机器学习视频课的前三章,但是后面中断了没看…(主要是懒)于是打算这个月继续来学习西瓜书和南瓜书Task01:概览西瓜书
临风而眠
·
2023-01-22 07:59
机器学习
学习
人工智能
收藏 | YOLOX模型部署、优化及训练全过程
不代表本公众号立场,侵权联系删除转载于:作者丨叶润源来源丨https://www.yuque.com/yerunyuan/ar9831/tsm0id#Kfi4w编辑丨极市平台985人工智能博士笔记推荐
周志华
SophiaCV
·
2023-01-19 14:40
人工智能
机器学习
深度学习
神经网络
twitter
半监督学习
最近的一段时间一直在学习半监督学习算法,目前,国内的南京大学
周志华
老师是这方面的泰斗,写了很多这方面牛的文章,可以参考一下他的主页:http://cs.nju.edu.cn/zhouzh/。
weixin_30702413
·
2023-01-19 12:33
人工智能
数据结构与算法
数据库
机器学习(
周志华
)——对数几率回归
课后习题3.3,编程实现对率回归,并给出西瓜数据集3.0a\aa上的结果由公式(3.23)、(3.29)、(3.30)、(3.31)进行公式带入,实现matlab的算法如下:clear;clctic%初始数据集x=[0.6970.4600.7740.3760.6340.2640.6080.3180.5560.2150.4030.2370.4810.1490.4370.2110.6660.0910.
未来影子
·
2023-01-19 10:21
机器学习
matlab
Python
机器学习
logistic
regression
python
matlab
周志华
机器学习西瓜书第2章模型评估与选择——精度与模型泛化评估方法,自助法与集成学习
1.间接计算精度经常是直接计算正确率,间接计算精度:1-错误率一般模型错误的个数会少于正确的个数,计算错误率的效率会高于计算正确率训练过程中想观察模型的学习效果,而观察错误率的下降便是很好的办法之一2.模型的最终目的我们的目标永远不是去尽可能完美地拟合训练数据,而是去泛化到没见过的数据,在总体数据下追求完美所以,一定牢记,训练数据不是目的,测试数据才是目的训练数据本身会有干扰噪声,过好地拟合训练数
阿航626
·
2023-01-19 06:47
机器学习
西瓜书
机器学习
人工智能
深度学习
集成学习
《机器学习》中的假设空间和版本空间
初看
周志华
老师的《机器学习》,搞清楚假设空间和版本空间的概念还是非常必要的。
一只程序喵
·
2023-01-18 20:29
机器学习
朴素贝叶斯模型(naive bayes)
朴素贝叶斯模型(naivebayes)注:本博客为
周志华
老师《机器学习》的读书笔记,但同时也参考了李航老师的《统计学习》方法,以及其他资料(见参考文献),虽有自己的理解,但博客里的例子是基于《机器学习》
天泽28
·
2023-01-18 17:38
机器学习&深度学习
naive
bayes
朴素贝叶斯
生成模型
第一章 绪论+第二章 模型评估与选择
《机器学习》
周志华
2.《机器学习公式详解》谢文睿秦州3.
symun
·
2023-01-18 17:01
机器学习
人工智能
周志华
《机器学习》读书笔记--第一章 绪论
附上西瓜书解读–南瓜书南瓜书Pumpkin-book写读书笔记之前说说自己的心理感受:关于机器学习其实在研一的时候由于好奇,和同学去旁听计算机专业选修课,当时那个老师上的就是机器学习,印象里偏神经网络多一些。记得当时,每次都在黑板上手推公式,虽然觉得自己考研的时候高数、线代、概率论还算学的可以,但经不住那么多公式。我只知道当时真没听懂,当时那个老师推荐的课本也是这个书。我曾经试着去看,结果看了几页
王嘉尔的小奶酪.
·
2023-01-18 15:07
机器学习
绪论
《西瓜书》笔记-第0章-引言
我所阅读的书籍名字为《机器学习》,由
周志华
老师著作。个人感觉,这本书内容是从基础知识层面上覆盖机器学习的各个领域,文章内容阅读起来比较容易,配合《南瓜书》可以
WYH的日常
·
2023-01-18 15:36
机器学习
算法
人工智能
机器学习-DAY1-2
机器学习(西瓜书)-------
周志华
著所有图片公式均来自Datawhale。
fancccyyy
·
2023-01-18 14:12
机器学习
模式识别——0.绪论
第一章绪论主要是针对考试的复习,和一些重点内容的标注,对书本内容做了删减,加了自己的笔记和思考注:该系列参考的是机械工业出版社的模式分类和
周志华
老师的西瓜书。
Druid_C
·
2023-01-18 09:48
模式识别
模式识别
【机器学习】AGNES层次聚类算法
数据集来源:
周志华
西瓜书数据集4.01.读取文件:importnumpyasnpimportpandasaspdimportmatplotlib.pyplotaspltdata=pd.read_csv(
每天进步一点丶
·
2023-01-17 16:26
机器学习
聚类
算法
python
多粒度级联森林算法解读
多粒度级联森林解读本博文简单解读一下
周志华
教授的多粒度级联森林算法。废话不多说,多粒度级联森林的结构主要分为两部分,一部分是多粒度扫描部分,还有就是级联森林部分。
卷了个积
·
2023-01-16 09:06
算法
机器学习:偏差、噪声的几点认识
最近在看
周志华
老师的机器学习的书籍(俗称西瓜书)。因为数学功底差,在理解起来困难重重,但是冥思苦想后还有自己的看法,记录一下并和大家分享讨论。几点理解:0.吹年之前,先说个人们容易忽略的概念真值!
Destin055
·
2023-01-16 08:19
机器学习
偏差噪声
大佬新书首发 | 《机器学习 公式推导与代码实现》正式出版!
关注过这本书的公众号读者应该知道,这本书在系列原创机器学习30讲的基础上,并参考了李航老师的《统计学习方法》和
周志华
老师的西瓜书《机器学习》的理论体系,从公式推导和代码实现两个维度来展示机器学习的基本内涵
人工智能与算法学习
·
2023-01-15 11:09
算法
人工智能
机器学习
编程语言
python
新书首发 | 《机器学习 公式推导与代码实现》正式出版!
关注过这本书的公众号读者应该知道,这本书在系列原创机器学习30讲的基础上,并参考了李航老师的《统计学习方法》和
周志华
老师的西瓜书《机器学习》的理论体系,从公式推导和代码实现两个维度来展示机器学习的基本内涵
算法channel
·
2023-01-15 11:09
算法
人工智能
机器学习
python
编程语言
人生第二本书!
关注过这本书的公众号读者应该知道,这本书在系列原创机器学习30讲的基础上,并参考了李航老师的《统计学习方法》和
周志华
老师的西瓜书《机器学习》的理论体系,从公式推导和代码实现两个维度来展示机器学习的基本内涵
Datawhale
·
2023-01-15 11:08
算法
机器学习
人工智能
python
编程语言
新书首发 | 《机器学习 公式推导与代码实现》正式出版!(文末送书)
关注过这本书的公众号读者应该知道,这本书在系列原创机器学习30讲的基础上,并参考了李航老师的《统计学习方法》和
周志华
老师的西瓜书《机器学习》的理论体系,从公式推导和代码实现两个维度来展示机器学习的基本内涵
风度78
·
2023-01-15 11:08
算法
人工智能
机器学习
python
编程语言
周志华
《机器学习》(西瓜书)——学习笔记
第1章绪论1.1引言因为我们吃过、看过很多西瓜,所以基于色泽、根蒂、敲声这几个特征我们就可以做出相当好的判断.类似的,我们从以往的学习经验知道,下足了工夫、弄清了概念、做好了作业,自然会取得好成绩.可以看出,我们能做出有效的预判?是因为我们已经积累了许多经验,而通过对经验的利用?就能对新情况做出有效的决策.机器学习所研究的主要内容,是关于在计算机上从数据中产生"模型"(model)的算法,即"学习
ManRock
·
2023-01-14 15:38
机器学习
深度学习
周志华
《机器学习》——学习笔记
基本术语欲预测的是离散值,此类学习任务称为分类(classification)若为连续值,则称为回归(regression)根据训练数据是否有标记信息,学习任务分为:监督学习(supervisedlearning),无监督学习(unsupervisedlearning)。分类和回归是监督学习的代表,聚类(clustering)是无监督学习的代表归纳(induction)是从特殊到一般的泛化(gen
Jangyu_Du
·
2023-01-14 15:34
学习笔记
机器学习
周志华
——机器学习 第三章笔记
第三章线性模型3.1基本形式给定由d个属性描述的示例x=(x1,x2,...xd),其中xi是x在第i个属性上的取值,线性模型试图学得一个通过属性的线性组合来进行预测的函数,即f(x)=w1x1+w2x2+...+wdxd+b一般用向量形式写成f(x)=wTx+b其中w=(w1,w2,...wd).w和d学得之后,模型就得以确定。线性模型形式简单,易于建模,但却蕴含着机器学习中一些重要的基本思想许
m0_62833130
·
2023-01-14 15:00
机器学习
人工智能
周志华
——机器学习 第一二章笔记
周志华
—机器学习(西瓜书)1.1引言机器学习是研究“学习算法”的学问机器学习:假设用P来评估计算机程序在某任务T上的性能,若一个程序通过利用经验E在T中任务上获得了性能改善,则我们就说关于T和P,该程序对
m0_62833130
·
2023-01-14 15:29
机器学习
人工智能
机器学习
周志华
--自助法bootstrapping中的极限公式
在西瓜书的第二章,讲了几种常用的对数据集进行划分而产生训练集S\mathit{S}S和测试集T\mathit{T}T的方法,其中就有一个自助法。自助法:其实就是通过有放回采样产生训练集,没有被采样到的作为测试集。书中描述,给定包含m个样本的数据集D\mathit{D}D,每次从D\mathit{D}D中采样一个样本,拷贝后放入D′\mathit{D'}D′中,采样m次,得到包含m个样本的数据集D′
蓝域小兵
·
2023-01-13 21:27
机器学习
西瓜书
数学
机器学习
概率论
人工智能
机器学习(5)——
周志华
泛化能力泛化误差:在未来样本上的误差经验误差:在训练集上的误差训练误差并不是越小越好,因为会出现过拟合的现象过拟合和欠拟合模型错误的把一些特征当成一般规律就叫做过拟合欠拟合:模型未能很好的学习样本的特征。例如机器学习中的机器学习三大问题
臭小子222
·
2023-01-12 18:10
笔记
人工智能
深度学习
机器学习(6)——
周志华
评估方法留出法通产用Holdout方法是要进行100次实验才能保证实验结果的可靠性留出法看似简单其实比较麻烦,有100个数据做数据集是我们想要的是100个数据训练出的模型,但是全部数据用作训练我们就没办法对模型的误差进行估计,所以我们要对数据集进行划分,测试集和训练集都不能太小,当划分完成模型训练结束以后,我们还需要用所有数据再训练一次,这才是我们要求得模型留出法还有一个缺点就是可能会有一部分数据
臭小子222
·
2023-01-12 18:54
人工智能
深度学习
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他