机器学习系列

机器学习系列 04：梯度下降法及 Python 实现

  本内容将介绍梯度下降法以及其三种类型（批量梯度下降法（BGD）、随机梯度下降法（SGD）和小批量梯度下降法（MBGD））。最后将给出使用随机梯度下降法拟合一个线性回归模型的Python代码。  在机器学习中，为了学得一个能够较好反映实际的模型，通常的方法：针对模型构建损失函数，然后使得损失函数最小化。在实际任务中，梯度下降法是使用较多的一种方法。一、梯度下降法  梯度下降法（Gradientd
空杯的境界·2020-08-03 10:35

机器学习系列 08：深入理解拉格朗日乘子法、KKT 条件和拉格朗日对偶性

  本内容将介绍支持向量机（SVM）中需要使用的基础知识：拉格朗日乘子法、KKT条件和拉格朗日对偶性。一、最优化问题  最优化问题通常分为无约束问题、等式约束问题和不等式约束问题。下面我们将介绍对这些问题如何求解。1.1无约束问题  对于变量x∈Rn\mathbf{x}\in\Bbb{R}^{n}x∈Rn的函数f(x)f(\mathbf{x})f(x)，无约束优化问题如下：(1)min⁡f(x)\
空杯的境界·2020-08-03 10:45

再谈SVM（hard-margin和soft-margin详细推导、KKT条件、核技巧）

前言：大概一个月前，通过李宏毅的机器学习系列视频，我自学了一点SVM，整理在：机器学习之SVM(HingeLoss+KernelTrick)原理推导与解析。
Cyril_KI·2020-08-03 10:07

吴恩达机器学习系列课程笔记——非监督学习

该系列笔记内容是楼主在观看课程时记录的，其中图片是视频中ppt的截图，内容仅供参考，有问题欢迎大家指出。目录1.聚类（Clustering）1.1K均值算法（K-means）——迭代算法1.1.1失真代价函数（DistortionCostFunction）1.1.2聚类中心的随机初始化1.1.3聚类数量的选择2.降维（DimensionalityReduction）2.1主成分分析法（PCA，Pr
White_lies·2020-08-02 22:33

吴恩达机器学习系列课程笔记——机器学习系统设计

该系列笔记内容是楼主在观看课程时记录的，其中图片是视频中ppt的截图，内容仅供参考，有问题欢迎大家指出。目录1.误差分析1.1交叉验证错误率（CrossValidationError）1.2查准率和召唤率（Precision/Recall）1.2.1评估度量方法F~1~Score2.推荐系统2.1基于内容的推荐算法（ContentBasedRecommendations）2.2协同过滤（Colla
White_lies·2020-08-02 22:01

吴恩达机器学习系列课程笔记——过拟合问题以及正则化技术

该系列笔记内容是楼主在观看课程时记录的，其中图片是视频中ppt的截图，内容仅供参考，有问题欢迎大家指出。目录1.过拟合问题（OverfittingProblem）2.正则化技术（RegularizationMethod）什么是拟合在介绍拟合前先定义两个名词：偏差和方差偏差（Bias）又称为表观误差，是指个别测定值与测定的平均值之差，它可以用来衡量测定结果的精密度高低，这里描述的是根据样本拟合出的模
White_lies·2020-08-02 22:01

吴恩达机器学习系列课程笔记——神经网络

该系列笔记内容是楼主在观看课程时记录的，其中图片是视频中ppt的截图，内容仅供参考，有问题欢迎大家指出。目录1.神经元结构2.神经网络结构3.前向传播（ForwardPropagation）3.1例子3.1.1简单模型（逻辑运算）3.1.2复杂模型（多输出——分类问题）4.反向传播算法（BackpropagationAlgorithm）4.1梯度检验（GradientChecking）5.随机初始
White_lies·2020-08-02 22:01

吴恩达机器学习系列课程笔记——机器学习的评估和诊断

该系列笔记内容是楼主在观看课程时记录的，其中图片是视频中ppt的截图，内容仅供参考，有问题欢迎大家指出。目录1.机器学习评估方法1.1传统标准1.2交叉验证集2.机器学习诊断法（MachineLearningDiagnostics）2.1特征数量对拟合的影响2.2正则化参数对拟合的影响2.3样本数对拟合的影响——学习曲线（LearningCurves）2.4神经网络隐藏层神经元个数对拟合的影响1.
White_lies·2020-08-02 22:01

SVM之软间隔最大化

跟我一起机器学习系列文章将首发于公众号：月来客栈，欢迎文末扫码关注！
空字符（公众号：月来客栈）·2020-08-02 22:04

【机器学习系列】之支持向量回归SVR

【机器学习系列】之SVM硬间隔和软间隔【机器学习系列】之SVM核函数和SMO算法【机器学习系列】之支持向量回归SVR【机器学习系列】之sklearn实现SVM代码一、SVM回归模型概述对于SVM回归模型
張張張張·2020-08-02 20:18

【机器学习系列】之SVM硬间隔和软间隔

【机器学习系列】之SVM硬间隔和软间隔【机器学习系列】之SVM核函数和SMO算法【机器学习系列】之支持向量回归SVR【机器学习系列】之sklearn实现SVM代码SVM概述假定给出训练样本集D={(x1
張張張張·2020-08-02 20:17

吴恩达机器学习系列课程笔记——代价函数

该系列笔记内容是楼主在观看课程时记录的，其中图片是视频中ppt的截图，内容仅供参考，有问题欢迎大家指出。目录1.平方误差代价函数（SquareErrorCostFunction）2.逻辑回归代价函数（LogisticRegressionCostFunction）3.神经网络代价函数（NeuralNetworkCostFunction）4.支持向量机代价函数（SVMCostFunction）4.1偏
White_lies·2020-08-02 20:51

手推机器学习系列笔记——手推SVM(1)硬间隔、软间隔、约束优化问题、对偶性证明、KKT条件

笔记是听了b站大神的白板推导机器学习系列课，再结合李航老师的《统计学习方法》、周志华老师的西瓜书以及其他优秀博主的博客而成（浑然天成！！！）
Fox_Alex·2020-08-02 20:22

【机器学习系列】之SVM核函数和SMO算法

【机器学习系列】之SVM硬间隔和软间隔【机器学习系列】之SVM核函数和SMO算法【机器学习系列】之支持向量回归SVR【机器学习系列】之sklearn实现SVM代码一、SVM核函数SVM基本型假设的是训练样本是线性可分的
張張張張·2020-08-02 20:50

手推机器学习系列笔记——手推SVM(2) 对偶问题探讨、Slater条件、核技巧、SMO算法推导+简单实现代码、数据集

一、两个问题在我的上一篇博客手推SVM(1)中有两个问题值得探讨：（传送门：https://blog.csdn.net/Fox_Alex/article/details/105113554）为什么转对偶?是否所有的都可以转对偶？何时转对偶？Slater条件通过查阅大量文献、博客、视频教程，就目前我对这两个问题的认识如下，希望能和大家一起探讨探讨：解答：问题1：转对偶对偶性在我的上一篇博客手推SVM
Fox_Alex·2020-08-02 20:01

机器学习系列（五）——支持向量机SVM

支持向量机SVM目录支持向量机SVM1、硬间隔SVM-统计学习基础1）基本概念：2）对偶讲解2、软间隔3、核函数常用的核函数及对比：4、SMO求解SVM5、代码实现6、参考博客逻辑回归是基于似然度的分类方法，通过对数据建模得到软输出；而支持向量机属于基于判别式的硬输出分类方法。支持向量机并不关心数据的概率，而是基于判别式找到最优的超平面作为二分类问题的决策边界。简单来说就是能走直线就别兜弯子。不要
冰淇淋lining·2020-08-02 13:32

机器学习系列--KNN分类算法例子

url:机器学习系列--KNN分类算法用的是spark2.0.2,scala2.11importorg.apache.spark.
李孟lm·2020-08-01 14:12

简介循环神经网络家族

突然更新的机器学习系列……循环神经网络不管是RNN还是CNN，他们都是一种特征提取的手段，只不过CNN做的是提取空域的近邻信息，然而RNN是提取的时域上的上下文关系，我们经常在视频，文本这样具有明显的时间关系的数据来源上利用这种结构
limn2o4·2020-07-31 19:39

【机器学习系列】SVD奇异值分解（python代码）

说明NumPy有一个称为linalg的线性代数工具箱。本文主要介绍如何使用该工具箱实现矩阵的SVD处理。参考《机器学习实战》P255代码#coding:utf-8fromnumpyimport*defloadData():return[[1,1,1,0,0],[2,2,2,0,0],[3,3,3,0,0],[5,5,3,2,2],[0,0,0,3,3],[0,0,0,6,6]]data=loadD
sina微博_SNS程飞·2020-07-30 15:49

机器学习系列 | 十种机器学习算法的要点(含代码)

导语上个月瞅了眼之前写的这个系列的两篇文章，感觉自己写的东西有点烂，于是打算重新来过，无奈时间精力有限，因此打算寒假期间再重新开始写这个系列。然后这里想分享一篇机器学习相关的好文，原文链接如下：https://www.analyticsvidhya.com/blog/2017/09/common-machine-learning-algorithms/本文内容均翻译自此，仅供学习交流，若存在侵权，
Sim1480·2020-07-30 08:53

机器学习系列笔记十二: 决策树

机器学习系列笔记十二:决策树文章目录机器学习系列笔记十二:决策树Intro信息熵使用信息熵寻找最优划分基尼系数使用基尼系数寻找最佳划分基尼系数与信息熵的对比CART与决策树中的超参数决策树的超参数决策树解决回归问题决策树的局限性缺点改进措施总结参考致谢
ChanZany·2020-07-29 23:53

机器学习系列文章（监督学习）：回归

在机器学习领域，最神奇的模型当属回归模型，回归模型也是非专业人员一谈机器学习就能无意涉及到的内容。在这里，笔者先谈谈当前信息学科被无良媒体夸大报道赚取点击率关注度的商业行为。不知何时起，国民自负的以为手里拿着手机，包里背着笔记本就以为掌握了信息时代发展的最前沿信息。这种不理性的行为，除了为你赚取一点跟你一样自负人的谈资外，一无所获。另一方面，当一项新的互联网技术取得了突破性成果后，无良媒体疯狂炒作
人工智能讲师团·2020-07-29 20:34

Python 数据科学入门教程：机器学习：回归

Python数据科学入门教程：机器学习：回归原文：Regression-IntroandData译者：飞龙协议：CCBY-NC-SA4.0引言和数据欢迎阅读Python机器学习系列教程的回归部分。
布客飞龙·2020-07-28 23:03

手把手实战机器学习系列: 随机森林

https://www.toutiao.com/a6655458544508207630/2019-02-0811:43:58我们将探索决策树，并且拓展它到随机森林。这种类型的模型，和我们之前见过的线性和逻辑回归不同，他们没有权重但是有很好的可解释性。概述目标:给出一些数据，选择特征并且决定以什么样的方式分裂数据来做出预测。优点:决策树可以做成分类树和回归树。具有很强的可解释性.仅需很少的数据预处
喜欢打酱油的老鸟·2020-07-28 21:10

机器学习系列笔记十三: 集成学习/模型聚合

机器学习系列笔记十三:集成学习/模型聚合文章目录机器学习系列笔记十三:集成学习/模型聚合什么是集成学习VotingHardVoting模拟实现HardVoting集成学习使用VotingClassifierSoftVoting
ChanZany·2020-07-28 09:54

机器学习系列笔记十一: 支持向量机SVM

机器学习系列笔记十一:支持向量机SVM文章目录机器学习系列笔记十一:支持向量机SVMHardmarginSVMSoftMargin和SVM的正则化SVM的使用scikit-learn中的SVMSVM中使用多项式特征使用多项式核函数的
ChanZany·2020-07-28 09:53

【机器学习系列文章】第4部分：神经网络和深度学习

目录深度学习做得好，有些历史从大脑中汲取灵感（或者只是统计数据？）-神经网络内部会发生什么为什么线性模型不起作用一些扩展和进一步的概念值得注意深度学习应用现在去做吧！更多资源接下来：玩一些游戏的时间！神经网络的工作原理，原因和深度。从大脑中汲取灵感。卷积神经网络（CNN）和递归神经网络（RNN）。真实世界的应用程序。通过深度学习，我们仍在学习函数f，将输入X映射到输出Y，而测试数据损失最小，就像我
ChenVast·2020-07-27 15:09

Kaggle机器学习教程（一）：模型的工作原理以及使用方法

机器学习系列教程：https://www.xugj520.cn/category/ML/机器学习准备工作：Pandas使用入门：https://www.xugj520.cn/archives/pandas.html
高效码农·2020-07-27 14:38

机器学习系列（四）——Numpy中的矩阵运算与索引

效率对比给定向量a=[0,1,2,3,...,9]，让其中每一个元素乘2得到[0,2,4,6,...,18]。n=100000L=[iforiinrange(L)]2*Lout:[0,1,2,3,4,5,6,7,8,9,0,1,2,3,4,5,6,7,8,9]可以发现python原生list不支持这种整体操作。当然可以像下面这样来达成目的：A=[]foreinL:A.append(2*e)Aout
Ice_spring·2020-07-27 11:47

2020机器学习系列新书-《机器学习基础》pdf完整版

机器学习是一门将人类知识和推理过程提炼为一种适合机器和工程自动化系统自动处理的过程的学科。随着机器学习基于应用变得越来越普遍，以及相关的软件包也变得越来越容易使用，底层的技术细节被抽象出来并对使用者不可见，这是很自然且也是我们所期待的。然而，这也带来了一种危险，技术使用者可能不知道算法数学基础，从而意识不到机器学习算法的局限性。对于想要了解机器学习算法背后的技术细节的研究者而言，目前面临着一系列问
图灵的猫.·2020-07-16 07:20

机器学习系列一：Numpy

一、numpy概述numpy（NumericalPython）提供了python对多维数组对象的支持：ndarray，具有矢量运算能力，快速、节省空间。numpy支持高级大量的维度数组与矩阵运算，此外也针对数组运算提供大量的数学函数库。二、创建ndarray数组ndarray：N维数组对象（矩阵），所有元素必须是相同类型。ndarray属性：ndim属性，表示维度个数；shape属性，表示各维度大
小小小读书匠·2020-07-16 06:49

2020机器学习系列新书-《机器学习基础》pdf完整版分析

机器学习是一门将人类知识和推理过程提炼为一种适合机器和工程自动化系统自动处理的过程的学科。随着机器学习基于应用变得越来越普遍，以及相关的软件包也变得越来越容易使用，底层的技术细节被抽象出来并对使用者不可见，这是很自然且也是我们所期待的。然而，这也带来了一种危险，技术使用者可能不知道算法数学基础，从而意识不到机器学习算法的局限性。对于想要了解机器学习算法背后的技术细节的研究者而言，目前面临着一系列问
lqfarmer·2020-07-16 02:24

深入机器学习系列之：ALS

导读ALS的核心是一个假设：打分矩阵是近似低秩的。换句话说，就是一个m*n的打分矩阵可以由分解的两个小矩阵U（m*k）和V（k*n）的乘积来近似来源：星环科技丨作者：endymecy数据猿官网|www.datayuan.cn今日头条丨一点资讯丨腾讯丨搜狐丨网易丨凤凰丨阿里UC大鱼丨新浪微博丨新浪看点丨百度百家丨博客中国丨趣头条丨腾讯云·云+社区什么是ALSALS是交替最小二乘（alternatin
数据猿·2020-07-15 19:34

机器学习系列(10)_如何提高深度学习(和机器学习)的性能

原文地址：HowToImproveDeepLearningPerformancebyJasonBrownlee原文翻译：王昱森（[email protected]）翻译与校对：寒小阳（[email protected]）时间：2016年9月。出处：http://blog.csdn.net/han_xiaoyang/article/details/52654879声明：版权
寒小阳·2020-07-15 11:33

机器学习系列——岭回归

文章目录理论正规方程梯度下降法Python实现正规方程梯度下降法理论岭回归在最小二乘法的基础上加上了一个l2l_2l2惩罚项损失函数：J(θ)=12m∑i=1m[((hθ(x(i))−y(i))2+λ∑j=1nθj2)]J\left(\theta\right)=\frac{1}{2m}\sum\limits_{i=1}^{m}{[({{({h_\theta}({{x}^{(i)}})-{{y}^{
数据科学家修炼之道·2020-07-15 10:43

机器学习系列2-回归案例研究

Regression：CaseStudy如果本文对你有帮助，请给我的github打个star叭，上面附有全系列目录和内容！更多优质内容欢迎关注我的微信公众号“Sakura的知识库”：回归-案例研究问题的导入：预测宝可梦的CP值EstimatingtheCombatPower(CP)ofapokemonafterevolution我们期望根据已有的宝可梦进化前后的信息，来预测某只宝可梦进化后的cp值
Sakura_gh·2020-07-15 08:24

机器学习系列22-无监督学习之自编码器

UnsupervisedLearning:DeepAuto-encoder如果本文对你有帮助，请给我的github打个star叭，上面附有全系列目录和内容！更多优质内容欢迎关注我的微信公众号“Sakura的知识库”：文本介绍了自编码器的基本思想，与PCA的联系，从单层编码到多层的变化，在文字搜索和图像搜索上的应用，预训练DNN的基本过程，利用CNN实现自编码器的过程，加噪声的自编码器，利用解码器生
Sakura_gh·2020-07-15 08:19

机器学习系列24-迁移学习

TransferLearning如果本文对你有帮助，请给我的github打个star叭，上面附有全系列目录和内容！更多优质内容欢迎关注我的微信公众号“Sakura的知识库”：迁移学习，主要介绍共享layer的方法以及属性降维对比的方法Introduction迁移学习，transferlearning，旨在利用一些不直接相关的数据对完成目标任务做出贡献notdirectlyrelated以猫狗识别为
Sakura_gh·2020-07-15 08:19

机器学习系列23-无监督学习之生成模型

UnsupervisedLearning:Generation如果本文对你有帮助，请给我的github打个star叭，上面附有全系列目录和内容！更多优质内容欢迎关注我的微信公众号“Sakura的知识库”：本文将简单介绍无监督学习中的生成模型，包括PixelRNN、VAE和GAN，以后将会有一个专门的系列介绍对抗生成网络GANIntroduction正如RichardFeynman所说，“WhatI
Sakura_gh·2020-07-15 08:48

机器学习系列20-无监督学习之词嵌入

UnsupervisedLearning:WordEmbedding如果本文对你有帮助，请给我的github打个star叭，上面附有全系列目录和内容！更多优质内容欢迎关注我的微信公众号“Sakura的知识库”：本文介绍NLP中词嵌入(WordEmbedding)相关的基本知识，基于降维思想提供了count-based和prediction-based两种方法，并介绍了该思想在机器问答、机器翻译、图
Sakura_gh·2020-07-15 08:47

机器学习系列21-无监督学习之近邻嵌入

UnsupervisedLearning:NeighborEmbedding如果本文对你有帮助，请给我的github打个star叭，上面附有全系列目录和内容！更多优质内容欢迎关注我的微信公众号“Sakura的知识库”：本文介绍了非线性降维的一些算法，包括局部线性嵌入LLE、拉普拉斯特征映射和t分布随机邻居嵌入t-SNE，其中t-SNE特别适用于可视化的应用场景PCA和WordEmbedding介绍
Sakura_gh·2020-07-15 08:47

机器学习系列6-分类问题(概率生成模型)

Classification:ProbabilisticGenerativeModel如果本文对你有帮助，请给我的github打个star叭，上面附有全系列目录和内容！更多优质内容欢迎关注我的微信公众号“Sakura的知识库”：Classification概念描述分类问题是找一个function，它的input是一个object，它的输出是这个object属于哪一个class还是以宝可梦为例，已知
Sakura_gh·2020-07-15 08:46

机器学习系列18-无监督学习之PCA深入探讨(Ⅱ)

UnsupervisedLearning:PCA(Ⅱ)如果本文对你有帮助，请给我的github打个star叭，上面附有全系列目录和内容！注：更多优质内容欢迎关注我的微信公众号“Sakura的知识库”：本文主要从组件和SVD分解的角度介绍PCA，并描述了PCA的神经网络实现方式，通过引入宝可梦、手写数字分解、人脸图像分解的例子，介绍了NMF算法的基本思想，此外，还提供了一些PCA相关的降维算法和论文
Sakura_gh·2020-07-15 08:46

机器学习系列14-为什么要做“深度”学习

WhyDeep?如果本文对你有帮助，请给我的github打个star叭，上面附有全系列目录和内容！注：更多优质内容欢迎关注我的微信公众号“Sakura的知识库”：本文主要围绕Deep这个关键词展开，重点比较了shallowlearning和deeplearning的区别：shallow：不考虑不同input之间的关联，针对每一种class都设计了一个独立的model检测deep：考虑了input之
Sakura_gh·2020-07-15 08:46

机器学习系列1-机器学习概念及介绍

Introduction如果本文对你有帮助，请给我的github打个star叭，上面附有全系列目录和内容！更多优质内容欢迎关注我的微信公众号“Sakura的知识库”：defineasetoffunction(model)->goodnessoffunction->pickthebestfunctionLearningMap下图中，同样的颜色指的是同一个类型的事情蓝色方块指的是scenario，即学
Sakura_gh·2020-07-15 08:45

机器学习系列--Naive Bayes Classification

NativeBayes贝叶斯决策理论的核心思想：选择最高概率的决策。朴素贝叶斯是贝叶斯决策理论的一部分。下面不加证明地直接给出贝叶斯定理：朴素贝叶斯分类的正式定义如下：因为分母对于所有类别为常数，因为我们只要将分子最大化皆可。又因为各特征属性是条件独立的，所以有：分类问题现在实际的来研究一个文本分类的问题，下面是朴素贝叶斯分析问题的一般过程：1.收集数据：可以使用任何方法。2.准备数据：需要数值型
哇小明·2020-07-15 02:03

【机器学习系列】之纯python及sklearn实现kNN

【机器学习系列】之k近邻（kNN）【机器学习系列之】纯python及sklearn实现kNN文章目录一、纯python实现kNNBrute-Force法kNN项目案例：优化约会网站的配对效果二、sklearn
張張張張·2020-07-14 20:35

【机器学习】基于密度的聚类DBSCAN

其他机器学习系列文章见于专题：机器学习进阶之路——学习笔记整理，欢迎大家关注。
齐在·2020-07-14 16:18

经典机器学习系列之【神经网络详解】

  这节主要来详细说一下神经网络。从神经网络定义到M-P模型再扩展到单层感知机、多层前馈神经网络、再到深层神经网络。(本文有一些概念省略了，若有写得不清楚的地方，我们一起在微信群里面讨论讨论)。神经网络的定义  在不同的领域、以及不同人的一些偏好。大家对神经网络的叫法有些许差别。但主要会包括以下几种命名方式：神经网络(NeuralNetwork)人工神经网络(ArtificialNeuralNet
小小何先生·2020-07-14 14:36

逻辑回归二分类总结(不断迭代，直到彻底掌握)

——背景——近来，想把学习过的机器学习算法做一个总结，于是打算结合网上的面试经验和工作的需求写下一个机器学习系列文章。
凡人求索·2020-07-14 10:40
上一页 6 7 8 9 10 11 12 13 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他