Mahout机器学习笔记第8页

机器学习笔记8——抑制过拟合之Dropout、BN

过拟合：网络在训练数据上效果好，在测试数据上效果差。抑制过拟合的方法有以下几种：（1）dropout（2）正则化（3）图像增强本次主要谈论一下dropoutdropout定义：是一种在学习的过程中随机删除神经元的方法。训练时随机选取隐藏层的神经元，并将其删除。如图所示：主要作用：（1）取平均的作用（2）减少神经元之间复杂的共适应关系：因为dropout程序导致两个神经元不一定每次都在一个dropo

hello everyone！·2023-07-31 19:28

YouTube深度学习推荐模型最全总结

这里是「王喆的机器学习笔记」的第三十篇文章。

王喆的机器学习笔记·2023-07-31 04:13

吴恩达机器学习笔记（3）

多变量线性回归：问题：根据多个属性，如房子面积，房子楼层，房子年龄等估计房子的价格多变量线性回归中的变量多变量线性回归的假设此时有多个特征,i对应不同的特征值，如房子面积，楼层，年龄等，参数为一个n+1维向量多变量线性回归中的梯度下降，对每一个参数求偏导数从而得到不同参数的梯度参数特征缩放——加速梯度下降过程收敛到最优值多变量梯度下降时，参数的取值要尽量小在多多变量梯度下降中，要让不同参数的取值范

魏清宇·2023-07-30 01:52

机器学习笔记之优化算法(二)线搜索方法(方向角度)

机器学习笔记之优化算法——线搜索方法[方向角度]引言回顾：线搜索方法从方向角度观察线搜索方法场景构建假设1：目标函数结果的单调性假设2：屏蔽步长αk\alpha_kαk对线搜索方法过程的影响假设3：限定向量

静静的喝酒·2023-07-29 11:28

机器学习笔记之优化算法(一)无约束优化概述

机器学习笔记之优化算法——无约束优化概述引言回顾：关于支持向量机的凸二次优化问题无约束优化问题概述解析解与数值解数值解的单调性关于优化问题的策略线搜索方法信赖域方法引言从本节开始，将介绍优化算法(OptimizationAlgorithm

静静的喝酒·2023-07-29 11:27

Python机器学习笔记：XgBoost算法

转载：https://www.cnblogs.com/wj-1314/p/9402324.html前言1，Xgboost简介Xgboost是Boosting算法的其中一种，Boosting算法的思想是将许多弱分类器集成在一起，形成一个强分类器。因为Xgboost是一种提升树模型，所以它是将许多树模型集成在一起，形成一个很强的分类器。而所用到的树模型则是CART回归树模型。Xgboost是在GBDT

SeaSky_Steven·2023-07-29 11:26

机器学习笔记之优化算法(三)线搜索方法(步长角度；精确搜索)

机器学习笔记之优化算法——线搜索方法[步长角度，精确搜索]引言回顾：线搜索方法——方向角度关于收敛性的假设关于单调性的假设下降方向与最速方向从步长角度观察线搜索方法关于方向向量的假设精确搜索过程引言上一节介绍了从方向角度认识线搜索方法

静静的喝酒·2023-07-29 11:54

SSH（Spring+Hibernate+Struts）开发框架开发购物商城推荐系统shop mahout实现基于用户、项目的协同过滤推荐算法个性化购物推荐系统

localhost:8080/ComputerRecom/后台：http://localhost:8080/ComputerRecom/admin/login.jsp用户名：admin密码：admin；2、推荐使用mahout

74b3a3e489d4·2023-07-27 12:43

白话机器学习笔记（一）学习回归

最小二乘法定义模型表达式：fθ(x)=θ0+θ1xf_\theta(x)=\theta_0+\theta_1xfθ(x)=θ0+θ1x（常用θ\thetaθ表示未知数、fθ(x)f_\theta(x)fθ(x)表示含有参数θ\thetaθ并且和变量xxx相关的函数）目标函数假设有nnn个训练数据，那么它们的误差之和可以这样表示，这个表达式称为目标函数。E(θ)=12∑i=1n(y(i)−fθ(x(

WangXinmingg·2023-07-26 22:47

白话机器学习笔记（三）评估已建立的模型

模型评估在进行回归和分类时，为了进行预测，我们定义了函数fθ(x)f_\theta(x)fθ(x)，然后根据训练数据求出了函数的参数θ\thetaθ。如何预测函数fθ(x)f_\theta(x)fθ(x)的精度？看它能否很好的拟合训练数据？我们需要能够定量的表示机器学习模型的精度，这就是模型的评估。交叉验证回归问题的验证把获取的全部训练数据分成两份：一份用于测试，一份用于训练。前者来评估模型。一般

WangXinmingg·2023-07-26 22:47

白话机器学习笔记（二）学习分类

分类用图形来解释，把他想象为有大小有方向带箭头的向量。设权重向量为www，虚线为使权重向量称为法线向量的直线。直线的表达式为：w⋅x=0w\cdotx=0w⋅x=0(两个向量的内积)也可写为：w⋅x=∑i=1nwixi=w1x1+w2x2=0w\cdotx=\sum\limits_{i=1}^nw_ix_i=w_1x_1+w_2x_2=0w⋅x=i=1∑nwixi=w1x1+w2x2=0w⋅x=∣

WangXinmingg·2023-07-26 22:14

从阿里的User Interest Center看模型线上实时serving方法

这里是「王喆的机器学习笔记」的第二十九篇文章。最近写书的时候在总结一些深度学习模型线上serving的主流方法。

王喆的机器学习笔记·2023-07-21 06:21

机器学习笔记

神经元神经网络的基本模型是神经元，神经元的基本模型就是数学中的乘、加运算：神经元神经网络两层的神经网络（一个隐藏层）更进一步地，过激活函数以提高表现力的神经元模型：常用的激活函数有:relusigmoidtanh损失函数loss计算得到的预测值与已知答案的差距：均方误差MSE自定义损失函数：根据问题的实际情况交叉熵CE（CrossEntropy）反向传播训练中，以减小loss值为优化目标，有梯度下

微雨旧时歌丶·2023-07-20 15:27

机器学习笔记--xgboost核心思想

今天给大家讲xgboost，这是一个非常优秀的算法，在各大回归类的人工智能竞赛中，经常可以在榜首看到这个算法的身影。前面我们已经讲了决策树，提升树（BoostingDecisionTree）是迭代多棵决策树来共同决策，当采用平方误差作为损失函数的时候，每一棵树学习的是之前所有树之和的残差值，残差=真实值-预测值。比如A的年龄是18岁，第一棵树的预测值是13岁，与真实值相差了5岁（就是我们说的残差）

weixin_39210914·2023-07-19 23:10

机器学习笔记（2-4）--林轩田机器学习基石课程

Non-SeparateData当我们不知道数据集是否线性可分时，我们采用贪心的算法，构建modifiedPLA.ModifiedPLA:和普通的PLA不同的是，它在选点时采用随机的方法，并且采用贪心的思想，保存当前最好的w_t.好不好的标准在于造成的错误点数是否更少。直到运行时间足够久后才停止算法。

数学系的计算机学生·2023-07-19 16:14

吴恩达机器学习笔记（5）—— 神经网络

又摸鱼摸了好久，终于开学了，不能再摸鱼了，这学期课都是嵌入式开发方面的，我给自己的电脑买了个新硬盘装了Linux，不再像以前在虚拟机里小打小闹了，折腾了好几天的新系统，现在有时间写新的笔记了。这次给大家带来的是神经网络，比较难，我可能写的也不是太明白，就看看吧。非线性假设其实神经网络是一个很古老的算法，不过在很长的一段时间内受计算机的机能所限，这个算法没有太大的进展。直到了现在，计算机的飞速发展，

机智的神棍酱·2023-07-17 06:15

python 分类变量转为哑变量_机器学习笔记——哑变量处理

在机器学习的特征处理环节，免不了需要用到类别型特征，这类特征进入模型的方式与一般数值型变量有所不同。通常根据模型的需要，类别型特征需要进行哑变量处理，即按照特征类别进行编码，一般一个类别为k的特征需要编码为一组k-1【避免引起多重共线性】个衍生哑变量，这样就可以表示特征内部所有的类别(将其中基准比较类设为0，当k-1个哑变量都为0时，即为基准类)。这种哑变量的编码过程在R和Python中的有成熟的

weixin_39664477·2023-07-17 01:59

可解释机器学习笔记（一）——可解释性

可解释性可解释性定义可解释性包含的性质可解释性方法分类自解释or事后可解释解释方法的输出特征概要统计量(FeatureSummaryStatistic)特征概要可视化(FeatureSummaryVisualization)模型内部(ModelInternal)数据点(DataPoint)代理模型特定于模型(Model-specific)or模型无关(Model-agnostic)局部(Local

小白成长之旅·2023-07-16 18:11

机器学习笔记之变分自编码器(一)模型表示

机器学习笔记之变分自编码器——模型表示引言回顾：高斯混合模型变分自编码器——概率图视角介绍总结引言本节将介绍变分自编码器(VariationalAutoEncoder,VAE)。

静静的喝酒·2023-07-16 15:18

机器学习笔记之卡尔曼滤波(一)动态模型基本介绍

机器学习笔记之卡尔曼滤波——动态模型基本介绍引言回顾：动态模型动态模型的相关任务卡尔曼滤波介绍引言本节从动态模型开始，介绍卡尔曼滤波(KalmanFilter)。

静静的喝酒·2023-07-16 15:18

深度学习笔记之Transformer(八)Transformer模型架构基本介绍

机器学习笔记之Transformer——Transformer模型架构基本介绍引言回顾：简单理解：Seq2seq\text{Seq2seq}Seq2seq模型架构与自编码器自注意力机制Transformer

静静的喝酒·2023-07-16 14:15

机器学习笔记 - 探索PaddlePaddle框架的对象检测、分割和关键点检测

一、PaddlePaddle简述PaddlePaddle（PArallelDistributedDeepLEarning）是百度于2016年发布的开源深度学习框架。它为各种机器学习任务提供了统一的平台。但是最近的基准测试显示PaddlePaddle是潜在的领跑者，其基准速度超过了其更知名的竞争对手。PaddlePaddle与PyTorch或Tensorflow的基准比较PaddlePaddle中提

坐望云起·2023-07-16 03:49

机器学习笔记——假设空间与归纳偏好

一，假设空间学习过程是一个在所有假设组成的空间，即假设空间中进行搜索的过程。搜索目标是找到与训练集“匹配”的假设。举个例子：这里要学习的目标是“好瓜”。暂且假设“好瓜”可由色泽，根蒂，敲声这三个因素完全确定。于是，我们学得的将是“好瓜是某种色泽，某种根蒂，某种敲声的瓜”这样的概念。图1.1直观地显示出了这个西瓜问题的假设空间。需要注意的是，现实问题中我们常面临很大的假设空间，但学习过程是基于有限样

章小幽·2023-07-15 06:06

机器学习笔记 - 深度学习在网球运动分析上的应用

一、简述观看网球比赛时，您可以根据中间或角落的发球次数、球的深度、向左或向右的偏好来自动丰富视图，具体取决于球员所处的位置。此类统计数据可以通过Hawk-Eye、IBMSlamtracker等工具提供。Hawk-Eye是一个复杂的系统，由多达10个高速摄像头组成，能够高精度跟踪球、获取其真实位置并显示任何弹跳的重建。IBMSlamtracker，一个提供实时分数和统计数据（每个点15到25个参数）

坐望云起·2023-07-14 12:45

机器学习笔记：随机森林

1集成学习集成学习通过构建多个学习器采用加权的方式来完成学习任务一般来讲，多个学习器同属于一种模型，比如决策树，线性模型，而不会交叉用多种模型为了保证集成学习的有效性，多个弱分类器之间应该满足两个条件准确性：个体学习器要有一定的准确性，这样才能有好的效果多样性：学习器之间要有一些差异，完全相同的几个学习器集成起来后几乎不会有提升2随机森林随机森林是集成学习中Bagging方式的代表采样多组训练集，

UQI-LIUWJ·2023-07-13 22:32

机器学习笔记 - 理解机器学习可解释性的重要性

一、可解释性为什么重要人工智能领域的几乎所有研究都集中在更好的架构、超越基准、新颖的学习技术上，或者在某些情况下只是建立具有十亿、百亿个参数的巨大模型。可解释机器学习的研究相对较少。媒体中人工智能的日益普及和复杂性只会使可解释性的情况恶化。在一些高风险领域，如金融和医疗保健，数据科学家通常最终使用更传统的机器学习模型（线性模型或基于树的模型或者模型等）。这是因为，模型解释其决策的能力对业务非常重要

坐望云起·2023-07-13 20:25

机器学习笔记 - 学习图像生成模型在医疗行业用例的思路

一、概述合成图像生成是使用算法或模拟来替换真实世界数据创建新图像的过程。与数据隐私、有限的数据可用性、数据标签、无效的数据治理、高成本以及对大量数据的需求相关的挑战正在推动使用合成数据来满足各行各业对人工智能解决方案的高需求。人们对使用深度学习的医疗诊断系统越来越感兴趣。然而，由于专有和隐私原因，对公众的数据访问非常有限，从而导致公众在这一研究领域的贡献有限。同样，在没有专家注释和准确元数据的情况

坐望云起·2023-06-20 10:46

机器学习笔记 - 基于MobileNetV2的迁移学习训练关键点检测器

一、下载数据集StanfordExtra数据集包含12000张狗的图像以及关键点和分割图图。GitHub-benjiebob/StanfordExtra：12k标记的野外狗实例，带有2D关键点和分割。我们的ECCV2020论文发布的数据集：谁把狗排除在外？3D动物重建，循环中期望最大化。https://github.com/benjiebob/StanfordExtra数据集下载

坐望云起·2023-06-20 06:44

机器学习笔记 - EANet 外部注意论文简读及代码实现

一、论文简述论文作者提出了一种新的轻量级注意力机制，称之为外部注意力。如图所示，计算自注意力需要首先通过计算自查询向量和自关键字向量之间的仿射关系来计算注意力图，然后通过用该注意力图加权自值向量来生成新的特征图。外部关注的作用不同。我们首先通过计算自查询向量和外部可学习密钥存储器之间的亲和力来计算注意力图，然后通过将该注意力图乘以另一个外部可学习值存储器来生成细化的特征图。在实践中，这两个存储器是

坐望云起·2023-06-19 14:01

机器学习笔记07---朴素贝叶斯分类器

一、贝叶斯决策论贝叶斯决策论是概率框架下实施决策的基本方法。对分类任务来说，在所有相关概率都已知的理想情形下，贝叶斯决策论考虑如何基于这些概率和误判损失来选择最优的类别标记。贝叶斯公式：其中，P(c)是类"先验"概率；P(x|c)是样本x相对于类标记c的类条件概率，或称为"似然"(likelihood)；P(x)是用于归一化的“证据”因子。对给定样本x，证据因子P(x)与类标记无关，因此估计P(c

一件迷途小书童·2023-06-18 19:50

机器学习笔记 - 基于Scikit-Learn的各种分类器进行分类并比较

一、概述scikit-learn是基于python语言构建机器学习应用程序的最佳库之一。简单易用，并且它有很多示例和教程。除了监督式机器学习（分类和回归）外，它还可用于聚类、降维、特征提取和工程以及数据预处理。该接口在所有这些方法上都是一致的，因此它不仅易于使用，而且也很容易构建一个大型分类器/回归模型集合并使用相同的命令训练它们。我们这里基于scikit-learn构建，训练，评估和验证分类器，

坐望云起·2023-06-18 16:09

机器学习笔记-Task03-极大似然估计&EM算法

文章目录1.简介1.1何为EM算法?1.2似然函数、极大似然估计1.2.1问题描述-调查学生身高分布1.2.2参数估计1.2.3总结1.2.4求极大似然函数估计的一般步骤2.EM算法2.1问题描述2.2问题求解2.3总结2.3.1相关概念2.3.2与K-Means算法对比3.EM算法推导3.1相关基础3.1.1期望3.1.2凸函数3.1.3Jensen不等式3.2公式推导3.3EM算法流程3.4E

修行僧yicen·2023-06-18 09:56

机器学习笔记——11 混合高斯模型(Mixtures of Gaussian)：利用EM算法估计参数

机器学习笔记——11混合高斯模型(MixturesofGaussian)：利用EM算法估计参数本文主要介绍混合高斯模型，它涉及到对个分布来源，因此参数的估计将是一个难题。

_Volcano·2023-06-18 09:51

机器学习笔记 - 基于深度学习的多种目标跟踪检测框架简述

一、目标跟踪对象跟踪是执行一组初始对象检测的任务，为每个初始检测创建唯一的ID，然后在每个对象在视频中的帧中移动时跟踪它们，从而维护ID分配。最先进的方法涉及融合来自RGB和基于事件的相机的数据，以产生更可靠的对象跟踪。仅使用RGB图像作为输入的基于CNN的模型也很有效。最受欢迎的基准测试是OTB。有几个特定于对象跟踪的评估指标，包括HOTA、MOTA、IDF1和Track-mAP。1、什么是OT

坐望云起·2023-06-18 05:06

机器学习笔记 - 多实例学习（MIL）弱监督学习

一、多实例学习概述多实例学习（MIL）是一种弱监督学习形式，其中训练实例被排列在称为袋的集合中，并为整个袋提供标签。这种方式越来越受到人们的关注，因为它自然适合各种问题，并允许利用弱标记数据。因此，它被应用于计算机视觉和文档分类等不同的应用领域。多实例学习（MIL）处理以集合形式排列的训练数据，称为bag。不提供袋子中所含实例的单独标签。这种问题表述引起了研究界的广泛关注，尤其是近年来，解决大型问

坐望云起·2023-06-17 08:39

机器学习笔记 - 一种估算模型训练所需的样本量的方法

一、简述高质量和足够多的数据是开发任何机器学习模型的基础。在缺乏对特定系统建模所需的最佳数据量的事先估计的情况下，数据收集最终要么产生太少而无法进行有效培训，要么产生太多导致资源的浪费。我经常被问到这个场景需要多少图像，通常我都会根据场景的复杂程度给出一个估计的范围，但是需要多少数据这个问题很难直接回答出一个数量出来，因为需要的数据量既取决于问题的复杂性，也取决于所选算法的复杂性。但在许多实际场景

坐望云起·2023-06-16 16:29

【机器学习笔记】——TensorFlow的安装（cuda10.0+cuDNN7.4)

我是win7，显卡GTX1050Ti，选的cuda10.0，cuDNN7.4tensorflow分为CPU版本和GPU版本，CPU版本运行较慢。1安装anaconda3（python3.6）2安装tensorflow2.1CPU版本安装不依赖于其他，直接在cmd中condainstalltensflow2.2GPU版本安装1）是否支持GPU版本在控制面板-设备管理-显示配置器中查看是否有支持GPU

阿脸阿脸·2023-06-16 15:51

大数据学习记录（hadoop hive flume azkaban sqoop）

分布式文件系统）、YARN（运算资源调度系统）、MAPREDUCE（分布式运算编程框架）3.HIVE：基于大数据技术（文件系统+运算框架）的SQL数据仓库工具4.HBASE：基于HADOOP的分布式海量数据库5.Mahout

左上晨·2023-06-16 10:58

机器学习笔记之K近邻学习算法

机器学习笔记之K近邻学习算法引言回顾：投票法回顾：明可夫斯基距离K\mathcalKK近邻算法算法描述K\mathcalKK值的选择小插曲：懒惰学习与急切学习KD\text{KD}KD树描述及示例K\mathcalKK

静静的喝酒·2023-06-14 15:57

【机器学习笔记（六）】之集成算法的简介(Bagging, Boosting, Stacking)

本文章由公号【开发小鸽】发布！欢迎关注！！！老规矩–妹妹镇楼：集成算法(Ensemblelearning)一.目的：用多个算法进行集成，让机器学习效果比单个算法的效果更好。二.类别：(1).Bagging:训练多个分类器取平均f(x)=1/M∑m=1Mfm(x)f(x)=1/M\sum_{m=1}^{M}f_{m}(x)f(x)=1/Mm=1∑Mfm(x)(2).Boosting：从弱学习器开始加

开发小鸽·2023-06-13 03:06

吴恩达机器学习笔记（一）

概念机器学习是研究计算机模仿人类学习的过程，利用新的数据改善自身的性能，是人工智能的核心。机器学习、人工智能、深度学习之间的关系：AI、ML、DL的包含关系人工智能=机器人；机器学习是实现人工智能的一种方法；深度学习是实现机器学习的一种技术。概念包含关系上：人工智能>机器学习>深度学习。视频课简记:1、引言1.1欢迎1、机器学习很常见，如谷歌搜索（搜出的网站排序算法）、邮箱的垃圾站（无监督）。2、

yh_y·2023-06-12 00:10

机器学习笔记 - 通过视觉注意识别黑色素瘤论文简读

一、概述我们提出了一种基于注意力的黑色素瘤识别方法。与其他网络参数一起学习的注意力模块估计了高亮显示与病变分类相关的感兴趣图像区域的注意力图。与仅输出类标签相比，这些注意力映射提供了更易于解释的输出。此外，我们建议通过正则化具有感兴趣区域（ROI）的注意力图（例如，病变分割或皮肤镜特征）来利用先验信息。只要这种先验信息可用，就可以进一步细化分类性能和注意力图。据我们所知，我们是第一个为黑色素瘤识别

坐望云起·2023-06-10 20:59

NLP-机器学习-监督学习-回归

一个好的总结：机器学习知识点全面总结_GoAI的博客-CSDN博客_机器学习笔记监督学习和无监督学习很好区分：是否有监督（supervised），就看输入数据是否有标签（label），输入数据有标签，则为有监督学习

zr_xs·2023-06-08 11:04

机器学习笔记＜一＞：PCA降维详解

文章目录前言直观理解数学推导代码实现PCA的局限性如何选定kkk值？为什么通过对特征值的选择可以减少噪声？前言本篇文章主要从对PCA的降维的直观理解、数学推导等方面对PCA降维进行讨论。直观理解主成分分析PCA(PrincipalComponentAnalysis)可以用于降维、数据压缩、特征提取以及数据可视化的处理。顾名思义，对数据做PCA之后可以得到数据的主成分信息，而这部分信息可以很好地还原

有点猫匿·2023-06-07 20:50

Machine Learning 机器学习笔记目录

目录前言第一周：Welcome1.1WhatisMachineLearning?1.2LinearRegressionwithOneVariable第二周：LinearRegressionwithMultipleVariables2.1MultivariateLinearRegression2.2ComputingParametersAnalytically2.3Octave/MatlabTuto

一缕殇流化隐半边冰霜·2023-06-07 19:55

机器学习笔记（7）stacking算法

一.Stacking思想简介1.Stacking的思想是一种有层次的融合模型，比如我们将用不同特征训练出来的三个GBDT模型进行融合时，我们会将三个GBDT作为基层模型，在其上在训练一个次学习器（通常为线性模型LR）,用于组织利用基学习器的答案，也就是将基层模型的答案作为输入，让次学习器学习组织给基层模型的答案分配权重。2.下图是个简单的例子，A、B是学习器，C、D、E是进行答案再组织的次学习器，

是魏小白吗·2023-06-07 14:47

构建智能电商推荐系统：大数据实战中的Kudu、Flink和Mahout应用【上进小菜猪大数据】

本文将介绍如何利用Kudu、Flink和Mahout这三种技术构建一个强大的大数据分析平台。我们将详细讨论这些技术的特点和优势，并提供代码示例，帮助读者了解如何在实际项目中应用它们。

上进小菜猪·2023-06-07 05:04

机器学习笔记：深度学习模型复杂度

1时间复杂度（模型运算次数）决定了模型的训练/预测时间用FLOPs指代机器学习笔记：FLOPs_flop机器学习_UQI-LIUWJ的博客-CSDN博客2空间复杂度（模型参数数量）决定了模型的参数数量2.1

UQI-LIUWJ·2023-06-07 03:13

人工智能领域常用的开源框架和库

2.Mahout在大数据分布式框架Hadoop下使用，包含了机器学习中常用的算法（含推荐算法）。

日有所为·2023-04-21 13:32

机器学习笔记之正则化(六)批标准化(BatchNormalization)

机器学习笔记之正则化——批标准化[BatchNormalization]引言引子：梯度消失梯度消失的处理方式批标准化(BatchNormalization)(\text{BatchNormalization

静静的喝酒·2023-04-20 21:02

推荐频道

Mahout机器学习笔记