极大似然估计

DataWhale-03-EM算法

相关概念极大似然估计法（MaximumLikelihoodEstimate，MLE）极大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”
evanzh7·2023-03-16 21:48

线性模型

一、基本概念二、参考资料1、线性回归原理与基本实现认识2、最小二乘法3、梯度下降法4、逻辑回归的本质----极大似然估计5、梯度下降法----通俗版
来自乡下的农民工·2023-03-16 18:24

LogisticRegression & Maxent（面试准备）

接下来应用极大似然估计法估计模型参数：设：似然函数为：对数似然函数为：直接对求导是无法得到解析解的，因此采用梯度下降法或者拟牛顿法等方法优化。这里我们可以求解对各的梯度，为了推导简便，我们
单调不减·2023-03-14 10:33

误差项服从正态分布时，最小二乘法等同于极大似然估计

关于“误差项服从正态分布时，最小二乘法等同于极大似然估计“这句话尝试推导了一下，如有错误请指正图片发自App
专注吃喝五十年·2023-03-09 20:45

lhy机器学习（二）： ML Lecture 5 Logistic Regression（逻辑回归）（一）

MLLecture5LogisticRegression（逻辑回归）（一）1.逻辑回归模型我们看到逻辑回归公式如下代表样本x属于C1的概率，利用极大似然估计做出损失函数L（w,b），L（w,b）取ln然后取
Jacky_WZN·2023-02-27 19:37

一元线性回归

一元线性回归昨天简单的写了一下回归模型、参数假设和参数估计的办法，今天学习参数的性质和极大似然估计。参数β1、β2的性质因为y是随机变量，组成y的β1、β2也是随机变量。
cry15·2023-02-06 22:51

机器学习——贝叶斯分类器（西瓜书）

贝叶斯分类器一、贝叶斯决策论极大似然估计朴素贝叶斯分类器半朴素贝叶斯分类器贝叶斯网EM算法一、贝叶斯决策论贝叶斯决策论（bayesiandecisiontheory）是在概率框架下实施决策的基本方法。
飞呀飞呀飞呀·2023-02-05 07:40

聚类算法 - EM

二、预备知识1、极大似然估计极大似然估计，只是一种概率论在统计学的应用，它是参数估计的方法之一。说的是已
dora_yip·2023-02-05 02:01

机器学习、深度学习中常用损失函数

i=1N(yi−yi^)2J_{MSE}=\frac{1}{N}\sum_{i=1}^{N}(y_{i}-\hat{y_{i}})^2JMSE=N1∑i=1N(yi−yi^)2模型假设服从高斯分布，与极大似然估计本质一致
__LazyCat__·2023-02-04 15:35

《概率论与数理统计》学习笔记（一）

前言概率论式机器学习的重要前驱课程，很多高校夏令营面试都会对这门课程给予相当多的尊重，例如，哈工大2021年SCIR实验室夏令营笔试第一题就是考的极大似然估计（没做出来），所以对于概率论这门课程的复习应该尽早提上日程
HitStuHan·2023-02-04 07:17

用stata做面板数据回归分析基础作业

目录1.导入数据集2.面板数据有关信息3.混合回归4.随机效应模型4.1随机效应模型or混合回归模型的选择：LM检验4.2随机效应模型：两种估计方法A.FGLS法：广义离差模型B.MLE法：极大似然估计
YO乐事嘟·2023-02-03 22:14

损失函数

最大似然函数的合理性极大似然估计的思想是，被观测到的数据，能够以最大的概率代表总体的特征image.pngimage.pngMSE(MeanSquareError)均方误差假设模型为image.png则
AmaAnchor·2023-02-03 07:03

GMM（高斯混合模型）与KMean聚类

最大期望算法EMEM(ExpectationMaximization)算法是一种求参数的极大似然估计方法，可以广泛地应用于处理缺损数据、截尾数据等带有噪声的不完整数据。
弎见·2023-02-01 18:51

从EM算法到高斯混合模型（GMM）与K-means算法（理论分析+仿真分析）

在另一个角度，EM算法也可以看作是极大似然估计的加强版。  由于极大似然估计要求采样数据属于同一个分布，因为只能估计同一个分布下的参数。  
宅男不宅·2023-02-01 18:50

高斯混合模型和KMeans算法可视化对比

因为算法就是利用高斯概率分布函数进行极大似然估计的。
python_xiaofeng·2023-02-01 18:17

Kmeans GMM 高斯混合模型 EM算法

GMM参数的学习可以用EM算法，EM算法是用于含有隐变量的概率模型参数的极大似然估计，EM算法通过迭代来的方式进行极大似然估计，每一次迭代由可以分为：E步，求期望；M步，求极大化。在Km
Yonghua Li·2023-02-01 18:17

机器学习笔记之高斯分布(一)——使用极大似然估计计算最优参数

机器学习笔记之高斯分布——使用极大似然估计计算最优参数目录高斯分布介绍一维正态分布多维正态分布回顾：数据集合与概率模型使用极大似然估计计算高斯分布最优参数目录本节将介绍一个在统计机器学习中占据重要地位的分布
静静的喝酒·2023-02-01 09:28

Notes on 极大似然估计（MLE）

则似然函数为求使得出现样本概率最大的参数作为的估计值为了方便计算，对取对数得到对数似然函数又记梯度算子若似然函数满足连续可导的条件，则最大似然估计量就是如下方程的解例设样本服从正态分布，则似然函数为对数似然函数得方程组解得为极大似然估计参数
清筱筱·2023-01-31 17:15

机器学习数学原理（1）——极大似然估计法

机器学习数学原理（1）——极大似然估计法事实上机器学习的大部分算法都是以数理统计和概率论为理论基础构建的。
鹏大大大·2023-01-29 22:33

EM总结

如果概率模型的变量都是观测变量，则给定数据之后，可以直接用极大似然估计法或者贝叶斯估计法来估计模型参数。但是当模型含有隐变量时，就不能简单的使用这些估计方法。此时需要使用EM算法。
slyxk·2023-01-29 22:00

极大似然估计

通俗理解极大似然估计(MLE)和矩估计是数理统计中进行参数估计常用方法.通常我们假设观测到的样本X1,X2,…,XnX_1,X_2,\dots,X_nX1,X2,…,Xn均是从一个统计模型X∼F(x;θ
kangzz1995·2023-01-29 13:59

Lesson 4.2 逻辑回归参数估计：极大似然估计、相对熵与交叉熵损失函数

文章目录一、逻辑回归参数估计基本思路1.构建损失函数2.损失函数求解二、利用极大似然估计进行参数估计三、熵、相对熵与交叉熵1.熵（entropy）的基本概念与计算公式2.熵的基本性质3.相对熵（relativeentropy
虚心求知的熊·2023-01-29 13:28

机器学习第七章----贝叶斯分类器

文章目录1、贝叶斯决策论2、极大似然估计3、朴素贝叶斯分类器4、半朴素贝叶斯分类器5、贝叶斯网5.1结构5.2学习5.3推断6、EM算法1、贝叶斯决策论贝叶斯决策论是概率框架下实施决策的基本方法，对分类任务来说
weixin_45154388·2023-01-28 15:00

机器学习（西瓜书）第七章笔记

极大似然估计这种参数估计方法虽能使类条件概率估计变得相对简单，但是结果的准确性严重依赖于所假设的概率分布形式是否符合潜在的真实数据分布。
Philia_YF·2023-01-28 15:29

回归分析常量_【模型篇】逻辑回归（Logistic Regression）

概述逻辑回归是一个假设样本服从伯努利分布，利用极大似然估计和梯度下降求解的二分类模型，在分类、CTR预估领域有着广泛的应用。
weixin_39834780·2023-01-27 09:00

AIC BIC CIC DIC介绍

基础知识极大似然估计贝叶斯系数bayesfactor(Jeffreys1961;kass&Raftery1995)AIC简介(Akaike1974)由Kullback-LeiblerInformationEntropy
cxfun12·2023-01-27 08:42

matlab 回归 逻辑斯蒂_逻辑斯蒂回归（logistic回归）

理论部分1.逻辑斯蒂分布越小，图形越陡（图中）2.逻辑斯蒂回归模型化简为这也就是下文中得sigmoid函数.3.定义几率几率：该事件发生概率/不发生概率=对数几率：4.参数估计（极大似然估计）似然函数：
雪花8水滴·2023-01-26 14:20

机器学习【西瓜书/南瓜书】--- 第2线性模型（学习笔记+公式推导）

Task02详读西瓜书+南瓜书1基本形式假如说现在有一个正态分布，正态分布由mu和sigama决定，极大似然估计就是用来确定正态分布的这两个参数的3.2多元线性回归对线性回归方程进行化简将b=wd+1∗
爱吃肉爱睡觉的Esther·2023-01-24 11:29

温州大学《机器学习》课程代码（四）朴素贝叶斯

具体来说，利用训练数据学习和的估计，得到联合概率分布：＝概率估计方法可以是极大似然估计或贝
风度78·2023-01-24 11:47

Datawhale 2021.7集成学习 笔记

Dtawhale集成学习Github开源地址CH1-机器学习数学基础python笔记（基于讲义和自己的笔记）机器学习数学基础基于python-B站视频高等数学和线性代数概率论和随机过程初步数理统计（极大似然估计
今夜我说·2023-01-23 10:24

机器学习——对数回归求解

而对数回归的目标函数时非凸的极大似然估计的基本思想通常会取ln上述目标函数是凸的，但也不能用最小二乘法，因为当高维的情况，求矩阵求逆时，逆往往不存在，能直接最小二乘法求解的函数，函数性质已经好的不得了了
臭小子222·2023-01-19 10:44

机器学习学习笔记2（Ng课程cs229）

牛顿方法简单的来说就是通过求当前点的导数得到下一个点.用到的性质是导数值等于该点切线和横轴夹角的正切值.极大似然估计收敛速度：quadraticconversions二次收敛θ为矩阵时每次迭代都需要重新计算
-慢慢-·2023-01-18 17:42

bilibili西瓜书白板推导day1

利用现有材料进行计算，大多是历史材料；后验概率：指的是事情已经发生，求这件事情发生的原因是由某个因素的可能性的大小，使用贝叶斯公式计算；极大似然估计：其建立在极大似然原理上，一个随机试验可能会出现若干结果
zm_zsy·2023-01-18 14:46

高斯分布/概率分布总结

频率派——统计机器学习频率派认为θ\thetaθ是未知的变量，XXX服从概率分布，然后通过极大似然估计求参。
石头猿rock·2023-01-17 19:12

【机器学习基础】数学推导+纯Python实现机器学习算法27：EM算法

EM算法是一种用于包含隐变量概率模型参数的极大似然估计方法，所以本文从极大似然方法说起，然后推广到EM
风度78·2023-01-17 12:34

极大似然估计和贝叶斯估计

极大似然估计与贝叶斯估计是统计中两种对模型的参数确定的方法，两种参数估计方法使用不同的思想。
vanturman·2023-01-16 14:06

贝叶斯公式的对数似然函数_极大似然估计与贝叶斯定理

文章转载自：https://blog.csdn.net/zengxiantao1994/article/details/72787849极大似然估计-形象解释看这篇文章：https://www.zhihu.com
这是eno·2023-01-16 14:36

统计学习--最大似然和贝叶斯估计的联系

发生的概率最大贝叶斯估计为分布估计：利用数据样本信息和先验知识也即是在数据集X发生的情况下，哪一个参数yi发生的概率最大，称为后验概率，测试结果下，结果是真实的概率一个较好的例子：1、掷硬币实验试验为伯努利试验极大似然估计的推导
heda3·2023-01-16 14:05

参数估计——极大似然估计与贝叶斯估计

极大似然估计与贝叶斯估计的理解1参数估计2极大似然估计（MLE）3贝叶斯估计4极大验后估计（MAP）参考1参数估计参数估计（ParameterEstimation）是根据从总体中抽取的样本来估计总体分布中包含的未知参数的方法
派大星布星·2023-01-16 14:35

最大似然估计和贝叶斯

区别：极大似然估计认为参数是客观不变的，通过事实逐渐接近他；贝叶斯认为参数是随机的，靠样本估计它。
dbw794363172·2023-01-16 14:35

极大似然估计、贝叶斯分类器

首先我们需要弄明白几个概念：先验概率：p(y)后验概率：p(y|x)似然函数：p(x|y)证据因子：p(x)极大似然估计极大似然估计可以看做是一个训练贝叶斯分类器的方法。
AndyFlyingZZZ·2023-01-16 14:34

机器学习数学基础四：随机变量和概率论基础

目录一，连续与离散随机变量1，离散型随机变量2，连续型随机变量3，简单随机抽样4，似然函数5，极大似然估计例子：二，概率论基础1，概率论是干什么的？2，随机事件是什么？
喜欢吃豆·2023-01-15 18:09

机器学习-实验一

极大似然估计求解的思想和理论依据。逻辑回归的评价指标。三、聚类步骤读入要分类的数据(数据集：iris_data)，并做一些数据格式的预处理，划分训练
Qutter·2023-01-15 13:57

mfc 算方差函数_数理统计|笔记整理（5）——估计量的进阶性质（1）：统计判决函数，UMRUE，Fisher信息量...

传送门：数理统计|笔记整理（4）——估计量的简单性质：矩估计，极大似然估计——————————————————————————————————————大家好！抱歉这一节隔了这么久才发。
weixin_39748928·2023-01-13 21:18

人工智能-EM算法

，根据已经给出的观测数据，估计出模型参数的值2，再依据估计出的参数值估计缺失值的值，再根据估计出的缺失数据加上之前已经观测到的数据重新对参数进行估计3，反复迭代，直到最后收敛，迭代结束2、EM算法介绍极大似然估计极大
海星？海欣！·2023-01-11 20:02

0基础看-最大似然函数，原理，基本概念，例子

目录1.最大似然估计的总体概念2.基本概念与问题引出3.最大似然估计原理4.极大似然估计的公式[3]5.极大似然估计的例子参考文献1.最大似然估计的总体概念最大似然估计的功能：根据已有的数据（手中已经获取到的杂乱无章的数据
linweieran·2023-01-11 15:53

似然函数

极大似然估计法的基本思想：在OLS估计中，我们假定一个单一总体的参数是确定的。这个总体可以生成大量的随机样本，我们所用的样本不过是其中的一个。总之，在假设的重复抽样过程中会产
expleeve·2023-01-11 15:22

似然函数 极大似然估计 本质讲解

似然函数在数理统计学中，似然函数是一种关于统计模型中的参数的函数，表示模型参数中的似然性。给定输出x时，关于参数θ的似然函数L(θ|x)（在数值上）等于给定参数θ后变量X的概率：例子：考虑投掷一枚硬币的实验。通常来说，已知投出的硬币正面朝上和反面朝上的概率各自是pH=0.5，便可以知道投掷若干次后出现各种结果的可能性。比如说，投两次都是正面朝上的概率是0.25。用条件概率表示，就是：其中H表示正面
Murray_·2023-01-11 15:21

似然函数总结

开篇注意：极大似然估计的前提是我们对数据分布有一个预先的考量，比如已知分布是正态分布，泊松分布或者其他分布等等，我们所不知道的是分布中具体的参数值。所以说，没有已知的分布知识就不能用极大似然法。
生信研究猿·2023-01-11 15:19

统计学习方法——第9章 EM算法及其推广（个人笔记）

EM算法就是含有隐变量的概率模型参数的极大似然估计法，或极大后验概率估计法。9.1.1EM算法例子（三硬币模型）假设有三枚硬币，分别记作A，B，C，这些硬币正面出现的概率分别是。进
没用的阿鸡·2023-01-10 12:10
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他