似然函数

---

似然函数

统计学中，似然函数是一种关于统计模型参数的函数。给定输出x时，关于参数θ的似然函数L(θ|x)（在数值上）等于给定参数θ后变量X的概率：

---

似然与概率

似然（probability）常常被用作“概率（likelihood）”的同义词，但是在统计学中，二者有截然不同的用法。

概率描述了已知参数时的随机变量的输出结果；似然则用来描述已知随机变量输出结果时，未知参数的可能取值。

---

对数似然函数

涉及到似然函数的许多应用中，更方便的是使用似然函数的自然对数形式，即“对数似然函数”。求解一个函数的极大化往往需要求解该函数的关于未知参数的偏导数。由于对数函数是单调递增的，而且对数似然函数在极大化求解时较为方便，所以对数似然函数常用在最大似然估计及相关领域中

---

最大似然估计

最大似然估计是似然函数最初也是最自然的应用。

上文已经提到，似然函数取得最大值表示相应的参数能够使得统计模型最为合理。

从这样一个想法出发，最大似然估计的做法是：首先选取似然函数（一般是概率密度函数或概率质量函数），整理之后求最大值。实际应用中一般会取似然函数的对数作为求最大值的函数，这样求出的最大值和直接求最大值得到的结果是相同的。似然函数的最大值不一定唯一，也不一定存在。与矩法估计比较，最大似然估计的精确度较高，信息损失较少，但计算量较大。

---

似然函数：等于每一条数据的概率之积。

损失函数；损失之和，对似然函数取对数，可以将积表达式转换成和的表达式。

再加个负号：可以让最大似然值和最小损失对应起来。

---

---

https://baike.baidu.com/item/%E4%BC%BC%E7%84%B6%E5%87%BD%E6%95%B0/6011241?fr=aladdin

https://baike.baidu.com/item/%E4%BC%BC%E7%84%B6%E5%87%BD%E6%95%B0/6011241?fr=aladdin

https://www.zhihu.com/question/27126057

https://www.zhihu.com/question/47744216?from=profile_question_card

https://www.zhihu.com/question/27126057

---