笔记：二元Probit与Logit模型

二元离散选择模型的建立

建立模型：$$Y_i=X_i\beta +{\mu }_i$$
二元选择下，$Y_i=0,1$。$\mathrm{E}({\mu }_i$)=0，所以$\mathrm{E}(Y_i$)=$X_i\beta$。
易知$\mathrm{E}(Y_i)=P(Y_i=1)=X_i\beta$。
$P(Y_i=1)$要求[0，1]范围,而$X_i\beta$却没有这个限制，所以产生了矛盾。另外，
$${\mu }_i=\{\begin{array}{l}1-X_i\beta ,当Y_i=1,其概率为X_i\beta \\ -X_i\beta ,当Y_i=0,其概率为1-X_i\beta \end{array}$$
为了使模型可以估计，建立
$$Y_i^{\ast }=X_i\beta +{\mu }_i^{\ast }(1)$$
使得$P(Y_i=1)=P(Y_i^{\ast }>0)=P({\mu }_i^{\ast }>-X_i\beta )$（2）
为${\mu }_i^{\ast }$选择的概率分布常用的是标准正态分布和逻辑分布，相应地形成了两种最常用的二元选择模型——Probit模型与Logit模型。
这两种分布都是对称的，所以
$$\begin{gathered} P(Y_i=1)=P(Y_i^{\ast }>0)=P({\mu }_i^{\ast }>-X_i\beta ) \\ =1-P({\mu }_i^{\ast }\le -X_i\beta ) \\ =1-F(-X_i\beta )=F(X_i\beta ) \end{gathered}$$
模型（1）的似然函数：
$$P(Y_1,...,Y_n)=\prod _{Y_i=0}[1-F(X_i\beta )]\prod _{Y_i=1}F(X_i\beta )$$
即
$$L=\prod _{i=1}^n[F(X_i\beta ){]}^{Y_i}[1-F(X_i\beta ){]}^{1-Y_i}$$
取对数：
$$lnL=\sum \{Y_{i}lnF(X_i\beta )+(1-Y_i)ln[1-F(X_i\beta )]\}$$
一阶条件为
$$\frac{\partial lnL}{\partial \beta }=\sum [\frac{Y_i{f}_i}{F_i}+(1-Y_i)\frac{-f_i}{1-F_i}]X_i=0(3)$$
求解该方程组，可以得到模型参数估计量。

二元Probit模型

Probit模型就是${\mu }_i^{\ast }$取正态分布推导得出的。

• 重复观测值不可得到时的情况
  这个情况是指对每个决策者只有一个观测值。
  在这种情况下我们将一阶条件（3）写为：
  $$\begin{gathered} \frac{\partial lnL}{\partial \beta }=\sum _{Y_i=0}\frac{-f_i}{1-Fi}+\sum _{y_i=1}\frac{f_i}{F_i}{X}_i \\ =\sum _{i=1}^n[\frac{q_{i}f(q_i{X}_i\beta )}{F(q_i{X}_i\beta )}]X_i \\ =\sum _{i=1}^n{\lambda }_i{X}_i=0 \end{gathered}$$
  其中$q_i=2Y_i-1$
  上式关于$\beta$式非线性函数，不能直接求解，需采用完全信息最大似然法中所采用的迭代方法。
• 重复观测可以得到时的情况
  由于外部条件不变很难实现，所以这个模型的应用价值受到限制。

二元Logit模型

就是方程（2）中的${\mu }_i^{\ast }$的概率分布设为逻辑分布而推导得到的。
逻辑分布的分布函数：
$$F(t)=\frac{1}{1+e^{-t}}$$
密度函数：
$$f(t)=\frac{e^{-t}}{(1+e^{-t}{)}^2}$$
其中分布函数可改写为：
$$F(t)=\frac{e^t}{1+e^t}=\Lambda (t)(4)$$
概率密度函数可改写为：
$$f(t)=\frac{e^t}{(1+e^t{)}^2}=\Lambda (t)[1-\Lambda (t)](5)$$

• 重复观测值不可得到时的情况
  将（4）（5）代入一阶条件（3）中：
  $$\begin{gathered} \frac{\partial lnL}{\partial \beta }=\sum [\frac{Y_i{f}_i}{F_i}+(1-Y_i)\frac{-f_i}{1-F_i}]X_i= \\ \sum _{i=1}^n[Y_i-\Lambda (X_i\beta )]X_i=0 \end{gathered}$$
  上式关于$\beta$非线性，不能直接求解，需采用完全信息最大似然法中的迭代方法。
• 重复观测值可以得到的情况
  同样可以采用广义最小二乘法估计二元Logit模型。