Hausman检验与模型选择统计量(doc-7页)(正式版)

Hausman检验Hausman检验的基本思想是：由于在遗漏相关变量的情况下，往往导致解释变量与随机扰动项出现同期相关性，即，外生性条件不满足，从而使得OLS估计量有偏且非一致。因此，对模型遗漏相关变量的检验可以用模型是否出现解释变量与随机扰动项同期相关性的检验来替代。我们知道，当，或者解释变量与随机扰动项同期相关时，采用工具变量法（IV）可得到参数的一致估计量；当解释变量与随机扰动项同期无关时，OLS估计量为参数的一致估计量。因此，只须检验IV估计量与OLS估计量是否存在显著的差异性，以检验解释变量与随机扰动项是否同期无关，进而判别模型是否存在着遗漏相关变量的情况。Hausman检验在原假设条件下，IV估计量与LS估计量都是一致的，而在备择假设中，只有IV估计量是一致的。若外生性条件确定满足时，我们更倾向于使用LS估计量；而当外生性条件不确定满足时，就需要使用IV估计量。令，则H检验统计量为一个Wald统计量：可以证明得到。则1()'[..()..()]()IVLSIVLSIVLSHbbEstAsyVarbEstAsyVarbbb若拒绝原假设则需要选用IV估计量。模型选择统计量我们知道，随着模型中变量个数的增加，残差平方和2iRSSe将减小，拟合优度2R增加，但自由度减少。2R和指标1221ienk的提出都是为了权衡2iRSSe减小和自由度丢失两个方面，是模型选择中最常用的标准。近年来，若干模型选择的标准相继面世。这些标准所采用的的形式均为残差平方和与具有惩罚意义的自由度因子（表征模型设定复杂度）的乘积。其中，赤池（1970，1974）提出了有限预测误差（FPE）和赤池信息准则(AIC)；汉南（Hannan）和奎因（Quinn）的HQ准则；许瓦兹准则（SCHWARZ）；施巴塔准则（Shibata）；赖斯准则（RICE）；广义交叉确认准则（GCV）等。下表是关于各类不同标准的总结。这些统计量也被称为模型选择统计量。SGMASQ1211ikennHQ221knilnnenAIC221knieenRICE12211ikennFPE21inkenknSCHWARZ21kninenGCV2211ikennSHIBATA221inkenn理想情况是，我们所设定的模型，在上述各科统计量中，与其他模型相比较，有着较小的检验统计值。换言之，模型选择的标准为，上述各个模型选择统计量具有较小的统计值。各个统计量的推导不作要求。思考题1、假设真实的模型为：1122yXX，若遗漏变量2X，讨论1估计量的无偏性。若我们关心的不是回归参数，而是y的预测值，遗漏变量2X是否带来偏误？若21[|]EXX是1X的线性函数，结论是怎样的？2、证明：有约束的2R统计量绝不会比无约束的2R统计量大，加入约束条件不能提高模型的拟合优度。（提示：从RSS入手。）3、y对一个常数、1x和2x的多元回归结果如下：1240.40.9yxx，2R＝8/60，'520ee，29n2900'0501001080XX模型满足古典的假设条件，根据这些结果，检验两个斜率之和为1的假设。Wald检验、拉格朗日乘数检验和似然比检验基本思路：（1）沃尔德检验对于回归模型的参数约束而言，可以是线性约束也可以是非线性约束。设:0Hcβ0，:1Hcβ0采用ML估计，有：12ˆ0,aTNXXMLββ则：ˆˆ1ˆ0,ˆˆMLMLaTNXXMLTMLMLcβcβcβcβββ故当:0Hcβ0成立时，有：ˆˆˆ000TWVarMLMLMLcβcβcβˆˆ12ˆˆ00ˆˆTMLMLaTXXrMLMLTMLMLcβcβcβcβββWald检验统计量为：([])(([]))([])TWcqVarcqcq其中，ˆθ是无约束条件下的参数估计向量。在ˆ:0Hcθq和大样本条件下，W遵从自由度等于约束个数的卡方分布。其中，约束个数是指约束方程ˆ-cθq0的个数。（2）似然比检验基本思想设总体X的密度函数（或分布列）为()fx;θ，θ为未知参数，θΘ，现考虑如下的检验问题：:00HθΘ，:11HθΘ（1）其中0Θ与1Θ是非空子集，且0Θ与1Θ不相交，下面为方便起见，讨论0Θ与1Θ之并为Θ的情况。设,,,12XXXn是来自X的样本，记其似然函数为()Lθ，ˆ0θ与ˆθ分别是θ的参数空间0Θ与Θ上的极大似然估计，似然函数在0Θ与Θ上的极大值分别记为ˆ()0Lθ与ˆ()Lθ，即ˆ()max()0LLθθθΘ0和ˆ()max()LLθθθΘ，记其比值为：ˆ()0(,,,)12ˆ()LXXXnLθλθ（2）其中，λ是一个统计量，由于范围越大L的最大值不会减少，故总有ˆˆ()()0LLθθ，这意味着01。由于似然函数可以看成是给定样本后，θ出现可能性的一种度量。设Yt的密度函数为()fx;β，β为1k阶的未知参数向量tttYXβε，1,2,,tT，~iidtε。分三种情形讨论1．:00H，:10H；2．:00Hcβcβ，:10Hcβcβ；3．:0Hcβ0，:1Hcβ0；①简单假设情形：:00H，:10H则有：当0H成立时，有：2ˆ2ln()ln()()0LLk，且0H的拒绝域为：2ˆ2ln()ln()()0LLk。②复合假设情形：:00Hcβcβ，:10Hcβcβ其中：cβ是1r的向量，cβ与β是一一对应，()ddcββ连续。由于ˆβ为β的极大似然估计，则：1ˆ(0,dTNββIβ），可得：**ˆ()*cTTβcβcββββ**10,**TccdNββIβββ因此，2ˆ2ln()ln()()0aLLkrββ。③一般情形：:0Hcβ0，:1Hcβ0则有检验统计量2ˆ2ln()ln()()aLLrRββ（3）拉格朗日乘数检验基本思想由于在非限制条件下，ˆβ满足ˆlnˆLβ0β，即ˆlnˆLββ在ˆβ处为0。若:0Hcβ0成立，则ˆlnˆLRRββ也应在0附近。考虑到ˆβ和ˆRβ均为β的一致性估计，有约束条件下的对数似然函数为ˆˆlnlnLLRββcβˆˆlnln0ˆLLRRββcββββˆlnLβcβββ因而，有:0:000HHcβ。此乃拉格朗日乘数检验：若:0Hcβ0成立，则ˆln0ˆLRββ；则可依据ˆlnˆLRββ构造检验统计量，得到给定显著水平条件下0H的拒绝域。因此：12ln()ln()[][()][]()TRRRRRLLLMIar三个非线性约束检验的等价关系三个非线性约束检验之间的关系（等价性）可由如下图形解释：一般地有:LMLRWald。习题1、简要阐述三个检验的基本思路。2、简要阐述三个检验之间的关系。