异方差

异方差问题1．什么是异方差？ikikiiiuXXXY22110，ni,,2,1221),,|(iiiiXXuVar，ni,,2,1或者2)(iiuVar，ni,,2,1同方差异方差2．异方差性的两个例子收入与储蓄打字出错个数与打字练习小时数3．异方差的类型同方差递增方差递减方差复杂型4．异方差性的后果（1）OLS估计量仍然具有线性性和无偏性证明：我们以一元线性回归模型为例来证明。21010221)]()[()(ˆiiiiiiiiiiΔXXuXΔXΔXYYΔXΔXΔYΔXiiuk1，其中2iiiΔXΔXk。证明无偏性时只使用到两个假设：解释变量是外生的，误差的均值为零下面证明OLS估计量方差在同方差与异方差情况下不相等。当假设为同方差时，1ˆ的方差为)var()var()ˆvar(11iiiiukuk（由随机扰动项的无自相关性假设）)var()var(2iiiiukuk（由同方差假设）22222222)(iiiiΔXΔXΔXk当方差为异方差是，1ˆ的方差为2221)var()ˆvar(iiiikuk22222222)()()(iiiiiiΔXΔXΔXΔX（2）变量的显著性检验失去意义说明：如果在存在异方差的情况下，仍然使用常用的OLS估计量表达式，则计算得到的方差通常是有偏的。由于t统计量和F统计量的表达式中都包含样本标准差，因此计算得到的t统计值和F统计值都是有偏误的，则建立在其上的假设检验也是不可靠的。如果仍用传统的假设检验有可能得出错误的结论。（3）即使样本容量趋于无穷大，OLS估计量也不是渐进有效的证明：强调：只有在使用OLS方法时才会产生上两个问题，在使用其他方法时这些问题有可能被消除。5．异方差性的检验思路由于异方差性是相对于不同的解释变量观察值，随机误差项具有不同的方差。那么，检验异方差性，也就是检验随机误差项的方差与解释变量观察值之间的相关性及其相关的“形式”。问题在于用什么来表示随机误差项的方差？一般的处理方法：首先采用残差的平方表示随机误差项的方差。即OLSiiiYYe)ˆ(，2)(iieVar6．异方差性的检验：White检验假设回归模型为iiiiXXY22110，ni,,2,1可先对该模型作OLS回归，并得到ie，然后做如下辅助回归：iiiiiiiiXXXXXXe21522421322110，ni,,2,10H：不存在异方差；1H：存在异方差White证明，在同方差假设下，22~nRd.f.。在上述辅助回归模型中d.f.5如果计算得到的2值超过了所选显著水平下的2临界值，则可以拒绝零假设。而另一方面，如果计算2值很小，则不能拒绝零假设。7．异方差修正的基本思路思路：在使用OLS方法时，对较小的残差平方2ie赋予较大的权数，对较大的2ie赋予较小的权数，以对残差提供的信息的重要程度做一番校正，提高参数估计的精度。关键是权数如何选取？假定有一个一元线性回归模型，只有同方差假设不满足外，其他假设均满足，即iiiuXY102)var(iiu其中，2i大小是已知的（这只是为说明问题而作的假设，现实中不可能知道）。做变换：iiiiiiiuXY101变换后：****100iiiiuXXY1)var(1)var(*)var(2iiiiiuuu将OLS应用到转换后的模型上，这时估计出来的0ˆ，1ˆ是BLUE。先将原始变量转换成满足经典模型假设的转换变量，然后对它们使用OLS程序，叫做广义最小二乘法（GLS）。具体过程如下：首先写出对应于转换模型的样本回归模型iiiiiiieXY10ˆ1ˆ**ˆ*ˆ*100iiiieXXY最小化2*)(ie最小化2iie最小化)ˆˆ(1002iiiiiiXXYwew，其中2/1iiwOLS要求最小化的是2102)ˆˆ(iiiXYe加权最小二乘法就是对原模型加权，使之变成一个新的不存在异方差的模型，然后采用普通最小二乘法估计其参数。加权的基本思想是：在采用普通最小二乘法时，对较小的残差平方2ie赋予较大的权数，对较大的2ie赋予较小的权数，以对残差提供的信息的重要程度做一番校正，提高参数估计的精度。如果一个多元模型已经知道22)()(jiiiXfuVar，那么可以用)(jiXf去除原模型，使之变成如下形式的新模型ijikijikijijiijiXfXXfXXfXfYXf)(1)(1)(1)(1)(11102)(1ijiXfVar8.权系数未知时如何确定——可行的广义最小二乘法（FGLS）实施加权最小二乘法的关键是寻找适当的“权”，或者说是寻找模型中随机干扰项u的方差与解释变量的适当的函数形式。如果发现),,,(),,,|var(21221kiiikiiiiXXXfXXXu则加权最小二乘法总的权即为),,,(/121kiiiXXXf。但如何寻找u的方差与各X之间的关系呢？假设u的方差具有如下指数函数的形式：)exp(),,,|var(22110221kikiikiiiiXXXXXXu则可等价地写出ikikiiiXXXu)exp(2211022其中，i是条件均值为1的随机项。如果假设i与各X独立，进一步有ikikiiivXXXu221102ln其中，iv为独立于各X，且条件均值为0的随机项。上式满足普通最小二乘法的基本假设，当用可观测的值ie代替不可观测的iu时，用普通最小二乘法估计ikikiiivXXXe221102ln得到0ˆ，1ˆ，2ˆ，kˆ,得到u的方差的估计：)ˆˆˆˆexp(ˆ2211022kikiiiiXXXe从而，估计的权为)ˆˆˆˆexp(/1ˆ/1ˆ221102kikiiiiXXXw由于加权最小二乘法中的权，或者说原模型中u的方差与各X间适当的函数关系是估计出来的，因此，这一广义最小二乘法也被称为可行的广义最小二乘法。9．异方差的稳健估计达摩达尔·N·古扎拉蒂在《计量经济学基础》（11.8节）中，提醒我们牢记约翰·福克斯的警告：“只有在问题严重的时候，误差方差不相等的问题才值得去修正。”作为一个经验的法则，福克斯建议，在普通最小二乘法下得到的斜率的方差是广义最小二乘法下得到的斜率方差的10倍还大时，异方差才是我们需要担心的严重问题。由于在存在异方差时，采用OLS方法得到的参数估计量仍然是无偏的，只是由于参数的方差是有偏的，导致假设检验失效，因此，可以考虑修正普通最小二乘法得到的各参数的相应方差。White提出的一种修正方法，被称为异方差稳健标准误（heteroscedasticity-robuststandarderror），就是用来解决这个问题的。一元回归模型下，异方差稳健标准误的求法iiiuXY102)var(iiu22221)()()ˆvar(iiiΔXΔX。由于2i不能直接观测，White建议用残差平方来2ie代替2i，即22221)()()ˆvar(iiiΔXeΔX。White证明了，22221)()()ˆvar(iiiΔXeΔX是22221)()()ˆvar(iiiΔXΔX的一致估计量，即随着样本容量的无限增加，前者收敛于后者。多元回归模型下，异方差稳健标准误的求法ikikiiiuXXXY221102)var(iiu任何一个偏回归系数jˆ（kj,,1）的方差都可以通过如下方式求得：2222)()()ˆvar(jiijijrer其中，jir为将回归元jX对其余回归元做（辅助）回归得到的残差。JamesStock和MarkWatson针对异方差性提出了一种不同建议。他们描述道：“一般情况下，经济理论几乎不能给出原因来说明为什么误差项是同方差的。所以除非你有充足的理由相信误差是同方差的，否则，谨慎的做法还是接受异方差的假设。”因此，在JamesStock和MarkWatson的教科书体系中，并没有将同方差列入古典假设中，而是对每个模型都进行异方差标准误检验。（A.H.施图德蒙德《应用计量经济学》P210）附录：一般情况下uΧβΥ，存在0)(uE，Wuuu2)'()(ECov。如何找到一个权矩阵，能够使原模型乘以该权矩阵后变为同方差呢？我们首先假设存在这样一个权矩阵1D，用1D乘原模型两边可以得到：uDXβDYD111***uβΧΥ要使新模型变为同方差（即I*u*u2)(E），即是要使如下式子得到满足I)'W(DD)'(Duu'D)'(Duu'D*u*u11111122)(][)(EEE或者说，I)'W(DD1122由于W2真实值是未知的，我们利用随机干扰项的近似估计量来代替W2真实值，即2212~~ˆneeW这样，我们的问题就变为如何找到1D，使I)'(DD)'W(DD111122212nee根据线性代数的知识，我们就可以直接找到neeediag1,,1,1211D。于是，可以用OLS法估计带“*”的同方差模型***uβΧΥ，得到参数估计量为*ˆβ，YDDXXDDXYXXXβ1111'11)(])([***)*(*ˆ