异方差与自相关

11.5假定条件的不成立用OLS法得到的估计模型通过统计检验后，还要检验摸型是否满足假定条件。由1.3节知，只有模型的4个假定条件都满足时，用OLS法得到的估计量才具有最佳线性无偏特性。当一个或多个假定条件不成立时，OLS估计量将丧失上述特性。本节讨论当假定条件不成立时，对参数估计带来的影响以及相应的补救措施。以下讨论都是在某一个假定条件被违反，而其他假定条件都成立的情况下进行。分为5个步骤。（1）回顾假定条件。（2）假定条件不成立对模型参数估计带来的影响。（3）定性分析假定条件是否成立。（4）假定条件是否成立的检验（定量判断）。（5）假定条件不成立时的补救措施。1.5.1同方差假定-2024681012050100150200XY图5.1同方差情形图5.2同方差情形模型的假定条件⑴给出Var(u)是一个对角矩阵，Var(u)=E(uu')=2I=210101(5.1)且u的方差协方差矩阵主对角线上的元素都是常数且相等，即每一误差项的方差都是有限的相同值（同方差假定）；且非主对角线上的元素为零（非自相关假定），当这个假定不成立时，Var(u)不再是一个纯量对角矩阵。Var(u)=2=211220..00...0......00...TT2I(5.2)当误差向量u的方差协方差矩阵主对角线上的元素不相等时，称该随机误差系列存在异方差，即误差向量u中的元素ut取自不同的分布总体。非主对角线上的元素表示误差项之间的协方差值。比如中的ij与2的乘积,（ij）表示与第i组和第j组观测值相对应的ui与uj的协方差。若非主对角线上的部分或全部元素都不为零，误差项就是自相关的。2本节讨论异方差。下一节讨论自相关问题。以两个变量为例，同方差假定如图5.1和5.2所示。对于每一个xt值，相应ut的分布方差都是相同的。1.5.2异方差表现与来源异方差通常有三种表现形式，（1）递增型，（2）递减型，（3）条件自回归型。递增型异方差见图5.3和5.4。图5.5为递减型异方差。图5.6为条件自回归型异方差。0123456720406080100120140160180200Y图5.3递增型异方差情形图5.4递增型异方差01234567050100150200XY-8-6-4-20246400500600700800900100011001200DJPY图5.5递减型异方差图5.6复杂型异方差(1)时间序列数据和截面数据中都有可能存在异方差。(2)经济时间序列中的异方差常为递增型异方差。金融时间序列中的异方差常表现为自回归条件异方差。无论是时间序列数据还是截面数据。递增型异方差的来源主要是因为随着解释变量值的增大，被解释变量取值的差异性增大。0.0E+002.0E+114.0E+116.0E+118.0E+111.0E+121.2E+1284868890929496980002GDPofPhilippin-8.0E+10-4.0E+100.0E+004.0E+108.0E+101.2E+1184868890929496980002RESID图5.7菲律宾的季度数据图5.8剔出2次趋势后的残差序列1.5.3异方差的后果下面以简单线性回归模型为例讨论异方差对参数估计的影响。对模型3yt=0+1xt+ut当Var(ut)=t2，为异方差时（t2是一个随时间或序数变化的量），回归参数估计量仍具有无偏性和一致性。以1ˆ为例E(1ˆ)=E(2)())((xxyyxxttt)=E(21)(])()[(xxuxxxxtttt)=1+2)()()(xxuExxttt=1在上式的推导中利用了E(ut)=0的假定。但是回归参数估计量不再具有有效性。仍以1ˆ为例，Var(1ˆ)=E(1ˆ-1)2=E22()()tttxxuxx=E222(())(())tttxxuxx=2222))(()(E)(xxuxxttt=2222))(()(xxxxttt22)(xxt（在上式的推导中利用了ut的非自相关假定、xt与ut非相关假定）。上式不等号右侧项分子中的t2不是一个常量，不能从累加式中提出，所以不等号右侧项不等于不等号左侧项。而不等号右侧项是同方差条件下1的最小二乘估计量1ˆ的方差。因此异方差条件下的1ˆ失去有效性。另外回归参数估计量方差的估计是真实方差的有偏估计量。例如E(Var(1ˆ))Var(1ˆ)（证明略）下面用矩阵形式讨论。因为OLS估计量无偏性的证明只依赖于模型的一阶矩，所以当Var(u)如（5.2）式所示时，OLS估计量ˆ仍具有无偏性和一致性。E(ˆ)=E[(X'X)-1X'Y]=E[(X'X)-1X'(X+u)]=+(X'X)-1X'E(u)=但不具有有效性和渐近有效性。而且ˆ的分布将受到影响。Var(ˆ)=E[(ˆ-)(ˆ-)']=E[(X'X)-1X'uu'X(X'X)-1]=(X'X)-1X'E(uu')X(X'X)-1=2(X'X)-1X'X(X'X)-1不等于(X'X)-1，所以异方差条件下ˆ是非有效估计量。1.5.4异方差检验1.5.4.1定性分析异方差(1)经济变量规模差别很大时容易出现异方差。如个人收入与支出关系，投入与产出关系。4(2)利用散点图做初步判断。(3)利用残差图做初步判断。0123456720406080100120140160180200Y-3-2-10123050100150200TY1.5.4.2异方差检验(1)White检验White检验由H.White1980年提出。Goldfeld-Quandt检验必须先把数据按解释变量的值从小到大排序。Glejser检验通常要试拟合多个回归式。White检验不需要对观测值排序，也不依赖于随机误差项服从正态分布，它是通过一个辅助回归式构造2统计量进行异方差检验。White检验的具体步骤如下。以二元回归模型为例，yt=0+1xt1+2xt2+ut(5.9)①首先对上式进行OLS回归，求残差tuˆ。②做如下辅助回归式，2ˆtu=0+1xt1+2xt2+3xt12+4xt22+5xt1xt2+vt(5.10)即用2ˆtu对原回归式中的各解释变量、解释变量的平方项、交叉积项进行OLS回归。注意，上式中要保留常数项。求辅助回归式(5.10)的可决系数R2。③White检验的零假设和备择假设是H0:(5.9)式中的ut不存在异方差，H1:(5.9)式中的ut存在异方差。④在不存在异方差假设条件下，统计量TR22(5)(5.11)其中T表示样本容量，R2是辅助回归式(5.10)的OLS估计式的可决系数。自由度5表示辅助回归式(5.10)中解释变量项数（注意，不计算常数项）。TR2属于LM统计量。⑤判别规则是若TR22(5),接受H0（ut具有同方差）若TR22(5),拒绝H0（ut具有异方差）附录：White检验的EViwes操作。在回归式窗口中点击View键选ResidualTests/WhiteHeteroskedasticity功能。检验式存在有无交叉项两种选择。(2)Goldfeld-Quandt检验H0:ut具有同方差，H1:ut具有递增型异方差。5构造F统计量。①把原样本分成两个子样本。具体方法是把成对（组）的观测值按解释变量的大小顺序排列，略去m个处于中心位置的观测值（通常T30时，取mT/4，余下的T-m个观测值自然分成容量相等，(T-m)/2，的两个子样本。）{x1,x2,…,xi-1,xi,xi+1,…,xT-1,xT}n1=(T-m)/2m=T/4n2=(T-m)/2②用两个子样本分别估计回归直线，并计算残差平方和。相对于n2和n1分别用SSE2和SSE1表式。③F统计量是F=)/()/(1122knSSEknSSE=12SSESSE，（k为模型中被估参数个数）在H0成立条件下，FF(n2-k,n1-k)01234567050100150200XYY④判别规则如下，若FF(n2-k,n1-k),接受H0（ut具有同方差）若FF(n2-k,n1-k),拒绝H0（递增型异方差）注意：①当摸型含有多个解释变量时，应以每一个解释变量为基准检验异方差。②此法只适用于递增型异方差。③对于截面样本，计算F统计量之前，必须先把数据按解释变量的值从小到大排序。（3）Glejser检验检验tuˆ是否与解释变量xt存在函数关系。若有，则说明存在异方差；若无，则说明不存在异方差。通常应检验的几种形式是tuˆ=a0+a1xttuˆ=a0+a1xt2tuˆ=a0+a1tx,….Glejser检验的特点是：①既可检验递增型异方差，也可检验递减型异方差。②一旦发现异方差，同时也就发现了异方差的具体表现形式。③计算量相对较大。④当原模型含有多个解释变量值时，可以把tuˆ拟合成多变量回归形式。(4)自回归条件异方差（ARCH）检验6异方差的另一种检验方法称作自回归条件异方差(ARCH)检验。这种检验方法不是把原回归模型的随机误差项t2看作是xt的函数，而是把t2看作误差滞后项ut-12,ut-22,…的函数。ARCH是误差项二阶矩的自回归过程。恩格尔（Engle1982）针对ARCH过程提出LM检验法。辅助回归式定义为2ˆtu=0+121ˆtu+…+n2ˆntu(5.12)LM统计量定义为ARCH=TR22(n)其中R2是辅助回归式（5.12）的可决系数。在H0：1=…=n=0成立条件下，ARCH渐近服从2(n)分布。ARCH检验的最常用形式是一阶自回归模型（n=1），2ˆtu=0+121ˆtu在这种情形下，ARCH渐近服从2(1)分布。1.5.5.克服异方差的方法克服异方差的矩阵描述。设模型为Y=X+u其中E(u)=0，Var(u)=E(uu')=2。已知，与k未知。因为I，违反了假定条件，所以应该对模型进行适当修正。因为是一个T阶正定矩阵，所以必存在一个非退化TT阶矩阵M使下式成立。MM'=ITT从上式得M'M=-1用M左乘上述回归模型两侧得MY=MX+Mu取Y*=MY,X*=MX,u*=Mu,上式变换为Y*=X*+u*则u*的方差协方差矩阵为Var(u*)=E(u*u*')=E(Muu'M')=M2M'=2MM'=2I变换后模型的Var(u*)是一个纯量对角矩阵。对变换后模型进行OLS估计，得到的是的最佳线性无偏估计量。这种估计方法称作广义最小二乘法。的广义最小二乘(GLS)估计量定义为ˆ(GLS)=(X*'X*)-1X*'Y*=(X'M'MX)-1X'M'MY=(X'-1X)-1X'-1Y（1）对模型yt=0+1xt1+2xt2+ut(5.15)通常假定异方差形式是Var(ut)=(xt1)2。（因为Var(ut)=E(ut)2，相当于认为tuˆ=xt1）用xt1同除上式两侧得1ttyx=01tx+1+221ttxx+1ttux(5.16)7因为Var(1ttux)=211txVar(ut)=211tx2xt12=2，(5.16)式中的随机项1ttux是同方差的。对(5.16)式进行OLS估计后，把回归参数的估计值代入原模型(5.15)。对(5.16)式应用OLS法估计参数，求(ut/xt1)2最小。其实际意义是在求(ut/xt1)2最小的过程中给相应误差项分布方差小的观测值以更大的权数。所以此法亦称为加权最小二乘法，是GLS估计法的一个特例。以异方差形式Var(ut)=2xt2为例，用矩阵形式介绍克服异方差。2=22120...0Txx定义M=11/0...01/Txx从而使Var(Mu)=E(Muu'M')=M2