经济计量学的各种检验-北大光华王志刚

经济计量学的几种检验王志刚2003.6多重共线性.Multicollinearityarisesbecausewehaveputintoomanyvariablesthatmeasurethesamething.Asthedegreeofmulticollinearityincreases,theregressionmodelestimatesofthecoefficientsbecomeunstableandthestandarderrorsforthecoefficientscangetwildlyinflated.Measure:vif,tol=1/vif,conditionindex;etc.kXXrank)(多重共线性的后果1.存在完全多重共线性时,参数的估计值无法确定,而且估计值的方差变为无穷大.2.存在不完全多重共线性时,可以估计参数值,但是数值不稳定,而且方差很大.3.多重共线性会降低预测的精度,甚至失效,增大零假设接受的可能性(t值变小).多重共线性的检测方法(1)样本可决系数法如果样本的可决系数R-square比较大，且回归系数几乎没有统计上的显著性，则可认为存在多重共线性。Theil提出了一个指标：多重共线性效应系数，存在多重共线性。接近于线性；，则认为不存在多重共若该系数接近于数后的回归方程的可决系去掉指标10;);(22212jjjpjxRRRRTheilTheiltestresultsSas结果：结果表明有多重共线性。19376.0tcoefficieneffectsl9828.0;9473.0;9913.0;9919.02322212theiRRRR多重共线性检测方法（2）辅助回归检验法若存在多重共线性，则至少有一个解释变量可精确或近似地表示为其余皆是变量的线性组合。相应的检验统计量为：因；是造成多重共线性的原则可认为性；若显著则存在多重共线的可决系数量的回归个自变量对其余解释变为第iiiiixiRpTpFpTRpRF;),1()/()1()1/(222辅助回归检验结果Sas结果：Klein经验法则：若存在一个i,使得R(i)-squareR-square,则认为多重共线性严重；本例中x1,x3有多重共线性。;9946.0);01.0(44.740;0186.0);9278.0(0186.0;9946.0);01.0(99.739233212211RprobFRprobFRprobF多重共线性检验方法（3）样本相关系数检验法否则不存在；；，则认为有多重共线性如果拒绝检验统计量：共线性严重。进一步，共线性；较大，则认为存在多重如果之间的相关系数和两个变量0202));1(5.0());log(det()52(611(;1)det(;1)det(:,,HppFGRpTFGRHRHRrrrxxaijijijjiFGtestresultsfg=20.488013401p=0.0001344625；拒绝零假设，认为存在多重共线性。具体那些变量之间存在多重共线性，除了上面提到的辅助回归的方法外，还有以下提到的条件数检验和方差膨胀因子法。多重共线性检验方法：（4）特征值分析法所用的检验统计指标;为第k各自变量和其余自变量回归的可决系数.VIF10,有多重共线性;TOL=1/VIF;条件指数:条件数:;C20,共线性严重.12)1(kkRVIF2kRminiiCminmaxC多重共线性的检验和补救例一:进口总额和三个自变量之间回归;Sas结果如下:PearsonCorrelationCoefficients,N=11Prob|r|underH0:Rho=0x1x2x3x11.000000.025850.99726GDP0.9399.0001x20.025851.000000.03567存蓄量0.93990.9171x30.997260.035671.00000总消费.00010.9171从上面可以看出x1和x3线性相关严重.多重共线性的检验和补救(2)回归结果:ParameterEstimatesParameterStandardVarianceVariableDFEstimateErrortValuePr|t|InflationIntercept1-10.127991.21216-8.36.00010x11-0.051400.07028-0.730.4883185.99747x210.586950.094626.200.00041.01891x310.286850.102212.810.0263186.11002发现x1的系数为负,和现实经济意义不符,出现原因就是x1和x3之间的线性相关.补救措施增加样本;岭回归或主分量回归;至少去掉一个具有多重共线性的变量;对具有多重共线性的变量进行变换.对所有变量做滞后差分变换(一般是一阶差分),问题是损失观测值,可能有自相关.采用人均形式的变量（例如在生产函数估计中）在缺乏有效信息时,对系数关系进行限制,变为有约束回归(Klein,Goldberger,1955),可以降低样本方差和估计系数的标准差,但不一定是无偏的(除非这种限制是正确的).对具有多重共线性的变量,设法找出其因果关系,并建立模型和原方程构成联立方程组.岭回归岭回归估计:K=0,b(k)=b即为OLSE;K的选取:即使b(k)的均方误差比b的均方误差小.YXkIXXkb1)()()])(())([(minkbkbk岭迹图岭回归结果Obs_MODEL__TYPE__DEPVAR__RIDGE_k_PCOMIT__RMSE_Interceptx1x2x3y1MODEL1PARMSy0.48887-10.1280-0.0510.586950.287-12MODEL1RIDGEVIFy0.00方差膨胀因子185.9971.01891186.110–13MODEL1RIDGEy0.000.48887-10.1280-0.0510.586950.287–14MODEL1RIDGEVIFy0.018.5990.981928.604-15MODEL1RIDGEy0.010.55323-9.18050.0460.598860.144–16MODEL1RIDGEVIFy0.022.8580.962192.859-17MODEL1RIDGEy0.020.57016-8.92770.0570.595420.127-18MODEL1RIDGEVIFy0.031.5020.943451.502-19MODEL1RIDGEy0.030.57959-8.73370.0610.590800.120-110MODEL1RIDGEVIFy0.040.9790.925320.979-111MODEL1RIDGEy0.040.58745-8.55830.0640.585910.116-1主分量回归主分量回归是将具有多重相关的变量集综合得出少数几个互不相关的主分量.两步:(1)找出自变量集的主分量,建立y与互不相关的前几个主分量的回归式.(2)将回归式还原为原自变量结果.详见,实用多元统计分析,方开泰;主分量回归结果Obs_MODEL__TYPE__DEPVAR__PCOMIT__RMSE_Interceptx1x2x3y1MODEL1PARMSy0.48887-10.1280-0.051400.586950.28685–12MODEL1IPCVIFy10.250831.000850.25038–13MODEL1IPCy10.55001-9.13010.072780.609220.10626–14MODEL1IPCVIFy20.249560.000950.24971-15MODEL1IPCy21.05206-7.74580.073810.082690.10735-1主分量回归结果由输出结果看到在删去第三个主分量（pcomit=1)后的主分量回归方程：Y=-9.1301+0.07278x1+0.60922x2+0.10626x3;该方程的系数都有意义，且回归系数的方差膨胀因子均小于1.1；主分量回归方程的均方根误差（_RMSE=0.55)比普通OLS方程的均方根误差（_RMSE=0.48887)有所增大但不多。Sas程序dataex01;inputx1x2x3y@@;labelx1=国内生产总值;labelx2=存储量;;labelx3=消费量;labely=进口总额;cards;149.34.2108.115.9161.24.1114.816.4171.53.1123.219.0175.53.1126.919.1180.81.1132.118.8190.72.2137.720.4202.12.114622.7212.45.6154.126.5226.15.0162.328.1231.95.1164.327.6239.00.7167.626.3;run;proccorrdata=ex01;varx1-x3;run;*岭回归*;procregdata=ex01outest=ex012graphicsoutvif;modely=x1-x3/ridge=0.0to0.1by0.01;plot/ridgeplot;run;procprintdata=ex012;run;*主分量回归法*;procregdata=ex01outest=ex103;modely=x1-x3/pcomit=1,2outvif;*pcomit表示删去最后面的1或2个主分量,用前面m-1或m-2各主分量进行回归*;run;procprintdata=ex103;run;Sas程序/*theiltest*/;procregdata=ex01;equation3:modely=x1x2;equation2:modely=x1x3;equation1:modely=x2x3;run;/*r-.9473;r3s=0.9828*/;datatheil;rsq=0.9919;r1s=0.9913;r2s=0.9473;r3s=0.9828;theil=rsq-(3*rsq-(r1s+r2s+r3s));puttheil=;run;/*辅助回归检验法*/;procregdata=ex01;equation3:modelx3=x1x2;equation2:modelx2=x1x3;equation1:modelx1=x2x3;run;/*FGtest*/;proccorrdata=ex01outp=corrnosimple;varx1-x3;run;procprintdata=corr;run;title计算相关矩阵的行列式;prociml;R={1.0000.0260.997,0.02610.036,0.91520.63061};d=det(R);printd;run;/*d=0.081371*/;title计算检验统计量及其p值;datafg;n=11;p=3;d=0.081371;fg=-(n-1-1/6*(2*p+5))*log(d);df=p(p-1)/2;p=1-probchi(fg,df);putfg=p=;run;/*fg=20.488013401p=0.0001344625,拒绝零假设*/;异方差的检验和补救OLSEunbiased,inefficient;t,Ftestinvalid;forecastaccuracydecreased.Ifthemodeliswell-fitted,thereshouldbenopatterntotheresidualsplottedagain