第3章_双变量模型：假设检验

本科教学课件计量经济学基础第3章双变量模型：假设检验17第第第第3333章章章章双变量模型双变量模型双变量模型双变量模型：：：：假设检验假设检验假设检验假设检验本章主要讲授如下内容：3.1经典线性回归模型3.2OLS估计量的方差与标准差3.3OLS估计量的性质3.4OLS估计量的抽样分布或概率分布3.5假设检验3.6拟合优度检验：判定系数R23.7正态性检验3.8预测3.13.13.13.1经典线性回归模型经典线性回归模型经典线性回归模型经典线性回归模型经典线性回归模型有如下假定：1．回归模型是参数线性的，但不一定是变量线性的。2．解释变量与扰动误差项不相关，即cov(Xi，ui)=0。3．给定Xi，扰动项的期望或均值为0，即E(u|Xi)=0。如图3-1所示。4．ui的方差为常数（或同方差），即var(ui)=σ2。如图3-2所示。本科教学课件计量经济学基础第3章双变量模型：假设检验185．无自相关假定，即cov(ui,uj)=0,i≠j。如图3-3所示。6．回归模型是正确设定的。3.2OLS3.2OLS3.2OLS3.2OLS估计量的方差与标准差估计量的方差与标准差估计量的方差与标准差估计量的方差与标准差222211)var(σσ∑∑==iibxnXb)var()(11bbse=∑==22222)var(ibxbσσ)var()(22bbse=2ˆ22-=∑neiσ本科教学课件计量经济学基础第3章双变量模型：假设检验193.3OLS3.3OLS3.3OLS3.3OLS估计量的性质估计量的性质估计量的性质估计量的性质1．．．．高斯高斯高斯高斯————马尔柯夫定理马尔柯夫定理马尔柯夫定理马尔柯夫定理如果满足经典线性回归模型的基本假定，则在所有线性估计量中，OLS估计量具有最小方差性。即OLS估计量是最优线性无偏估计量（BLUE）。2．．．．OLS估计量的性质估计量的性质估计量的性质估计量的性质(1)b1和和和和b2是线性估计量是线性估计量是线性估计量是线性估计量，，，，即它们是随机变量即它们是随机变量即它们是随机变量即它们是随机变量Y的线性函数的线性函数的线性函数的线性函数。。。。证明：iiiiiiiiiiiiiYkxxYxYxxYYxxyxb∑∑∑∑∑∑∑∑∑=-=-==22222)(（这里，0=∑ix）其中，∑=2iiixxk。同样可得：∑∑∑∑=-=-=-=iiiiiiiYwYkXnXYkYnXbYb)1(121其中，iikXnw-=1。(2)b1和和和和b2是无偏估计量是无偏估计量是无偏估计量是无偏估计量，，，，即即即即E(b1)=B1，，，，E(b2)=B2。。。。①对于b2，证明iiiiiiiiiiukXkBkBuXBBkYkb∑∑∑∑∑++=++==21212)(易知，02==∑∑∑iiixxk，1=∑iiXk所以∑+=iiukBb22故得2222)()()(BuEkBukBEbEiiii=+=+=∑∑②对于b1，证明∑∑∑∑∑++=++==iiiiiiiiiiuwXwBwBuXBBwYwb21211)(易知，1=∑iw，0=∑iiXw。所以iiuwBb∑+=11故得1111)()()()(BuEwBEuwBEbEiiii=+=+=∑∑本科教学课件计量经济学基础第3章双变量模型：假设检验20(3)b1和和和和b2是有效估计量是有效估计量是有效估计量是有效估计量，，，，即在所有线性无偏估计量中最小二乘估计量即在所有线性无偏估计量中最小二乘估计量即在所有线性无偏估计量中最小二乘估计量即在所有线性无偏估计量中最小二乘估计量b1和和和和b2具有最小方差具有最小方差具有最小方差具有最小方差。。。。①b1和b2方差求解∑∑∑∑∑∑===++==2222222122)var()var()var()var(iiiiiiiiiixxxukuXBBkYkbσσ222222222222222222222121121121)1()var()var()var(σσσσσσ∑∑∑∑∑∑∑∑∑∑∑∑=+=+=+-=+-=-=++==iiiiiiiiiiiiiiiixnXxnXnxxXnxxXkXnnkXkXnnkXnuXBBwYwb②证明：假设∑=iiYcb*2是用其他方法得到的关于B2的线性无偏估计量，iikc≠，2*2)(BbE=。iiiiiiiiiXcBcBXBBcYEcYcEbE∑∑∑∑∑+=+===2121*2)()()()(由无偏性2*2)(BbE=，可得：221BXcBcBiii=+∑∑比较等式两边，得：0=∑ic，1=∑iiXc而且有：011)(2222222=-=--=-=-=-∑∑∑∑∑∑∑∑∑∑∑∑iiiiiiiiiiiiiiiiixxkxcXcXkcxxkckkck故：)var()()](2)([)()var()var(222222222222222*2bxkkckkckkckkckcYcbiiiiiiiiiiiiiiiii==≥-+=-+-+=-+===∑∑∑∑∑∑∑∑σσσσσσ本科教学课件计量经济学基础第3章双变量模型：假设检验21同理，可证得：)var()var(1*1bb≥(4)误差方差的误差方差的误差方差的误差方差的OLS估计量是无偏的估计量是无偏的估计量是无偏的估计量是无偏的，，，，即即即即22)ˆ(σσ=E。。。。证明：前面已经提及2ˆ22-=∑neiσ，现在要证明222σ=-∑neEi。对于模型iiiuXBBY++=21，其离差形式为：)(2uuxByiii-+=根据样本回归函数221ˆXbbYi+=，其离差形式为：iixby2ˆ=所以)()(ˆ22uuxbByyeiiiii-+-=-=故有：因为2222222222)var(])([σσ===-∑∑∑∑iiiixxbxxbBE∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑--+-=+--+-=---+-=---+-=-+--+-=-+-=-=222222222222222222222222222222222)()(22)()(])()[(2)()()]()[(2)()(])()()(2)[()]()[()ˆ(iiiiiiiikiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiixuxuxuuxbBukxuukuxuuxbBuxukuxukuuxbBuuxukuuxbBuuuuxbBxbBuuxbByye本科教学课件计量经济学基础第3章双变量模型：假设检验22()2222222222222222)1(1)(2)(1)(])2(1[]1[)(]2[])2([])([σσσ-=-=+-=+-=-=-=-+=-+=-∑∑∑∑∑∑∑∑∑∑∑∑∑≠≠nnnnuuEuEnuEuuunuEunuEunuEuuunuEuuuuEuuEjijiiijjiiiiiiiiiiii222222))((2)(σ=+=∑∑∑∑∑≠ijijijiiiiiixuuxxuxExuxE所以22222)2(2)1()(σσσσ-=--+=∑nneEi从而222σ=-∑neEi3．．．．蒙特卡罗实验蒙特卡罗实验蒙特卡罗实验蒙特卡罗实验(1)假定给定下列信息Yi=B1+B2Xi+ui=1.5+2.0Xi+ui这里，ui~N(0,4)(2)假定再给Xi的10个值：1,2,3,4,5,6,7,8,9,10；(3)使用统计软件产生均值为零和方差为4的随机误差项ui的10个随机数；(4)利用上面所给的方程得到Y的10个值；(5)将Yi对X进行回归，得到b1,b2,和2ˆσ；(6)重复上述步骤21次，得到如表3-2所示（Table3-2）的结果。本科教学课件计量经济学基础第3章双变量模型：假设检验23结论结论结论结论：：：：假如反复利用最小二乘法求解参数的估计值，所估计出的参数的平均值将等于其真值。也就是说，OLS估计量是无偏的。例例例例题题题题例题例题例题例题1没有截距项的一元回归模型iiiXBYμ+=2称之为过原点回归。试证明：（1）如果通过相应的样本回归模型可以得到通常的正规方程组==∑∑00iiiXee则可得到B2的两个不同的估计值：XYb=2，∑∑=2*2iiiXYXb（2）在基本假设E(ui)=0下，2b和*2b均为无偏估计量。（3）拟合线iiXbY*2~=通常不会经过均值点（YX,），但拟合线iiXbY2ˆ=则经过。（4）只有*2b是B2的OLS估计量。证明证明证明证明：：：：（1）由第一个正规方程0=∑ie，得0)(2=-∑iiXbY或求解，得XYb=2由第二个正规方程0=∑iiXe，得0)(*2=-∑iiiXbYX或∑∑=2*2iiiXbYX∑∑=iiXbY2本科教学课件计量经济学基础第3章双变量模型：假设检验24求解，得∑∑=2*2iiiXYXb（2）对于XYb=2，求期望22222)](1)(1[1)](1[1)()(BBXXEnXBEnXXBnEXXYEbEiiii==+=+==∑∑μμ对于∑∑=2*2iiiXYXb，求期望222222222*2)(11)]([1)(1)()(BEXXXBXXBXEXYXEXXYXEbEiiiiiiiiiiiiiii=+=+===∑∑∑∑∑∑∑∑∑∑μμ（3）要想拟合线iiXbY*2~=通过点（YX,），Xb*2必须等于Y。但XXYXXbiii∑∑=2*2通常不等于Y。因此，点（YX,）不太可能位于直线iiXbY*2~=上。相反地，由于YXb=2，所以直线iiXbY2ˆ=经过点（YX,）。（4）OLS方法要求残差平方和最小，即∑∑-=2*22)(iiiXbYeMin对*2b求偏导，得0)()(2)(*2*22=--=∂∂∑∑iiiiXXbYbe本科教学课件计量经济学基础第3章双变量模型：假设检验25经整理，得∑∑=2*2iiiXYXb可见，*2b是B2的OLS估计量。例题例题例题例题2对一元线性回归模型iiiXBBYμ++=21试证明∑-=2221),(ixXbbCovσ证明证明证明证明：：：：{}{}{}∑-=-=--=---=----=--=--=222222222222222211221121)()]([)]()][([)]())][(()[()]()][([)])([(),(ixXbVarXbEbEXbEbbEbEXbEbbEXYXbYEbEbbEbEBbBbEbbCovσ例题例题例题例题3在一元线性回归模型iiiXBBYμ++=21中（1）用不为零的常数δ去乘每一个X值，这样会不会改变Y的拟合值和残差？（2）如果对每个X都加大一个非零常数δ，会不会改变Y的拟合值和残差？解解解解：：：：（1）记原总体模型对应的样本回归模型为iiieXbbY++=21则有∑∑=22iiixyxb，XbYb21-=Yi的拟合值与残差分别为iiXbbY21ˆ+=)(21iiiXbbYe+-=记iiXXδ=*，则有本科教学课件计量经济学基础第3章双变量模型：假设检验26XnXXiδ==∑**iiiixXXxδ=-=**记新总体模型对应的样本回归模型为**21iiieXaaY++=则有22222**211)(bxyxxyxxyxaiiiiiiiiiδδδδ====∑∑∑∑∑122*211bXbYXbYXaYa=-=-=-=δδ于是，在新的回归模型下，Y的拟合值与残差分别为iiiiXbbXbbXaaY2121*211ˆ+=+=+=δδ)()1()(2121*21*iiiiiiiXbbYXbbYXaaYe+-=+-=+-=δδ可见，对X乘非零常数后，不改变Y的拟合值与模型的残差。（2）如果记δ+=iiXX*则有δ+=XX*，iixx=*于是，新模型的回归参数分别为222**2)(bxyxxyxaiiiiii===∑∑∑∑21222*21)(bbbXbYXbYXaYaδδδ-=--=+-=-=在新的回归模型下，Y的拟合值与残差分别为本科教学课件计量经济学基础第3章双变量模型：假