双变量模型(中级计量经济学总结(四川大学,杨可扬)

中级计量经济学杨可扬1简单线性回归模型 ——估计世界经济06级杨可扬中级计量经济学杨可扬2中级计量经济学杨可扬3本章大纲n普通最小二乘法的推导nOLS估计量的性质n拟和优度中级计量经济学杨可扬4复习1中级计量经济学杨可扬5 . . . . y 4 y 1 y 2 y 3 x 1 x 2 x 3 x 4 } } { { û 1 û 2 û 3 û 4 x y 复习2——OLS估计量的推导 x y 1 0 ˆ ˆ ˆbb+=中级计量经济学杨可扬6复习2——OLS估计量的推导n OLS法是要找到一条直线，使残差平方和最小n也即是：() 01 2 2 0 11 ˆ ˆ 11 , ˆ ˆ ˆ nn ii it Minuyx Minbbbb===--åå中级计量经济学杨可扬7复习2——OLS估计量的推导 22 11 0 1 ˆ ˆ 00 ˆ ˆ NN ii tt uubb==æöæö¶¶ç÷ç÷èøèø==¶¶åå令，可得，()() 1 01 1 1 01 1 ˆ ˆ 0 ˆ ˆ 0 n ii i n iii i nyx nxyxbbbb-=-=--=--=åå中级计量经济学杨可扬8复习2——OLS估计量的推导根据样本均值的定义以及加总的性质，可将第一个条件写为 x y x y 1 0 1 0 ˆ ˆ or , ˆ ˆbbbb-=+=中级计量经济学杨可扬9复习2——OLS估计量的推导()()()()()()()ååååå=====-=---=-=--- ni i i ni i ni i i ni i i ni i i i x x y y x x x x x y y x x x y y x 1 2 1 1 1 1 1 1 1 1 ˆ ˆ 0 ˆ ˆbbbb中级计量经济学杨可扬10 So the OLS estimated slope is 因此OLS估计出的斜率为()()()() 0 that provided ˆ 1 2 1 2 1 1----=ååå=== ni i ni i ni i i x x x x y y x xb中级计量经济学杨可扬11复习2——OLS估计量的推导 01 ˆ ˆ yxbb=-()()()() 1 1 2 1 2 1 ˆ provided that 0 n ii i n i i n i i xxyy xx xxb===--=--ååå中级计量经济学杨可扬12复习2——OLS估计量的推导n OLS斜率估计法总结：n斜率估计量等于样本中x 和 y 的协方差除以 x的方差。若x 和 y 正相关则斜率为正，反之为负。()()()() 1 1 2 1 2 1 ˆ provided that 0 n ii i n i i n i i xxyy xx xxb===--=--ååå中级计量经济学杨可扬13 OLS的代数性质n OLS 残差和为零n因此 OLS 的样本残差平均值也为零. 0 ˆ n 1 thus, and 0 ) ˆ ˆ ˆ ( ˆ 1 1 0 1 1==--=ååå=== n i i n i i n i i u x y ubb中级计量经济学杨可扬14 OLS的代数性质nOLS回归线总是通过样本的均值。 x y 1 0 ˆ ˆbb+=中级计量经济学杨可扬15 OLS的代数性质n回归元（解释变量）和OLS残差之间的样本协方差为零 0 ˆ 1=å= n i i i u x中级计量经济学杨可扬16 OLS的代数性质n预测值和残差在样本中是不相关的 0 ) ˆ , ˆ cov(= i i u y 0 ) ˆ ( ˆ ) ˆ ( ˆ ] ˆ ) ˆ ˆ [( ) ˆ ( ) ˆ ˆ ( ) ˆ )) ( ˆ (( )) ˆ ( ˆ ))( ˆ ( ˆ ( ) ˆ , ˆ cov( 1 0 1 0=+=+=-=-=--= i i i i i i i i i i i i i i i i i u x E u E u x E u E y u y E u y E y E u E u y E y E u ybbbb中级计量经济学杨可扬17复习3——十大经典假设 1. 线性回归模型 2. 在重复抽样中X的值是固定的 3. 零条件均值 4. 同方差性 5. 无自相关 6. 扰动项和自变量简的协方差为零 7. 观测次数大于待估参数 8. X又有变异 9. 正确设定模型 10. 没有完全的多重共线性中级计量经济学杨可扬18 OLS估计量的统计性质n高斯—马尔可夫定理(Gauss­ Markov theorem) 在给定经典线性回归的假定下，最小二乘估计量是具有最小方差的线性无偏估计量。 best liner unbiased estimator, BLUE中级计量经济学杨可扬19 1，线性性： 01 i ybb，是的线性组合 01 1 22 1 2 1 ˆ ˆ y ) ) ˆ . )) ) ˆ ) ˆ ii i i ii i iii i x xxy xx y xxxx xx wwy xx ybbbbb=+--=---=-åååååå以为例，则（（＝（（（令则＝。（即是相对于的线性估计量。中级计量经济学杨可扬20 1，线性性（续） 01 ˆ 1 () ˆ 1 1 iii ii ii ii yx ywyxx n ky x wy n wk nbb=-=-=-=-åååå其中，＝中级计量经济学杨可扬21 2，无偏性 ˆ () Ebb=参数估计量的数学期望值等于真实值。中级计量经济学杨可扬22 2，无偏性（续）n为了思考无偏性，我们需要用总体的参数重新写出估计量把公式简单地改写为()()åå-º-= 2 2 2 1 where , ˆ x x s s y x x i x x i ib中级计量经济学杨可扬23 2，无偏性（续）()()()()()()()()() i i i i i i i i i i i i i i i u x x x x x x x u x x x x x x x u x x x y x xåååååååå-+-+-=-+-+-=++-=- 1 0 1 0 1 0bbbbbb中级计量经济学杨可扬24 2，无偏性（续）()()()()() 2 1 1 2 1 2 ˆ thus and , as rewritten be can numerator the , so , 0 x i i i i x i i i i s u x x u x x s x x x x x x xååååå-+=-+-=-=-bbb因此，分子可被重写作中级计量经济学杨可扬25 2，无偏性（续）()()() 1 2 1 1 2 1 1 ˆ then , 1 ˆ that so , letbbbbb=÷øöçèæ+=÷øöçèæ+=-=åå i i x i i x i i i u E d s E u d s x x d中级计量经济学杨可扬26 2，无偏性（续） 0 1 1 0 0 1 1 0 1 1 0 1 0 ) ( ] ) ˆ [( ) ˆ ( ) ˆ ( ˆ ˆ ˆbbbbbbbbbbbbb=+-+=+-+=-++=-= u E x E E u x x u x x y 故而由于中级计量经济学杨可扬273，最小方差性n最小方差性是在所有线形无偏估计量中，最小二乘法估计量的方差最小。最小方差这一性质又称为有效性或最佳性。中级计量经济学杨可扬283，最小方差性（续）()()()() 1 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 1 1 ˆ 1 1 1 1 1 1 ˆbssssbb Var s s s d s d s u Var d s u d Var s u d s Var Var x x x i x i x i i x i i x i i x==÷øöçèæ=÷øöçèæ=÷øöçèæ=÷øöçèæ=÷øöçèæ=÷÷øöççèæ÷øöçèæ+=ååååå中级计量经济学杨可扬293，最小方差性（续） n x x x x x n x x x n x x s x u Var Var x u Var x Var u Var x Var u x Var Var i i i i i xååååå-=úúûùêêëé--+=-+=+=+=+-=+-+= 2 2 2 2 2 2 2 2 2 2 2 2 0 2 1 1 1 1 1 0 0 ) ( ) ( ) ( ) ( ) ( ) ˆ ( ) ( ) ˆ ( ) ( ) ) ˆ (( ) ) ˆ ( ( ) ˆ (ssssbbbbbbbb中级计量经济学杨可扬303，最小方差性（续）()å=-== n i i x x x s Var 1 2 2 2 2 1 ) ( ˆssb 2 2 0 2 ˆ () () i i x Var xxnsb=-åå中级计量经济学杨可扬313，最小方差性的证明 1 11 1 222 1 22 1 22 11 ˆ ) cov(,)cov(,)0, ˆ var()var() var()() () ˆ var()var() ii iiii ijij iii ii iii wy wbyb yyuuij wyw wb wbwbbbbbsbsbb==¹\===++³\³ååååååå%%Q%Q%由“线性性”的证明中可知：＝设是其它估计方法得到的的线性无偏估计量＝（＋,其中是不全为零的常数中级计量经济学杨可扬32 OLS估计量样本方差的总结n误差方差s2 越大，斜率估计量的方差也越大nxi的变动越大，斜率估计量的方差越小.因此我们应该选择尽可能的分散开的xin在实验数据中这一点(增大xi的变动)有时是可能的，但在社会科学中我们很少可以人为地增加xi的变动。n大的样本容量能够减小样本斜率估计量的方差。()å=-== ni i x x x s Var 1 2 2 2 2 1 ) ( ˆssb中级计量经济学杨可扬33估计误差方差（1）n我们不知道误差方差s2是多少，因为我们不能观察到误差uin我们观测到的是残差 û in我们可以用残差构成误差方差的估计中级计量经济学杨可扬34估计误差方差(2)n首先，我们注意到s2 =E(u 2 ), 所以s2 的无偏估计量是n u i 是不可观测的，但我们找到一个u i 的无偏估计量å= n i i u n 1 2 ) / 1 (中级计量经济学杨可扬35估计误差方差(3)()()()()() 2 / ˆ 2 1 ˆ is of estimator unbiased an Then, ˆ ˆ ˆ ˆ ˆ ˆ ˆ 2 2 2 2 1 1 0 0 1 0 1 0 1 0-=-=----=--++=--=å n SSR u n u x u x x y u i i i i i i i isssbbbbbbbbbb的一个无偏估计量是那么，中级计量经济学杨可扬36估计误差方差(4)()()()() 2 1 2 1 1 1 2 2 / ˆ ˆ se ˆ , ˆ of error standard the ˆ have then we for ˆ substitute we if ˆ sd that recall ˆ ˆ regression the of error Standard ˆ ˆå-====== x x s i xsbbbsssssbssss的标准误差，，那么我们可得到替换如果我们用回归的标准误中级计量经济学杨可扬37误差方差无偏估计量的证明(1)()()()()()() 01 0101 0011 0011 11 ˆ ˆ ˆ ˆ ˆ ˆ ˆ ...........(1) ˆ ˆ 0.........(2) (1)(2): ˆ ˆ () iii iii ii iii uyx xux ux ux uuuxxbbbbbbbbbbbbbbbb=--=++--=----Þ=-----=----中级计量经济学杨可扬38误差方差无偏估计量的证明(2)()()()() 22 11 2 2 11 22 11 2 2 11 ˆ () ˆ 2()() ˆ