33一元线性回归分析

第一篇单方程计量经济学模型理论与方法第一章一元线性回归分析第二章多元线性回归分析第三章线性回归模型的扩展第一章一元线性回归分析§1.1一元线性回归模型§1.2模型参数的最小平方估计§1.3参数估计量的统计性质§1.4随机干扰项u的方差估计§1.5一元线性回归参数的t检验与置信区间§1.6拟合优度和相关系数§1.7一元线性回归方程应用于预测§1.8一元线性回归模型的建模步骤与实例★一、相关关系与回归分析各种经济变量之间的关系可以分为两种：函数关系客观存在的完全确定的依存关系相关关系客观存在的一种非确定性的依存关系二、一元线性回归模型及基本假定变量y与变量x之间的相关关系可以用数学模型表述为：对于第i个观测，有：uxy10ii10iuxy假定１：均为服从正态分布的实有随机变量。假定2：假定3：假定4：假定5：在x是非随机变量时，该假定自动满足。n),2,1i(ui0)u(Ei常数2ui)u(D)n,2,1j,i,ji(0)u,u(Covji)n2,1j,i(0)x,u(Covji第一章一元线性回归分析§1.1一元线性回归模型§1.2模型参数的最小平方估计§1.3参数估计量的统计性质§1.4随机干扰项u的方差估计§1.5一元线性回归参数的t检验与置信区间§1.6拟合优度和相关系数§1.7一元线性回归方程应用于预测§1.8一元线性回归模型的建模步骤与实例★★LS^21min()niiiyy^^^2011(,)()niiiQyy^^2011()niiiyx^0^100QQ^^01^^012()02()0iiiiiyxyxx^^01^^01()0()0iiiiiyxyxx^^01^^201iiiiiiynxxyxx^122()()()iiiiiixxyyxyxxx^^01yx0=0当常数项时：1iiiyxu^^1iiyx^^211()()niiiQyy^211()niiiyx^10dQd^12()0iiiyxx^1()0iiiyxx^12iiixyx^122^^01()()()iiiiiixxyyxyxxxyx^122^^01iiixynxyxnxyx例1：某市居民对西红柿的月需求量y与西红柿价格x之间的9对调查数据见excel表格，试确定y对x的样本回归直线。第一章一元线性回归分析§1.1一元线性回归模型§1.2模型参数的最小平方估计（板书）§1.3参数估计量的统计性质§1.4随机干扰项u的方差估计§1.5一元线性回归参数的t检验与置信区间§1.6拟合优度和相关系数§1.7一元线性回归方程应用于预测§1.8一元线性回归模型的建模步骤与实例★★★一、最小二乘估计量作为随机变量二、最小二乘估计量的统计性质1.线性2.无偏性3.最佳性（最小方差性）一、最小二乘估计量作为随机变量^12^^01()()()iiixxyyxxyx^12()()()iiixxyyxx2()()()iiiixxyyxxxx2()()iiixxyxx2()()iiixxyxx2()=()iiixxkxx记iiky^1iiky^1iiky01()iiikxu01iiiiikkxku2()=()iiixxkxx记2()()iiixxkxx2()()iixxxx02()()iiiiixxxkxxx2()()()iiixxxxxxx22()()()iiixxxxxxx1^11iiku^^01yxiiiyxkyn1()iixkyn^0011()()iiixkxun01011iiiiiixuxkxkxxkun0111iiixuxxkun01()iixkun二、最小二乘估计量的统计性质1.线性2.无偏性3.最佳性最佳性2^u12ivarxx（）（）22^i220uu22iix1xvarnxxxxn（）（）（）^^201u2xcovxxi（，）（）几点说明：1.较大时，估计量的方差增大。2.自变量的观测值越集中，估计量的方差越大。3.增加观测值，可以提高估计的精度。4.协方差度量的是作为随机变量和是如何相互联系的。正的协方差表明，当高估了时，也可能高估了。同理，当低估了时，也可能低估了。协方差为零则表明两者没有线性相关关系。负的协方差则表明当高估了时，可能低估了。5.观测数据离x=0越远，越难以解释。2u^0^1^00^11^00^11^00^110Gauss-Markovtheorem在满足古典假定的条件下，最小二乘估计量在所有的线性无偏估计量中方差是最小的，它们是最好的线性无偏估计量（BLUE）。随机误差项零均值、同方差、不存在序列相关、解释变量是固定非随机的与其他线性无偏估计量相比，且仅仅利用样本信息第一章一元线性回归分析§1.1一元线性回归模型§1.2模型参数的最小平方估计（板书）§1.3参数估计量的统计性质§1.4随机干扰项u的方差估计§1.5一元线性回归参数的t检验与置信区间§1.6拟合优度和相关系数§1.7一元线性回归方程应用于预测§1.8一元线性回归模型的建模步骤与实例★★★★2()iuDu222()(())()iiiiuDuEuEuEu222212()()inEuEuuu222uuu2un22()iuuEn01iiiyxu()iiiuyEy^^^01iiyx^^^01()iiiiiyyyx22^2iun^222^()22iiiuyynn^22()()2iiyyyyn^^^^^220101()()iiyyxx2^21()ixx^212()()()()iiiixxyyxxxx^1()()iixxyy^22^1()()()2iiiuyyxxyyn^21()()()2iiiynyxxyyn2^12iiiyxyn第一章一元线性回归分析§1.1一元线性回归模型§1.2模型参数的最小平方估计（板书）§1.3参数估计量的统计性质§1.4随机干扰项u的方差估计（板书）§1.5一元线性回归参数的t检验与置信区间§1.6拟合优度和相关系数§1.7一元线性回归方程应用于预测§1.8一元线性回归模型的建模步骤与实例★★★★★一、最小二乘估计量的抽样分布2^u12iD()xx（）^^000^^111~N(,D())~N(,D())22^i22uu022iix1xDnxxxxn（）（）（）2-n2i2u^二、区间估计的理论基础2.如果表示m个独立的标准正态分布的随机变量，那么有：2^u112i^11^1~(,)(xx)~(0,1)D()NZNm21Z,Z,Z222212()~mmVZZZ1.（1）V是非负的（2）V有一个长的尾巴拖向右方，或者说是右偏的。（3）随着自由度的增大，分布越来越趋向于对称或钟型分布（4）随着m的增大，分布收敛于正态分布的分布2u^uu~(0,1)tN22(1)uu~t运用卡方分布的定义，有：2222212()uuuuuuuu()~tnn如果所有的误差项独立，有：2^2ut22uu(2)nV注意，V不是自由度为n的卡方分布，因为残差依赖于最小二乘估计量，不是独立的。但是可以证明有n-2个残差是独立的，有下式成立：2^u2(2)2u(2)~nnV3.t分布如果Z~N（0，1）分布，有：2()~mV()~mZttVm1.t分布完全由它的自由度决定2.t分布不如正态分布那么尖峭，但是比正态分布更为分散3.t分布为对称分布4.当自由度趋向于无穷时，t分布趋向于标准正态分布^112u2t2^u2u^112^u2t^11^^1^11^1(xx)(2)(2)2)(xx)D()()ZtVnnnSE（^^0000^^^00^^1111^^^11~t(n2)()D()~t(n2)()D()SESE三、回归参数的置信区间见板书四、回归参数的显著性检验四个部分：1.零假设H02.备择假设H13.检验统计量4.拒绝域1.零假设当c取0时，检验称之为显著性检验。此时检验自变量和因变量之间是否存在线性关系。01:Hc2.备择假设对于零假设有三种可供选择的备择假设：当进行显著性检验时，对应的零假设和备择假设是：01:Hc111111:::HcHcHc0111:0:0HH3.检验统计量^^0000^^^00^^1111^^^11t~t(n2)()D()t~t(n2)()D()SESE4.拒绝域拒绝域就是当零假设为真时，不太可能发生或发生的概率特别小的一系列检验统计量值构成的集合。显著性水平通常取0.01、0.05、0.10，拒绝域由临界值决定：2t22P(tt)P(tt)25.第Ⅰ类错误和第Ⅱ类错误如果：零假设是错误的，我们决定拒绝它；零假设是正确的，我们决定不拒绝它我们做了一个正确的决策。但是我们的决策是错误的，如果：零假设是正确的，我们却拒绝了它（第Ⅰ类错误）零假设是错误的，我们没有拒绝它（第Ⅱ类错误）自然状态零假设为真零假设为假对零假设的决定接受零假设正确的决定第Ⅱ类错误Pr（）=拒绝零假设第Ⅰ类错误Pr（）=正确的决定第Ⅰ类错误和第Ⅱ类错误6.假设检验的p值当p值小于显著性水平时，拒绝零假设；当p值大于显著性水平时，则不拒绝零假设7.显著性检验与双边假设检验的关系双边假设检验：如果c值落在的置信区间中，不拒绝零假设；如果c值落在该置信区间外边，则拒绝零假设。0:kHc1:kHck100(1)%的第一章一元线性回归分析§1.1一元线性回归模型§1.2模型参数的最小平方估计（板书）§1.3参数估计量的统计性质§1.4随机干扰项u的方差估计（板书）§1.5一元线性回归参数的t检验与置信区间§1.6拟合优度和相关系数§1.7一元线性回归方程应用于预测§1.8一元线性回归模型的建模步骤与实例★★★★★★iiiuxy10自变量x的线性函数随机误差项的影响2^2^2)()()(yyyyyyiiiiTSSRSSESS＝＋总平方和残差平方和回归平方和^222()()iiyyESSRTSSyy第一章一元线性回归分析§1.1一元线性回归模型§1.2模型参数的最小平方估计（板书）§1.3参数估计量的统计性质§1.4随机干扰项u的方差估计（板书）§1.5一元线性回归参数的t检验与置信区间§1.6拟合优度和相关系数§1.7一元线性回归方程应用于预测§1.8一元线性回归模型的建模步骤与实例★★★★★★★对于模型已知x的一个特定值，预测iiiuxy10fxfyf