二元线性回归模型及参数估计

二元线性回归模型的估计最简单的多元线性回归模型是二元线性回归模型，即具有一个被解释变量和两个解释变量的线性回归模型：iiXiXiY22110，i=1，2，…，n。一、二元线性回归模型的参数估计1．偏回归系数的估计对于二元线性回归模型：iiXiXiY22110，i=1，2，…，n，其中的参数0、1、2称为偏回归系数。所谓偏回归系数，是指多元线性回归模型中解释变量前的系数。其含义是：当其他解释变量保持不变时，某一解释变量变化一个单位而使被解释变量Y平均改变的数值，即某一解释变量对被解释变量Y的影响程度。niiXiiXiYniiYiYniie12)22ˆ11ˆ0ˆ(12)ˆ(12达到最小。要估计二元线性回归模型iiXiXiY22110中的参数0、1、2，常用的方法仍然是普通最小二乘法。设根据给定一组样本数据（Yi，X1i，X2i），i=1，2，…，n，采用普通最小二乘法估计得到的样本回归模型为ieiXiXiY22ˆ11ˆ0ˆ，则参数估计量0ˆ、1ˆ、2ˆ应该使残差平方和根据极值存在的必要条件，应该有02)22ˆ11ˆ0ˆ(22ˆ201)22ˆ11ˆ0ˆ(21ˆ20)22ˆ11ˆ0ˆ(20ˆ2iXiXiXiYieiXiXiXiYieiXiXiYie从而得到正规方程组02)22ˆ11ˆ0ˆ(01)22ˆ11ˆ0ˆ(0)22ˆ11ˆ0ˆ(iXiXiXiYiXiXiXiYiXiXiY02010iXieiXieie如果X1与X2之间不存在线性关系，那么，由上述正规方程组可以解出0ˆ、1ˆ、2ˆ：其中，XiXix，YiYiy，iXnX1，iYnY1。如果X1与X2之间存在线性关系，那么，上述计算1ˆ、2ˆ的公式的分子、分母将变为0，从而无法求解。221222121121222212221212221122110)())(())(())((ˆ)())(())(())((ˆˆˆˆiiiiiiiiiiiiiiiiiiiiiixxxxxxxyxxyxxxxxxxyxxyXXY2．随机误差项i的方差2的无偏估计322ˆnie其中，2ie的简捷计算公式为iiiiiixyxyye221122ˆˆ3．偏回归系数1ˆ、2ˆ的方差和标准误差偏回归系数1ˆ、2ˆ的方差计算公式为：偏回归系数1ˆ、2ˆ的标准误差计算公式为：)1ˆ()1ˆ(VarSe)2ˆ()2ˆ(VarSe2212221221222122212221)())((ˆ)()ˆ()())((ˆ)()ˆ(iiiiiiiiiixxxxxVarxxxxxVar二、Beta系数和弹性系数在多元回归分析中，需要说明各个解释变量的相对重要性，或者比较被解释变量对各个解释变量的敏感性。然而，偏回归系数与变量的原有计量单位有直接联系，计量单位不同，彼此不能直接比较。为此，需要引进Beta系数和弹性系数。1．Beta系数Beta系数是由偏回归系数转换来的。用jˆ表示Beta系数，则22ˆˆˆiyjixjYSXjSjj其中12)(12niXjiXnjixXjS12)(12nYiYniyYS可见，Beta系数是用解释变量标准差（SXj）和被解释变量标准差（SY）的比例对估计的偏回归系数进行调整后得到的，其数值与变量的单位无关，因而可以直接比较，用于说明多元回归模型中解释变量的相对重要性。对于二元线性回归模型，可以按下列公式计算Beta系数：2211ˆ1ˆiyix2222ˆ2ˆiyix由于jXjYˆXjSjYSjˆˆ所以，Beta系数jˆ的含义是：若解释变量Xj变化1个标准差（即XjSjX），则被解释变量Y变化jˆ个标准差（即YSjYˆ）。例如02.11ˆ，24.02ˆ，则表示：解释变量X1变化1个标准差，将引起被解释变量Y变化1.02个标准差；解释变量X2变化1个标准差，将引起被解释变量Y变化0.24个标准差。因此，可以说，Y对于X1变化的敏感程度远大于Y对于X2变化的敏感程度。2．弹性系数弹性系数是某一变量的相对变化引起另一变量的相对变化的度量，即变量的变化率之比。用j表示弹性系数，则YjXjYjXjdXdYjXjdXYdYjˆ平均弹性是指在样本均值附近的弹性，即YjXjjˆ弹性系数与原解释变量的计量单位没有任何关系，因此很适宜用来说明被解释变量对解释变量变化的敏感程度。例如78.11，45.02，则表示：在样本均值附近，X1每增加1%，将使被解释变量Y增加1.78%；而X2每增加1%，将使被解释变量Y增加0.45%，所以，被解释变量Y对于解释变量X1变化的敏感程度远大于对解释变量X2变化的敏感程度。3．偏相关系数在二元线性回归分析中，也可以用偏相关系数来分析被解释变量Y对于哪一个解释变量（X1和X2）的变化更敏感。偏相关系数：是指在控制或消除其他变量影响的情况下，衡量多个变量中的某两个变量之间线性相关程度的指标。)1)(1(22212212121XXYXXXYXYXXYXrrrrrr如果21XYXr＞12XYXr，则表示被解释变量Y与解释变量X1之间的线性关系更密切，被解释变量Y对于解释变量X1的变化更敏感；如果21XYXr＜12XYXr，则表示被解释变量Y与解释变量X2之间的线性关系更密切，被解释变量Y对于解释变量X2的变化更敏感。当X2保持不变时，Y与X1之间的偏相关系数为