加权最小二乘法(WLS)

加权最小二乘法(WLS)如果模型被检验证明存在异方差性，则需要发展新的方法估计模型，最常用的方法是加权最小二乘法。加权最小二乘法是对原模型加权，使之变成一个新的不存在异方差性的模型，然后采用普通最小二乘法估计其参数。下面先看一个例子。原模型：iiixxy22110，ikikuxni,,2,1如果在检验过程中已经知道：2222)()()(uiiiixfuEuD,ni,,2,1即随机误差项的方差与解释变量2x之间存在相关性，模型存在异方差。那么可以用)(2xf去除原模型，使之变成如下形式的新模型：iiiiiiixxfxxfxfyxf222121202)(1)(1)(1)(1iikiikuxfxxf)(1)(122ni,,2,1在该模型中，存在222222)()(1))(1())(1(uiiiiiiuExfuxfEuxfD(4.2.1)即同方差性。于是可以用普通最小二乘法估计其参数，得到关于参数01,,,k的无偏的、有效的估计量。这就是加权最小二乘法，在这里权就是)(12ixf。一般情况下，对于模型YX(4.2.2)若存在：W2)(),(0)(uECovEW(4.2.3)则原模型存在异方差性。设TDDWn21,112111n用D1左乘(4.2.2)两边，得到一个新的模型：DYDXD111(4.2.4)即YX***该模型具有同方差性。因为)()(),(11****TTEENNCovDDIDDDDWDDDD212112111)(uTuTuTE于是，可以用普通最小二乘法估计模型(4.2.4)，得到参数估计量为：**1**)(ˆYXXXTTWLSYWXXWXYDDXXDDX11111111)()(TTTTTT(4.2.5)这就是原模型(2.6.2)的加权最小二乘估计量，是无偏的、有效的估计量。如何得到权矩阵W？仍然是对原模型首先采用普通最小二乘法，得到随机误差项的近似估计量，以此构成权矩阵的估计量，即22221ˆneeeW(4.2.6)当我们应用计量经济学软件包时，只要选择加权最小二乘法，将上述权矩阵输入，估计过程即告完成。这样，就引出了人们通常采用的经验方法，即并不对原模型进行异方差性检验，而是直接选择加权最小二乘法，尤其是采用截面数据作样本时。如果确实存在异方差性，则被有效地消除了；如果不存在异方差性，则加权最小二乘法等价于普通最小二乘法。在利用Eviews计量经济学软件时，加权最小二乘法具体步骤是：⑴选择普通最小二乘法估计原模型，得到随机误差项的近似估计量ie；⑵建立ie1的数据序列；⑶选择加权最小二乘法，以ie1序列作为权，进行估计得到参数估计量。实际上是以ie1乘原模型的两边，得到一个新模型，采用普通最小二乘法估计新模型。(步骤见PPT文件)