光华管理学院古典线性回归模型

第二章：古典线性回归模型2outline1.计量经济分析与线性回归模型2.线性回归模型的OLS估计3.OLS估计的性质4.关于参数的假设检验第一节：计量经济分析与线性回归模型Outline1.从计量经济分析到一元回归模型2.导入多元线性回归模型1.从计量经济分析到一元回归模型•许多计量经济分析都可以归纳为“用x来解释y”或者是“y如何随着x的变化而变化”–比如–检验企业的信息透明度影响其资本成本的理论：资本成本（y）如何随着信息透明度（x）的变化而变化–评估货币工具的效果：将来物价水平（y）如何随着现在的存款准备金率（x）的变化而变化•当然，不可能只有x影响y，计量经济学的基本方法的是“看平均”，如果平均来说，相同的x总导致相同的y，这时可以不管其它因素，只要考虑x和y之间的因果关系。–平均时，其它因素的影响没有，因此可以假定其它因素不变。这与经济学的“假定其它不变”的基本方法是一致的–因此，大多数的计量经济分析都可以归纳为“建立x和y之间的因果关系”。•实证研究（计量经济分析）与案例研究的根本差别在于前者“看平均”，后者“看例子”（奇异值）。–前者是科学，后者是艺术，比如西医与中医。现实中更多的是介乎科学与艺术之间，所以我们要中西医结合。–这里u是一个均值为0的随机变量。因为事实上，不可能只有x影响y，我们把所有其它因素加总到了u中–X和y的关系也不可能正好是线性的，但线性是最简单的近似。2.导入多元线性回归模型–模型中，除了beta的经济含义外，的经济含义是：给定x和z的观测值，平均来说，y的值为多少。而这一条正好可以用来预测，即用因子x和z来预测y！–如果回归模型是用作预测，我们并不要求x是原因，y是结果。•比如，x是上期的单一业务企业的组合回报，y是滞后一期的综合企业回报。X当然不是y的原因，但这个模型可以帮助我们预测•这时条件不是必须的，但最好满足，因为要不然就没有14•可见，许多计量经济学分析，本质上就是通过设立回归模型来分析。这里有两个问题–如何设立模型？•CAPM的检验：理论已经告诉我们了：–但像这样确定性方程的理论，有些理论的检验比较复杂，比如CCAPM•信息透明度影响资本成本的检验：–关键在控制变量Gov的选择及内生问题•因子预测问题：关键在因子的选择•不是金融计量经济学的重点，是实证金融的问题，但我们在第三章还是给予初步讨论–如何分析？•包括模型的估计及检验•是计量经济学理论的重点15•在数理统计中，也有多元回归模型，那里x是确定性的，而我们这里的x是随机性的（随机性的一种特例，方差为0时，就是确定性）。•很多计量经济学课本也是开始介绍确定性x，然后再推广到随机性。但这样处理的问题是开始时讨论条件的前半部分没有什么意义•并且，如果x是确定性的，它就不可能为结果，只有可能为原因，这时相关关系就够了。•确定性x一般出现在可控实验中，金融经济问题一般是非实验问题。第二节：线性回归模型的OLS估计Outline1.引言2.一元模型的OLS方法3.多元模型的OLS方法4.拟合优度5.在金融中的应用1.引言•为什么要估计？给定回归模型，参数beta未知，而计量分析主要是基于参数beta。比如–CAPM的检验：•Beta0=rf，beta1=rm-rf，其它的beta=0–信息透明度影响资本成本的检验：•Beta10–因子预测模型：beta的大小•什么模型估计？找出最合适的参数beta，使得模型与观察到的数据尽可能相一致。–什么是与数据尽可能相一致？在给定的一致的标准下，找最优–那“一致”的标准是什么？•依赖于模型假设及个人偏好–常见的有•后验概率：MLE估计•模型拟合误差平方和：OLS•OLS是最简单，也是最常用的估计方法–原理直观：总拟合误差最小–计算简单：二次型问题，有显示解–结果稳健：估计出来的参数有很好的稳健性质–应用广泛：条件要求少•简单的是美好的，《小的是美好的》–我们的估计方法是这样–接下来的模型设置是这样–其实人生、社会也是这样2.一元模型的OLS方法•现在可以把所有的拟合误差加总（平方和）•最小化总拟合误差：这是一个标准的二次型问题，FOC给出•这样我们得到了beta的一组估计值,它使得拟合误差平方和最小.•直观上，可以加总拟合误差的绝对值，而不是平方。但这里可以看出，那么目标函数就不是二次型，没有显示解。•注意，这个公式可以理解成：先去均值，估计beta1，再估计beta0。这一点在将来的固定效应面板模型的讨论时会有用•Beta1与相关系数有关，但不是。这与因果关系与相关关系之间的关系相一致3.多元模型的OLS方法–推导过程–简单记忆方法•估计统计量的性质–性质1：拟合误差之和为零，即•证明：FOC–性质2：回归变量与拟合误差的样本协方差为0，即•证明：FOC–这两条性质在下面的分析中非常有用–它也对应着模型的基本假定：•例题exer2.saslibnamewangF:\current_teaching\econometrics_II_2\data;dataone;setwang.exer2_capm;beta2=beta*beta;run;procmeansdata=one;vareretbetabeta2;run;/*先看看数据特征是一个好习惯*//*多元回归*/procregdata=one;modeleret=betabeta2;run;•多元模型分步估计–多元回归估计公式有时难以理解及难以证明相关性质，我们可以用两步法来估计。•直观上为什么是这样？•Ballentinediagram–交叉部分哪去了？–多元回归模型，只能反映边际关系（线性关系），联合影响（非线性关系）无法反映出来•例题exer2.sas/*分步回归*/procregdata=one;modelbeta=beta2;outputout=resoutresidual=ress;run;/*第一步，把感兴趣的x对所有其它解释变量回归，拟合残差ress保存在文件resout中*/procregdata=resout;modeleret=ress;run;/*第二步，用文件resout中的拟合残差ress*/•什么时候一元回归是正确的？–r1就是去掉均值的x1时–即不存在同时与x1和y相关的因素！•例题exer2.sasdatatwo;setone;retainseed145000;retainseed244000;/*seed1=45000;seed2=44000;*/callrannor(seed1,x1);callrannor(seed2,x2);output;run;/*retain使得seed1保持上一次循环的结果，因为SAS命令是一行一行地运行。可以试试比较没有retain的output*/proccorrdata=two;varx2x1beta;run;/*看看模拟产生的x1是否与beta相关*/procregdata=two;modeleret=beta;modeleret=betax1;run;/*可以看到两个回归结果中，beta的系数几乎相同。理论上应该完全相同*/4.拟合优度•回归模型估计是找出beta使得模型最大可能与数据一致，那结果模型在多大程度上与数据一致？•目标函数值，即最小的拟合误差平方和是一个程度的测度，但经济意义不大•我们先定义几个变量–这里SSR就是拟合误差平方和。容易证明，•我们说这个R2是一个比较合理的测度。–R2=0与R2=1时的经济含义–R2的经济含义：y的方差中被x解释的比例–因为有y差异、变化，我们才需要研究为什么有变化。而变化的最简单度量是方差。–所以R2衡量的是y在多大程度上被模型解释•R2的一个重要特点是它从不随着解释变量的增加而减少。原因在于用来计算R2的RSS永远不会随着新变量的加入而减少，因为至少有新beta=0.•若要用R2作为评价标准，它最好与解释变量个数无关，为此必须对R2进行调整。将R2表达式中的分子分母同时除以它们各自的自由度，变成了均方差之比，这样就消除了解释变量个数对R2的影响。•易见，R2不能为负，但调整R2可以为负。•SAS会报告R2及调整R2•R2多大是大？–不同学科间差异很大，与学科常见的差不多就可以–没有可比性，尽管是比例–但当同样的y，不同的模型，有可比性•R2说的是模型的拟合程度，那么HowaccurateisanOLSestimate?–误差最小是我们的终极目标？–我们在下一章讨论beta估计的性质5.在金融中的应用•我们先介绍两个应用回归估计参数的实例，即估计值的大小的应用。其它的应用（在因果关系存在与否的检验上及预测上）将来介绍。•资产回报的系统风险及特征风险分解–但要说明，严格来说，这里的例子不满足独立抽样的假设•不过在将来我们会讨论到，这个独立抽样不是必须的–股价变动的同步性–Exer2.sasdataone;setwang.exer1_ret09;run;procsortdata=onenodupkey;byiddate;run;procregoutest=outfileEDFdata=onenoprint;modeldretwd=retindex;byid;run;/*估计结果输出到文件outfile中，EDF是要输出自由度、R2等指标，noprint是要求估计结果不要出现在output窗口*/dataoutfile;setoutfile;if_EDF_30;renameretindex=beta_RSQ_=r2_RMSE_=idiovkeepidretindex_RSQ__RMSE_;run;procmeansdata=outfile;run;•资产的经验久期的估计？