第1章-回归分析概述

应用回归分析AppliedRegressionAnalysis教材何晓群，刘文卿：《应用回归分析》第二版，中国人民大学出版社，2007年统计软件SPSS13.0StatisticalPackagefortheSocialScience前言•1.20世纪90年代，统计学在中国被确立为一级学科，地位凸显；•2.回归分析是统计学中的一个非常重要的分支，它在自然科学﹑管理科学和社会﹑经济等领域应用十分广泛；•3.本书特点：实际案例的应用+结合统计软件+统计思想的渗透，全面系统的介绍回归分析的实用方法。章节目录第1章回归分析概述第2章一元线性回归第3章多元线性回归第4章违背基本假定的情况第5章自变量选择与逐步回归第6章多重共线性的情形及其处理第7章岭回归第8章非线性回归第9章含定性变量的回归模型第1章回归分析概述1.1变量间的统计关系1.2回归方程与回归名称的由来1.3回归分析的主要内容及其一般模型1.4建立实际问题回归模型的过程1.5回归分析应用与发展述评思考与练习1.1变量间的统计关系函数关系商品的销售额与销售量之间的关系y=px圆的面积与半径之间的关系S=R2原材料消耗额与产量(x1)、单位产量消耗(x2)、原材料价格(x3)之间的关系y=x1x2x31.1变量间的统计关系图1.1函数关系图y=1000x01000200030004000500060000123456x（万辆）y（万元）1.1变量间的统计关系相关关系的例子子女身高(y)与父亲身高(x)之间的关系收入水平(y)与受教育程度(x)之间的关系粮食亩产量(y)与施肥量(x1)、降雨量(x2)、温度(x3)之间的关系商品的消费量(y)与居民收入(x)之间的关系商品销售额(y)与广告费支出(x)之间的关系1.1变量间的统计关系图1.2y与x非确定性关系图xy•以上变量间关系的一个共同特征是它们之间有密切关系，没有密切到由一个可以完全确定另一个，它们是一种非确定性关系；•原因：由于经济问题的复杂性，有许多因素因认识及其他客观原因的局限，并没有包含在内，另外如：试验误差﹑测量误差及其它种种偶然因素的影响•在推断统计中，把上述变量间具有密切关联而又不能由某一个或某一些变量唯一确定另外一个变量的关系，称为变量间的统计关系或相关关系。•现代统计学中关于统计关系的研究已形成两个重要的分支，它们叫相关分析和回归分析。•相关分析与回归分析常相互结合和渗透，它们的差别主要为：•1.在回归分析中，y为因变量，处于被解释的地位，而在相关分析中，y与x处平等地位；•2.相关分析中x,y均为随机变量，回归分析中y是随机变量，而x一般假定为非随机；•3.相关分析刻画两变量间线性相关的密切程度，回归分析揭示x对y的影响大小，且可进行预测和控制。•y对x的均值回归函数：f(x)=E(y|x)•理论回归方程:y=α+βx•经验回归方程:y=α+βx1.2回归方程与回归名称的由来成年儿子身高父母平均身高英国统计学家F.Galton(1822-1911年)。F.Galton和他的学生、现代统计学的奠基者之一K.Pearson(1856—1936年)在研究父母身高与其子女身高的遗传问题时,观察了1078对夫妇,xy516.073.33ˆ•上述回归方程表明：父母平均身高x每增加一个单位时，其成年儿子的身高y也平均增加0.516个单位，这个结果表明，虽然高个子父辈确有生高个子儿子的趋势，但父辈身高增加一个单位，儿子身高仅增加半个单位左右。反之亦然。即子代的平均高度向中心回归了，这个例子生动地说明了生物学中“种”的概念的稳定性。•故高尔顿引进了“回归”这个词。但现在并不总具有这种含义。1.3回归分析的主要内容及其一般模型况因变量是定性变量的情况自变量含定性变量的情含有定性变量的回归多元非线性回归分段回归一元非线性回归非线性回归偏最小二乘法主成分回归岭回归参数估计方法的改进逐步回归分析方法自变量选择的准则回归变量的选择选择回归函数的形式果判定回归方程拟合的效何对数据进行修正当基本假设不成立时如性归模型基本假设的合理讨论如何从数据推断回回归诊断量的回归多个因变量与多个自变多元线性回归一元线性回归线性回归回归分析1.4建立实际问题回归模型的过程设置指标变量收集整理数据构造理论模型估计模型参数修改N模型运用Y经济因素分析经济变量控制经济决策预测实际问题模型检验回归模型的一般形式Y设随机变量受个非随机因素和随机因素的影响,与有如下的线性关系：Y1122110ppXXXY1p121,,,pXXX121,,,pXXX110,,,p2)(,0)(VarE121,,,pXXX1pY(1.1.1)式称为多元线性回归模型。其中是p个未知参数;是不可观察的随机变量,称为误差项,;是个一般变量(非随机变量),称为自变量;为随机变量,称为因变量。(1.1.1)1.5回归分析应用与发展述评从高斯提出最小二乘法算起,回归分析已经有200年的历史。从1969年设立诺贝尔经济学奖以来,已有近50位学者获奖,其中绝大部分获奖者是统计学家、计量经济学家、数学家。他们对统计学及回归分析方法的应用都有娴熟的技巧。•矩阵理论和计算机技术的发展为回归分析模型在经济研究中的应用提供了极大的方便。•回归分析方法自身不断完善发展，如：自变量的选择﹑稳健回归﹑回归诊断﹑投影寻踪﹑非参数回归模型等；•统计学中的许多重要方法都与回归分析有着密切的联系，如：时间序列分析﹑判别•分析﹑主成分分析﹑因子分析﹑典型相关分析等；•近年来，新的研究方法不断出现，如：非参数统计﹑自助法﹑刀切法﹑经验贝叶斯估计等方法都对回归分析起着渗透和促进作用。思考与练习•1.变量间统计关系与函数关系的区别？•2.回归分析与相关分析的区别？•3.线性回归模型的基本假设是什么？•4.建立实际问题回归模型的过程是什么？