《统计学：思想、方法与应用》第8章-相关与回归分析

9-1统计学STATISTICS22:47不要过于教条地对待研究的结果，尤其当数据的质量受到怀疑时。——DamodarN.Gujarati统计名言9-2统计学STATISTICS22:47第8章相关和回归分析8.1两个变量间是什么关系8.2两个变量间的关系强度8.3回归分析8.4总体中的关系8.5多元回归分析8.6虚拟变量9-3统计学STATISTICS22:47学习目标了解相关分析，能计算和解释相关系数与判定系数；了解回归分析方法的统计思想；能对回归模型进行参数估计和有关假设检验；相关理论在统计学软件中的应用；相应统计分析结果的解读。9-4统计学STATISTICS22:47子代与父代一样吗？Galton被誉为现代回归和相关技术的创始人。1875年，Galton利用豌豆实验来确定尺寸的遗传规律。他挑选了7组不同尺寸的豌豆，并说服他在英国不同地区的朋友每一组种植10粒种子，最后把原始的豌豆种子(父代)与新长的豌豆种子(子代)进行尺寸比较当结果被绘制出来之后，他发现并非每一个子代都与父代一样，不同的是，尺寸小的豌豆会得到更大的子代，而尺寸大的豌豆却得到较小的子代。Galton把这一现象叫做“返祖”(趋向于祖先的某种平均类型)，后来又称之为“向平均回归”。一个总体中在某一时期具有某一极端特征(低于或高于总体均值)的个体在未来的某一时期将减弱它的极端性(或者是单个个体或者是整个子代)，这一趋势现在被称作“回归效应”。人们发现它的应用很广，而不仅限于从一代到下一代豌豆大小问题9-5统计学STATISTICS22:47子代与父代一样吗？正如Galton进一步发现的那样，平均来说，非常矮小的父辈倾向于有偏高的子代；而非常高大的父辈则倾向于有偏矮的子代。如果把父代和子代看作两个变量，找出这两个变量的关系，并根据这种关系建立适当的数学模型，就可以根据父代的数值预测子代的取值，这就是经典的回归方法要解决的问题。学完本章的内容你会对回归问题有更深入的理解9-6统计学STATISTICS22:47统计应用--看手相资料来源：MarioF.Triiola著《初级统计学》有人相信他们的手掌的生命线的长度可以用来预测他们的生命。M.E.Wilson和L.E.Mather在《美国医学协会学报》发表的一篇论文中，得出一些人去世时的年龄与生命线的长度不存在显著相关的结论9-7统计学STATISTICS22:47回归分析研究什么？假定因变量与自变量之间有某种关系，并把这种关系用适当的数学模型表达出来，那么，就可以利用这一模型根据给定的自变量来预测因变量，这就是回归要解决的问题在回归分析中，只涉及一个自变量时称为一元回归，涉及多个自变量时则称为多元回归。如果因变量与自变量之间是线性关系，则称为线性回归(linearregression)；如果因变量与自变量之间是非线性关系则称为非线性回归(nonlinearregression)9-8统计学STATISTICS8.1变量间的关系8.1.1变量间是什么样的关系？8.1.2用散点图描述相关关系8.1.3用相关系数度量关系强度第8章相关与回归分析22:479-9统计学STATISTICS22:47怎样分析变量间的关系？建立回归模型时，首先需要弄清楚变量之间的关系。分析变量之间的关系需要解决下面的问题变量之间是否存在关系？如果存在，它们之间是什么样的关系？变量之间的关系强度如何？样本所反映的变量之间的关系能否代表总体变量之间的关系？9-10统计学STATISTICS8.1.1变量间是什么样的关系？8.1变量间的关系22:479-11统计学STATISTICS22:47xy函数关系1.设有两个变量x和y，变量y随变量x一起变化，并完全依赖于x，当变量x取某个数值时，y依确定的关系取相应的值，则称y是x的函数，记为y=f(x)，其中x称为自变量，y称为因变量2.是一一对应的确定关系9-12统计学STATISTICS22:47相关关系(几个例子)子女的身高与其父母身高的关系从遗传学角度看，父母身高较高时，其子女的身高一般也比较高。但实际情况并不完全是这样，因为子女的身高并不完全是由父母身高一个因素所决定的，还有其他许多因素的影响一个人的收入水平同他受教育程度的关系收入水平相同的人，他们受教育的程度也不可能不同，而受教育程度相同的人，他们的收入水平也往往不同。因为收入水平虽然与受教育程度有关系，但它并不是决定收入的惟一因素，还有职业、工作年限等诸多因素的影响农作物的单位面积产量与降雨量之间的关系在一定条件下，降雨量越多，单位面积产量就越高。但产量并不是由降雨量一个因素决定的，还有施肥量、温度、管理水平等其他许多因素的影响9-13统计学STATISTICS22:47相关关系(correlation)1.一个变量的取值不能由另一个变量唯一确定2.当变量x取某个值时，变量y的取值对应着一个分布yx9-14统计学STATISTICS8.1.2用散点图描述相关关系8.1变量间的关系22:479-15统计学STATISTICS22:47完全负线性相关完全正线性相关散点图(scatterdiagram)不相关负线性相关正线性相关非线性相关9-16统计学STATISTICS22:47用散点图描述变量间的关系(例题分析)【例8-1】为研究企业是否隐满销售收入偷税，研究工资总额与销售收入的关系。将10家企业的工资总额与销售收入数据列表如下。绘制散点图描述销售收入与工资总额之间的关系企业销售收入（万元）工人工资总额（万元）1271.576.12155.145.63318.287.54923.3253.95202.660.56443.3129.271325.53718648.2194.59553.615510337.998.49-17统计学STATISTICS22:47散点图(销售收入与工资总额)9-18统计学STATISTICS8.2.1用相关系数度量关系强度8.2.2相关系数的检验8.2变量间的关系强度22:479-19统计学STATISTICS1.度量变量之间线性关系强度的一个统计量若相关系数是根据总体全部数据计算的，称为总体相关系数，记为若是根据样本数据计算的，则称为样本相关系数，简称为相关系数，记为r也称为Pearson相关系数(Pearson’scorrelationcoefficient)2.样本相关系数的计算公式22:47相关系数(correlationcoefficient)计算相关系数22)()())((yyxxyyxxr9-20统计学STATISTICS22:47相关系数的性质性质1：r的取值范围是[-1,1]|r|=1，为完全相关r=1，为完全正相关r=-1，为完全负正相关r=0，不存在线性相关关系-1r0，为负相关0r1，为正相关|r|越趋于1表示关系越强；|r|越趋于0表示关系越弱9-21统计学STATISTICS22:47相关系数的性质性质2：r具有对称性。即x与y之间的相关系数和y与x之间的相关系数相等，即rxy=ryx性质3：r数值大小与x和y原点及尺度无关，即改变x和y的数据原点及计量尺度，并不改变r数值大小性质4：仅仅是x与y之间线性关系的一个度量，它不能用于描述非线性关系。这意味着，r=0只表示两个变量之间不存在线性相关关系，并不说明变量之间没有任何关系9-22统计学STATISTICS22:47相关系数的经验解释1.|r|0.8时，可视为两个变量之间高度相关2.0.5|r|0.8时，可视为中度相关3.0.3|r|0.5时，视为低度相关4.|r|0.3时，说明两个变量之间的相关程度极弱，可视为不相关5.上述解释必须建立在对相关系数的显著性进行检验的基础之上9-23统计学STATISTICS22:47相关系数的显著性检验(检验的步骤)1.检验两个变量之间是否存在线性相关关系2.采用R.A.Fisher提出的t检验3.检验的步骤为提出假设：H0：；H1：0计算检验的统计量用Excel中的【TDIST】函数得双尾计算P值，并与显著性水平比较，并作出决策•若P，拒绝H0)2(~122ntrnrt9-24统计学STATISTICS22:47相关系数的显著性检验(例题分析)【例8-3】检验销售收入与工资总额之间的相关系数是否显著(0.05)1.提出假设：H0：；H1：02.计算检验的统计量3.用Excel中的【T.DIST.2t】函数得双尾P=9.41E-070.05，拒绝H0，销售收入与工资总额之间的相关系数显著20.99910213.36310.999t9-26统计学STATISTICS8.3回归分析8.3.1一元线性回归模型8.3.2参数的最小二乘估计8.3.3回归直线的拟合优度8.3.4显著性检验第8章相关与回归分析22:479-27统计学STATISTICS8.3.1一元线性回归模型8.3回归分析22:479-28统计学STATISTICS22:47什么是回归分析？(regressionanalysis)1.重点考察考察一个特定的变量(因变量)，而把其他变量(自变量)看作是影响这一变量的因素，并通过适当的数学模型将变量间的关系表达出来2.利用样本数据建立模型的估计方程3.对模型进行显著性检验4.进而通过一个或几个自变量的取值来估计或预测因变量的取值9-29统计学STATISTICS22:47回归模型的类型线性回归非线性回归一元回归线性回归非线性回归多元回归回归模型9-30统计学STATISTICS22:47一元线性回归1.涉及一个自变量的回归2.因变量y与自变量x之间为线性关系被预测或被解释的变量称为因变量(dependentvariable)，用y表示用来预测或用来解释因变量的一个或多个变量称为自变量(independentvariable)，用x表示3.因变量与自变量之间的关系用一个线性方程来表示9-31统计学STATISTICS22:47一元线性回归模型(linearregressionmodel)1.描述因变量y如何依赖于自变量x和误差项的方程称为回归模型2.一元线性回归模型可表示为3.y=0+1+y是x的线性函数(部分)加上误差项线性部分反映由于x的变化而引起的y的变化误差项是随机变量反映了除x和y之间的线性关系之外的随机因素对y的影响是不能由x和y之间的线性关系所解释的变异性0和1称为模型的参数9-34统计学STATISTICS22:47估计的回归方程(estimatedregressionequation)0ˆ1ˆ011.总体回归参数和是未知的，必须利用样本数据去估计2.用样本统计量和代替回归方程中的未知参数和，就得到了估计的回归方程3.一元线性回归中估计的回归方程为01xy10ˆˆˆ其中：是估计的回归直线在y轴上的截距，是直线的斜率，它表示对于一个给定的x的值，是y的估计值，也表示x每变动一个单位时，y的平均变动值0ˆ1ˆyˆ9-35统计学STATISTICS8.3.2参数的最小二乘估计8.3回归分析22:479-36统计学STATISTICS22:47参数的最小二乘估计(methodofleastsquares)最小)ˆˆ()ˆ(121012niiiniixyyy1.德国科学家KarlGauss(1777—1855)提出用最小化图中垂直方向的误差平方和来估计参数2.使因变量的观察值与估计值之间的误差平方和达到最小来求得和的方法。即3.用最小二乘法拟合的直线来代表x与y之间的关系与实际数据的误差比其他任何直线都小0ˆ1ˆ9-37统计学STATISTICS22:47KarlGauss的最小化图xy(xn,yn