回归分析的基本思想及其初步应用

1.1回归分析的基本思想及其初步应用我们知道，函数关系是一种确定性关系，而相关关系是一种非确定性关系.回归分析(regressionanalysis)是对具有相关关系的两个变量进行统计分析的一种常用方法.下面我们通过具体问题，进一步学习回归分析的基本思想及其应用于问题1从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。5943616454505748体重/kg170155165175170157165165身高/cm87654321编号求根据女大学生的身高预报她的体重的回归方程，并预报一名身高为172cm的女大学生的体重。问题一：结合例1得出线性回归模型及随机误差。并且区分函数模型和回归模型。解：1、选取身高为自变量x，体重为因变量y，作散点图：2.回归方程：172.85849.0ˆxyˆ学身高172cm女大生体重y=0.849×172-85.712=60.316(kg)探究：身高为172cm的女大学生的体重一定是60.316kg吗？如果不是，你能解析一下原因吗？答：用这个回归方程不能给出每个身高为172cm的女大学生的体重的预测值，只能给出她们平均体重的估计值。由于所有的样本点不共线，而只是散布在某一直线的附近，所以身高和体重的关系可以用线性回归模型来表示：其中a和b为模型的未知参数，e称为随机误差.eabxy函数模型与“回归模型”的关系函数模型：因变量y完全由自变量x确定回归模型：预报变量y完全由解释变量x和随机误差e确定注：e产生的主要原因：(1)所用确定性函数不恰当；(2)忽略了某些因素的影响；(3)观测误差。思考:产生随机误差项e的原因是什么？问题二：在线性回归模型中，e是用bx+a预报真实值y的随机误差，它是一个不可观测的量，那么应如何研究随机误差呢？,1,2,...,,1,2,...iiiiiiiiybxaineyyybxaine1122nniii残差：一般的对于样本点（x,y）,(x,y),...,(x,y),它们的随机误差为e其估计值为称为相应于点(x,y)的残差。结合例1除了身高影响体重外的其他因素是不可测量的，不能希望有某种方法获取随机误差的值以提高预报变量的估计精度，但却可以估计预报变量观测值中所包含的随机误差，这对我们查找样本数据中的错误和模型的评价极为有用，因此在此我们引入残差概念。e=y-(bx+a)eyy随机误差ˆˆeyye的估计量样本点：1122(,),(,),...,(,)nnxyxyxy相应的随机误差为：,1,2,...,iiiiieyyybxain随机误差的估计值为：ˆˆˆˆ,1,2,...,iiiiieyyybxainˆie称为相应于点的残差.(,)iixy22111ˆˆˆˆ(,)(2)22niieQabnnn的估计量2为ˆˆ(,)Qab称为残差平方和.问题三：如何发现数据中的错误？如何衡量随机模型的拟合效果？(1)我们可以通过分析发现原始数据中的可疑数据，判断建立模型的拟合效果。iiieybxa（1）计算（i=1,2,...n）残差分析（2）画残差图（1）查找异常样本数据（3）分析残差图（2）残差点分布在以O为中心的水平带状区域，并沿水平方向散点的分布规律相同。残差图的制作和作用：制作：坐标纵轴为残差变量，横轴可以有不同的选择.横轴为编号：可以考察残差与编号次序之间的关系，常用于调查数据错误.横轴为解释变量：可以考察残差与解释变量的关系，常用于研究模型是否有改进的余地.作用：判断模型的适用性若模型选择的正确，残差图中的点应该分布在以横轴为中心的带形区域.下面表格列出了女大学生身高和体重的原始数据以及相应的残差数据。编号12345678身高/cm165165157170175165155170体重/kg4857505464614359残差-6.3732.6272.419-4.6181.1376.627-2.8830.382残差图的制作及作用。•坐标纵轴为残差变量，横轴可以有不同的选择；•若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域；•对于远离横轴的点，要特别注意。身高与体重残差图异常点•错误数据•模型问题几点说明：第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。误差与残差，这两个概念在某程度上具有很大的相似性，都是衡量不确定性的指标，可是两者又存在区别。误差与测量有关，误差大小可以衡量测量的准确性，误差越大则表示测量越不准确。误差分为两类：系统误差与随机误差。其中，系统误差与测量方案有关，通过改进测量方案可以避免系统误差。随机误差与观测者，测量工具，被观测物体的性质有关，只能尽量减小，却不能避免。残差――与预测有关，残差大小可以衡量预测的准确性。残差越大表示预测越不准确。残差与数据本身的分布特性，回归方程的选择有关。显然，R2的值越大，说明残差平方和越小，也就是说模型拟合效果越好。在线性回归模型中，R2表示解析变量对预报变量变化的贡献率。R2越接近1，表示回归的效果越好（因为R2越接近1，表示解析变量和预报变量的线性相关性越强）。如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较R2的值来做出选择，即选取R2较大的模型作为这组数据的模型。注：相关指数R2是度量模型拟合效果的一种指标。在线性模型中，它代表自变量刻画预报变量的能力。（2）我们可以用相关指数R2来刻画回归的效果，其计算公式是22121()11()niiiniiyyRyy残差平方和。总偏差平方和相关系数相关系数的性质(1)|r|≤1．(2)|r|越接近于1，相关程度越强；|r|越接近于0，相关程度越弱．•注:b与r同号•问题：达到怎样程度，x、y线性相关呢？它们的相关程度怎样呢？niii=1nn22iii=1i=1(x-x)(y-y)r=(x-x)(y-y)2_n1i2i2_n1i2in1i__iiynyxnxyxnyxniii=1nn22iii=1i=1(x-x)(y-y)(x-x)×(y-y)r相关系数ｒ＞０正相关；ｒ＜０负相关．通常：r∈[-1,-0.75]--负相关很强;r∈[0.75,1]—正相关很强;r∈[-0.75,-0.3]--负相关一般;r∈[0.3,0.75]—正相关一般;r∈[-0.25,0.25]--相关性较弱;对r进行显著性检验1354总计0.36128.361残差变量0.64225.639回归变量比例平方和来源从上中可以看出，解析变量对总效应约贡献了64%，即R20.64，可以叙述为“身高解析了64%的体重变化”，而随机误差贡献了剩余的36%。所以，身高对体重的效应比随机误差的效应大得多。下面我们用相关指数分析一下例1：预报变量的变化程度可以分解为由解释变量引起的变化程度与残差变量的变化程度之和，即222111()()()nnniiiiiiiyyyyyy；问题四：结合例1思考：用回归方程预报体重时应注意什么？1.回归方程只适用于我们所研究的样本的总体。2.我们建立的回归方程一般都有时间性。3.样本取值的范围会影响回归方程的适用范围。4.不能期望回归方程得到的预报值就是预报变量的精确值。涉及到统计的一些思想：模型适用的总体；模型的时间性；样本的取值范围对模型的影响；模型预报结果的正确理解。一般地，建立回归模型的基本步骤为：（1）确定研究对象，明确哪个变量是解析变量，哪个变量是预报变量。（2）画出确定好的解析变量和预报变量的散点图，观察它们之间的关系（如是否存在线性关系等）。（3）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程y=bx+a）.（4）按一定规则估计回归方程中的参数（如最小二乘法）。（5）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残差呈现不随机的规律性，等等），过存在异常，则检查数据是否有误，或模型是否合适等。问题五：归纳建立回归模型的基本步骤问题六：若两个变量呈现非线性关系，如何解决？（分析例2）例2一只红铃虫的产卵数y和温度x有关。现收集了7组观测数据列于表中：温度xoC21232527293235产卵数y/个711212466115325（1）试建立产卵数y与温度x之间的回归方程；并预测温度为28oC时产卵数目。（2）你所建立的模型中温度在多大程度上解释了产卵数的变化？选变量解：选取气温为解释变量x，产卵数为预报变量y。画散点图假设线性回归方程为：ŷ=bx+a选模型分析和预测当x=28时，y=19.87×28-463.73≈93估计参数由计算器得：线性回归方程为y=19.87x-463.73相关指数R2=r2≈0.8642=0.7464所以，一次函数模型中温度解释了74.64%的产卵数变化。050100150200250300350036912151821242730333639当x=28时，y=19.87×28-463.73≈93方法一：一元函数模型y=c1x2+c2变换y=c1t+c2非线性关系线性关系问题１选用y=c1x2+c2，还是y=c1x2+cx+c2？问题3-200-1000100200300400-40-30-20-10010203040产卵数气温问题2如何求c1、c2？t=x2方法二，二元函数模型平方变换：令t=x2，产卵数y和温度x之间二次函数模型y=bx2+a就转化为产卵数y和温度的平方t之间线性回归模型y=bt+a温度21232527293235温度的平方t44152962572984110241225产卵数y/个711212466115325作散点图，并由计算器得：y和t之间的线性回归方程为y=0.367t-202.54，相关指数R2=r2≈0.8962=0.802将t=x2代入线性回归方程得：y=0.367x2-202.54当x=28时，y=0.367×282-202.54≈85，且R2=0.802，所以，二次函数模型中温度解释了80.2%的产卵数变化。0501001502002503003500150300450600750900105012001350产卵数y/个t产卵数气温变换y=bx+a非线性关系线性关系43cxyce-50050100150200250300350400450-10-50510152025303540对数方法三：指数函数模型xccexccecyxc43433lnlnlnlnlnln4abxzzybcac则有令,ln,,ln43温度x/21232527Z=lny1.9462.3983.4053.178产卵数y/个71121242932354.1904.7455.78466115325c由计算器得：z关于x的线性回归方程相关指数因此y关于x的非线性回归方程为98.02R489.3272.0^xz当x=28时，y≈44，指数回归模型中温度解释了98%的产卵数的变化C489.3272.0^xey函数模型相关指数R2线性回归模型0.7464二次函数模型0.802指数函数模型0.98最好的模型是哪个?显然，指数函数模型最好！(2)2ˆ0.367202.543yx(1)0.2723.849ˆxye利用残差计算公式：0.2723.849(1)(1)ˆˆ,1,2,,7ixiiiieyyyei(2)(2)2ˆˆ0.367202.543,1,2,,7iiiiieyyyxi77.968-58.265-40.104-41.000-5.83219.