31回归分析的基本思想及其初步应用(二)

2020/1/27郑平正制作3.1回归分析的基本思想及其初步应用（二）高二数学选修1-2比《数学3》中“回归”增加的内容数学３——统计1.画散点图2.了解最小二乘法的思想3.求回归直线方程y＝bx＋a4.用回归直线方程解决应用问题选修１-２——统计案例5.引入线性回归模型y＝bx＋a＋e6.了解模型中随机误差项e产生的原因7.了解相关指数R2和模型拟合的效果之间的关系8.了解残差图的作用9.利用线性回归模型解决一类非线性回归问题10.正确理解分析方法与结果回归分析的内容与步骤：统计检验通过后，最后是利用回归模型，根据自变量去估计、预测因变量。回归分析通过一个变量或一些变量的变化解释另一变量的变化。其主要内容和步骤是：首先根据理论和对问题的分析判断，将变量分为自变量和因变量；其次，设法找出合适的数学方程式（即回归模型）描述变量间的关系；由于涉及到的变量具有不确定性，接着还要对回归模型进行统计检验；例1从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。编号12345678身高/cm165165157170175165155170体重/kg4857505464614359求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为172cm的女大学生的体重。案例1：女大学生的身高与体重解：1、选取身高为自变量x，体重为因变量y，作散点图：2、由散点图知道身高和体重有比较好的线性相关关系，因此可以用线性回归方程刻画它们之间的关系。172.85849.0ˆxy分析：由于问题中要求根据身高预报体重，因此选取身高为自变量，体重为因变量．ˆ学身高172cm女大生体重y=0.849×172-85.712=60.316(kg)2.回归方程：1.散点图；探究：身高为172cm的女大学生的体重一定是60.316kg吗？如果不是，你能解析一下原因吗？例1从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。编号12345678身高/cm165165157170175165155170体重/kg4857505464614359求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为172cm的女大学生的体重。案例1：女大学生的身高与体重解：1、选取身高为自变量x，体重为因变量y，作散点图：2、由散点图知道身高和体重有比较好的线性相关关系，因此可以用线性回归方程刻画它们之间的关系。3、从散点图还看到，样本点散布在某一条直线的附近，而不是在一条直线上，所以不能用一次函数y=bx+a描述它们关系。我们可以用下面的线性回归模型来表示：y=bx+a+e，(3)其中a和b为模型的未知参数，e称为随机误差。y=bx+a+e，E(e)=0,D(e)=(4)2.在线性回归模型(4)中，随机误差e的方差越小，通过回归直线(5)2ybxa预报真实值y的精度越高。随机误差是引起预报值与真实值y之间的误差的原因之一，其大小取决于随机误差的方差。y另一方面，由于公式(1)和(2)中和为截距和斜率的估计值，它们与真实值a和b之间也存在误差，这种误差是引起预报值与真实值y之间误差的另一个原因。ˆyˆaˆb思考:产生随机误差项e的原因是什么？随机误差e的来源(可以推广到一般）：1、忽略了其它因素的影响：影响身高y的因素不只是体重x，可能还包括遗传基因、饮食习惯、生长环境等因素；2、用线性回归模型近似真实模型所引起的误差；3、身高y的观测误差。以上三项误差越小，说明我们的回归模型的拟合效果越好。函数模型与回归模型之间的差别中国GDP散点图020000400006000080000100000120000199219931994199519961997199819992000200120022003年GDP函数模型：abxy回归模型：eabxy可以提供选择模型的准则函数模型与回归模型之间的差别函数模型：abxy回归模型：eabxy线性回归模型y=bx+a+e增加了随机误差项e，因变量y的值由自变量x和随机误差项e共同确定，即自变量x只能解析部分y的变化。在统计中，我们也把自变量x称为解析变量，因变量y称为预报变量。所以，对于身高为172cm的女大学生，由回归方程可以预报其体重为0.8497285.71260.316()ykg思考：如何刻画预报变量（体重）的变化？这个变化在多大程度上与解析变量（身高）有关？在多大程度上与随机误差有关？假设身高和随机误差的不同不会对体重产生任何影响，那么所有人的体重将相同。在体重不受任何变量影响的假设下，设8名女大学生的体重都是她们的平均值，即8个人的体重都为54.5kg。54.554.554.554.554.554.554.554.5体重/kg170155165175170157165165身高/cm87654321编号54.5kg在散点图中，所有的点应该落在同一条水平直线上，但是观测到的数据并非如此。这就意味着预报变量（体重）的值受解析变量（身高）或随机误差的影响。对回归模型进行统计检验5943616454505748体重/kg170155165175170157165165身高/cm87654321编号例如，编号为6的女大学生的体重并没有落在水平直线上，她的体重为61kg。解析变量（身高）和随机误差共同把这名学生的体重从54.5kg“推”到了61kg，相差6.5kg，所以6.5kg是解析变量和随机误差的组合效应。编号为3的女大学生的体重并也没有落在水平直线上，她的体重为50kg。解析变量（身高）和随机误差共同把这名学生的体重从50kg“推”到了54.5kg，相差-4.5kg，这时解析变量和随机误差的组合效应为-4.5kg。用这种方法可以对所有预报变量计算组合效应。数学上，把每个效应（观测值减去总的平均值）的平方加起来，即用21()niiyy表示总的效应，称为总偏差平方和。在例1中，总偏差平方和为354。5943616454505748体重/kg170155165175170157165165身高/cm87654321编号那么，在这个总的效应（总偏差平方和）中，有多少来自于解析变量（身高）？有多少来自于随机误差？假设随机误差对体重没有影响，也就是说，体重仅受身高的影响，那么散点图中所有的点将完全落在回归直线上。但是，在图中，数据点并没有完全落在回归直线上。这些点散布在回归直线附近，所以一定是随机误差把这些点从回归直线上“推”开了。在例1中，残差平方和约为128.361。因此，数据点和它在回归直线上相应位置的差异是随机误差的效应，称为残差。)iiyy(iiieyy=例如，编号为6的女大学生，计算随机误差的效应（残差）为：61(0.84916585.712)6.627对每名女大学生计算这个差异，然后分别将所得的值平方后加起来，用数学符号21()niiiyy称为残差平方和，它代表了随机误差的效应。表示为：即，ˆˆ(,)Qab类比样本方差估计总体方差的思想，可以用作为的估计量，越小，预报精度越高。22111ˆˆˆˆ(,)(2)22nieQabnnn22由于解析变量和随机误差的总效应（总偏差平方和）为354，而随机误差的效应为128.361，所以解析变量的效应为解析变量和随机误差的总效应（总偏差平方和）=解析变量的效应（回归平方和）+随机误差的效应（残差平方和）354-128.361=225.639这个值称为回归平方和。我们可以用相关指数R2来刻画回归的效果，其计算公式是22121()11()niiiniiyyRyy残差平方和。总偏差平方和2221121()()()nniiiiiniiyyyyRyy总偏差平方和残差平方和回归平方和总偏差平方和总偏差平方和离差平方和的分解（三个平方和的意义）1.总偏差平方和(SST)反映因变量的n个观察值与其均值的总离差2.回归平方和(SSR)反映自变量x的变化对因变量y取值变化的影响，或者说，是由于x与y之间的线性关系引起的y的取值变化，也称为可解释的平方和3.残差平方和(SSE)反映除x以外的其他因素对y取值的影响，也称为不可解释的平方和或剩余平方和样本决定系数（判定系数R2）1.回归平方和占总离差平方和的比例2.反映回归直线的拟合程度3.取值范围在[0,1]之间4.R21，说明回归方程拟合的越好；R20，说明回归方程拟合的越差5.判定系数等于相关系数的平方，即R2＝(r)2显然，R2的值越大，说明残差平方和越小，也就是说模型拟合效果越好。在线性回归模型中，R2表示解析变量对预报变量变化的贡献率。R2越接近1，表示回归的效果越好（因为R2越接近1，表示解析变量和预报变量的线性相关性越强）。如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较R2的值来做出选择，即选取R2较大的模型作为这组数据的模型。总的来说：相关指数R2是度量模型拟合效果的一种指标。在线性模型中，它代表自变量刻画预报变量的能力。我们可以用相关指数R2来刻画回归的效果，其计算公式是22121()11()niiiniiyyRyy残差平方和。总偏差平方和1354总计0.36128.361残差变量0.64225.639随机误差比例平方和来源表1-3从表3-1中可以看出，解析变量对总效应约贡献了64%，即R20.64，可以叙述为“身高解析了64%的体重变化”，而随机误差贡献了剩余的36%。所以，身高对体重的效应比随机误差的效应大得多。我们可以用相关指数R2来刻画回归的效果，其计算公式是22121()11()niiiniiyyRyy残差平方和。总偏差平方和表3-2列出了女大学生身高和体重的原始数据以及相应的残差数据。在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关，是否可以用回归模型来拟合数据。残差分析与残差图的定义：然后，我们可以通过残差来判断模型拟合的效果，判断原始数据中是否存在可疑数据，这方面的分析工作称为残差分析。12,,,neee编号12345678身高/cm165165157170175165155170体重/kg4857505464614359残差-6.3732.6272.419-4.6181.1376.627-2.8830.382我们可以利用图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本编号，或身高数据，或体重估计值等，这样作出的图形称为残差图。2020/1/27郑平正制作残差图的制作及作用。•坐标纵轴为残差变量，横轴可以有不同的选择；•若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域；•对于远离横轴的点，要特别注意。身高与体重残差图异常点•错误数据•模型问题几点说明：第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。例2、在一段时间内，某中商品的价格x元和需求量Y件之间的一组数据为：求出Y对的回归直线方程，并说明拟合效果的好坏。价格x1416182022需求量Y1210753解：18,7.4,xy555221111660,327,620,iiiiiiixyxyˆ7.41.151828.1.aˆ1.1528.1.yx回归直线方程为：5152215ˆ5iiiiixyxybxx26205187.41.15.1660518例2、在一段时间内，某中商品的价格x元和需求量Y件之间的一组数据为：求出Y对的回归直线方程，并说明拟合效果的好坏。价格x1416182022需求量Y1210753列出残差表为521ˆ()iiiyy0.3,