《应用统计学》精品课程.

《应用统计学》精品课程第七章回归分析Unitoneanalysisofregression西安理工大学工程管理系马斌余梁蜀ProjectManagementDepartmentofXI’AnUniversityofTechnologyMaBingYuLiangshu《应用统计学》精品课程概述Summary一元线形回归分析Onelinearregressionanalysis7.17.3多元线形回归分析Multiplelinearregressionanalysis7.27.4非线形回归分析Nonlinearregressionanalysis《应用统计学》精品课程客观现象间存在着相互依存，相互制约的关系，这些关系可以分为：函数关系与相关关系7.1概述Summary客观现象间的关系函数关系相关关系《应用统计学》精品课程（1）函数关系（确定性关系）变量间依存关系：严格，确定可以用数学式（函数式）表达。例如：圆的半径与面积之间的关系：A=πr2函数变量变量值确定，函数值随之唯一确定；一一对应关系！注意：《应用统计学》精品课程（2）相关关系（不确定关系）变量之间有联系，但不严格，不确定（不是唯一的）；当一个变量确定以后，另一个变量随机出现在一定范围内。Yi=f(Xi,ξ）例如：因变量与自变量之间可以是单相关，也可以是多相关。自变量可以是一个也可以是多个。《应用统计学》精品课程相关关系线性相关非线性相关相关程度完全相关不完全相关完全不相关《应用统计学》精品课程（3）回归分析依据：现象间相关关系。目标：分析自变量与因变量间数量变化的一般关系。方法：拟合一条最合适的直线或曲线，并用回归方程表示出来。例如：工程中，混凝土中水泥增加一个单位量，混凝土的强度增加多少？此题就可以运用回归分析来解决！《应用统计学》精品课程例题：某企业10月份销售业绩如下表（单位：万元）：销售额（X）45465648423558403950利润(Y)6.536.39.527.56.995.99.496.26.558.72已知了以上数据，在Excel表中就可以生成回归直线计算表如下：《应用统计学》精品课程回归直线计算表序号XYXYX2Y21456.53293.85202542.64092426.30264.60176439.69003569.52533.12313690.63044487.50360.00230456.25005426.99293.58176448.86016355.90206.50122534.81007589.49550.42336490.06018406.20248.00160038.44009396.55255.45152142.902510508.72436.00250076.0384合计45573.703441.5221203560.3224《应用统计学》精品课程解：利用公式可以求出2)ˆ(,.,,,1762.0647.0ˆ647.010455*1762.0107.73ˆ1762.0455*45521203*107.73*45552.3441*10ˆ22222nYYSbaXYXYabiie的无偏估计为证明可以小代表了理论模误差的大进行估计还要对的估计值后在得到了对于一元线形回归模型的线形回归方程为对销售额于是得到利润《应用统计学》精品课程销售业绩y=0.1762x-0.6455R2=0.905545678910113035404550556065销售额/万元利润/万元在Excel表格中可以通过回归分析生成以下曲线图：《应用统计学》精品课程7.2一元线形回归分析Onelinearregressionanalysis★★★任务与目标：数模参估假检方差分析（1）回归模型bXaYε~N（0，σ2）自变量因变量误差未知参数《应用统计学》精品课程为了确定未知参数,的值，可以取一个容量为n的样本(X1，Y1)，(X2，Y2)，…，(Xn，Yn)，回归分析就是要根据样本找出a,b的估计值â，b^，用经验回归函数XbaYˆˆˆ近似地描述Y与X的相关关系。该函数所表示的直线叫样本回归直线，â是直线的截距，b^是直线的斜率。上式也称为Y关于X的线性回归方程，â，b^称为回归系数。(2)参数â，b^，σ2估计回归原则：最小二乘法，即残差平方和最小Q为残差平方和，则niiiYYQ12)ˆ(《应用统计学》精品课程baˆ,ˆbaˆ,ˆQ是的函数，根据微积分求极值的原理，Q达到最小值时，Q对的偏导数都等于零，即0)]ˆˆ([2ˆXbaYaQ0)]ˆˆ([2ˆXXbaYbQ求解方程组，可以得到：XbYaˆˆ222)())(()(ˆXXYYXXXXnYXXYnbiii《统计学》精品课程上式表明,回归直线是一条经过点(),且斜率为的直线。YX,bˆ由此，可以得到Y关于X的线形回归方程)(ˆˆˆˆXXbYXbaY（3）回归方程显著性检验原因：杂乱无序，无相关关系的散点也可以拟合成一条直线或曲线，但无意义。内容：回归方程线性关系显著性检验——F检验法回归系数显著性检验——t检验法检验基础：方差分析①方差分析设(X1，Y1),(X2，Y2)……(Xn,Yn)是一个容量为n的样本。《应用统计学》精品课程XbaYˆˆˆiiXbaYˆˆˆ对应于Xi(i=1,2,……n)的回归估值Yi，可记为：YYi观测值均值由样本得到的回归方程为：是样本观测值与样本均值的差YXbaYˆˆˆYYYYˆYYˆ示意图。上图给出了总离差分解，称为残差。）是由随机因素造成的而（，称为回归离差，）是由回归方程决定的其中，（iiiiiiiYYYYYYYYYYˆˆ)ˆ()ˆ(《应用统计学》精品课程《应用统计学》精品课程可以证明：222)ˆ()ˆ()(iiiiYYYYYYSST总离差平方和SSR回归平方和SSE残差平方和统计学上定义了一个这样的判定系数，记为r2，它是判定回归直线拟合度的重要指标。SSTSSESSTSSRr12r的取值范围[-1，+1]《应用统计学》精品课程如果所有散点都落在直线上，ＳＳＥ为０，ｒ２＝１，说明总离差可以全部由回归直线解释;若变量X与Y完全无关,ｒ２=0。R2越接近于1，回归直线离各观测单点越近，回归直线拟合度越好。222)()ˆ(YYYYSSTSSRrii②F检验对回归方程线性关系的显著性检验，通常采用F检验法，其目的是检验自变量与所有因变量之间的线性关系是否显著。具体步骤如下：一，提出原假设Ho：b=0；H1:b≠0二，构造检验统计量)2/(1/nSSESSRF可以证明，当H。成立时F～F(1，n-2)三，确定显著性水平，并根据自由度(1，n-2)，查F分布表，得到相应的临界值Fα(1，n-2)。四，得出检验结果：当FFα(1，n-2)时，拒绝原假设。《应用统计学》精品课程③t检验对回归方程中各系数的显著性检验，可以采用t检验法，一般只需检验自变量的系数，常数项不需检验。具体步骤如下：一，提出原假设Ho：b=0二，构造检验统计量：22)(/ˆXXSbtiEtt可以证明，当H0成立时，t～t(n-2)三，确定显著性水平α，并根据自由度(n-2)，查t分布表，得到相应的临界值tα/2(n-2)。四，得出检验结果：tα/2(n-2),拒绝H0≤tα/2(n-2),接受H0《应用统计学》精品课程（4）预测当回归方程通过了显著性检验，并确实具有一定的实际意义时，就可以利用它来进行预测。对于给定的X的任意值X。，不可能求出相应的精确值Yo，只能借助回归方程求出Yo的估计值，即：00ˆˆˆXbaY并在给定置信度(1-α)的基础上，求出Yo的置信区间。可以证明]))ˆ()(11[,0(~ˆ220200iiXXXXnNYY《应用统计学》精品课程由于δ2是未知的，我们可以用估计值Se2来代替，构造统计量)1(~ˆ00ntSYYtef计值。计算公式为表示预测标准误差的估式中，efS22)()(11XXXXnSSiOeef把两条曲线和回归直线画在一个平面上，可以得到回归预测的置信区间图：若给定置信度为（1-α），我们可以得到Y0的置信区间为：efaSntY)2(ˆ20若对于任意X，可以作出两条曲线Y1（X）和Y2（X），曲线方程分别为：efaefaSntYXYSntYXY)2(ˆ)()2(ˆ)(2221《应用统计学》精品课程把两条曲线和回归直线画在一个平面上，可以得到回归预测的置信区间图：XY从图中看出置信区间呈中间小、两头大的喇叭形，当样本容量足够大时，利用正态分布原理可以确定置信区间的上下限是与回归直线平行的两条直线（见上图中虚线）。《应用统计学》精品课程YXXbaYˆˆˆ《应用统计学》精品课程7.3多元线形回归分析Multiplelinearregressionanalysis因素：因变量Y受多个自变量影响作用。目标：研究自变量对因变量的线性影响。方法：多元线性回归分析。),0(~22211NXbXbXbaYpp（1）回归模型7.4问题的关键：选择适当的曲线形式(1)双曲线函数xbaY1(2)幂函数y=axb(3)指数函数y=aebx《应用统计学》精品课程问题非线形回归分析Nonlinearregressionanalysis(5)对数函数(4)指数函数(6)S型函数xbeay1xbaylgbxaey《应用统计学》精品课程小结回归分析是研究变量间不确定关系的方法，回归分析的主要内容包括模型的建立，参数估计，显著性检验和预测。本章讨论了一元线形回归，多元线形回归的模型确定，使用最小二乘法对参数进行估计，回归方程的显著性检验（F检验）,回归系数的显著性检验（t检验）以及置信区间的确定等方法。另外，还介绍了将非线形回归转化为线形回归的方法。最后，通过实例介绍了使用Excel进行回归分析的基本步骤，并对回归输出结果的含义进行了解释。《应用统计学》精品课程《应用统计学》精品课程Thankyou!