试验设计与数据处理-李云雁-全套 第4章 回归分析

第4章试验数据的回归分析4.1基本概念（1）相互关系①确定性关系：变量之间存在着严格的函数关系②相关关系：变量之间近似存在某种函数关系（2）回归分析（regressionanalysis）处理变量之间相关关系的统计方法确定回归方程：变量之间近似的函数关系式检验回归方程的显著性试验结果预测4.2一元线性回归分析4.2.1一元线性回归方程的建立（1）最小二乘原理设有一组试验数据（如表），若x，y符合线性关系xx1x2……xnyy1y2……yn计算值与试验值yi不一定相等与yi之间的偏差称为残差：a，b——回归系数（regressioncoefficient）iyiyiyiiieyy——回归值/拟合值，由xi代入回归方程计算出的y值。iiyabx一元线性回归方程：残差平方和：112()02()0niiiniiiiQyabxaQyabxxb残差平方和最小时，回归方程与试验值的拟合程度最好求残差平方和极小值：222111()[()]nnneiiiiiiiiSSQeyyyabx正规方程组（normalequation）：112111nniiiinnniiiiiiinabxyaxbxxy11112222111()()()()nnnniiiiiiiiiinnniiiiiinxyxyxynxybnxxxnxaybx解正规方程组：简算法：22211()()nnxxiiiiLxxxnx11()()nnxyiiiiiiLxxyyxynxyxyxxLbLaybx4.2.2一元线性回归效果的检验（1）相关系数检验法①相关系数（correlationcoefficient）：描述变量x与y的线性相关程度定义式：xyxxyyLrLL②相关系数特点：－1≤r≤1r＝±1：x与y有精确的线性关系r=1xyr＝－1xyr＜0：x与y负线性相关（negativelinearcorrelation）r＞0：x与y正线性相关（positivelinearcorrelation）0＜r＜1xy－1＜r＜0xyr≈0时，x与y没有线性关系，但可能存在其它类型关系相关系数r越接近1，x与y的线性相关程度越高试验次数越少，r越接近1r＝0xyr＝0xy当，说明x与y之间存在显著的线性关系对于给定的显著性水平α，查相关系数临界值rmin③相关系数检验minrr（2）F检验①离差平方和总离差平方和：21()nTiyyiSSyyL221()nRxxxyiiSSyybLbL21()neiiiSSyyTReSSSSSS回归平方和（regressionsumofsquare）：残差平方和：三者关系：②自由度SST的自由度：dfT＝n－1SSR的自由度：dfR＝1SSe的自由度：dfe＝n－2三者关系：dfT＝dfR＋dfe③均方RRRSSMSdfeeeSSMSdf④F检验F服从自由度为（1，n－2）的F分布给定的显著性水平α下，查得临界值：Fα（1，n－2)若F＞Fα（1，n－2)，则认为x与y有明显的线性关系，所建立的线形回归方程有意义ReMSFMS⑤方差分析表4.3多元线性回归分析（1）多元线性回归形式试验指标（因变量）y与m个试验因素（自变量）xj（j=1,2,…,m）多元线性回归方程：12mbbb，，...，mmxbxbxbay...ˆ22114.3.1多元线性回归方程的建立偏回归系数：（2）回归系数的确定根据最小二乘法原理：求偏差平方和最小时的回归系数偏差平方和：22112211()(...)nniimmiiiQyyyabxbxbx0jQb0Qa根据：得到正规方程组，正规方程组的解即为回归系数。4.3.2多元线性回归方程显著性检验（1）F检验法总平方和：22211()nnTyyiiiiSSLyyyny211221()...nRyymmyiiSSyybLbLbL21()neiTRiiSSyySSSS回归平方和：残差平方和：F服从自由度为（m，n－m－1）的分布给定的显著性水平α下，若F＞Fα(m，n－m－1)，则y与x1，x2，…，xm间有显著的线性关系方差分析表：（2）相关系数检验法复相关系数（multiplecorrelationcoefficient）R：反映了一个变量y与多个变量（x1，x2，…，xm）之间线性相关程度计算式：R＝1时，y与变量x1，x2，…，xm之间存在严格的线性关系R≈0时，y与变量x1，x2，…，xm之间不存在线性相关关系当0＜R＜1时，变量之间存在一定程度的线性相关关系R＞Rmin时，y与x1，x2，…，xm之间存在密切的线性关系21eRTTSSSSRSSSSR一般取正值，0≤R≤14.3.3因素主次的判断（1）偏回归系数的标准化设偏回归系数bj的标准化回归系数为Pj：jjjjyyLPbLPj越大，则对应的因素（xj）越重要（2）偏回归系数的显著性检验计算每个偏回归系数的偏回归平方和SSj：SSj＝bjLjySSj的大小表示了因素xj对试验指标y影响程度，对应的自由度dfj＝1jjjeeMSSSFMSMS服从自由度为（1，n－m－1）的F分布如果若F＜Fα(1，n－m－1)，，则说明xj对y的影响是不显著的，这时可将它从回归方程中去掉，变成（m－1）元线性方程（3）偏回归系数的t检验计算偏回归系数jb的标准差：jebjjSSsLt值的计算：2jjjjjjjjjbeeejjbbbLSStFsMSMSMSL单侧t分布表检验：2(1,1)tnm→如果2(1,1)jttnm说明xj对y的影响显著，否则影响不显著，4.4.1一元非线性回归分析通过线性变换，将其转化为一元线性回归问题：直角坐标中画出散点图；推测y与x之间的函数关系；线性变换；用线性回归方法求出线性回归方程；返回到原来的函数关系，得到要求的回归方程4.4非线性回归分析4.4.2一元多项式回归任何复杂的一元连续函数都可用高阶多项式近似表达：212...mmyabxbxbx1122...mmyabXbXbX可以转化为多元线性方程：4.4.3多元非线性回归如果试验指标y与多个试验因素xj之间存在非线性关系，如二次回归模型：211mmjjjjjjkjkjijkyabxbxbxx4.5Excel在回归分析中的应用4.5.1“规划求解”在回归分析中应用解方程组最优化4.5.2Excel内置函数在回归分析中应用4.5.3Excel图表功能在回归分析中的应用4.5.4分析工具库在回归分析中应用