协方差分析理论与案例

1协方差分析理论与案例假设我们有N个个体的K个属性在T个不同时期的样本观测值，用ity,itx，…，N,t=1，…，T,k=1，…，K表示。一般假定y的观测值是某随机实验的结果，该实验结果在属性向量x和参数向量下的条件概率分布为(,)fyx。使用面板数据的最终目标之一就是利用获取的信息对参数进行统计推断，譬如常假设假定的y是关于x的线性函数的简单模型。协方差分析检验是识别样本波动源时广泛采用的方法。方差分析：常指一类特殊的线性假设，这类假设假定随机变量y的期望值仅与所考察个体所属的类（该类由一个或多个因素决定）有关，但不包括与回归有关的检验。而协方差分析模型具有混合特征，既像回归模型一样包含真正的外生变量，同时又像通常的方差一样允许每个个体的真实关系依赖个体所属的类。常用来分析定量因素和定性因素影响的线性模型为：*,1,,,1,,ititititityxuiNtT从两个方面对回归系数估计量进行检验：首先，回归斜率系数的同质性；其次，回归截距系数的同质性。检验过程主要有三步：(1)检验各个个体在不同时期的斜率和截距是否都相等；(2)检验（各个体或各时期的）回归斜率（向量）是否都相等；(3)检验各回归截距是否都相等。显然，如果接受完全同同质性假设（1），则检验步骤中止。但如果拒绝了完全同质性性假设，则（2）将确定回归斜率是否相同。如果没有拒绝斜率系数的同质性假设，则（3）确定回归截距是否相等。（1）是从（2）、（3）分离出来的。基本思想：在作两组或多组均数1y，2y，…，ky的假设检验前，用线性回归分析方法找出协变量X与各组Y之间的数量关系，求得在假定X相等时修定均数1y，2y，…，ky然后用方差分析比较修正均数间的差别，这就是协方差分析的基本思想。协方差分析的应用条件：⑴要求各组资料都来自正态总体，且各组的方差相等；（t检验或方差分析的条件）⑵各组的总体回归系数i相等，且都不等于0（回归方程检验）。因此，应用协方差分析前，要对资料进行方差齐性检验和回归系数的假设检验（斜率同质性检验），只有满足上述两个条件之后才能应用，否则不宜使用。⑴各比较组协变量X与分析指标Y存在线性关系（按直线回归分析方法进行判断）。⑵各比较组的总体回归系数i相等，即各直线平行(绘出回归直线，看是否2平行)。协方差分析适用的资料：完全随机设计、随机区组设计、拉丁方设计、析因设计等资料；协变量X可以仅有一个，称一元协方差分析；协变量也可以有多个，称多元协方差分析。协方差计算公式：相关系数：22()()()()xxyyrxxyy将公式右端的分子分母同除以自由度(n-1)，得：22()()/(1)()()(1)(1)xxyynrxxyynn其中：2()1xxn是x的均方MSx，它是x的方差2x的无偏估计量；2()1yyn是y的均方MSy，它是y的方差2y的无偏估计量；()()1xxyyn称为x与y的平均的离均差的乘积和，简称均积，记为MPxy，即()()()()=11xyxyxyxxyynMPnn与均积相应的总体参数叫协方差（covariance），记为COV(x,y)或xy。统计学证明了，均积MPxy是总体协方差COV(x,y)的无偏估计量，即EMPxy=COV(x,y)。于是，样本相关系数r可用均方MSx、MSy，均积MPxy表示为：xyxyMPrMSMS相应的总体相关系数ρ可用x与y的总体标准差x、y，总体协方差COV(x,y)或xy表示如下：(,)xyxyxyCOVxy均积与均方具有相似的形式，也有相似的性质。在方差分析中，一个变量的总平方和与自由度可按变异来源进行剖分，从而求得相应的均方。统计学已证明：3两个变量的总乘积和与自由度也可按变异来源进行剖分而获得相应的均积。这种把两个变量的总乘积和与自由度按变异来源进行剖分并获得相应均积的方法亦称为协方差分析。1.协方差分析是将线性回归与方差分析相结合的一种分析方法；2.把对反应变量Y有影响的因素X看作协变量，建立Y对X的线性回归，利用回归关系把X值；3.化为相等，再进行各组Y的修正均数间比较。修正均数是假设各协变量取值固定在其总均数时的反应变量Y的均数。其实质是从Y的总离均差平方和2()YY中，扣除协变量X对Y的回归平方和2()YY，对离回归平方和2()YY作进一步分解后再进行方差分析。方差分析的前提是除随机误差外，水平变量是影响观测值的唯一变量，方差分析数据结构：iijijuteY协方差分析将方差分析与回归分析结合了起来，协方差分析数据结构：()yexiijijijutXuY第i组第j个观测值一般均值第i组的组效应随机误差回归系数协变量效应4协方差案例：设有k个处理、n次重复的双变量试验资料，每处理组内皆有n对观测值x、y，则该资料为具kn对x、y观测值的单向分组资料，其数据一般模式如表10—1所示。表1kn对观测值x、y的单向分组资料的一般形式处理处理1处理2…处理i…处理k观测指标xyxy…xy…xy观测值xij、yij(i=1,2,…kj=1,2,…n)x11x12…x1j…x1ny11y12…y1j…y1nx21x22…x2j…x2ny21y22…y2j…y2n………………xi1xi2…xij…xinyi1yi2…yij…yin……………xk1xk2…xkj…xknyk1yk2…ykj…ykn总和x1.y1.x2.y2.…xi.yi.…xk.yk.平均数.1x.1y.2x.2y….ix.iy….kx.ky表1的x和y变量的自由度和平方和的剖分参见单因素试验资料的方差分析方法一节。其乘积和的剖分则为：总变异的乘积和TSP是ijx与..x和ijy与..y的离均差乘积之和，即：knyxyxyyxxSPkinjijijkinjijijT......)..)((1111(1)Tdf=kn-1其中，knyyknxxyyxxkiikii....,....,...,...11。处理间的乘积和tSP是.ix与..x和.iy与..y的离均差乘积之和乘以n，即：kiiikiiiiitknyxyxnyyxxnSP11....1..)...)(.((10-6)1kdft处理内的乘积和eSP是ijx与.ix和ijy与.iy的离均差乘积之和，即：kinjkitTkiiinjijijiijiijeSPSPyxnyxyyxxSP11111..1.).)(((10-7)edf=k(n-1)以上是各处理重复数n相等时的计算公式，若各处理重复数n不相等，分别为n1、n2、…、5nk，其和为kiin1，则各项乘积和与自由度的计算公式为：kinjkiiiiijijTinyxyxSP111..Tdf=kiin1-1(10-8)kiikkktnyxnyxnyxnyxSP1222111.............1kdftkinjijijeiyxSP11-kkknyxnyxnyx.........222111=SPT-SPtedf=kiin1-k=dfT-dft(10-9)有了上述SP和df，再加上x和y的相应SS，就可进行协方差分析。【例10.1】为了寻找一种较好的哺乳仔猪食欲增进剂，以增进食欲，提高断奶重，对哺乳仔猪做了以下试验：试验设对照、配方1、配方2、配方3共四个处理，重复12次，选择初始条件尽量相近的长白种母猪的哺乳仔猪48头，完全随机分为4组进行试验，结果见表10—2，试作分析。此例，......4321xxxxx=18.25+15.40+15.65+13.85=63.15......4321yyyyy=141.80+130.10+144.80+133.80=550.50k=4，n=12，kn=4×12=48表10—2不同食欲增进剂仔猪生长情况表（单位：kg）处理对照配方1配方2配方3观测指标初生重x50日龄重y初生重x50日龄重y初生重x50日龄重y初生重x50日龄重y观察值xij,yij1.5012.401.3510.201.1510.001.2012.401.8512.001.209.401.1010.601.009.801.3510.801.4512.201.1010.401.1511.601.4510.001.2010.301.059.201.1010.601.4011.001.4011.301.4013.001.009.201.4511.801.3011.401.4513.501.4513.901.5012.501.1512.801.3013.001.3512.801.5513.401.3010.901.7014.801.159.3061.4011.201.3511.601.4012.301.109.601.5011.601.158.501.4513.201.2012.401.6012.601.3512.201.2512.001.0511.201.7012.501.209.301.3012.801.1011.00总和xi.,yi.18.25141.8015.40130.8015.65144.8013.85133.80平均..,iiyx1.5211.821.2810.841.3012.071.151.15协方差分析的计算步骤如下：(一)求x变量的各项平方和与自由度1、总平方和及自由度75.14815.638325.844815.63)10.1...85.150.1(..2222222)(knxxSSijxT)(xTdf=kn-1=4×12-1=472、处理间平方和与自由度83.04815.63)85.1365.1540.1525.18(121...122222212)(knxxnSSkiixt)(xtdf=k-1=4-1=33、处理内平方和与自由度)(xeSS=)(xTSS-)(xtSS=1.75-0.83=0.92)(xedf=)(xTdf-)(xtdf=47-3=44(二)求y变量各项平方和与自由度1、总平方和与自由度76.96485.55031.6410485.550)00.11...00.1240.12(222222..2)(knyySSijyT)(yTdf=kn-1=4×12-1=472、处理间平方和与自由度68.114850.550)80.13380.14480.13080.141(121.1222222..2)(knyynSSiyt)(ytdf=k-1=4-1=33、处理内平方和与自由度)(yeSS=)(yTSS-)(ytSS=96.76-11.68=85.08)(yedf=)(yTdf-)(ytdf=47-3=44(三)求x和y两变量的各项离均差乘积和与自由度1、总乘积和与自由度7knyxyxSPkinjijijT....1125.812450.55015.6350.73212450.55015.6300.1110.1...00.1285.140.1250.1),(yxTdf=kn-1=4×12-1=472、处理间乘积和与自由度knyxyxnSPkiiit......1112450.55015.63)80.13385.1380.14465.1510.13040.1580.14125.18(121=1.64),(yxtdf=k-1=4-1=33、处理内乘积和与自由度eSP=TSP-tSP=8.25-1.64=6.61),(yxedf=),(yxTdf-),(yxtdf=47-3=44平方和、乘积和与自由度的计算结果列于表10—3。表10—3x与