主成分分析完整版

主成分分析Principalcomponentanalysis•主成分分析的基本思想•主成分的计算•主成分分析的应用主成分分析的基本思想主成分分析就是把原有的多个指标转化成少数几个代表性较好的综合指标，这少数几个指标能够反映原来指标大部分的信息（85%以上），并且各个指标之间保持独立，避免出现重叠信息。主成分分析主要起着降维和简化数据结构的作用。§1基本思想主成分分析是把各变量之间互相关联的复杂关系进行简化分析的方法。在社会经济的研究中，为了全面系统的分析和研究问题，必须考虑许多经济指标，这些指标能从不同的侧面反映我们所研究的对象的特征，但在某种程度上存在信息的重叠，具有一定的相关性。主成分分析试图在力保数据信息丢失最少的原则下，对这种多变量的截面数据表进行最佳综合简化，也就是说，对高维变量空间进行降维处理。很显然，识辨系统在一个低维空间要比在一个高维空间容易得多。(1)基于相关系数矩阵/协方差矩阵做主成分分析？(2)选择几个主成分？(3)如何解释主成分所包含的实际意义？在力求数据信息丢失最少的原则下，对高维的变量空间降维，即研究指标体系的少数几个线性组合，并且这几个线性组合所构成的综合指标将尽可能多地保留原来指标变异方面的信息。这些综合指标就称为主成分。要讨论的问题是：§2数学模型与几何解释假设我们所讨论的实际问题中，有p个指标，我们把这p个指标看作p个随机变量，记为X1，X2，…，Xp，主成分分析就是要把这p个指标的问题，转变为讨论m个新的指标F1，F2，…，Fm(mp），按照保留主要信息量的原则充分反映原指标的信息，并且相互独立。npnnppXXXXXXXXXX212222111211pXXX21niiiiXXXX21其中ppppppppppXaXaXaFXaXaXaFXaXaXaF22112222112212211111这种由讨论多个指标降为少数几个综合指标的过程在数学上就叫做降维。主成分分析通常的做法是，寻求原指标的线性组合Fi。满足如下的条件：122221piiiaaapjijiFFCovji，，，，，，），（210)()(21pFVarFVarFVar）（主成分之间相互独立，即无重叠的信息。即主成分的方差依次递减，重要性依次递减，即每个主成分的系数平方和为1。即•2x2x1F2F••••••••••••••••••••••••••••••••••••主成分分析的几何解释旋转坐标轴•2121212211cossinsincoscossinsincosxxFFxxFxxF旋转变换的目的是为了使得n个样本点在F1轴方向上的离散程度最大，即F1的方差最大，变量F1代表了原始数据的绝大部分信息，在研究某经济问题时，即使不考虑变量F2也损失不多的信息。F1与F2除起了浓缩作用外，还具有不相关性。F1称为第一主成分，F2称为第二主成分。主成分的计算先讨论二维情形212122211211ˆXXXXXXXXXnn求第一主成分F1和F2。21,xx我们已经把主成分F1和F2的坐标原点放在平均值所在处，从而使得F1和F2成为中心化的变量，即F1和F2的样本均值都为零。因此F1可以表示为)()(222111111xxaxxaF),(2111aa关键是，寻找合适的单位向量，使F1的方差最大。1问题的答案是：X的协方差矩阵S的最大特征根所对应的单位特征向量即为。并且就是F1的方差。2111,aa1同样，F2可以表示为)()(222211122xxaxxaF),(2212aa寻找合适的单位向量，使F2与F1独立，且使F2的方差（除F1之外）最大。2问题的答案是：X的协方差矩阵S的第二大特征根所对应的单位特征向量即为。并且就是F2的方差。2212,aa2)()(222111111xxaxxaF)()(222211122xxaxxaF其中，aij称为因子载荷量因子载荷量：主成分与变量间的相关系数，即：因子载荷量的大小和它前面的正负号直接反映了主成分与相应变量之间关系的密切程度和方向。从而可以说明各主成分的意义求解主成分的步骤：1.求样本均值和样本协方差矩阵S;),(21xxX2.求S的特征根求解特征方程，其中I是单位矩阵，解得2个特征根0IS2121,3.求特征根所对应的单位特征向量4.写出主成分的表达式)()(222111111xxaxxaF)()(222211122xxaxxaF身高x1(cm)胸围x2(cm)体重x3(kg)149.5162.5162.7162.2156.5156.1172.0173.2159.5157.769.577.078.587.574.574.576.581.574.579.038.555.550.865.549.045.551.059.543.553.5例1下表是10位学生的身高1x、胸围2x、体重3x的数据。对此进行主成分分析。1.求样本均值和样本协方差矩阵2.513.772.161321xxx53.5558.3200.3011.2112.1767.46S2.求解协方差矩阵的特征方程0IS053.5558.3200.3058.3211.2112.1700.3012.1767.463.解得三个特征值15.98160.23256.13)71.0,42.0,56.0(),,(312111aaa)48.0,33.0,81.0(),,(322212aaa)53.0,85.0,03.0(),,(332313aaa和对应的单位特征向量：4.由此我们可以写出三个主成分的表达式：)2.51(71.0)3.77(42.0)2.161(56.03211xxxF)2.51(48.0)3.77(33.0)2.161(81.03212xxxF)2.51(53.0)3.77(85.0)2.161(03.03213xxxF5.主成分的含义F1表示学生身材大小。F2反映学生的体形特征三个主成分的方差贡献率分别为：%6.7931.12315.9856.160.2315.9815.98311ii%1.1931.12360.23312ii%3.131.12356.1313ii前两个主成分的累积方差贡献率为：%7.9831.12375.1213121ii在一般情况下，设有n个样品，每个样品观测p个指标，将原始数据排成如下矩阵：npnnppxxxxxxxxx.....................212222111211多指标求解主成分的步骤：),...,,(21pxxxX1.求样本均值和样本协方差矩阵S;2.求解特征方程IS=0,其中I是单位矩阵,解得p个特征根p,...,,21)...(21p3.求k所对应的单位特征向量k),...,2,1(pk解得),...,,(21pkkkkaaa4.写出主成分的表达式)(...)()(222111pppkkkkxxaxxaxxaFppkkkkxaxaxaF...2211或根据累积贡献率的大小取前面m个(mp)主成分选取原则：且%85~80111piimii%85~801piiimii主成分个数的选取原则•例设的协方差矩阵为作主成分分析。12(,)TXXX144100•解：如果从出发作主成分分析，易求得其特征值和相应的正交单位化特征向量为的两个主成分分别为第一主成分的贡献率为1122100.16,(0.040,0.999),0.84,(0.999,0.040).TTeeX1122120.0400.999,0.9990.040.YXXYXX112100.1699.2%101R型分析为消除量纲影响，在计算之前先将原始数据标准化。标准化变量的S=R，所以用标准化变量进行主成分分析相当于从原变量的相关矩阵R出发进行主成分分析。统计学上称这种分析法为R型分析，由协方差矩阵出发的主成分分析为S型分析。S型分析和R型分析的结果是不同的。在一般情况下，若各变量的量纲不同，通常采用R型分析。R型分析的概念•这里我们需要进一步强调的是，从相关阵求得的主成分与协差阵求得的主成分一般情况是不相同的。实际表明，这种差异有时很大。•我们认为，如果各指标之间的数量级相差悬殊，特别是各指标有不同的物理量纲的话，较为合理的做法是使用R代替∑。•对于研究经济问题所涉及的变量单位大都不统一，采用R代替∑后，可以看作是用标准化的数据做分析，这样使得主成分有现实经济意义，不仅便于剖析实际问题，又可以避免突出数值大的变量。主成分分析的步骤•1.将原始数据标准化；•2.根据标准化变量求出协方差矩阵（标准化后协方差矩阵与相关矩阵完全一样）；•3.求出相关矩阵的特征值，计算累计贡献率，及其对应的特征向量；•4.确定主成分，进一步分析。对于X=(X1,X2,…,Xp),设E(),Var()kkkkkXX则标准化变量为*,1~kkkkkXXkp企业的经济效益分析某市对下属10个企业作经济效益分析，根据经济统计原理，用取得的生产成果与各项成本的消耗作对比，来衡量每个企业的经济效益，也就是用下述五个指标来对每个企业进行分析。Z1：固定资产的产值率Z2：净产值劳动生产率Z3：万元产值的流动资金占用率Z4：万元产值利润率Z5：万元资金的利润率1、数据标准化2、求相关矩阵R3、计算R的特征值及累积贡献率，并计算相应的特征向量)(ijiiijijzZsxxzTZZnR11经过计算取2个主成分，信息的可靠程度超过85%54321158.017.045.048.0445.0ZZZZZF54321216.065.0436.040.045.0ZZZZZF2.第二主成分F2的意义jjjjjjZZZZZF54321216.065.0436.040.045.0第j个企业的第二主成分值为各企业的第二主成分值如下表-2.070.0927-2.1803-0.70770.4047-0.1223-0.43401.96021.7771.3257F2除了第一系数为正之外，其他约为负值，其中Z4系数绝对值最大。Z1的意义是投资水平，Z4的意义是销售水平。如果投资大，销售水平低，自然F2的值会增大。所以F2的值较小时，反映企业的投资与收益比值较小。由此看来，企业8，9，10的F2值趋大，应属于不景气范围。企业7的投资虽最大，但盈利水平居高，因此F2值较小。企业1，3的F2值最小，反映这两个企业投资额与销售额之比最小，因此是经济效益好的企业。由于上述分析应该有90%以上的可信度。%95521