主成分分析PCA

主成分分析PCAPrincipalComponentAnalysis2内容一、引子二、问题的提出三、主成分分析1.二维数据的例子2.PCA的几何意义3.均值和协方差、特征值和特征向量4.PCA的性质四、主成分分析的算法五、具体实例实例2六、结论31.引子•假定你是一个公司的财务经理，掌握了公司的所有数据，比如固定资产、流动资金、每一笔借贷的数额和期限、各种税费、工资支出、原料消耗、产值、利润、折旧、职工人数、职工的分工和教育程度等等。•如果让你介绍公司状况，你能够把这些指标和数字都原封不动地摆出去吗？•当然不能。实例1实例2•你必须要把各个方面作出高度概括，用一两个指标简单明了地把情况说清楚。4PCA•多特征/属性问题是经常会遇到的。特征太多，无疑会增加分析问题的难度与复杂性.•在许多实际问题中，多个特征之间是具有一定的相关关系的。因此，能否在各个变量之间相关关系研究的基础上，用较少的新特征代替原来较多的变量，而且使这些较少的新特征尽可能多地保留原来较多的特征所反映的信息？事实上，这种想法是可以实现的.•主成分分析原理:是把原来多个特征化为少数几个特征指标的一种统计分析方法，从数学角度来看，这是一种降维处理技术。•主成分分析方法就是综合处理这种问题的一种强有力的方法。5(1)如何作主成分分析?当分析中所选择的变量具有不同的量纲，变量水平差异很大，应该选择基于相关系数矩阵的主成分分析。在力求数据信息丢失最少的原则下，对高维的特征空间降维，即研究指标体系的少数几个线性组合，并且这几个线性组合所构成的综合指标将尽可能多地保留原来指标变异方面的信息。这些综合指标就称为主成分。要讨论的问题是：2.问题的提出6各个变量之间差异很大7（2）如何确定主成分的数量。主成分分析的目的是简化特征空间，一般情况下主成分的个数应该小于原始特征的个数。关于保留几个主成分，应该权衡主成分个数和保留的信息。（3）如何解释主成分所包含的几何意义。8美国的统计学家斯通(Stone)在1947年关于国民经济的研究是一项十分著名的工作。他曾利用美国1929一1938年各年的数据，得到了17个反映国民收入与支出的属性/特征要素，例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息、利息、外贸平衡等等。在进行主成分分析后，竟以97.4％的精度，用三个新属性就取代了原17个属性。实例1:经济分析9根据经济学知识，斯通给这三个新属性分别命名为总收入F1、总收入变化率F2和经济发展或衰退的趋势F3。更有意思的是，这三个属性其实都是可以直接测量的。10主成分分析就是试图在力保数据信息丢失最少的原则下，对这种多特征的数据表进行最佳综合简化，也就是说，对高维特征空间进行降维处理。很显然，识辨系统在一个低维空间要比在一个高维空间容易得多。11实例2:成绩数据•100个学生的数学、物理、化学、语文、历史、英语的成绩如下表（部分）。12从本例可能提出的问题•目前的问题是，能不能把这个数据的6个属性用1～2个综合属性来表示呢？•这一两个综合属性包含有多少原来的信息呢？•能不能利用找到的综合属性来对学生排序呢？这一类数据所涉及的问题可以推广到对企业，对学校进行分析、排序、判别和分类等问题。13•例中的的数据点是六维的；也就是说，每个观测值是6维空间中的一个点。我们希望把6维空间用低维空间表示。3.1PCA:二维数据分析14平均成绩73.769.861.372.577.272.36372.370单科平均成绩74.1747066.473.663.31564666870727476788082846065707580859095100dataM16•先假定数据只有二维，即只有两个特征，它们由横坐标和纵坐标所代表；因此每个观测值都有相应于这两个坐标轴的两个坐标值；•如果这些数据形成一个椭圆形状的点阵（这在特征的二维正态的假定下是可能的）.17•2x1x1F2F••••••••••••••••••••••••••••••••••••3.2主成分分析的几何解释平移、旋转坐标轴18•2x1x1F2F••••••••••••••••••••••••••••••••••••主成分分析的几何解释平移、旋转坐标轴•19•2x1x1F2F•••••••••••••••••••••••••••••••••••主成分分析的几何解释平移、旋转坐标轴•20•2x1x1F2F••••••••••••••••••••••••••••••••••••主成分分析的几何解释平移、旋转坐标轴•••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••213.2.PCA:进一步解释-4-2024-4-2024•椭圆有一个长轴和一个短轴。在短轴方向上，数据变化很少；在极端的情况，短轴如果退化成一点，那只有在长轴的方向才能够解释这些点的变化了；这样，由二维到一维的降维就自然完成了。22-4-2024-4-2024二维数据23进一步解释PCA•当坐标轴和椭圆的长短轴平行，那么代表长轴的变量就描述了数据的主要变化，而代表短轴的变量就描述了数据的次要变化。•但是，坐标轴通常并不和椭圆的长短轴平行。因此，需要寻找椭圆的长短轴，并进行变换，使得新变量和椭圆的长短轴平行。•如果长轴变量代表了数据包含的大部分信息，就用该变量代替原先的两个变量（舍去次要的一维），降维就完成了。•椭圆（球）的长短轴相差得越大，降维也越有道理。24进一步解释PCA(续)•对于多维变量的情况和二维类似，也有高维的椭球，只不过无法直观地看见罢了。•首先把高维椭球的主轴找出来，再用代表大多数数据信息的最长的几个轴作为新变量；这样，主成分分析就基本完成了。•注意，和二维情况类似，高维椭球的主轴也是互相垂直的。这些互相正交的新变量是原先变量的线性组合，叫做主成分(principalcomponent)。25•正如二维椭圆有两个主轴，三维椭球有三个主轴一样，有几个变量，就有几个主成分。•选择越少的主成分，降维就越好。什么是标准呢？那就是这些被选的主成分所代表的主轴的长度之和占了主轴长度总和的大部分。有些文献建议，所选的主轴总长度占所有主轴长度之和的大约85%即可，其实，这只是一个大体的说法；具体选几个，要看实际情况而定。263.3.均值和协方差、特征值和特征向量-4-2024-4-202411121212221212nnppnpnnpxxxxxxxxxXXXX设有n个样本，每个样本观测p个指标（变量）：X1，X2，…，Xn,得到原始数据矩阵：27.1()nn12MX+X++XkkX=X-M1.样本均值显然,样本均值是数据散列图的中心.于是p*n矩阵的列B具有零样本均值,称为平均偏差形式12,,,nBXXX-4-2024-4-2024M2811TnSBB2.样本协方差中心中心协方差的大小在一定程度上反映了多特征之间的相关关系，但它还受每种特征自身度量单位的影响.注意：协方差是对称矩阵且半正定293.3特征值与特征向量定义Ａ为ｎ阶方阵，λ为数，X为ｎ维非零向量，AXX若则λ称为Ａ的特征值，X称为Ａ的特征向量．注②并不一定唯一；,X③ｎ阶方阵Ａ的特征值，就是使齐次线性方程组①特征向量，特征值问题只针对与方阵；0X0IAx有非零解的λ值，即满足的λ都是方阵Ａ的特征值．0IA定义0IA称以λ为未知数的一元ｎ次方程为Ａ的特征方程．30•例1:从一个总体中随机抽取4个样本作三次测量,每一个样本的观测向量为:123414782,2,8,411315XXXX计算样本均值M和协方差矩阵S以及S的特征值和特征向量.11niinMX11TnSBBSXX31SyntaxC=cov(X)AlgorithmThealgorithmforcovis[n,p]=size(X);X=X-ones(n,1)*mean(X);Y=X'*X/(n-1);SeeAlsocorrcoef,mean,std,var2014/10/1032•2x1x1F2F••••••••••••••••••••••••••••••••••••平移、旋转坐标轴•M2014/10/1033为了方便，我们在二维空间中讨论主成分的几何意义。设有n个样本，每个样本有两个观测特征xl和x2，在由特征xl和x2所确定的二维平面中，n个样本点所散布的情况如椭圆状。由图可以看出这n个样本点无论是沿着xl轴方向或x2轴方向都具有较大的离散性，其离散的程度可以分别用观测变量xl的方差和x2的方差定量地表示。显然，如果只考虑xl和x2中的任何一个，那么包含在原始数据中的信息将会有较大的损失。2014/10/1034•如果我们将xl轴和x2轴先平移，再同时按逆时针方向旋转角度，得到新坐标轴Fl和F2。Fl和F2是两个新特征。2014/10/1035Fl，F2除了可以对包含在Xl，X2中的信息起着浓缩作用之外，还具有不相关的性质，这就使得在研究复杂的问题时避免了信息重叠所带来的虚假性。二维平面上的个点的方差大部分都归结在Fl轴上，而F2轴上的方差很小。Fl和F2称为原始变量x1和x2的综合特征。F简化了系统结构，抓住了主要矛盾。36§3.4PCA的性质一、两个线性代数的结论1、若A是p阶实对称阵，则一定可以找到正交阵U，使ppp00000021AUU1pii.2.1,其中是A的特征根。372、若上述矩阵的特征根所对应的单位特征向量为ppppppuuuuuuuuu212222111211),,(p1uuU则实对称阵属于不同特征根所对应的特征向量是正交的，即有p1uu,,令AIUUUU38§3.4PCA的性质(续)3、均值()TTExMUU4、方差为所有特征根之和1()piiVarF2221212pp说明主成分分析把P个随机变量的总方差分解成为P个不相关的随机变量的方差之和。协方差矩阵的对角线上的元素之和等于特征根之和。393.4、精度分析1）贡献率：第i个主成分的方差在全部方差中所占比重，称为贡献率，反映了原来P个指标多大的信息，有多大的综合能力。piii12）累积贡献率：前k个主成分共有多大的综合能力，用这k个主成分的方差和在全部方差中所占比重来描述，称为累积贡献率。piikii1140PCA常用统计量：•１.特征根λi•２.各成分贡献率•３.前各成分累计贡献率•４.特征向量各成分表达式中标准化原始变量的系数向量，就是各成分的特征向量。ii41我们进行主成分分析的目的之一是希望用尽可能少的主成分F1，F2，…，Fk（k≤p）代替原来的P个指标。到底应该选择多少个主成分，在实际工作中，主成分个数的多少取决于能够反映原来变量80%以上的信息量为依据，即当累积贡献率≥80%时的主成分的个数就足够了。最常见的情况是主成分为2到3个。42例设的协方差矩阵为321,,xxx200052021解得特征根为，，83.5100.2217.03，，000.0924.0383.01U1002U000.0383.0924.03U第一个主成分的贡献率为5.83/（5.83+2.00+0.17）=72.875%，尽管第一个主成分的贡献率并不小，但应该取两个主成分。97.88%43§4主成分分析的步骤)21(21nlxxxplll，，，，，，lXppjjlnliilxxxxxn))((11ˆ1第一步：由X的协方差阵Σx，求出其特征根，即解方程，可得特征根。021p