矩阵论课程论文

浅析矩阵分解在计算分析中的应用【摘要】矩阵作为一种重要的代数工具，其出现的历史可以追溯至公元前，然而矩阵真正成为一个独立的概念并被加以研究的历史开始于19世纪50年代。如今，矩阵理论的发展越来越迅速，到19世纪末，矩阵理论体系已基本形成。到20世纪，矩阵理论得到了进一步的发展。目前，它己经发展成为在物理、控制论、机器人学、生物学、经济学等学科有大量应用的数学分支。本文所剖析的矩阵分解，是矩阵理论的一个重要分支。它是将一个矩阵分解为较为简单的或具有某种特性的若干矩阵的和或者乘积，一方面用来反映矩阵的某些数值特性，如矩阵的秩、特征值、奇异值等；另一方面为某些有效的数值计算方法和理论分析提供了重要的依据。它是应用于解最优化问题、特征值问题、最小二乘方问题的主要数学工具，在广义逆矩阵问题和统计学方面也有重要应用。本文首先介绍了矩阵与矩阵分解的相关知识，随后阐述了应用矩阵分解解方程组的原理，以及利用矩阵范数判断方程组解的稳定性的方法，最后介绍了一种改进的斜量法。关键词：矩阵分解计算分析解方程组稳定性斜量法一、矩阵理论的介绍在数学上，矩阵是指纵横排列的二维数据表格，最早来自于方程组的系数及常数所构成的方阵。这一概念由19世纪英国数学家凯利首先提出。1850年，英国数学家西尔维斯特(SylveSter，1814--1897)在研究方程的个数与未知量的个数不相同的线性方程组时，由于无法使用行列式，所以引入了矩阵的概念。1855年，英国数学家凯莱(Caylag，1821--1895)在研究线性变换下的不变量时，为了简洁、方便，引入了矩阵的概念。1858年，凯莱在《矩阵论的研究报告》中，定义了两个矩阵相等、相加以及数与矩阵的数乘等运算和算律，同时，定义了零矩阵、单位阵等特殊矩阵，更重要的是在该文中他给出了矩阵相乘、矩阵可逆等概念，以及利用伴随阵求逆阵的方法，证明了有关的算律，如矩阵乘法有结合律，没有交换律，两个非零阵乘积可以为零矩阵等结论，定义了转置阵、对称阵、反对称阵等概念。1878年，德国数学家弗罗伯纽斯(Frobeniws，1849一1917)在他的论文中引入了λ矩阵的行列式因子、不变因子和初等因子等概念，证明了两个λ矩阵等价当且仅当它们有相同的不变因子和初等因子，同时给出了正交矩阵的定义,1879年，他又在自己的论文中引进矩阵秩的概念。矩阵的理论发展非常迅速，到19世纪末，矩阵理论体系已基本形成。到20世纪，矩阵理论得到了进一步的发展。目前，它己经发展成为在物理、控制论、机器人学、生物学、经济学等学科有大量应用的数学分支。在物理学中，矩阵于电路学、力学、光学和量子物理中都有应用；计算机科学中，三维动画制作也需要用到矩阵。矩阵的运算是数值分析领域的重要问题。将矩阵分解为简单矩阵的组合可以在理论和实际应用上简化矩阵的运算。二、矩阵分解的概念与常用方法矩阵分解(decomposition,factorization)是将矩阵拆解为数个矩阵的乘积，这些特殊的分解形式，一方面反映了矩阵的某些数值特性，如矩阵的秩、特征值、奇异值等；另一方面矩阵的分解方法与过程往往为某些有效的数值计算方法和理论分析提供了重要的依据。常见的矩阵分解方法有四种，分别为三角（LU）分解法、QR分解法、满秩分解法和奇异值（SVD）分解法。1、三角分解法三角分解法是将原正方矩阵分解成一个上三角形矩阵或是上三角形矩阵和一个下三角形矩阵的乘积，即A=LU，其中L和U分别是下三角矩阵和上三角矩阵。这样的分解法又称为LU分解法。它的用途主要在简化一个大矩阵的行列式值的计算过程，求反矩阵，和求解联立方程组。例如对于一个的矩阵，就有。如果进一步变形为A=LDU，其中D是对角矩阵，L和U是单位三角矩阵。此时，称为LDU分解。2、QR分解法QR分解法是将矩阵A分解成一个正规正交矩阵与上三角形矩阵的乘积,即A=QR，其中Q是正交矩阵，R是上三角矩阵，所以称为QR分解法,与此正规正交矩阵的通用符号Q有关。QR分解的实际算法各种各样，有Schmidt正交方法、Givens方法和Householder方法，而且各有优点和不足。1）Schmidt正交方法的QR分解Schmidt正交方法解求QR分解原理很简单，容易理解。步骤主要有：1）把A写成m个列向量a=（，，……，），并进行Schmidt正交化得=（，，……，）；2)单位化，并令Q=（，，……，），R=diag（，，……，）K，其中a=K；3）A=QR.这种方法来进行QR分解，过程相对较为复杂，尤其是计算量大，尤其是阶数逐渐变大时，就显得更加不方便。2）Givens方法的QR分解Givens方法求QR分解是利用旋转初等矩阵，即Givens矩阵Tij(c,s)来得到的，Tij(c,s)是正交矩阵，并且det(Tij(c,s))=1。Tij(c,s)的第i行第i列和第j行第j列为cos，第i行第j列和第j行第i列分别为sin和-sin，其他的都为0.任何n阶实非奇异矩阵A可通过左连乘Tij(c,s)矩阵（乘积为T）化为上三角矩阵R，另Q=T-，就有A=QR。该方法最主要的是在把矩阵化为列向量的基础上找出c和s，然后由此把矩阵的一步步向上三角矩阵靠近。Givens方法相对Schmidt正交方法明显的原理要复杂得多，但是却计算量小得多，矩阵Tij(c,s)固有的性质很特别可以使其在很多方面的应用更加灵活。3）Householder方法的QR分解Householder方法分解矩阵是利用反射矩阵，即Householder矩阵，其中u是单位列向量，H是正交矩阵，。可以证明，两个H矩阵的乘积就是Givens矩阵，并且任何实非奇异矩阵A可通过连乘Householder矩阵（乘积为S）化为上三角矩阵R，则A=QR。这种方法首要的就是寻找合适的单位列向量去构成矩阵H，过程和Givens方法基本相似，但是计算量要小一些。矩阵的QR分解可以用来解决线性最小二乘法的问题，也可以用来降低矩阵求逆的代价。矩阵的求逆是件不小的工程，尤其是阶数慢慢变大的情况时，而用先把矩阵QR分解成正交矩阵和上三角矩阵，就容易多了，况且正交矩阵的转置就是逆，这一点是其他的矩阵分解无法比拟的。在解求线性方程组中，如果系数矩阵的阶数比较大，可以利用QR分解来使计算简单化。另外，QR分解考虑的是n阶矩阵，其他的矩阵是不能用这种方法进行分解，由于QR分解的这一前提条件，使得下面提到的满秩矩阵分解和奇异值分解就有了其特殊的意义。3、满值分解法满秩分解也称最大秩分解，前面的QR分解是面对n阶矩阵的，而满秩分解可以处理长方阵。满秩分解是指，把秩为r的mxn矩阵A分解成A=FG，其中F是秩为r的mxr阶矩阵，G是秩为r的rxn阶矩阵。满秩矩阵的解求可以通过初等变换法，但是必须经过多次求逆，所以就利用Hermite行标准形来完成。把矩阵A经过变换成为Hermite行标准形B，B的j1,j2,……，jr列为单位矩阵Im的前r列，另A的第j1,j2,……，jr列为矩阵F，B的前r行为矩阵G，则有A=FG。在广义逆中，满秩分解有很多的应用。在证明A｛1｝的存在性时就需要用到Hermite行标准形来得到“对于任一的矩阵，总是存在非奇异矩阵Q和置换矩阵P，使”，之后才能构造来证明A｛1｝是存在的。用矩阵的满秩分解还能构造A+，若矩阵A有满秩分解，即A=FG，则可以证明有。4、奇异值分解法矩阵的奇异值分解是线性代数中一种重要的矩阵分解，在最优化问题、特征值问题、最小二乘问题和广义逆问题及统计学问题中都有重要的应用。对秩为r的mxn阶矩阵A进行奇异值分解的步骤是：1）求得AHA的特征值,及对应的特征向量并正交单位化，得矩阵V，使得,；2）将V的前r列作为，令，再扩张U1成m阶的矩阵U；3）那么。从计算过程中可以看出，矩阵的奇异值分解解求是由矩阵的特征值开始的，因此这种分解自然和特征值的问题有莫大联系的。在广义逆问题中，矩阵的奇异值分解的作用一样不可代替。在证明A｛1，2，3｝的存在性时，首先就需要用奇异分解来得到一个结论：r(AHA)=r(AAH)=r(AH)=r(A)，由此得到的AH可以由AHA表示，再去证明A｛1，2，3｝应该满足的条件就方便得多了。另外，在构造A+的过程中也有应用，若A有奇异值分解，则有可以得到。三、矩阵分解在解方程组中的应用矩阵分解在计算中的应用主要是在解线性方程组中，将矩阵分解为简单矩阵的组合可以在理论和实际应用上简化解线性方程组的运算。相关的步骤如下：1、系数矩阵的三角分解数值求解线性方程组的方法中有一个主要是直接法，假设计算中没有舍入误差，经过有限次算术运算能够给出问题的精确解的数值方法。其中高斯消去法就是利用矩阵的分解实现的。矩阵的一种有效而且应用广泛的分解法就是三角分解法，将一个矩阵分解为一个酉矩阵（或正交矩阵）与一个三角矩阵的乘积或者三角矩阵与三角矩阵的乘积。考虑一般的线性方程组，设其中的系数矩阵A是可逆的，1111nmmnaaAaa（1-1）设矩阵A的第一列中至少有一个是非零元素（否则A就是奇异矩阵）不妨设为1ia若一般的记初等矩阵[1]101(,)101iPijjij（1-2）根据矩阵理论的知识我们知道矩阵(,)Pij左乘矩阵A，作用就是对换A的第i和第j行，右乘A的作用是对换A第i和第j列。因此通过取11(1,)PPi，则矩阵111()ijAPAa中的1110a。用第一行与其他行的线性组合可以将1A第一列对角线以下部分全部变为0。这一过程写成矩阵形式即11111BEPAEA（1-3）其中1211113111111/1/1/1nasEasas（1-4）这里1111sa，注意到111111123112223213233323000nnnnnnnaaaabbbBbbbbbb（1-5）并且该矩阵仍然是可逆矩阵。所以22232,,,nbbb中至少有一个不为0，设20ib。同理取22(2,)PPi，令221APB如此逐步消元可得到111111123112222223211111000nnkkkkkkkknkknknnaaaaaaaBEPEPbbbb（1-6）若再假设0kikb，取(,)kkPPki对1kB换行，即1kkkAPB可得1111kkkkAPEPEPA该矩阵的形状为1111111231122222232000nnkkkkkknkknknnaaaaaaaAaaaa（1-7）在（1-6）中(,)kkPPki，这里kik，如果记kkkksa则1,2.,11/1/1/1kkkkkkkkkknkkEasasas（1-8）很显然对任意的看，都有det()1kE，det()1kP所以他们都是非奇异的矩阵，而且他们的逆矩阵分别是1kkPP（1-9）1,2.,11/1/1/1kkkkkkkkkknkkEasasas（1-10）经过1n步消元法的得到矩阵11111nnnBEPEPA（1-11）是一个上三角矩阵。如果记1111nnMEPEP（1-12）则显然线性方程组[1]1nBxMAxMb（1-13）与原方程组同解的。通过以上变换实质上就是矩阵的分解假设消去过程中不实施矩阵行的交换，这时121nPPPI（1-14）由（1-11）经过消去过程后，矩阵1nB就是一个上三角矩阵记1nUB则111121nAEEEU（1-15）而由（1-10）可知每个1kE都是一个下三角矩阵。容易验证111121nLEEE（1-16）是一个下三角矩阵，如果记jijjijjjala则可验证（1-16）的矩阵为2131321231111nnnlLlllll