工程矩阵理论(倪)

第1页共55页双语国际教育版系统分析的数学工具——工程矩阵理论（适用于数学专业和其它理工科研究生）倪郁东编著合肥工业大学数学学院第2页共55页目录第一章线性空间与线性变换1§1.1线性空间1§1.2线性变换及其矩阵3§1.3内积空间8§1.4正交变换及其几何与代数特征§1.5应用于小波变换的框架理论15第二章矩阵的标准形理论§2.1线性变换的特征值和特征向量29§2.2矩阵的相似对角化32§2.3特征矩阵的Smith标准形34§2.4矩阵的Jordan标准形34§2.5矩阵的最小多项式第三章矩阵分解29§3.1Gauss消去法与矩阵三角分解29§3.2矩阵的QR分解32§3.3矩阵的满秩分解34§3.4矩阵的奇异值分解34§3.5矩阵分解的应用第四章矩阵范数理论及其应用16§4.1范数与赋范线性空间§4.2向量范数及其性质17§4.3矩阵的范数18§4.4范数的应用19第五章矩阵分析及其应用20§5.1矩阵序列20§5.2矩阵级数21§5.3矩阵函数22§5.4矩阵的微分和积分25第3页共55页§5.5矩阵函数的一些应用26§5.6梯度分析和最优化27第六章特征值估计及极性38§6.1特征值的估计38§6.2广义特征值问题40§6.3对称矩阵特征值的极性41§6.4广义特征值分析的应用42第七章广义逆矩阵43§7.1投影矩阵43§7.2广义逆矩阵46§7.3总体最小二乘方法49第八章Matlab中的矩阵运算简介50§8.1基本矩阵运算50§8.2矩阵分解52§8.3广义逆矩阵和解线性系统54参考文献57第4页共55页编著者说明1、体例格式为：知识要点，章节内容，各章习题。2、章节内容包括：定义，结论，例题，定理，推论，注记。其中，定理和例题均有证明或解答，而结论和推论则不加详述。第5页共55页前言矩阵的概念和理论已被广泛地应用于现代科技的各个领域，有力地推动着现代科学技术的发展。矩阵的思想方法，被广大的科技工作者所掌握和应用(矩阵切换器，线性控制理论)，尤其是计算机科学家和控制科学家爱不释手的重要工具。矩阵的概念脱胎于行列式的形式，是作为表达线性方程组的简单记法而产生的，但其发展的历史却耐人寻味。为了求解线性方程组，1693年莱布尼茨首次使用行列式概念，1750年克拉姆(Gramer)法则创立，1820年高斯(Gauss)提出消元法（这是一种基本而又重要的方法，广泛用于线性方程组的求解，更重要的是由此凝炼出了矩阵初等变换的基本方法），但矩阵的概念一直没有形成。虽然，1801年高斯已把一个线性变换的全部系数视作一个整体，而爱森斯坦因(Eisenstein)在1844年就讨论了线性变换及其乘积，并强调了乘法次序的重要性。直到1851年，西尔维斯特(Sylverster)首先提出使用二维数表的符号表示线性方程组，才引入了矩阵的概念。将矩阵作为一个独立的数学对象进行的研究，开始于1855年以及其后凯莱(Cayley)发表的一系列研究矩阵理论的文章。在这些文献中，他引进了关于矩阵的一些直至现代仍通用的定义，如矩阵相等、零矩阵、单位矩阵、矩阵的和、一个数与一个矩阵的数量积、矩阵的乘积（并且注意到：矩阵的乘法是可结合的，但一般不可交换，且mn矩阵只能用nm矩阵去右乘）、矩阵的逆、转置矩阵、对称矩阵等，并借助于行列式定义了方阵的特征方程和特征根。1858年凯莱发表了《关于矩阵理论的研究报告》，证明了一个重要结果：任何方阵都满足它的特征方程。这个结果现被称为凯莱－哈密顿定理。由于正是由于这些奠基性的工作，凯莱被认为是矩阵理论的创始人。第6页共55页当然，在矩阵理论之中，也积淀了其它众多科学家的卓越贡献。埃米特(Hermite)证明了别的数学家发现的一些矩阵类的特征根的特殊性质，如现在称为埃米特矩阵的特征根性质等。后来，克莱伯施(Clebsch)、布克海姆(Buchheim)等证明了对称矩阵的特征根性质。泰伯(Taber)引入矩阵的迹的概念并给出了一些有关的结论。在矩阵论的发展史上，弗罗伯纽斯(Frobenius)的贡献是不可磨灭的。他讨论了最小多项式问题，引进了矩阵的秩、不变因子和初等因子、正交矩阵、矩阵的相似变换、合同矩阵等概念，以合乎逻辑的形式整理了不变因子和初等因子的理论，并讨论了正交矩阵与合同矩阵的一些重要性质。1870年，约当(Jordan)研究了矩阵化为标准形的问题，建立了著名的约当标准型理论。1892年，梅茨勒(Metzler)引进了矩阵的超越函数概念并将其写成矩阵的幂级数的形式。傅立叶、西尔和庞加莱的著作中还讨论了无限阶矩阵问题，这主要是适用方程发展的需要而开始的。到19世纪末，矩阵理论已日臻完善，但其应用并不十分广泛，这主要归因于大规模线性方程组求解问题的计算复杂度太大，难以手工进行下去。进入20世纪之后，当人们渐渐以为有限维度的矩阵理论和方法已经终结的时候，计算机技术出现了，这使得矩阵理论获得新生。矩阵本身所具有的性质依赖于元素的性质即相互关系，矩阵由最初作为一种工具经过一个多世纪的发展，现在已成为独立的一门数学分支——矩阵理论。而矩阵理论又可分为矩阵方程论、矩阵分解论和广义逆矩阵论等矩阵的现代理论。矩阵及其理论的应用是多方面的，不仅在数学领域里，而且在力学、物理、科技等方面都十分广泛的应用。这些应用主要集中于线性问题表示、计算与分第7页共55页析，以及非线性问题的线性分析与处理。矩阵理论发展示意图1820年高斯(Gauss)提出消元法1855-58年凯莱(Cayley)创立矩阵基本理论1851年西尔维斯特(Sylverster)创立矩阵的概念1878年弗罗伯纽斯(Frobenius)创立矩阵理论1870年约当(Jordan)创立标准形理论1892年，梅茨勒(Metzler)创立矩阵函数理论第8页共55页第一章线性空间与线性变换知识要点：1、线性空间的概念（数域、线性运算封闭性、线性运算公理），结构（线性无关、基、维数，向量在基下的线性表示和坐标），过渡矩阵和向量的坐标变换（可按形式矩阵乘法直接表示）。2、线性空间同构的概念（可自学）。3、线性子空间的概念（定义与充要条件，生成子空间，交空间，和空间，维数定理，直和与直和分解定理）。4、线性变换及其矩阵表示（定义与运算，象空间、核空间和不变子空间，线性变换在基下的表示:变换与矩阵一一对应、不同基下矩阵相似，线性变换下向量的坐标：变换矩阵左乘向量坐标）。5、欧氏空间与酉空间（内积、范数与距离，正交基、正交阵与酉阵，正交补与正交分解）。6、正交变换及其特征（正交变换及其线性性，正交变换的几何特征，正交变换的矩阵特征）。7、应用于小波变换的框架理论（对偶框架，紧框架，Riesz基）。§1.1线性空间一、线性空间的概念定义1：设非空集合V相对于数域P具有封闭的加法和数乘运算，并且具有与任何元素之和仍为该元素的零元素，同时每个元素均具有与其之和为零元素的负元素。若V中运算满足加法结合律与交换律、数乘结合律与分配律、乘1不变性，则称V为数域P上的线性空间。注1：数域是指对加减乘除四则运算封闭的数集，如有理数集、实数集、复数集等。注2：易证零元素和负元素均是唯一的。例1：数域P上的n维（列）向量空间nP。按n维向量的线性运算，nP构成数域P上的线性空间。例2：nP中的子集0mnSxAx。按nP中的线性运算，非空子集S是封闭的，从而构成数域P上的线性空间。例3：数域P上的mn阶矩阵空间mnP。按mn阶矩阵的线性运算，mnP构成数域P上的线性空间。例4：数域P上的多项式空间[]Px。按多项式的线性运算，[]Px构成数域P上的线性空间。例5：区间[,]ab上的实值连续函数空间[,]Cab。按函数的线性运算，[,]Cab构成数域P上的线性空间。第9页共55页例6：nP例7：二、线性空间的结构定义2：设12,,,r为数域P上的线性空间V中的一组向量，若有P中不全为零的一组数12,,,rkkk，使得11220rrkkk，则称12,,,r线性相关，否则称为线性无关。定义3：设线性空间V中有一组向量12,,,r，满足：（1）12,,,r线性无关；（2）V中任一向量均可由12,,,r线性表示。则称12,,,r为V的一组基，数r称为V的维数，记为dimV。结论1：设12,,,n为数域P上线性空间V的一组基，则对于任何向量V,存在唯一一组数12,,,nkkkP,使得1122nnkkk,从而112212,,,nnnVkkkkkkP。将记为1212,,,nnkkk（），12nkkk称为在基12,,,n下的坐标。注：线性空间的基可以理解为空间中的一种参照系，能将所有元素线性表示出来。例6：1,0,,0,1,,00,0,,1TTT（）,（0）,,（）为nP中的一组基，ndimPn；100010000000000000,,000000001mnmnmn，为mnP中的一组基，mndimPmn；211,,,,nxxx为[]nPx中的一组基，[]ndimPxn；11,,,,nxx中任意有限个向量均为[,]Cab中线性无关的向量组，因而[,]Cab不是有限维空间。注：有限维空间的基不是唯一的，但其维数是唯一确定的。三、过渡矩阵和向量的坐标变换定义4：设12,,,n和12,,,n为线性空间V中的两组基，若11112121nnppp第10页共55页21212222nnppp…………………1122nnnnnnppp则矩阵()ijnPp称为从12,,,n到12,,,n的过渡矩阵。将上述基变换表达式简记为1212,,,,,,nnP，称之为基变换公式。定理1：线性空间基之间的过渡矩阵是可逆的。证明：设从基12,,,n到基12,,,n的过渡矩阵为P，则1212,,,,,,nnP。对于任何列向量12,,,Tnkkk，120nkkPk时，11221212,,,,,,0nnnnkkkkPkk。由此可得120nkkk，从而过渡矩阵P是可逆的。推论：设P为12,,,n到12,,,n的过渡矩阵，则12,,,n到12,,,n的过渡矩阵为1P。证明：设12,,,n到12,,,n的过渡矩阵为Q，则由1212,,,,,,nnP，1212,,,,,,nnQ可得121212,,,,,,=,,,nnnPQP，从而QPE，即1QP。这说明12,,,n到12,,,n的过渡矩阵为1P。定理2：设向量在基12,,,n和12,,,n下的坐标分别为12n和12n，P为12,,,n到12,,,n的过渡矩阵，则第11页共55页1122nnP或11221nnP。证明：由11221212,,,,,,nnnn（）=（）及1212,,,,,,nnP得，11221212,,,,,,nnnnP（）=（），从而1122nnP或11221nnP