数值分析ppt第6章-共轭梯度法

共轭梯度法•在使用SOR方法求解线性方程组时，需要确定松驰因子，只有系数矩阵具有较好的性质时，才有可能找到最佳松驰因子，而且计算时还需要求得对应的Jacobi矩阵B的谱半径，这常常是非常困难的。•介绍一种不需要确定任何参数的求解对称正定线性方程组的方法——共轭梯度法（或简称CG法）。它是50年代初期由Hestenes和Stiefel首先提出的，近20年来有关的研究得到了前所未有的发展，目前有关的方法和理论已经相当成熟，并且已经成为求解大型稀疏线性方程组最受欢迎的一类方法。•共轭梯度法可由多种途径引入，这里我们将采用较为直观的最优化问题来引入。为此，我们先来介绍最速下降法。定理6.4.1设对称正定，求解方程组等价于求二次泛函的极小点。考虑线性方程组(4.1)是给定的阶对称正定矩阵，是给定的维向量，是待求的为此，我们定义二次泛函(4.2)的求解问题。其中维向量。证明直接计算可得令，则有若在某点处达到极小，则必有，从而有，即是方程组的解。反之，若是方程组的解，即于是对任一向量有注意到A的正定性，则，因此即是泛函的极小点。最速下降法求解线性方程组的问题就转化为求二次泛函的极小点的问题。求二次函数的极小值问题，通常的做法就好象盲人下山那样，先任意给定一个初始向量确定一个下山的方向，沿着经过点而方向为的直线找一个点使得对所有实数有以上性质说明不论采用什么方法，只要能够构造作为搜索方向，从任一初始向量出发，依次沿两两Ａ共轭的方向进行搜索，经步迭代后，便可得到正定方程组的解．个两两Ａ共轭的向量由此可得由共轭梯度法得到的向量组和具有如下性质：1、2、3、所以