2.2 解线性方程组的迭代法 /* Iterative Methods for Solving Linear Systems */

1. 将 改写为 等价形式 ，建立迭代 　 。从初值 出发，得到序列 。 思路 研究 内容： 2.2 解线性方程组的迭代法 /* Iterative Methods for Solving Linear Systems */ 如何建立迭代格式？　 收敛速度？ 向量序列的收敛条件？ 误差估计？

2. 2.2.1 逐次逼近法(迭代格式的构造) 把矩阵A分裂为 则

3. 给定初值 就得到向量序列 收敛性定义：若 称逐次逼近法收敛 ，否则，称逐次逼近法不收敛或发散。 将上式写为迭代过程 这种迭代过程称为逐次逼近法，B称为迭代矩阵。

4. 定理2.2.1 任意给定初始向量x0，如果由逐次 逼近法产生的向量序列收敛于向量x*，那么， x*是方程组x=Bx+g的解 问题： 是否是方程组Ax=b的解？ 证明：

5. 补充定理 当k时，Bk  0   ( B ) < 1 逐次逼近法收敛的条件 定理2.2.2 设线性方程组x=Bx+g有惟一解，那么逐次逼近法对任意初始向量X０收敛的充分必要条件是迭代矩阵B的谱半径  ( B ) <1 证明： 因此

6. Remark:因为矩阵范数 都可以 直接用矩阵的元素计算，因此,用定理2.2.3， 容易判别逐次逼近法的收敛性。 要检验一个矩阵的谱半径小于1比较困难，所以我们希望用别的办法判断收敛性 定理2.2.3 若逐次逼近法的迭代矩阵满足‖B‖<1， 那么逐次逼近法收敛

7. 问题：如何判断可以终止迭代？（误差估计） 定理2.2.4 （充分条件）若存在一个矩阵范数使得 || B || < 1,则迭代收敛，且有下列误差估计： ① ② 误差表达式及收敛速度。 证明： ② 停机准则。

8. ①

9. §2.2.2 Jacobi 法( Jacobi Iterative Methods ) A = B 写成矩阵形式： -U -L D Jacobi 迭代阵

12. Jacobi 迭代的分量形式：

13. Algorithm: Jacobi Iterative Method Solve given an initial approximation . Input: the number of equations and unknowns n; the matrix entries a[ ][ ]; the entries b[ ]; the initial approximation X0[ ]; tolerance TOL; maximum number of iterations Mmax. Output: approximate solution X[ ] or a message of failure. Step 1 Set k = 1; Step 2 While ( k  Mmax) do steps 3-6 Step 3 For i = 1, …, n Set ; /* compute xk */ Step 4 If then Output (X[ ]); STOP; /* successful */ Step 5 For i = 1, …, n Set X 0[ ] = X [ ]; /* update X0 */ Step 6 Set k ++; Step 7 Output (Maximum number of iterations exceeded); STOP. /* unsuccessful */ 迭代过程中，A的元素 不改变，故可以事先调整好 A使得 aii 0，否则A不可逆。 A bit wasteful, isn’t it? What if aii= 0? 必须等X(k)完全计算 好了才能计算X(k+1)，因此 需要两组向量存储。

14. 2.2.3 Gauss - Seidel 迭代法 BG-S 作A的另一个分裂： 其迭代格式的矩阵形式为 Gauss-Seidel 迭代阵

15. 下面从另一个角度来说明 写成分量形式：

16. … … … … 只存一组向量即可。

17. 2.2.4 有关基本概念 注：这二种方法都存在收敛性问题。在讨论收敛性之前我们先来讲一些预备知识和有关的定理 一、 严格对角占优矩阵与对角占优矩阵 定义1 设A是n阶矩阵. 若满足不等式 且至少有一个i，使严格不等号成立，则称 A为对角占优矩阵. 若对所有的i=1，2，…，n， 都有严格不等号成立， 称A为严格对角占优矩阵

18. 二、 可约矩阵与不可约矩阵 定义2设A是n阶矩阵. 如果存在排列阵P,使 其中A11和A22分别是k阶和n-k阶方阵(n≥2，k<n)， 那么 ，称A是可约矩阵. 如果不存在这样的排列阵P， 使上式成立，称A是不可约矩阵 定理2.2.5 设A是n阶矩阵. A是不可约的充分必要条件 是对有限整数集W={1,2,…，n}中任意两个非空子集 R,SW，R∪S=W, R∩S=，存在i∈R,j∈S，使aij≠0.

19. 三、 有关性质 定理2.2.6 设A是n阶(按行) 严格对角占优矩阵， 那么A是非奇异的 定理2.2.7 设A是严格对角占优矩阵，那么， 其各阶主子阵也是严格对角占优矩阵. 定理2.2.8 设A是严格对角占优矩 阵. 记经过一步Gauss消去后的矩阵为 那么， A(2)n-1仍是严格对角占优的.

20. 定理2.2.9 设A是不可约对角占优矩阵， 那么A是非奇异矩阵. 定理2.2.10 n阶矩阵A是按行严格对角占优矩阵的充分必要条件是Jacobi迭代法的迭代矩阵满足 ‖BJ‖∞<1. 定理2.2.10_2 n阶矩阵A是按列严格对角 占优矩阵的充分必要条件是Jacobi迭代法 的迭代矩阵满足 ‖BJ‖1<1.

21. 2.2.5 Jacobi迭代法和Gauss-Seidel迭代法的收敛性 定理2.2.2 设线性方程组x=Bx+g有惟一解，那么逐次逼近法对任意初始向量X０收敛的充分必要条件是迭代矩阵B的谱半径  ( B ) <1 定理2.2.11 设A是有正对角元的n阶对称矩阵， 那么Jacobi迭代法收敛的充分必要条件是 A和2D-A同为正定矩阵. 证明： 如果A是有正对角元的对称矩阵，aii>0 记D=diag(a11，a22,…，ann).

22. (1) 若Jacobi迭代法收敛，则 ( BJ ) <1，即 对于BJ=I-D-1A,有 即D－1/2 AD-1/2是正定矩阵， 从而A也是正定矩阵. 现考虑矩阵2D－A 的特征值的符号相同 即2D－A与

23. 的特征值为2－i 因此2D-A的特征值为正，从而2D-A为正定矩阵 A为正定矩阵 充分性： I－D －1A 的特征值全小于1 2D-A为正定矩阵 I－D －1A 的特征值全大于－1 （I－D －1A）<1  （BJ）<1

24. 定理（2.2.12，2.2.13，2.2.14 ）如果A是按行(列)严格对角占优的矩阵，那么Jacobi和G－S迭代法都收敛 定理2.2.15 设A是不可约对角占优矩阵， 那么Jacobi迭代法与G－S迭代法都收敛. 定理2.2.16 设A是n阶正定矩阵，那么，G－S迭代法收敛.

25. 定理2.2.13A按行严格对角占优，则Gauss-Seidel迭代收敛。定理2.2.13A按行严格对角占优，则Gauss-Seidel迭代收敛。 证 设 是 任一特征值，x是相应特征向量。设 若 则

26. 注意的问题 （1）Jacobi迭代法和Gauss-Seidel迭代法的 迭代矩阵不同： （2）Jacobi迭代法和Gauss-Seidel迭代法的收敛性没有必然的联系： BJ =D-1(L+U), B G-S = (D-L) -1U 即当Gauss-Seidel法收敛时，Jacobi法可能不收敛； 而Jacobi法收敛时， Gauss-Seidel法也可能不收敛。

27. 举例 用Jacobi迭代法求解不收敛，但用 Gauss-Seidel法收敛。 用Jacobi迭代法求解收敛， 但用 Gauss-Seidel法不收敛。 BJ的特征值为0，0，0， 而BG－S的特征值为 0，2，2

28. A是有正对角元的 n阶对称矩阵 系数矩阵A是正定矩阵，因此用 Gauss-Seidel法收敛 不是正定矩阵，因此用 Jacobi迭代法不收敛 利用定理2.2.11