矩阵计算讲义

fourwave

作者潘建瑜是中科院数学所的博士，现在华东师范大学任教
非常好的讲义，将近300页，可见作者的用心程度，

难能可贵的是，还有matlab代码
另外，后面的参考文件链接也十分有价值

矩阵计算讲义.zip (2.51 MB, 下载次数: 195 )

2016-9-28 07:00 上传

点击文件名下载附件

第一讲线性代数基础 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.1.1 数值线性代数的研究内容. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.1.2 一些记号. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2 线性空间与内积空间. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.2.1 线性空间与子空间. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.2.2 内积空间. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.2.3 正交与正交补. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.3 向量范数与矩阵范数. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.3.1 向量范数. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.3.2 矩阵范数. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.3.3 序列的收敛. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.4 矩阵与投影. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.4.1 特征值与特征向量. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.4.2 投影变换与投影矩阵. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
1.4.3 不变子空间. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
1.5 矩阵标准型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
1.5.1 Jordan 标准型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
1.5.2 Schur 标准型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
1.6 几类特殊矩阵. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
1.6.1 对称正定矩阵. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
1.6.2 对角占优. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
1.6.3 不可约. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
1.6.4 其它常见特殊矩阵. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
1.7 Kronecker 积. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
1.8 课后习题. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
第二讲线性方程组的直接解法29
2.1 Gauss 消去法和LU 分解. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
2.1.1 LU 分解. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
2.1.2 LU 分解的实现. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
iii

iv
目录
2.1.3 IKJ 型LU 分解. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
2.1.4 待定系数法计算LU 分解. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
2.1.5 三角方程求解. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
2.1.6 选主元LU 分解. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
2.1.7 矩阵求逆. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
2.2 特殊方程组的求解. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
2.2.1 对称正定线性方程组. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
2.2.2 对称不定线性方程组. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
2.2.3 三对角线性方程组. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
2.2.4 带状线性方程组. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
2.2.5 Toeplitz 线性方程组. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
2.3 扰动分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
2.3.1 x 与^x 的关系. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
2.3.2 x 与x 的关系. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
2.3.3 x 与残量的关系. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
2.3.4 相对扰动分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
2.4 误差分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
2.4.1 LU 分解的舍入误差分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
2.4.2 Gauss 消去法的舍入误差分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
2.5 解的改进和条件数估计. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
2.5.1 高精度运算. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
2.5.2 矩阵元素缩放(Scaling) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
2.5.3 迭代改进法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
2.6 课后习题. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
第三讲线性最小二乘问题63
3.1 引言. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
3.1.1 超定方程组. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
3.1.2 欠定方程组. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
3.2 初等变换矩阵. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
3.2.1 初等矩阵. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
3.2.2 Gauss 变换. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
3.2.3 Householder 变换. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
3.2.4 Givens 变换. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69
3.2.5 正交矩阵舍入误差分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
3.3 QR 分解. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
3.3.1 QR 分解的存在性与唯一性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
目录
v

3.3.2 基于MGS 的QR 分解. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73
3.3.3 基于Householder 变换的QR 分解. . . . . . . . . . . . . . . . . . . . . . . . . . . 74
3.3.4 列主元QR 分解. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76
3.3.5 基于Givens 变换的QR 分解. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
3.3.6 QR 分解的稳定性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78
3.4 奇异值分解. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78
3.4.1 奇异值基本性质. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
3.4.2 奇异值更多性质. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
3.4.3 奇异值扰动. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
3.5 线性最小二乘问题的求解方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
3.5.1 正规方程法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
3.5.2 QR 分解法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88
3.5.3 奇异值分解法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
3.6 广义逆与最小二乘. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
3.6.1 广义逆基本性质. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90
3.6.2 广义逆的计算. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
3.6.3 广义逆与线性最小二乘. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92
3.7 最小二乘扰动分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92
3.8 最小二乘问题的推广及其应用. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
3.8.1 正则化. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
3.8.2 加权正则化. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
3.8.3 约束最小二乘问题. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 94
3.8.4 应用: 多项式数据拟合. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 94
3.8.5 应用: 线性预测. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95
3.8.6 应用: 信号光滑. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95
3.8.7 应用: 反卷积Deconvolution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 96
3.8.8 应用: 采样信号补全. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 96
3.9 课后习题. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 96
第四讲非对称特征值问题99
4.1 幂迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 99
4.2 反迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100
4.2.1 反迭代算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 101
4.2.2 Rayleigh 商迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 101
4.3 正交迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102
4.4 QR 迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
4.4.1 QR 迭代与幂迭代的关系. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104

vi
目录
4.4.2 QR 迭代与反迭代的关系. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104
4.4.3 QR 迭代与正交迭代的关系. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
4.4.4 QR 迭代的收敛性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
4.4.5 带位移的QR 迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108
4.5 带位移的隐式QR 迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
4.5.1 上Hessenberg 矩阵. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
4.5.2 隐式QR 迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111
4.5.3 位移的选取. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 114
4.5.4 收缩Deflation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
4.6 特征向量的计算. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
4.7 广义特征值问题. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118
4.7.1 广义Schur 分解. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118
4.7.2 QZ 迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119
4.8 应用: 多项式求根. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119
4.9 课后习题. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119
第五讲对称特征值问题123
5.1 Jacobi 迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123
5.2 Rayleigh 商迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127
5.3 对称QR 迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129
5.4 分而治之法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131
5.5 对分法和逆迭代(Bisection and Inverse Iteration) . . . . . . . . . . . . . . . . . . . . . . . . 138
5.6 奇异值分解. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140
5.6.1 二对角化. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140
5.6.2 Golub-Kahan SVD 算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142
5.6.3 dqds 算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143
5.6.4 Jacobi 算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145
5.7 扰动分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146
5.7.1 特征值与Rayleigh 商. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
5.7.2 对称矩阵特征值的扰动分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149
5.7.3 对称矩阵特征向量的扰动. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151
5.7.4 Rayleigh 商逼近. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153
5.7.5 相对扰动分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154
5.8 课后习题. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
目录
vii

第六讲线性方程组基本迭代解法159
6.1 离散Poisson 方程. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
6.1.1 一维Poisson 方程. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
6.1.2 二维Poisson 方程. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161
6.2 定常迭代算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 163
6.2.1 矩阵分裂迭代算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 164
6.2.2 Jacobi 迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 164
6.2.3 Gauss-Seidel 迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165
6.2.4 SOR 迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167
6.2.5 SSOR 迭代算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 168
6.2.6 AOR 迭代. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
6.2.7 Richardson 算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
6.2.8 分块迭代算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170
6.3 收敛性分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171
6.3.1 定常迭代算法的收敛性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171
6.3.2 二维离散Poisson 方程情形. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174
6.3.3 不可约对角占优矩阵. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177
6.3.4 对称正定矩阵. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 178
6.3.5 相容次序矩阵. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 180
6.4 加速算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
6.4.1 外推技术. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
6.4.2 Chebyshev 加速. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 184
6.5 交替方向与HSS 算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189
6.5.1 多步迭代法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189
6.5.2 交替方向法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 190
6.5.3 HSS 算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 190
6.6 快速Poisson 算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 192
6.6.1 FFT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 192
6.6.2 离散Sine 变换. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193
6.6.3 Possion 方程与DST . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194
6.7 课后习题. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 195
第七讲Krylov 子空间迭代算法197
7.1 Krylov 子空间. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197
7.1.1 Arnoldi 过程与Lanczos 过程. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197
7.1.2 Krylov 子空间算法一般格式. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 199
7.2 GMRES 迭代算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200

viii
目录
7.2.1 算法描述. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200
7.2.2 具体实施细节. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202
7.2.3 GMRES 算法的中断. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205
7.2.4 带重启的GMRES 算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205
7.3 共轭梯度法(CG) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 206
7.3.1 算法基本过程. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 206
7.3.2 实用迭代格式. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207
7.4 收敛性分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212
7.4.1 CG 算法的收敛性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212
7.4.2 CG 算法的超收敛性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 214
7.4.3 GMRES 算法的收敛性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 215
7.5 其它Krylov 子空间迭代算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218
7.6 课后习题. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219
第八讲特征值问题的迭代解法221
8.1 投影算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221
8.2 Rayleigh-Ritz 算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 222
8.2.1 对称矩阵. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223
8.3 Lanczos 算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224
8.4 Arnoldi 算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226
8.5 非对称Lanczos 算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 227
第九讲预处理229
9.1 预处理技术. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229
9.1.1 预处理CG 算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 230
9.1.2 预处理GMRES 算法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232
9.1.3 Flexible GMRES Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236
9.2 不完全分解. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239
9.2.1 不完全LU 分解(ILU) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239
9.2.2 不完全QR 分解(IQR) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239
9.3 矩阵分裂预处理子. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239
9.4 矩阵的逆近似技术. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239
附录A IEEE 浮点运算标准241
A.1 IEEE 中的浮点数的表示方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241
A.2 IEEE 中的浮点数运算. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244
A.3 浮点运算舍入误差分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 246
A.4 课后习题. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249
目录
ix

附录B 数值计算中的误差251
B.1 误差与有效数字. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251
B.1.1 基本算术运算的误差估计. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 253
B.1.2 函数求值的误差估计. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 253
B.2 误差分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 254
B.2.1 定量分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 254
B.2.2 定性分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255
B.3 数值稳定性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255
B.3.1 数学问题的稳定性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255
B.3.2 病态问题与条件数. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255
B.3.3 算法的稳定性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 256
B.3.4 数值计算注意事项. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 257
B.4 课后习题. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 257
附录C 高性能计算– 科学计算软件介绍259
C.1 矩阵运算的复杂度. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 259
C.2 数值线性代数程序库. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 259
C.2.1 BLAS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 259
C.2.2 LAPACK . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260
C.2.3 ARPACK . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260
C.2.4 其它. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260
C.3 交互式数学软件. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260
C.3.1 MATLAB . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260
C.3.2 Mathematica . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 261
C.3.3 Maple . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 262
C.3.4 Sage . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 262
C.4 集群管理. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 262
参考文

smaa

Good Material !
Thanks

waveguides

作者是什么人？

skshao

謝謝分享！

yfdeetp

线性代数啊

刘涛2902

不错   有了它，矩阵再不是问题

yongenchen

thanks a lot

yf201306

谢谢楼主的分享！

amigo.change

jingxin_xd

谢谢楼主的分享！