向量与矩阵的范数

《向量与矩阵的范数》由会员分享，可在线阅读，更多相关《向量与矩阵的范数（35页珍藏版）》请在装配图网上搜索。

1、会计学1向量与矩阵的范数向量与矩阵的范数几种常用的向量范数几种常用的向量范数：设：设X=(x1,x2,.,xn)T（1）向量的）向量的1范数：范数：（2）向量的）向量的2范数：范数：（3）向量的）向量的范数：范数：（4）向量的）向量的p范数：范数：(1p)第1页/共35页例例：设：设 x=(1 ,-4,0,2)T 求它的向量范数求它的向量范数=7=4注：前三种范数都是注：前三种范数都是p范数的特殊情况。其中范数的特殊情况。其中第2页/共35页向量范数的连续性:定理定理3.3 设设f(X)=|X|为为Rn上的任一向量范数上的任一向量范数,则则f(X)为为X的分量的分量x1,x2,xn的连续函数的

2、连续函数.定理定理3.4 若若|X|p与与|X|q为为Rn上上任意两种范数任意两种范数，则，则存在存在C1，C20，使得对任意，使得对任意XRn，都有：，都有：C1|X|p|X|q C2|X|p（证明略）（证明略）注：同样有下列结论：存在C3,C40 使得：C3|X|q|X|p C4|X|q向量范数的等价性注：上述性质，称为向量范数的注：上述性质，称为向量范数的等价性等价性。也就是说，。也就是说，Rn上任上任意两种范数都是等价的。意两种范数都是等价的。在讨论向量序列的收敛性时要用到向在讨论向量序列的收敛性时要用到向量范数的等价性。量范数的等价性。第3页/共35页向量序列的收敛问题向量序列的收敛

3、问题定义定义：假定给定了：假定给定了Rn空间中的向量序列空间中的向量序列X(1),X(2),.,X(k),.，简记为，简记为X(k)，其中，其中X(k)=(x1(k),x2(k),.,xn(k)T，若，若X(k)的每一个分量的每一个分量xi(k)都存在极限都存在极限xi，即，即则称向量则称向量X=(x1，x2，.，xn)T为向量序列为向量序列X(k)的极限，或者说向量序列的极限，或者说向量序列X(k)收敛收敛于向量于向量X，记为，记为第4页/共35页x1x2xn(k)(k)第5页/共35页例例：设：设解解:显然，当显然，当k时，时，第6页/共35页注：显然有：注：显然有：定理定理3.5 在空间

4、在空间Rn中，向量序列中，向量序列X(k)收敛于向收敛于向量量X的充要条件是对的充要条件是对X的任意范数的任意范数|，有：，有：第7页/共35页定理定理3.5 在空间在空间Rn中，向量序列中，向量序列X(k)收敛于向收敛于向量量X的充要条件是对的充要条件是对X的任意范数的任意范数|，有：，有：二、矩阵范数：设A是nn 阶矩阵，ARnnXRn，|X|为Rn中的某范数，称为矩阵A的从属于该向量范数的范数，或称为矩阵A的算子，记为|A|。|A|=第8页/共35页几种常用的矩阵范数几种常用的矩阵范数常用的矩阵范数有A的1范数、A的2范数、A的范数，可以证明下列定理:定理定理3.6 设设ARnn，XRn

5、，则，则(又称为又称为A的的列范数列范数)(为为ATA的特的特征值中绝对征值中绝对值最大者值最大者)(又称为又称为A的的行范数行范数)列元素绝对值之和的最大值行元素绝对值之和的最大值第9页/共35页例：设例：设A=求求A的各种范数的各种范数解：解：|A|1=6，|A|=7|E-AA|=02-30+4=0弗罗贝尼乌斯 (Frobenius)范数 简称F范数注：注：第10页/共35页弗罗贝尼乌斯(Frobenius)范数简称F范数几种常用的矩阵范数：几种常用的矩阵范数：第11页/共35页Matlab中计算矩阵的范数的命令中计算矩阵的范数的命令(函数函数)：(1)n=norm(A)矩阵矩阵A的谱范数

6、的谱范数(2范数范数),=AA的最大特征值的算术根的最大特征值的算术根.(2)n=norm(A,1)矩阵矩阵A的列范数（的列范数（1-范数）范数）等等 于于A的最大列之和的最大列之和.(3)n=norm(A,inf)矩阵矩阵A的行范数的行范数(无穷范数无穷范数)等于等于A的最大行之和的最大行之和.(4)n=norm(A,fro)矩阵矩阵A的的Frobenius范数范数.第12页/共35页例例6.计算矩阵计算矩阵A的各种范数的各种范数n1=norm(A,1),n2=norm(A),n3=norm(A,inf)，n4=norm(A,fro)解：解：A=1,2,3,4;2,3,4,1;3,4,1,2

7、;4,1,2,9;n1=16，n2=12.4884，n3=16，n4=13.8564第13页/共35页矩阵范数的性质：（1）对任意ARnn,有|A|0，当且仅当A=0时，|A|=0.（2）|A|=|A|（为任意实数）（3）对于任意A、B Rnn，恒有|A+B|A|+|B|.（4）对于矩阵A Rnn，X Rn，恒有：|AX|A|X|.（5）对于任意A、B Rnn 恒有|AB|A|B|第14页/共35页谱半径：设 nn 阶矩阵A的特征值为 i(i=1,2,3n),则称 (A)=MAX|i|为矩阵A的谱半径.1 i n例例5.求矩阵求矩阵 的的谱半径谱半径 谱半径谱半径=A的特征值中绝对值的最大的特

8、征值中绝对值的最大者者解解:第15页/共35页定理定理3.7设设A为任意为任意n阶方阵，则对任意矩阵范阶方阵，则对任意矩阵范数数|A|，有：，有：(A)|A|矩阵范数与谱半径之间的关系为:(A)|A|证证:设设为为A的任意一个特征值的任意一个特征值,X为对应的特征向量为对应的特征向量A X=X两边取范数两边取范数,得得:|A X|=|X|=|X|X|=|X|=|A X|A|X|由X 0,所以|X|0,故有:|A|所以特征值的最大值|A|，即(A)|A|第16页/共35页定理定理3.7 设设A为任意为任意n阶方阵，则对任意阶方阵，则对任意矩阵范数矩阵范数|A|，有：，有：(A)|A|定理定理3.

9、8 设设A为为n阶阶对称方阵对称方阵，则，则有有:|A|2=(A)ATA=A2第17页/共35页矩阵序列的收敛性定义 设Rnn中有矩阵序列A(k)|A(k)=(aij(k)，若则称矩阵序列A(k)收敛于矩阵A=(aij)，记为a11a21a12a22如如第18页/共35页a11a21a12a22则有则有第19页/共35页关于矩阵序列收敛的性质：关于矩阵序列收敛的性质：定义定义 设设ARnn中，称中，称|A-B|为为A与与B之间的之间的距离距离,其中其中|A|为为Rnn上的某种范数。上的某种范数。定理定理3.10 设设A(0)，A(1)，.，A(k)，.为为Rnn上上的一个的一个矩阵序列，矩阵序

10、列矩阵序列，矩阵序列A(k)收敛于矩阵收敛于矩阵A的充要条件是存在的充要条件是存在A的某种范数的某种范数|A|，使得：，使得：即即定理3.11 任意ARnn，有(证明略证明略)第20页/共35页三、方程组的性态和条件数三、方程组的性态和条件数线性方程组解对系数的敏感性线性方程组解对系数的敏感性（误差分析）（误差分析）这种解依赖于方程组系数的误差A及b的问题，称为线性方程组解对系数的敏感性。对于线性方程组A X=b来说，由于观测或计算等原因，线性方程组两端的系数A和b都带有误差A和b，这样实际建立的方程组是近似方程组(A+A)(X+X)=b+b。对近似方程组求出的解是原问题的真解X加上误差X,即

11、X+X。而 X是由A及b引起的，它的大小将直接影响所求解的可靠性。第21页/共35页绝对误差绝对误差例：方程组此方程组的准确解为x1=0,x2=-1。现将其右端加以微小的扰动使之变为：经计算可得它的解为x1=2,x2=-3.这两个方程组的解相差很大，说明方程组的解对常数项b的扰动很敏感。第22页/共35页相对误差关系式：设有方程组相对误差关系式：设有方程组 AX=b (A是可是可逆矩阵逆矩阵,b0)1）仅常数项有误差的情形）仅常数项有误差的情形:设常数项设常数项b有扰动有扰动b,则相应的解为则相应的解为X+X，即，即 A（X+X）=b+b则有则有这说明常数项的相对误差这说明常数项的相对误差 在

12、解中放大了在解中放大了|A-1|A|倍。倍。解的相对误差常数项的相对误差第23页/共35页2）仅系数矩阵有误差的情形）仅系数矩阵有误差的情形:设方程组的系设方程组的系数数A有扰动有扰动A，则相应的解为，则相应的解为X+X，即，即 (A+A)(X+X)=b这说明系数的相对误差 在解中也放大了|A-1|A|倍。第24页/共35页一般情形一般情形3)常数项和系数矩阵都有误差的情形:设方程组的系数A有扰动A，常数项b有扰动b，则相应的解为X+X，即 可推得：可推得：与|A-1|A|有关(A+A)(X+X)=b+b第25页/共35页由由上上面面关关系系式式可可看看到到，带带有有扰扰动动的的近近似似方方程

13、程组组中中,扰扰动动的的大大小小直直接接影影响响着着所所求求解解的的相相对对误误差差，而而解的相对误差都与解的相对误差都与|A-1|A|有关有关,故可作如下定义：故可作如下定义：定义：设A非奇异，称|A-1|A|为矩阵A的条件数,记为Cond(A)，即Cond(A)=|A-1|A|.当当cond(A)1，则方程组称为，则方程组称为“病态病态”的；的；当当cond(A)较小时，则方程组称为较小时，则方程组称为“良态良态”的。的。方方程程组组的的系系数数矩矩阵阵发发生生微微小小扰扰动动，引引起起方方程程组组性性质质上上的的变变化化，这这是是方方程程组组本本身身的的“条条件件问问题题”。第26页/共

14、35页通常使用的条件数有：通常使用的条件数有：（1）cond(A)=|A-1|A|，（2）cond(A)2=|A-1|2|A|2 当当A为对称矩阵时，为对称矩阵时，cond(A)2（这里（这里max与与min分别是分别是A的绝对值最大和绝的绝对值最大和绝对值最小的特征值）对值最小的特征值）cond(A)2当A为正定矩阵时，cond(a,p)p=1,2,inf,frocond(a,1)cond(a,2)cond(a,inf)cond(a,fro)第27页/共35页Cond(A)可反映出方程组解对系数的敏感性。我们通过下面的例子加以理解。绝对误差绝对误差这两个方程组的解相差很大，说明方程组的解对常

15、数项b的扰动很敏感。同时注意到Cond(A)1.2 104,可见条件数很大,因而是病态方程组.例例:方程组方程组现将其右端加以微小的扰动使之变为：经计算可得它的准确解为x1=2,x2=-3.准确解为x1=0,x2=-1第28页/共35页一一般般来来说说，方方程程组组的的条条件件数数越越小小，求求得得的的解解就越可靠；反之，解的可靠性就越差。就越可靠；反之，解的可靠性就越差。病态方程组的求解问题：病态方程组的求解问题：首先考虑怎样判断方程组是否属于病态方程组。首先考虑怎样判断方程组是否属于病态方程组。设方程组设方程组Ax=b的系数矩阵的系数矩阵A非奇异，计算非奇异，计算A的条的条件数，是判断病态

16、方程组的可靠方法。但在实际件数，是判断病态方程组的可靠方法。但在实际问题中，当方程组的规模较大时，计算条件数的问题中，当方程组的规模较大时，计算条件数的工作量很大，甚至超过了求解方程组的计算量。工作量很大，甚至超过了求解方程组的计算量。一般采用下列方式，初步进行直观的判断。一般采用下列方式，初步进行直观的判断。第29页/共35页1）当当det(A)相对来说很小相对来说很小,或者或者A的某些行的某些行（或列）近似线性相关，（或列）近似线性相关，Ax=b可能病态可能病态;如果确定待解的方程组如果确定待解的方程组Ax=b是一个病态方程是一个病态方程组组,则数值求解必须小心，选择合适的方法，否则则数值

17、求解必须小心，选择合适的方法，否则难以达到要求的精确度。难以达到要求的精确度。一般方法有：一般方法有：2）当系数矩阵当系数矩阵A中元素的绝对值相差很大中元素的绝对值相差很大且无规则，且无规则，Ax=b可能病态；可能病态；3）如果采用如果采用Gauss选主元消去法求解，在选主元消去法求解，在消元过程中出现小主元，消元过程中出现小主元，Ax=b可能病态；可能病态；4）求解方程组时，出现一个很大的解，求解方程组时，出现一个很大的解，Ax=b可能病态。可能病态。第30页/共35页方法方法1 采用尽可能高精度的运算，例如双精度或多精采用尽可能高精度的运算，例如双精度或多精度，以改善和减轻矩阵病态的影响，

18、但此时的计算量度，以改善和减轻矩阵病态的影响，但此时的计算量将大大增大。将大大增大。例例 方程组方程组 1 1/2 1/3 1/41/2 1/3 1/4 1/51/3 1/4 1/5 1/61/4 1/5 1/6 1/7x1x2x3x425/1277/6057/60319/420=它的精解为它的精解为 x=1111分别用分别用3位和位和5位有效数字舍入运算的位有效数字舍入运算的消去法求解，得到的解分别为消去法求解，得到的解分别为x=(0.988，1.42，-0.428,2.10)T 和和x=(1.0000，0.99950，1.0017,0.99900)T显然后者的精度大大提高了显然后者的精度大

19、大提高了第31页/共35页方法方法2 采用豫处理，采用豫处理，降低降低矩阵矩阵A的的条件数条件数，以改善方程组的病态程度。以改善方程组的病态程度。例如当系数矩阵例如当系数矩阵A元素的数量级差别很大时，可以对某些行或元素的数量级差别很大时，可以对某些行或列乘上适当的数，使得列乘上适当的数，使得A的所有行或列按某种范数大体上有相的所有行或列按某种范数大体上有相同的长度。我们称这种方法为行（列）均衡法。同的长度。我们称这种方法为行（列）均衡法。例例 设方程组设方程组 1 104 1 1 x1x21042=考虑用均衡法改善它的条件数。考虑用均衡法改善它的条件数。解：矩阵解：矩阵A的条件数的条件数con

20、d(A)104，方程组是病态的。，方程组是病态的。为了使各行元素的大小均衡，将第一个方程乘以为了使各行元素的大小均衡，将第一个方程乘以10-4，得到方程组，得到方程组10-4 1 1 1 x1x212=BX=cond(B)4第32页/共35页再计算矩阵再计算矩阵B的条件数的条件数cond(B)4，显然经过行均，显然经过行均衡后，系数矩阵的条件数得到很大的改善。衡后，系数矩阵的条件数得到很大的改善。方法方法3 采用近似解的迭代改善方式，逼近方程组采用近似解的迭代改善方式，逼近方程组的精确解。的精确解。设设x是方程组是方程组Ax=b的近似解，则以其残余向量的近似解，则以其残余向量 r=b-Ax为新的右端项的方程组：为新的右端项的方程组：Ax=r（*）方程组（方程组（*）的解）的解e作为近似解作为近似解x修正，得到原修正，得到原方程组更好的近似解方程组更好的近似解 x=x+e重复该过程，就可得到一个近似解序列，可以重复该过程，就可得到一个近似解序列，可以证明该序列收敛于证明该序列收敛于Ax=b的真解。具体内容可的真解。具体内容可参见有关文献。参见有关文献。第33页/共35页实验实验1、计算、计算A的条件数的条件数cond(A).2、如何改变方程组、如何改变方程组AX=b的病态性？的病态性？作业：作业：P74-75 8、9、10、17第34页/共35页