矩阵分析研究课程课件

《矩阵分析研究课程课件》由会员分享，可在线阅读，更多相关《矩阵分析研究课程课件（41页珍藏版）》请在装配图网上搜索。

1、矩阵分析研究课程课件第五章第五章 矩阵分析矩阵分析 向量与矩阵的范数 向量与矩阵序列的收敛性 矩阵的导数 矩阵的微分与积分 矩阵分析研究课程课件体的集合，定义1：设是数域上维（数组）向量全 是定义在上的一个实值函数，如果该函数关系还满足如下条件：第一节向量与矩阵的范数第一节向量与矩阵的范数 VFnxV1）非负性 对中任何向量恒有 并且仅当时，才有 V,x0 x0 x；0 x2）齐次性 对 中任意的量 及中任意常数 VxF,k有;xkkx 矩阵分析研究课程课件（有时表示为）为一种向量范数。xV则称此函数3）三角不等式，对任意Vyx,有 yxyx上的例1：对中向量定义 则为上的一种向量范数 表示复

2、数的模 nC,21Tnxxxx222212nxxxx2xnCixix矩阵分析研究课程课件例2：对或上向量定义 则及都是或上的向量范数。证明：nCnRTnxxxx,21 nxxxx211inixx1max1xxnCnR1）当0 x时，0maxiixx00显然有 2）,21Tnxxxx对向量iixk maxxkiikxkxmax3）,21Tnxxxx对向量 Tnyyyy,21iiiyx maxiiiyxyxmax矩阵分析研究课程课件一般地，对于任何不小于1的正数向量的函数 也构成向量范数，称为向量的P-范数。综上可知确为向量范数。iiiiyxmaxmaxyxx上两例中的xxx,21是常用的三种向量

3、范数。,p Tnxxxx,21pnipipxx11矩阵分析研究课程课件由由p 范数的存在，可知向量的范数有无穷多种，而且，向量的范数并不范数的存在，可知向量的范数有无穷多种，而且，向量的范数并不仅限于仅限于p 范数范数.在验证向在验证向量量的范数定义中，三角不的范数定义中，三角不等式等式的过程中常涉及到两的过程中常涉及到两个个著著名的不等式名的不等式，即：即：1 1、HlderHlder 不等式不等式 设正实数设正实数,p q满足满足111,pq则对任则对任意意的的,nx yC有有 11111()()nnnpqpqiiiiiiix yxy 2 2、MinkowskiMinkowski 不等式不

4、等式 对任意实数对任意实数1p,及及,nx yC有有 （111111()()()nnnppppppiiiiiiixyxy）.矩阵分析研究课程课件定义2：设 是数域F上所有矩阵的集合，是定义在 上的一个实值函数，关系还满足如下条件：对 中任意矩阵 及 中任意常数 总有 定理1：设为任意两种向量范数，正的常数使得对一切向量 恒有 例3：设为 维向量，则 Tn1,1,1 n,2nx,1nx1x,21CC xCxxC21则存在x（这里,不限于P-范数）VnmAVV,A BFk如果该函数矩阵分析研究课程课件1）非负性 并且仅当时，才有 2）齐次性 3）三角不等式 则称是 上的一种矩阵范数。0A0A0AA

5、kkA BABA AV对（或）上的矩阵定义 nmCnmRAija,111minjijMaA,1122minjijMaA11maxijMi mj nAa MMM,21nmCnmR则都是（或）上的矩阵范数。矩阵分析研究课程课件例4：对上的矩阵定义则是一种矩阵范数，并且具备乘法相容性。定义3：是数域，是上的方阵范数，如果对任意的 总有 则说方阵范数具有乘法相容性。FnnF,n nA BFBAAB设nnCAijaijnjianA,1max 证明：非负性与齐次性显然成立，另两条证明 三角不等式 ijijbanBAmaxmaxmaxijijnabBA 如下：矩阵分析研究课程课件则称矩阵范数与向量范数是相容

6、的。定义4：如果 阶矩阵 的范数与 维向量的范数对任意 阶矩阵 及任意维向量均有乘法相容性 nkkjikban1maxnkkjikbanAB1maxBA ijijbnanmaxmax证得A为矩阵范数且具有乘法相容性。nAAnx,xnAnx,xAAx Ax矩阵分析研究课程课件则为方阵范数，它具有乘法相容性并且与相容。定理2：设是某种向量范数，对阶矩阵定义 xnAxAxAx 0maxAxx1maxAx向量范数例如对于22R上的方阵范数 ijjiMaA2,1max取 0100A1010B则易见 1MMBA而 2MAB可见方阵范数M不具备乘法相容性。矩阵分析研究课程课件是常用的矩阵范数，例5：证明：对

7、 阶复矩阵 有 1）（列模和）2）（行模和）例6：nijaA niijnjaA111maxnjijniaA11max证明对阶复矩阵 有 21maxii nA nii,2,1这里是的奇异值。nAA,1A,2AA2A又称为谱范数。矩阵分析研究课程课件定理3：设是任意两种矩阵范数，则有正实数使对一切矩阵恒有,AA,C,C21 AACAAC21矩阵分析研究课程课件第二节第二节 向量与矩阵序列的收敛性向量与矩阵序列的收敛性 定义5：设有向量序列如果对数列均收敛且有 则说向量序列 收敛，如记 则称为向量序列的极限，记为 或简记为 ,:)()(2)(1Tknkkkkxxxxx,2,1ni)(kixikixx

8、)(klim kx,),.,(21Tnxxxx x kx,limxxkk。xxk如果向量序列 kx不收敛，则称为发散发散。定理4：对向量序列 的充分必要条 其中是任意一种向量范数。,kxxxkklim,0limxxkk件是 矩阵分析研究课程课件成立，证明:1）先对向量范数证明定理有inixx1maxikikkkxxxx)(limlim ni,.,2,1,0lim)(ikikxxni,.,2,10maxlim)(1ikinikxx0limxxkk2）由向量范数等价性，对任一种向量范数,有正实数,21bb xxbxxxxbkkk21使 令k取极限即知 0lim0limxxxxkkkk矩阵分析研究课

9、程课件定义6：设有矩阵序列如果对 均有 矩阵序列收敛，如令称为的极限。记为或,:)(nmkijkkaAA,)1,1.(,njmiji,lim)(ijkijkaakA,nmijaAAkAAAkklim。AAk 任何 则说矩阵序列不收敛时称为发散发散。矩阵序列极限的性质 1、若,limAAkk kaaakklim为数列且 则aAAakkklim 特别当为常数时，kkkkAaaAlimlima矩阵分析研究课程课件2、若AAkklim BBkklim则BABAkkklim 3、若AAkklim BBkklim则ABBAkkklim 4、若 且诸及均可逆，则收敛，并且 AAkklimkAA1kA。lim

10、11 AAkk定理5：对于矩阵序列 一种矩阵范数有 ,kAAAkklim。0limAAkk对任何 矩阵分析研究课程课件定义定义 7 7 设设n nAC,1,jn为为A的的n个特征值，称个特征值，称 ()maxjjA 为为A的谱半径的谱半径.有有了谱半径的概念，可以对矩阵范数作如下的初步估计了谱半径的概念，可以对矩阵范数作如下的初步估计.定理定理 6 6 设设n nAC,则对则对n nC上的任一矩阵范数上的任一矩阵范数，皆有，皆有 ()AA 矩阵分析研究课程课件证证 设设是是A的特征值，的特征值，x为为A的属于特征值的属于特征值的特征向量，故的特征向量，故0 x，所，所以以0 x.另设另设v是是

11、nC上与矩阵范数上与矩阵范数相容的向量范数，由相容的向量范数，由Axx，应有，应有 vvAxx 而而vvAxA x,于是有于是有 vvxA x 同除同除0vx，有，有 A.故故 maxjA,于是于是 ()AA.矩阵分析研究课程课件定理定理 7 7 设设n nAC，lim0kkA的充分必要条件是的充分必要条件是()1A.由定理由定理 6 6 和定理和定理 7 7 即得如下结果即得如下结果.定理定理 8 8 设设n nAC,如果存在如果存在n nC上的一种相上的一种相容容矩阵范数矩阵范数.使使1A，则则limk0kA 矩阵分析研究课程课件第三节第三节 矩阵的导数矩阵的导数 本节讨论三种导数：矩阵对

12、变量的导数 函数对矩阵的导数 矩阵对矩阵的导数矩阵分析研究课程课件一、函数矩阵对变量的导数 如果矩阵中诸元素都是某实变量 的函数，则称这种矩阵为函数矩阵。它的一般形式是 其中都是实的函数。x)()()()()()()()()(212222111211xaxaxaxaxaxaxaxaxaxAmnmmnn(),1,2,;1,2,ijaximjnx变量矩阵分析研究课程课件定义7：设函数矩阵,)()(Anmijxax 如果对一切正,1,1,njmiji均有 整数 ijijxbxa0 xlim0 xx)(xA则说当时函数矩阵有极限,nmijbB叫做的极限,记为。lim0 xBxAx)(xA定义8:对于函

13、数矩阵 如果所有元素在某点处或在某区间则称在 处或在某区间上可导。,)(nmijxaxA njmixaij,2,1;,2,1x xAx上均可导，导数或导函数记为 简记为并规定 dA xdx xA矩阵分析研究课程课件矩阵分析研究课程课件 111212122212nnmmmnaxaxaxaxaxaxdA xAxdxaxaxax其中表示对的一阶导数。ijax xaijx矩阵对变量的导数运算具有如下一些性质：1、若函数矩阵 xBxA,都可导，则它们的和亦并且 xBdxdxAdxdxBxAdxd可导，2、若 xA可导，k为常数，则 xkA可导且 xAdxdkxkAdxd矩阵分析研究课程课件3、若可导，则

14、可导，并且 4、若可导，是 的可导函数，则可导，且 xA xAT TTdxxdAxAdxd xA xfx xf xA xAdxdxfxAxfdxdxAxfdxd5、若可导且二者可乘，,xA xB xA xB则亦可导，且 xBdxdxAxBxAdxdxBxAdxd矩阵分析研究课程课件推论：若 xA可导，QP,为数字矩阵，则 xAdxdPxPAdxd QxAdxdQxAdxd6、若 xA为可逆的可导函数矩阵，则 xA1亦可导，且 xAdxxdAxAxAdxd111矩阵分析研究课程课件例1：设为 阶可导函数矩阵，求的一、二阶导数。解：xAxAdxdxAdxd2 xAxAxAxAdxdxAdxd222

15、 xAxAxAxAxA 22)(xAn xA2 xAxAxAxA例2：设 txtxtxxn21矩阵分析研究课程课件均为 txit其中的可导函数，nnijaA为阶实对称矩阵，AxxT求二次型对 的导数。tn解：xAxxAxAxxAxxdtdTTTT又 为数字矩阵，,0AxAxT又为 的函数，而有 AxxT xAxTTTTTxAxxAx所以 xAxAxxdxdTT 2At矩阵分析研究课程课件二、函数对矩阵的导数 定义9：设为多元实变量矩阵，mnmnxxxxfXf,1111是以变量的多元函数，ijxfnjmi,2,1;,2,1并且偏导数都存在，)(Xf则定义函数对矩阵的导数为 mnmmnnxfxfx

16、fxfxfxfxfxfxfdXdf212222111211nmijxXXX中诸元素为矩阵分析研究课程课件特别，XTnxxxx,21当为向量时，函数对之导数为 nxxxf,21x xfxfxfxfdxdfTn,21例3：设 minjijnmijxXfxX112,求dXdf 解：nimixxfijij,2,1;,2,1,2mnmmnnxxxxxxxxxdXdf222222222212222111211X2矩阵分析研究课程课件对矩阵三、矩阵对矩阵的导数 定义10：设矩阵中每一个元素都是矩阵中各元素的函数，nmklaAklaqpijbB),.,2,1;,.,2,1(,qjpibij当对 中各元素都可导

17、时，ABAB则称矩阵可导，且规定对的导数为 AB111212122212qqpppqAAAbbbAAAdAbbbdBAAAbbb矩阵分析研究课程课件其中 ijmnijmijmijnijijijbababababababA2111211dBdAnqmp是一个矩阵。例4：设nmijaA求。dAdA 解：mnmmnnmnmmnnEEEEEEEEEaAaAaAaAaAaAaAaAaAdAdA212222111211212222111211矩阵分析研究课程课件则ynmmmnnnxyxyxyxyxyxyxyxyxyxyxyxydxdy21222121211121,这里元素是1，其余元素都是0的矩阵。例5：

18、设 其中 如果都存在，对可导且),(jiEij是nm,21nxxxx12,Tmyy yymixxxfynii,2,1,21njmixyji,2,1;,2,1x矩阵分析研究课程课件例例 7 7 设12(,)nxx xx,求Tdxdx.解解 111122221212nTnnnnnxxxxxxxxxdxEdxxxxxxxxxx 矩阵分析研究课程课件以下我们考虑向量对向量的导数设以下我们考虑向量对向量的导数设 12(,),nxx xx 12nyyyy，其中其中 12(,)(1,2,).iinyf x xxim如果如果(1,2,;1,2)ijyim jnx都存在，则都存在，则y对对x可导，且可导，且 1

19、2(,)ndyyyydxxxx111122221212nnmmnnyyyxxxyyyxxxyyyxxx （1 1）矩阵分析研究课程课件例例 8 8 设设数量函数数量函数nxxxfy,21的所有二阶偏导数都的所有二阶偏导数都存在，记存在，记 Tnxxxx,21 求梯度求梯度()dyf xdx，及海森，及海森HessianHessian矩阵矩阵22()d yH xdx 解解 12(),Tndyyyyf xdxxxx.222211212222221222222212()nnnnnyyyxx xx xyyyd yddyH xx xxx xdxdx dxyyyx xx xx .当当y的所有二阶偏导数都连

20、续时，的所有二阶偏导数都连续时，HessianHessian 矩阵为矩阵为n阶对称矩阵阶对称矩阵.矩阵分析研究课程课件第四节 矩阵的微分与积分 v定义11:当函数矩阵 可导时,其微分v性质:,v ,(为常数),(可微)()()ijm nA xax()()ijm nijm ndAda xax dx()d ABdAdB()()d ABdA BAdB()d kAkdAk()(),d fAdf AfdAf矩阵分析研究课程课件v定义12:如果函数矩阵 中各元素v 均对 可积,则称v 可积,且 的不定积分和定积分分别为:()()ijm nA xax()(1,2,.,;1,2,.,)ijax im jnx(

21、)A x()A x2211()(),()()xxijm nijm nxxA x dxax dxA x dxax dx矩阵分析研究课程课件v性质:v ,(为常数),v ,等等.v例1:设 ,求 v及 .()()()()A xB x dxA x dxB x dx()()kA x dxk A x dxk323112()()()xxxxxxA x dxA x dxA x dxsincos()cossinxxA xxx0()xA x dx20()xdA x dxdx矩阵分析研究课程课件解解 sin(cos)001 cossin()0sin1 coscossin00 xxxdxx dxxxxA x dxxxxxxdxxdx.因为若以因为若以()ijax表示表示()A x中中各各元素元素(,1,2)i j，则有则有 22()2()0ijijxdax dxxaxdx.所以有所以有 222222sincos()2()20cossinxxxdA x dxxA xxdxxx.