系统辨识课件

《系统辨识课件》由会员分享，可在线阅读，更多相关《系统辨识课件（27页珍藏版）》请在装配图网上搜索。

1、会计学1系统辨识课件系统辨识课件)()()()()()() 1()(01knkxkynkubkubnkxakxakxnn式中，x(k)为理论输出值，y(k)为实际观测值，n(k)为观测噪声。则有：1.1.基于输入基于输入/ /输出数据的系统模型描述输出数据的系统模型描述 SISO系统的差分方程为)()()(knkykx第1页/共27页)()() 1()()() 1()(101knkubkubkubnkyakyakynnniiiknaknk1)()()(则当前输出为：)()() 1()()() 1()(101knkubkubkubnkyakyakynn设观测数据有(n+N)个，令k分别等于n+1

2、,n+N,则有：)()()()() 1()() 2() 2() 2() 2() 1() 2() 1() 1 () 1() 1 ()() 1(010101NnNubNnubNyaNnyaNnynubnubyanyanynubnubyanyanynnnnnn第2页/共27页)() 2() 1()()()() 1() 2() 2() 2() 1() 1 () 1() 1 ()()() 2() 1(1NnnnbbaaNuNnuNyNnyunuynyunuynyNnynynynon记为： 输出向量输出向量 测量矩阵测量矩阵 参数矩阵参数矩阵 噪声矩阵噪声矩阵 数据长度数据长度11)12()12(1Nnn

3、NNYN11)12()12(1NnnNNY(注：实际数据个数为n+N)第3页/共27页若N=(2n+1)且=0，则上式中的阵为(2n+1)(2n+1)的方阵。由此，可解得的唯一解为：Y1而在实际工程中，肯定不等于0，且N(2n+1)，即方程个数远大于未知数，故而上述的解不成立。当前任务：当前任务： 在存在噪声和数据长度N(2n+1)的情况下， 如何进行参数的估计。Y(3.1)即第4页/共27页2.2.基本的最小二乘法基本的最小二乘法(LS)(LS)辨识准则：辨识准则：残差平方和最小。,YYeY为模型的计算值，即Y(1)残差e(2)指标函数J)()()(12YYeeTTNnnkkeJ故而，最小二

4、乘法辨识就是使J最小的参数估计方法。即有：Jmin下面我们推导估计值的计算方法。第5页/共27页0 0JJ取得最小值，也即J为极值，则有：YTT0 0)(Y)(YT0 0)(YT2)(T其中,为(2n+1)(2n+1)的方阵。若其逆阵存在，则：YTT1)(3.2)上式即为最小二乘法的参数估计结果。上式即为最小二乘法的参数估计结果。第6页/共27页讨论：理论上，偏导为0只能说明J取得极值。可能为极大 值，也可能为极小值。Y)(YTTT222J也即T为正定阵。而阵为测量矩阵，它由输入/输出数据组成，故而“T为正定阵”必与输入信号u(k)密切相关。因此，需要讨论LS方法对输入信号的要求。使J为极小值

5、的条件为：0 022JT222J0T第7页/共27页3. 3. 最小二乘法对输入信号的要求最小二乘法对输入信号的要求主要讨论0T对输入信号u(k)的要求。)()()() 1() 2() 2() 2() 1() 1 () 1() 1 ()()() 2() 1 ()() 2() 1()() 2() 1 () 1() 1()(NuNnuNyNnyunuynyunuynyNuuuNnununuNyyyNnynynyTuuuyyuyy) 1() 1() 1()() 1() 1() 1() 1()() 1() 1()() 1()()(211112111121nkykynkykynkynkykykykyky

6、nkykykykykyNnnkNnnkNnnkNnnkNnnkNnnkNnnkNnnkNnnkyy其中，第8页/共27页) 1() 1()() 1() 1() 1() 1() 1()() 1() 1() 1() 1()()()() 1()(111111111nkunkykunkykunkynkukykukykukynkukykukykukyNnnkNnnkNnnkNnnkNnnkNnnkNnnkNnnkNnnkyu) 1() 1() 1() 1() 1()()() 1()() 1()()() 1() 1() 1() 1() 1()(11111111nkunkynkukynkukykunkyku

7、kykukykunkykukykukyNnnkNnnkNnnkNnnkNnnkNnnkNnnkNnnkuy) 1()() 1() 1() 1() 1()()() 1()() 1() 1()() 1() 1(211112111121nkukunkukunkunkukukukukunkukukukukuNnnkNnnkNnnkNnnkNnnkNnnkNnnkNnnkNnnkuu第9页/共27页则当N时，有：RRRRRTuuyyuyNN1lim)0()2() 1()2()0() 1 () 1() 1 ()0(yyyyyyyyyyRnRnRnRRRnRRRRTyuuyuyuyuyuyuyuyuyuyu

8、yRnRnRnRRRnRRRRR) 0() 1()() 2() 1() 2() 1() 0() 1()0() 1()() 1()0() 1 ()() 1 ()0(uuuuuuuuuuRnRnRnRRRnRRRR第10页/共27页于是有： J取得极小值T正定R正定Ru正定。因此： J J取得极小值的必要条件为取得极小值的必要条件为R Ru u为正定阵为正定阵。这就是最小二乘法对输入信号的要求。定义： 如果序列u(k)的(n+1)阶方阵Ru是正定的，则称序列u(k)为(n+1)阶持续激励信号。 因此，最小二乘法对输入信号的要求为： u(k)u(k)为为(n+1)(n+1)阶持续激励信号阶持续激励信

9、号第11页/共27页 哪些输入信号u(k)的Ru是强对角线占优矩阵？以下输入信号均能满足Ru正定的要求：(1)白噪声序列；(2)伪随机二位式噪声序列；(3)有色噪声随机信号序列。 工程上常用“伪随机二位式噪声序列”、“有色噪声随机信号序列”作为输入信号。)0() 1()() 1()0() 1 ()() 1 ()0(uuuuuuuuuuRnRnRnRRRnRRRR考查若Ru为强对角线占优矩阵，则Ru正定。第12页/共27页4. 4. 最小二乘估计的概率性质最小二乘估计的概率性质最小二乘估计的概率性质主要有以下四方面：(1)估计的无偏性；(2)估计的一致性；(3)估计的有效性；(4)估计的渐进正态

10、性。我们主要讨论前两项：无偏性和一致性。第13页/共27页(1)(1)估计的无偏性估计的无偏性无偏性估计的定义： EE若，则称是参数的无偏估计。下面讨论无偏估计的条件。(3.3)YYTT1)()()()(11YTTTTEEE)()(11TTTTEEELSLS无偏估计的充要条件为无偏估计的充要条件为：0)(1TTE第14页/共27页下面讨论无偏估计的充分条件。)()2()1()()2()1 ()()2()1()()2()1 ()1()1()(NnnnNuuuNnununuNyyyNnynynyT0)(1TTE考查充要条件)()() 1()()() 1()(101knkubkubkubnkyaky

11、akynn由上式可知：y(k)只与(k),(k-1),(k-2)相关，而与(k+1),(k+2),(k+3) 不相关。若(k)为零均值不相关随机序列，且与u(k)无关。则由上式可知，T与不相关。第15页/共27页则有：可见，在上述条件下我们得到了参数的无偏估计。(k)为零均值不相关随机序列，且与u(k)无关。)(1TTEE)(1TTEE0 LSLS无偏估计的充分条件为无偏估计的充分条件为：第16页/共27页(2)(2)一致性估计一致性估计一致性估计的定义：0limVarN若，则称是参数的一致性估计。YTT1)( 若参数估计值以概率1收敛于真值，则称估计值具有一致性。或采用下述定义：式中，Var

12、为估计误差的方差。下面讨论一致性估计的充分条件。)()(1TTTT1)(第17页/共27页估计误差的方差为：)(11()()TTTTTEEVar一致性估计的充分条件为：一致性估计的充分条件为：同样，假设(k)为零均值不相关随机序列，且与u(k)无关。则T与不相关,且有：NTEI2()()(12112121)()(I)TTTTTNTTEEEVar0lim1(lim(limlim121212R)NNENEVarNTNTNN(k)为零均值不相关随机序列，且与u(k)无关。第18页/共27页(3) (3) 估计值的有效性估计值的有效性有效性的定义：有效性的定义：若参数估计误差的方差达到最小值，则称该估

13、计值是有效估计值。LSLS有效估计值的充分条件：有效估计值的充分条件：(k)是零均值且服从正态分布的白噪声序列。 (4) (4) 估计值的渐近正态性估计值的渐近正态性渐近正态性的定义：渐近正态性的定义：若参数估计值服从正态分布，则称该估计值是渐近正态的。LSLS渐近正态性的充分条件：渐近正态性的充分条件：(k)是零均值且服从正态分布的白噪声序列。 第19页/共27页(5) (5) 基本最小二乘估计存在问题基本最小二乘估计存在问题YYTT1)(无偏性和一致性估计的充分条件均为：(k)为零均值不相关随机序列，且与u(k)无关。考查niiniiiknaknkiknaknk11)1() 1() 1()

14、()()() 1(),(kk相关也就是说即使在n(k)为白噪声的条件下，(k)为相关随机序列。故而基本最小二乘估计是有偏估计基本最小二乘估计是有偏估计，必须对基本最小二乘法进行改进。第20页/共27页1.1.递推算法推导递推算法推导3.2 递推最小二乘法解决问题：解决问题：(n+N)组观测数据时的参数估计值已知，现在又得 到了一组新的观测值(u(n+N+1),y(n+N+1)，如何 采用最小二乘法进行在线估计新的估计值问题。假设已获取了数据长度为N的I/O数据，则由LS估计有：1211)()()(NTNNTNNTNNNNNNNNNNNYYTTVar第21页/共27页NNNNYPT记：1)(NT

15、NNP，则N可写成：现获得了一组新的I/O数据值：u(n+N+1)、y(n+N+1)。需推导出1N的计算公式，即)1(),1(,(1NnyNnufNN(n+N+1)时刻的观测值y(n+N+1)可表示为：) 1() 1() 1() 1()() 1(NnNuNnuNyNnyNnyTN 11Ny1N则上式可写为：111NTNNy第22页/共27页则由最小二乘(LS)可得(n+N+1)时刻的参数估计值为：则输入输出方程可写成分块矩阵形式：111NNTNNNNyY(3.4)111111NNTTNNTNNTTNNNyY)()(11111NNNTNTNNNTNyY上式记为：111111111)()(TNNN

16、NNNNTNNNyPPYP现在的主现在的主要任务是要任务是求解矩阵求解矩阵的逆的逆第23页/共27页矩阵求逆引理：矩阵求逆引理：若相应矩阵的逆均存在，则有111111)()(ACBACIBAABCATTTTNTNN111,CBPA11111)(TNNNNPP对照，令：则有NTNNNTNNNNNPPPPP1111111)(I11NNTNP考查矩阵的维数：11 11)(2n1)(2n1)(2n1)(2n1可见，矩阵求逆运算转化为求标量的倒数运算。将11NP代入1N的表达式，经整理有：)()1 (1111111NTNNNNTNNNNNyPP(3.5)第24页/共27页由由(3.5)(3.5)式可得式

17、可得LSLS的递推算法：的递推算法：递推过程：)()1 (1111111NTNNNNTNNNNNyPPNTNNNTNNNNNNNTNNNNNTNNNNNyPPPPPPPKK111111111111111)1 ()1 ()(3.6)上述递推算法的运行需获取两个初值：00,P33322211100,PKPKPKP初值获取方法：为充分大的数。，直接取；方法估计出采用，数据记录一组少量的ccLSnNOInn)12()12(200000,)2(,)12(/) 1 (IP0P第25页/共27页证明：基本最小二乘离线算法与递推算法的结果完全一致证明：基本最小二乘离线算法与递推算法的结果完全一致. .0,020IPc1111111101,)(yTPPP)(,)()(2211221221110122112yyTTTPPPP)(,)()(33221133133221110133123yyyTTTTPPPP)(,)(1111110NNNNTNNTNyyPPP112211122112)()()(limlimPTTNNTTTNNTTcNccIYTTN1)(111111111)()(TNNNNNNNTNNNyPPYP注注：21NT第26页/共27页