离散随机信号的特征描述及其估计.ppt

《离散随机信号的特征描述及其估计.ppt》由会员分享，可在线阅读，更多相关《离散随机信号的特征描述及其估计.ppt（34页珍藏版）》请在装配图网上搜索。

1、第章 离散随机信号的特征描述 及其估计 4.1 引言 4.2 离散随机信号的特征描述 4.3 线性系统对平稳随机信号的响应 4.4 均值 、 方差 、 自相关函数的估计 4.1 引言 随机信号是一种非确定性的信号，如热噪声信号发生器 输出的电信号，飞行器起飞时的结构振动，以及起伏海面的 波动高度等。它们的共同特点是无法预测其未来瞬间的精确 值。处理的目的是便于从中提取有用的信息，削弱信号中的 多余信息量，便于估计信号的特征参数，或变换成易于分析 和识别的形式等。 随机信号处理的主要理论基础是信号检测理论、估计理 论和随机过程理论。根据理论分析，随机信号的不同样本函 数在同一时刻的值往往是不确定

2、的，因而只能用样本函数集 的统计平均来描述，如用均值、均方值、方差、概率密度函 数、相关函数和功率谱密度函数来描述随机过程的特性。随 机信号处理就是利用信号的这些统计特征或信号本身导出一 套最佳的估计算法，然后利用软件或者硬件予以实现。下一 章所讲的维纳滤波器和卡尔曼滤波器就是根据最佳原理实现 的。 离散随机信号或序列，是指由随机变量按一定顺序排列 而成的时间序列，随机序列中的任何一个时间点上的取值都 是不能先验确定的随机变量。即离散随机信号可表示为 （ 4-1） 式中 为随机变量，它可以是有限维的 也可以是无限维的。产生这些随机变量的过程称为随机过 程，简记为 。 例如抛硬币就是一个随机过程

3、，抛硬币的结果就是一个离 散随机序列。这个结果有两种状态，一种是正面朝上， 用 表示，另一种是反面朝上，用 表示。 )(tha Tnxxxx 10 nxxx 10 nx 1x 1x 连续抛掷，可以得到一个由 +1和 -1组成的序列如图 4-1所 示。这个序列就是离散随机信号或序列。要注意的是如果重 新将抛掷硬币的过程进行一次，我们得到序列可能看起来与 图 4-1所示的序列完全不同，所以我们每次得到的序列是这 个离散随机信号的一个样本序列。 0 n1 1 图 4 - 1 抛 硬 币 得 到 的 随 机 样 本 序 列 4.2 离散随机信号的特征描述 4.2.1平稳随机过程和各态历经性 实际中的很

4、多随机过程是属于平稳随机过程。设 是一 个平稳随机过程，则其随机序列在各点上的概率特性不随时 间平移而变化，而且是无始无终的。即随机变量 的概率 特性对于任何时刻 都是相同的， 对于一个无始无终的平稳随机信号，它的傅立叶变换是 不存在的，也就是说它的频谱是不存在的，我们只能求它的 功率谱。一个平稳随机信号的功率谱就是这个信号的自相关 函数的傅立叶变换。因此，我们就可用信号的功率谱来表征 它的谱特性。在本课程中我们所要讨论的随机序列都为平稳 随机序列。 nx nx n 4.2.2 各态历经性 随机过程的各个样本序列在某一时刻的各种平均特性， 称为集合平均。当样本数趋于无穷时，集合平均就趋于统计

5、平均；随即过程的某个样本序列在不同时刻的各种平均特 性，称为时间平均。 已知 时刻随机变量 的 个取值的集合平均为 （ 4-2） 已知随机信号的一个样本序列 ，则其时间平均为 （ 4-3） 如果一个随机信号的时间平均等于过程的集合平均，则称随 机过程是各态历经的或各态遍历的。具体地说，如果有 则称 为均值各态历经随机过程。 n nx )12( N N Np nNx xNm 12 1lim )(nx N NnNx nxNm )(12 1lim xx mm nx 可见，对各态历经随机过程，可以用一个样本 序列的时间平均计算随机过程的集合平均。实际 上，对一个样本过程进行长时间统计比对许多样本 进行

6、统计要容易实现。实际处理信号时，对已获得 的一个物理信号，先假设它是平稳的，再假设它是 各态历经的。对信号按此假设处理后，再用处理结 果来检验假设的正确性。各态历经的随机过程一定 是平稳随机过程，实际中常用的高斯白噪声，就是 平稳各态历经的。 4.2.3 离散随机信号的数字特征 一个离散随机序列在任何时间点上的取值（随机变量） 是不能先验确定的，但它一定具有一定的统计规律，可用其 统计平均特性来描述。例如抛硬币的所得到的离散序列，每 个时间点上的取值虽然不能预知，但我们知道取值出现 +1 和 -1的概率都为 1/2。实际中要得知一个随机变量的概率分布 函数是比较困难的，我们往往只要知道概率分布

7、的某些数字 特征就足够了。这些数字特征就是随机过程的矩，包括各阶 原点矩和各阶中心矩。对于实随机过程，各阶原点矩是指原 点差值各次方的均值，各阶中心矩是指与均值差值各次方的 均值。 平稳随机过程的主要数字特征包括以下几个： 1.均值（数学期望） 随机变量 的均值可用 表示 均值就是一阶原点矩，它是全部样本在同一时刻取值的 集合平均。 2.均方值 随机变量 的均方值 为 取值平方后的集合平 均，是二阶原点矩。 3.方差 随机变量 的方差定义为 （ 4-4） 方差是二价中心矩，反映了与均值的偏离程度。方差可 以用均值和均方值表示，根据上式有 nx x m nx xEm nx 2nxE nx nx

8、)()( 222 xnnnx mxExExE 即 （ 4-5） 4.自相关函数 设两个时间点 和 上的随即变量分别为 和 ，自 相关函数用 表示 （ 4-6） 这里 是时间间隔，上式也可表示为 （ 4-7） 自相关函数是二价联合原点矩，它反映了同一随机信号 在不同时刻取值的关联程度。 2 222 xxnnx mmxxE 222 xnx mxE 1n 2n 2n 1nx 2nx 2nx )(mrxx )( 21 nnxx xxEmr 12 nnm )( mnnxx xxEmr 5.自协方差函数 自协方差函数 用表示 （ 4-8） 自协方差函数是二价联合中心矩。自相关函数和自协方 差函数只相差一个

9、常数 ，它们之间没有本质的差别， 即 2n2nx )(mxx )()( xmnxnxx mxmxEm 2xm 2)()( xxxxx mmrm 6.互相关函数和互协方差函数 和 是两个同时发生的随机过程，则它们之间的互 相关函数和互协方差函数分别用 和 表示 （ 4-10） （ 4-11） 它们反映了两个随机信号在不同时刻取值的关联程度。 如果 ，则称 和 为正交过程；如果 ，则称 和 互不相关。 在以上这些数字特征里，自相关函数和自协方差函数 是表征一个随机过程的最重要的统计特性。 nx ny )(mrxy )(mxy )( mnnxy yxEmr )()( ymnxnxx mymxEm 0

10、)( mrxy nx ny 0)( mxy nx ny 4.2.4 自相关序列和自协方差序列的性质 设 和 是两个实的平稳随机序列，则自相关序列 和自协方差序列具有以下性质： 性质 1 （ 4-12） 当 时 （ 4-13） 性质 2 （ 4-14） （ 4-15） 性质 3 （ 4-16） nx ny yxxyxy xxxxx mmmrm mmrm )()( )()( 2 0 xm )()( )()( mrm mrm xyxy xxxx )0( 2nxx xEr 222 )0()0( xnxxxxx xEmr )()( )()( mm mrmr xxxx xxxx 性质 4 （ 4-17）

11、性质 5 （ 4-18） 证明： 即 又因 为平稳随机序列，故有 同理可证明 )()( )()( mm mrmr xyxy xyxy )0(|)(| )0(|)(| xxxx xxxx m rmr 0)()( 2 mnxnxE 0)()()(2)( 22 mnxmnxnxnxE nx )0()()( 22 xxrmnxEnxE 0)(2)0(2 mrr xxxx |)(|)0( mrr xxxx |)(|)0( mxxxx 性质 6 （ 4-19） 当 越大时，相关性越小，当 趋于无穷大时，可认 为不相关。也就是说 以上性质说明自相关函数 是随机过程 最重要 的统计表征，它蕴含了 、 、 等主

12、要物理量。 0)(lim )(lim 2 m mmr xxm xxxm m m 2)(lim xmnnmnnxx m mxExExxEmr )(mrxx nx 2xm 2x 2nxE )0()( )( )0( 222 2 2 xxxxxnx xxx xxn rrmxE rm rxE 4.2.5 平稳随机序列的功率谱密度 我们知道，平稳随机序列是非周期函数，且是能量无 限的，因此它的傅立叶变换是不存在的，但其功率谱是 存在的。如果平稳随机序列的均值为零，则它的功率谱 密度和自相关函数是一对傅立叶变换对。即 （ 4-20） 对于实平稳随机序列功率谱，有以下性质： （ 1）功率谱是 的偶函数，即 （

13、 2）功率谱是实的非负函数，即 dePr emrP mj xxxx m mj xxxx )( 2 1)( )()( )()( xxxx PP 0)( xxP 4.3 线性系统对平稳随机信号的响应 设一个线性非时变系统 ，它的单位样本响应为 。 如输入一个平稳随机序列 ，可以证明所得到的响应 也将是一个平稳随机序列，有 （ 4-21） 如果已知随机信号 的特征量 、 、 和 等， 我们来求响应 的这些特征量。 的均值 按定义为 即 （ 4-22） )(zH )(nh )(nx )(ny k knxkhnhnxny )()()()()( )(nx 2 x 2xm )(mrxx )(xxP )(ny

14、 )(ny ym k x k k y khm knxEkh knxkhEnyEm )( )()( )()()( )()( 0jx k xy eHmkhmm 的自相关函数为 因为 是平稳的，所以 所以 令 ，代入上式 （ 4-23） )(ny )()()()( )()()()( )()(),()( k r rk xxyy rmnxknxErhkh rmnxrhknxkhE mnynyEmnnrmr )(nx )()()( rkmrkmnxknxE xx k xx r yy rkmrrhkhmr )()()()( krl )()( )()( )()()()( mvmr lvlmr klhkhlmr

15、mr xx l xx l k xxyy 式中 （ 4-24） 的功率谱为 （ 4-25） 当输入 为白噪声时， ，有 （ 4-26） )()()()()( lhlhklhkhlv k )(ny 2 |)(|)( )()()( )()()( j xx jj xx j xxyy eHP eHeHP eVPP )(nx 2)( xxxP 22 |)(|)( jxyy eHP 4.4 均值、方差、自相关函数的估计 随机信号与确定性信号不同，它不能用数学表达式或 图表来表示，只能用它的某些数字特征来表征。如 、 和 等，由于随机信号是无始无终的，所以这些数 字特征是不能精确求出的，我们只能通过估计的方法

16、来 得到。 估计的方法很多，所以我们必须有一个标准来确定一个 估计是“好”的估计。我们用 表示平稳随机序列的 某个数字特征值，可以是均值、方差、自相关函数、功 率谱等。实际上即使用相同的方法进行估计，由于每次 所用样本不同，得到的估计也是不同的。所以 得估 值也是随机变量，可以取很多值，用 表示估值的 均值。 2xm 2nxE 2x E 设 为样本数，如果当 时， 满足以下两个条件 （ 4-27） （ 4-28） 这里， 称为 的偏差，为零表示 是 的一个无 偏估计； 称为估计方差。满足以上两式的估计称为一 致估计，一个好正确的估计必须满足一致估计的条件。 实际上 （ 4-29） 下面用随机序

17、列 的 N个样本数据 、 、 、 来估计 的均值、方差和自相关函数。 N 0N 0 EB ias 0)( 22 EEV a r Bias 2 22 )( xxx EEV a r )(nx )0(x )1(x )1( Nx )(nx 4.4.1均值的估计 将 的 N个样本数据的算术平均作为均值得估计 ，即 （ 4-30） 由上式可得 （ 4-31） 即偏差为 （ 4-32） 故这种估计为无偏估计。 现在求 ，按定义有 （ 4-33） )(nx xm 10 )(1 Nnx nxNm 1010 10 1)(1)(1 Nn xxNn Nnx mmNnxENnxNEmE 0 xxx mmEmia sB

18、xmVar 22 )( xxx mEmEmV a r 对 有 （ 4-34） 为便于分析，假定 与 是互不相关的，则 于是式（ 4-34）成为 2xmVar 1 0 1 0 1 ,0 2 2 2 1 0 1 ,0 2 2 1 0 1 0 2 1 0 1 0 2 )()( 1 )( 1 )()()( 1 )()( 1 )( 1 )( 1 N n N n N nmm N n N nmm N n N m N m N n x mxnxE N nxE N mxnxEnxE N mxnxE N mx N nx N EmE )(nx )(mx 2)()()()( xmmxEnxEmxnxE 221 0 1

19、,0 2 2 22 1111 xx N n N nmm xxx mN Nm NmNmNmE 上式代入（ 4-33），有 可见，当 时， 。 综合上面对偏差和方差的分析，可以得出结论：由（ 4- 30）所得的对 的估计 是无偏的一致估计。 均值的估计在实际中应用很广，往往通过减去均值使随 机信号的均值不为零的情况变为均值为零的情况。 011 222 xxxx mmNNmNmV a r N 0)( xmVa r xm x m 4.4.2 方差的估计 对于有 N个样本数据的随机序列，其方差可由下式来估 计 （ 4-35） 此估计的数学期望为 （ 4-36） 即，当 时 所以，式（ 4-35）对方差的

20、估计是无偏估计。 1 0 22 )(1 N n xx mnxN 21 0 21 0 22 1)(1 xN n x N n xx N mnxENE N 0 222 xxx EB ias 下面来讨论这种估计的方差，根据定义有 （ 4-37） 将（ 4-36）代入上式，得 可以证明，当 时，估计的方差趋于零。所以，式 （ 4-35）对方差的估计是无偏的一致估计。 实际中，也可以用下式来估计方差 可以证明，用此式对方差进行估计得到的也是满足一致 估计的条件。 )()( 2222 xxx EEV a r )()( 2222 xxx EV ar N 1 0 22 )(1 N n xx mnxN 4.4.3

21、 自相关函数的估计 由于我们只能观察到 的 N个样本数据，而 与 的数据是不知道的，因此，可用下式对自相关 函数 进行估计 （ 4-38） 对于实序列，其自相关函数偶对称，即 于是，可将式（ 4-38）表示为 （ 4-39） 此估计的均值为 （ 4-40） 可见，这种估计属于无偏估计。 N 10 Nn 0n 1 Nn )(mxx 1|,|)|()(|1)( |1 0 NmmnxnxmNmr mN nxx )()( mrmr xxxx 1|,)()(|1)( |1 0 NmmnxnxmNmr mN n xx |1 0|1 0 )()(|1)()(|1)( mN n xxxxmN nxx mrmr

22、mNmnxnxEmNmrE 很多学者都主张用下式来估计自相关函数 （ 4-41） 此估计的均值为 （ 4-42） 偏差为 可以看出，当 时，偏 差，所以式 （ 4-41）也是无偏估计。 1|,)()(1)( 1 0 NmmnxnxNmr mN n xx )() | 1( )( 1 )()( 1 )( |1 0 |1 0 mr N m mr N mnxnxE N mrE xx mN n xx mN n xx )( )() | 1()( )()()( mr N m mr N m mr mrEmrmrB ia s xx xxxx xxxxxx N 0)( mrB ia s xx 下面来讨论这两种估计

23、的方差。将式（ 4-40）写为 即 （ 4-44） 对 有 将式（ 4-40）代入上式 （ 4-45） 对 有 |1 0 |1 0 )()( | 1| )()(1)( mN n mN n xx mnxnx mNN mN mnxnx N mr )()( mrN mNmr xxxx )( mrxx )()()( 2mrEmrEmrV ar xxxxxx )()()( 2mrmrEmrV a r xxxxxx )( mrxx )()()( 2mrEmrEmrV ar xxxxxx 第章 功率谱估计 5.1 经典谱估计 5.2 自回归模型法 5.3 最大熵谱估计 5.4 AR模型参数的求解 第章 维纳

24、滤波器和卡尔曼滤波器 6.1 离散维纳滤波器的时域解 6.2 离散维纳滤波器的域解 6.3 维纳预测器 6.4 卡尔曼 （ Kalman） 滤波器 第章 自适应滤波器 7.1 LMS自适应滤波器的基本原理 7.2 Widrow-Hoff LMS算法 7.3 自适应滤波器的应用 第章 小波变换 8.1 连续小波变换的基本概念和性质 8.2 常用的小波变换 8.3 尺度因子离散化的小波变换及小波标 架 8.4 离散小波变换的多分辨分析 8.5 Mallat算法及实现 8.6 小波变换总结 第章 信号测试技术 9.1 测试技术概论 9.2 测量方法 9.3 信号的分类和可测性 9.4 测试信号的转换与调理 9.5 现代测试系统