随机过程知识点

《随机过程知识点》由会员分享，可在线阅读，更多相关《随机过程知识点（15页珍藏版）》请在装配图网上搜索。

1、-第一章：预备知识1.1概率空间随机试验，样本空间记为。定义1.1设是一个集合，F是的*些子集组成的集合族。如果1F；2F，F；3假设F，则F；则称F为代数(Borel域)。(,F)称为可测空间，F中的元素称为事件。由定义易知：定义1.2 设(,F)是可测空间，P()是定义在上的实值函数。如果则称P是上的概率，称为概率空间，P(A)为事件A的概率。定义1.3 设是概率空间，如果对任意，有： 则称为独立事件族。1.2 随机变量及其分布随机变量*，分布函数，n维随机变量或n维随机向量，联合分布函数，是独立的。1.3随机变量的数字特征定义1.7 设随机变量*的分布函数为，假设，则称为*的数学期望或均

2、值。上式右边的积分称为Lebesgue-Stieltjes积分。方差，为*、Y的协方差，而为*、Y的相关系数。假设则称*、Y不相关。Schwarz不等式假设则 1.4 特征函数、母函数和拉氏变换 定义1. 10 设随机变量的分布函数为F*，称为*的特征函数随机变量的特征函数具有以下性质：(1)1( 2 ) g (t)在 上一致连续。3(4)假设是相互独立的随机变量，则的特征函数，其中是随机变量*的特征函数，.定义1 . 11 设 是n维随机变量，t = () 则称,为*的特征函数。定义1.12 设*是非负整数值随机变量，分布列则称为*的母函数。 1.5 n维正态分布 定义1.13 假设n维随机

3、变量的联合概率密度为 式中，是常向量，是正定矩阵，则称为n维正态随机变量或服从n维正态分布，记作。 可以证明，假设，则的特征函数为 为了应用的方便，下面，我们不加证明地给出常用的几个结论。 性质1 假设则。 性质2 设，假设正定，则。即正态随机变量的线性变换仍为正态随机变量。性质3 设是四维正态随机变量，则 1.6 条件期望 给定Y=y时，*的条件期望定义为由此可见除了概率是关于事件Y=y的条件概率以外，现在的定义与无条件的情况完全一样。 E(*|Y=y)是y的函数，y是Y的一个可能值。假设在Y的条件下，全面地考虑*的均值，需要以Y代替y，E(*|Y)是随机变量Y的函数，也是随机变量，称为 *

4、在 Y下的条件期望。 条件期望在概率论、数理统计和随机过程中是一个十分重要的概念，下面我们介绍一个极其有用的性质。性质 假设随机变量*与Y的期望存在，则 -(1) 如果Y是离散型随机变量，则上式为如果Y是连续型，具有概率密度f(*)，则1式为第二章 随机过程的概念与根本类型2.1 随机过程的根本概念定义2.1 设是概率空间,T是给定的参数集,假设对每个tT，有一个随机变量*(t,e)与之对应，则称随机变量族是的随机过程,简记为随机过程。T称为参数集，通常表示时间。通常将随机过程解释为一个物理系统。*(t)表示在时刻t所处的状态。*(t)的所有可能状态所构成的集合称为状态空间或相空间，记为I。从

5、数学的观点来说，随机过程是定义在T上的二元函数。对固定的t，*(t,e)是定义在T上的普通函数，称为随机过程的一个样本函数或轨道，样本函数的全体称为样本函数的空间。 2.2 随机过程的函数特征=*(t),tT 的有限维分布函数族。有限维特征函数族：其中：定义2.3 设=*(t),tT 的均值函数，。二阶矩过程，协方差函数：相关函数：定义2.4 设*(t),tT ，Y(t),tT是两个二阶矩过程，互协方差函数，互相关函数。 2.3 复随机过程定义 2.5 设，是取实数值的两个随机过程，假设对任意，其中 ，则称为复随机过程定理 2.2 复随机过程的协方差函数 具有性质 1对称性：；2非负定性2.4

6、 几种重要的随机过程一、正交增量过程定义2.6 设是零均值的二阶矩过程，假设对任意的有公式，则称正交增量过程。二、独立增量过程定义2.7 设是随机过程，假设对任意的正整数和随机变量是互相独立的，则称是独立增量过程，又称可加过程。定义 2.8 设是平稳独立增量过程，假设对任意随机变量的分布仅依赖于，则称是平稳独立增量过程。三、马尔可夫过程定义2.9设为随机过程，假设对任意正整数n及,，且其条件分布=，(2.6) 则称为马尔可夫过程。四、正态过程和维纳过程定义 2.10设是随机过程，假设对任意正整数n和,(,)是n维正态随机变量，则称是正态过程或高斯过程。定义 2.11设为随机过程，如果1；2它是

7、独立、平稳增量过程；3对，增量，则称为维纳过程，也称布朗运动过程。定理 2.3 设是参数为的维纳过程，则（1） 任意t,；（2） 对任意,特别：。五、平稳过程定义 2.12 设是随机过程，如果对任意常数和正整数当时，与有一样的联合分布，则称为严平稳过程，也称狭义平稳过程。定义 2.13 设是随机过程，如果1是二阶矩过程；2对于任意常数；3对任意的，则称为广义平稳过程，简称为平稳过程。假设T为离散集，则称平稳过程为平稳序列。第三章 泊松过程.1 泊松过程的定义和例子定义3.1 计数过程定义3.2 称计数过程为具有参数0的泊松过程，假设它满足以下条件 (1) *(0)= 0； (2) *(t)是独

8、立增量过程； (3) 在任一长度为t的区间中，事件A发生的次数服从参数t0的泊松分布，即对任意s,t0，有 注意，从条件(3)知泊松过程是平稳增量过程且。由于，表示单位时间内事件A发生的平均个数，故称为此过程的速率或强度。定义3.3 称计数过程为具有参数0的泊松过程，假设它满足以下条件 (1) *(0)= 0； (2) *(t)是独立、平稳增量过程；(3) *(t) 满足以下两式： (3.2)定理3.1 定义3.2与定义3.3是等价的。3.2 泊松过程的根本性质一、数字特征设是泊松过程， 一般泊松过程的有。有特征函数定义，可得泊松过程的特征函数为二、时间间隔与等待时间的分布为第n次事件A出现的

9、时刻或第n次事件A的等待时间，是第n个时间间隔，它们都是随机变量。定理3.2 设是具有参数的泊松分布，是对应的时间间隔序列，则随机变量是独立同分布的均值为的指数分布。定理3.3 设是与泊松过程对应的一个等待时间序列，则服从参数为n与的分布，其概率密度为三、到达时间的条件分布定理3.4 设是泊松过程，在0,t内事件A发生n次，则这n次到达时间与相应于n个0,t上均匀分布的独立随机变量的顺序统计量有一样的分布。3.3 非齐次泊松过程定义3.4 称计数过程为具有跳跃强度函数的非齐次泊松过程，假设它满足以下条件：(1) ；(2) 是独立增量过程；(3) 非齐次泊松过程的均值函数为：定理3.5 设是具有

10、均值函数的非齐次泊松过程，则有或 上式说明不仅是的函数，也是的函数。3.4 复合泊松过程定义3.5 设是强度为的泊松过程，是一列独立同分布随机变量，且与独立，令则称为复合泊松过程。定理3.6 设是复合泊松过程，则1。是独立增量过程；2*(t)的特征函数，其中是随机变量的特征函数；是事件的到达率。3假设则第4章 马尔可夫链4.1 马尔可夫链的概念及转移概率 一、马尔可夫键的定义定义1 设有随机过程，假设对于任意的整数和任意的，条件概率满足则称为马尔可夫链，简称马氏链。二、转移概率定义2 称条件概率为马尔可夫链在时刻n的一步转移概率，其中，简称为转移概率。定义 3 假设对任意的，马尔可夫链的转移概

11、率与n无关，则称马尔可夫链是齐次的，并记为。定义4 称条件概率为马尔可夫链的n步转移概率， 定理 1 设为马尔可夫链，则对任意整数和，n步转移概率具有以下性质：定义5 设为马尔可夫链，称为的初始概率和绝对概率，并分别称和为的初始分布和绝对分布，简记为和。定理2 设为马尔可夫链，则对任意和，绝对概率具有以下性质：定理3 设为马尔可夫链，则对任意和，有4.2 马尔可夫链的状态分类一、状态分类假设是齐次马尔可夫链，其状态空间，转移概率是, 初始分布为 。定义4.6 如集合非空，则称该集合的最大公约数为状态的周期。如就称为周期的，如就称为非周期的。假设对每一个不可被整除的，有=0，且是具有此性质的最大

12、正整数，则称为状态的周期。引理4.1 如的周期为d，则存在正整数M，对一切，有。定义 对记 4.15称是系统在0时从出发经过步转移后首次到达状态的概率，而则是在0时从出发，系统在有限步转移内不可能到达状态的概率。我们将和统称为首达概率又称首中概率。引理 1 （2） 首达概率可以用一步转移概率来表示：定义4.7 假设=1，则称状态为常返的；假设0， 假设有 ，则称二阶矩随机序列依概率收敛于二阶矩随机变量*(e)，记作。4、均方收敛设有二阶矩随机序列和二阶矩随机变量*，假设有 (6.3)成立，则称均方收敛，记作。注：(6.3)式一般记为或。5、依分布收敛设有二阶矩随机序列和二阶矩随机变量*，假设相

13、应的分布函数列，在*的分布函数F(*)的每一个连续点处，有则称二阶矩随机序列依分布收敛于二阶矩随机变量*，记作对于以上四种收敛定义进展比拟，有以下关系：(1) 假设，则(2) 假设，则(3) 假设，则定理2 二阶矩随机序列收敛于二阶矩随机变量*的充要条件为定理3 设都是二阶矩随机序列，U为二阶矩随机变量，为常数序列，a，b，c为常数。令，。则1 ；2 ；3 ；4 ；5 ；6 ；特别有。定理4 设为二阶矩随机序列，则均方收敛的充要条件为以下极限存在。二、均方连续定义 设有二阶矩过程，假设对，有，则称在点均方连续，记作。假设对T中一切点*方连续，则称在T上均方连续。定理均方连续准则二阶矩过程在t点

14、均方连续的充要条件为相关函数。推论 假设相关函数在上连续，则它在TT上连续三、均方导数定义7 设是二阶矩过程，假设存在一个随机过程，满足类似的有称为在的广义二阶导数，记为定理6 均方可微准则 二阶矩过程在t点均方可微的充要条件为相关函数的广义二阶导数存在。推论1 二阶矩过程在T上均方可微的充要条件为相关函数在上每一点广义二阶可微。推论2 假设在上每一点广义二阶可微，则在T上以及在上存在，且有四、均方积分定义8 如果时，均方收敛于，即，则称在上均方可积，并记为定理7 均方可积准则在区间上均方可积的充要条件为存在。特别的，二阶矩过程在上均方可积的充要条件为在上可积。定理8 设在区间上均方可积，则有

15、(1) 特别有 (2) 特别的有 。定理9 设二阶矩过程在上均方连续，则在均方意义下存在，且随机过程在上均方可微，且有。推论 设均方可微，且均方连续，则特别有4 平稳过程的各态历经性定义9 设为均方连续的平稳过程，则分别称为该过程的时间均值和时间相关函数。定义10 设是均方连续的平稳过程，假设，即以概率1成立，则称该平稳过程的均值具有各态历经性。假设，即以概率1成立，则称该平稳过程的相关函数具有各态历经性。定义11 如果均方连续的平稳过程的均值和相关函数都具有各态历经性，则称该平稳过程为具有各态历经性或遍历性。定理 10 设是均方连续的平稳过程，则它的均值具有各态历经性的充要条件为 (6.9)

16、定理6.11 设为均方连续的平稳过程，则其相关函数具有各态历经性的充要条件为 (6.15)其中 (6.16)定理6.12 对于均方连续平稳过程，等式以概率1成立的充要条件为假设为实平稳过程，则上式变为定理 6.13 对于均方连续平稳过程，等式以概率1成立的充要条件为其中与6.16式一样。假设为实平稳过程，则上式变为第七章 平稳过程的谱分析7.1 平稳过程的谱密度设 是均方连续随机过程，作截尾随机过程 因为 均方可积，故存在傅式变换.(7.4)利用帕塞伐公式及傅式反变换，可得定义7.1 设 为均方连续随机过程，称为 的平均功率，称为 的功率谱密度，简称谱密度。当 是平稳均方连续函数时，由于是与无

17、关的常数，利用均方积分的性质可以将7.5式简化得. (7.8)由7.8式和7.5式看出，平稳过程的平均功率等于该过程的均方值，或等于它的谱密度在频域上的积分，即. (7.9)定义7.2 设是平稳随机序列，假设相关函数满足则称为的谱密度。7.2谱密度的分析设 为均方连续平稳过程，为它的相关函数，为它的频率谱密度，具有以下性质：（1） 假设，则是的傅式变换，即. (7.12)(2) 是的实的,非负的偶函数。 (3) 当 是有理函数时，其形式必为其中为常数，且，分母无实根。7.3 窄带过程及白噪声过程的功率谱密度定义1 设 为实值平稳过程，假设它的均值为零，且谱密度在所有频率范围内为非零的常数，即则称为白噪声过程。具有以下性质的函数称为函数： 函数有一个非常重要的运算性质，即抽样性质。对任何连续函数，有 (7.15)或 7.4 联合平稳过程的互谱密度定义7.4 设和是两个平稳过程，且它们是联合平稳的(平稳相关的)，假设它们的互相关函数满足,则称的傅氏变换.(7.21)是与的互功率谱密度，简称互谱密度。因此互谱密度与互相关函数的关系如下：,互谱密度具有以下性质：，即与互为共轭；和是的偶函数，而和是的奇函数；与和满足以下关系式：假设和相互正交，则. z.