随机过程知识点

第一章:预备知识

§1、1 概率空间

随机试验,样本空间记为Ω。

定义1、1 设Ω就是一个集合,F 就是Ω的某些子集组成的集合族。如果

(1)∈ΩF;

(2)∈A 若F ,∈Ω=A A \则F;

(3)若∈n A F , ，，21=n ,则 ∞=∈1n n A

F;

则称F 为-σ代数(Borel 域)。(Ω,F )称为可测空间,F 中的元素称为事件。

由定义易知:

.

216\,,)5)4(111F A A A i F A F B A F B A F i i n i i n i i i ∈=∈∈∈∈?∞

=== ，，则，，，）若（；

则若（；

定义1、2 设(Ω,F )就是可测空间,P(·)就是定义在F 上的实值函数。如果

()()()()∑∞

=∞==???? ???=?≠=Ω≤≤∈1121,,,31210,)1(i i i i j i A P A P A A j i A A P A P F A 有

时，当）对两两互不相容事件（；

）（；

任意

则称P 就是()F ,Ω上的概率,(P F ，，Ω)称为概率空间,P(A)为事件A 的概率。

定义1、3 设(P F ，，Ω)就是概率空间,F G ?,如果对任意

G A A A n ∈,,,21 , ,2,1=n 有: (),1

1∏===???? ??n i i n i i A P A P 则称G 为独立事件族。

§1、2 随机变量及其分布

随机变量X ,分布函数)(x F ,n 维随机变量或n 维随机向量,联合分布函

数,{}T t X t ∈,就是独立的。

§1、3随机变量的数字特征

定义1、7 设随机变量X 的分布函数为)(x F ,若?∞

∞-∞<)(||x dF x ,则称

)(X E ＝?∞

∞-)(x xdF 为X 的数学期望或均值。上式右边的积分称为Lebesgue-Stieltjes 积分。

方差,()()[]EY Y EX X E B XY --=为X 、Y 的协方差,而 DY DX B XY XY =

ρ 为X 、Y 的相关系数。若,0=XY ρ则称X 、Y 不相关。

(Schwarz 不等式)若,,22∞<∞

().222EY EX EXY ≤

§ 1、4 特征函数、母函数与拉氏变换

定义1、 10 设随机变量的分布函数为F(x),称

()()(),jtX jtx g t E e e dF x t ∞-∞=-∞<<∞?

为X 的特征函数

随机变量的特征函数具有下列性质: (1)(0)1,()1,()()g g t g t g t =≤-= 1

( 2 ) g (t )在()∞∞-, 上一致连续。(3)()(0)()k k k g

i E X = (4)若12,,,n X X X 就是相互独立的随机变量,则12n X X X X =+++的特征函数12()()()()n g t g t g t g t =,其中()i g t 就是随机变量X i 的特征函数,1,2,,i n =、

定义1 、 11 设 12(,,

,)n X X X X =就是n 维随机变量,t = (12,,,n t t t ) ,R ∈ 则称 121()(,,,)()[exp()]n

itX n k k k g t g t t t E e E i t X '====∑,

为X 的特征函数。

定义1、12 设X 就是非负整数值随机变量,分布列

() ,2,1,===k x X P p k k

则称 )()(X

def s E s P =＝k k k s P ∑∞

=0 为X 的母函数。

§ 1、5 n 维正态分布

定义1、13 若n 维随机变量),,,(21n X X X X =的联合概率密度为

})()(21exp{)2(1

),,,()(12/2/21T n n n a x B a x B x x x f x f ---==-π 式中,),,,(21n a a a a =就是常向量,n n ij b B ?=)(就是正定矩阵,则称X 为n 维正态随机变量或服从n 维正态分布,记作),(~B a N X 。

可以证明,若),(~B a N X ,则X 的特征函数为

}2

1exp{),,,()(21t iB t ia t t t g t g n '-'== 为了应用的方便,下面,我们不加证明地给出常用的几个结论。

性质1 若),(~B a N X 则n l b B a X E kl X X k k l k ,,2,1,,)( ===。

性质2 设),(~B a N X ,XA Y =,若BA A '正定,则),(~BA A aA N Y '。即正态随机变量的线性变换仍为正态随机变量。

性质3 设),,,(4321X X X X X =就是四维正态随机变量,4,3,2,1,0)(==k X E k ,则

)()()()()()()(3241423143214321X X E X X E X X E X X E X X E X X E X X X X E ++=

§ 1、6 条件期望

给定Y=y 时,X 的条件期望定义为

??===dx y x xf y x xdF y Y X E )|()|()|(

由此可见除了概率就是关于事件｛Y=y ｝的条件概率以外,现在的定义与无条件的情况完全一样。

E(X|Y=y)就是y 的函数,y 就是Y 的一个可能值。若在已知Y 的条件下,全面地考虑X 的均值,需要以Y 代替y,E(X|Y)就是随机变量Y 的函数,也就是随机变量,称为 X 在 Y 下的条件期望。

条件期望在概率论、数理统计与随机过程中就是一个十分重要的概念,下面我们介绍一个极其有用的性质。

性质 若随机变量X 与Y 的期望存在,则

?===)()|()]|([)(y dF y Y X E Y X E E X E Y --------(1)

如果Y 就是离散型随机变量,则上式为

∑===y

y Y P y Y X E X E }{)|()(

如果Y 就是连续型,具有概率密度f(x),则(1)式为

?+∞

∞

-==dy y f y Y X E X E )()|()(

第二章 随机过程的概念与基本类型

§2、1 随机过程的基本概念

定义2、1 设(P F ，，Ω)就是概率空间,T 就是给定的参数集,若对每个t ∈T ,有一个随

机变量X (t ,e )与之对应,则称随机变量族}),,({T t e t X ∈就是(P F ，，Ω)的随机过程,简记为随机过程}),({T t t X ∈。T 称为参数集,通常表示时间。

通常将随机过程}),,({T t e t X ∈解释为一个物理系统。X(t)表示在时刻t 所处的状态。

X(t)的所有可能状态所构成的集合称为状态空间或相空间,记为I 。

从数学的观点来说,随机过程}),,({T t e t X ∈就是定义在T ×Ω上的二元函数。对固定的

t,X (t ,e )就是定义在T 上的普通函数,称为随机过程}),,({T t e t X ∈的一个样本函数或轨道,样本函数的全体称为样本函数的空间。

§ 2、2 随机过程的函数特征

t X ={X (t ),t ∈T }的有限维分布函数族。

有限维特征函数族:

}1,,,,:),,,({2121,,1≥∈=Φn T t t t g n n t t n θθθ

其中:

)})((ex p{),,,(121,,1k n

k k n t t t x i E g n ∑==θθθθ

定义2、3 设t X ={X (t ),t ∈T }的均值函数def t m X )()]([t X E ,T t ∈。

二阶矩过程,协方差函数:T ,)]()([),()(2

∈-=t t m t X E def t t B t D X X X 相关函数: =),(t s R X )]()([t X s X E

定义2、4 设{X (t ),t ∈T },{Y (t ),t ∈T }就是两个二阶矩过程,

互协方差函数,互相关函数。

§ 2、3 复随机过程

定义 2、5 设},{T t X t ∈,},{T t Y t ∈就是取实数值的两个随机过程,若对任意T t ∈

t t t iY X Z +=,

其中 1-=i ,则称},{T t Z t ∈为复随机过程.

定理 2、2 复随机过程},{T t X t ∈的协方差函数 ),(t s B 具有性质

(1)对称性:),(),(s t B t s B =;

(2)非负定性

§2、4 几种重要的随机过程

一、正交增量过程 定义2、6 设(){}T ∈X t t ,就是零均值的二阶矩过程,若对任意的,4321T ∈<≤