随机过程 第五章 连续时间的马尔可夫链

第五章 连续时间的马尔可夫链

5.1连续时间的马尔可夫链

考虑取非负整数值的连续时间随机过程}.0),({≥t t X

定义5.1 设随机过程}.0),({≥t t X ,状态空间}0,{≥=n i I n ,若对任意

121...0+<<<≤n t t t 及I i i i n ∈+121,...,,有

})(,...)(,)()({221111n n n n i t X i t X i t X i t X P ====++

=})()({11n n n n i t X i t X P ==++ (5.1) 则称}.0),({≥t t X 为连续时间马尔可夫链.

由定义知,连续时间马尔可夫链是具有马尔可夫性的随机过程,即过程在已知现在时刻n t 及一切过去时刻所处状态的条件下,将来时刻1+n t 的状态只依赖于现在状态而与过去无关.

记(5.1)式条件概率一般形式为

),(})()({t s p i s X j t s X P ij ===+ (5.2) 它表示系统在s 时刻处于状态i,经过时间t 后转移到状态j 的转移概率.

定义5.2 若(5.2)式的转移概率与s 无关,则称连续时间马尔可夫链具有平稳的或齐次的转移概率,此时转移概率简记为 ),(),(t p t s p ij ij =

其转移概率矩阵简记为).0,,()),(()(≥∈=t I j i t p t P ij

以下的讨论均假定我们所考虑的连续时间马尔可夫链都具有齐次转移概率.简称为齐次马尔可夫过程.

假设在某时刻,比如说时刻0,马尔可夫链进入状态i,而且接下来的s 个单位时间单位中过程未离开状态i,(即未发生转移),问随后的t 个单位时间中过程仍不离开状态i 的概率是多少呢?由马尔可夫我们知道,过程在时刻s 处于状态i 条件下,在区间[s,s+t]中仍然处于i 的概率正是它处于i 至少t 个单位的无条件概率..若记

i h 为记过程在转移到另一个状态之前停留在状态i 的时间,则对一切s,t 0≥有

},{}{t h P s h t s h P i i i >=>+>

可见,随机变量i h 具有无记忆性,因此i h 服从指数分布.

由此可见,一个连续时间马尔可夫链,每当它进入状态i,具有如下性质: (1) 在转移到另一状态之前处于状态i 的时间服从参数为i v 的指数分布;

(2) 当过程离开状态i 时,接着以概率ij p 进行状态j,1=∑≠i

j ij p .

上述性质也是我们构造连续时间马尔可夫链的一种方法.

当∞=i v 时,称状态i 为瞬时状态,因为过程一旦进入此状态立即就离开.0=i v 时,称状态i 为吸收状态,因为过程一旦进入状态就永远不再离开了.尽管瞬时状态在理论上是可能的,但以后假设对一切i, ∞<≤i v 0.因此,实际上一个连续时间的马尔可夫链是一个这样的随机过程,它按照一个离散时间的马尔可夫链从一个状态转移到另一个状态,但在转移到下一个状态之前,它在各个状态停留的时间服从指数分布.此外在状态i 过程停留的时间与下一个到达的状态必须是相互独立的随机变量.因此下一个到达的状态依赖于i h ,那么过程处于状态i 已有多久的信息与一个状态的预报有关,这与马尔可夫性的假定相矛盾.

定理5.1 齐次马尔可夫过程的转移概率具有下列性质:

;0)1(≥ij p (2)

;1=∑

∈ij I

j p

(3) ∑∈=+I

k kj ik ij s p t p s t p )()()(.

其中(3)式即为连续时间齐次马尔可夫链的切普曼—柯尔哥洛夫方程. 证明 只证(3).由全概率公式及马尔可夫性可得 ===+=+)})0()({)(i X j s t X P s t p ij =∑∈===+I

k i X k t X j s t X P })0()(,)({

=})()({})0()({k t X j s t X P i X k t X P I

k ==+==∑∈

∑∈=I

k kj ik s p t p )()(.

对于转移概率)(t p ij ,一般还假定它满足:

???≠==→.

,0,1)(lim 0j i j

i t p ij t

(5.3)

称(5.3)式为正则条件.正则条件说明,过程刚进入某状态不可能立即又跳跃到另一状态.这正好说明一个物理系统要在有限时间内发生限多次跳跃,从而消耗无穷多的能量这是不可能的.

定义5.3 对于任 一0≥t 记 },)({)(j t X P t p j ==

,},)0({)0(I j j X P p p j j ∈===

分别称}{},),({,I j p I j t p j j ∈∈ 齐次马尔可夫过程的绝对概率分布和初始概率分布.

定理5.2齐次马尔可夫过程的绝对概率及有限维概率分布具有下列性质: (1) ,0)(≥t p j (2)

,1)(=∑

∈t p j I

j

(3) )()(t p p t p ij I

i i j ∑∈=;

(4) );()()(h p t p h t p ij I

i i j ∑∈=+

(5)

).()...(})(,...,)({112111211-∈--==

==-∑n n i i i i ii I

i i n n t t p t t p p p i t X i t X p n n

例5.1试证明泊松过程}0),({≥t t X 为连续时间齐次马尔可夫链. 证明 先证泊松过程具有马尔可夫性,再证明齐次性.由泊松过程的定义

它是独立增量过程,且X(0)=0.11,...0+<<

})(,...,)()({1111n n n n i t X i t X i t X P ===++

= ,.)0()()()({1111i X t X i i t X t X P n n n n =--==-++ =,111212)()(,...)()(---=--=-n n n n i i t X t X i i t X t X } = })()({11n n n n i i t X t X P -=-++ . 另一方面,因为

})()({11n n n n i t X i t X P ==++

=})0()()()({11n n n n n n i X t X i i t X t X P =--=-++ =})()({11n n n n i i t X t X P -=-++

所以})(,...,)()({1111n n n n i t X i t X i t X P ===++=})()({11n n n n i t X i t X P ==++. 即泊松过程是一个连续时间马尔可夫过程.以下证明齐次性. 当i j ≥ 时,由泊松过程的定义

})()({i s X j t s X P ==+= })()({i j s X t s X P -=-+

=)!

()(i j t e

i

j t

---λλ j

?????<≥-==--i j i

j i j t e t p t s p i j t ij ij ,0,)!

()()(),(λλ, 即转移概率只与t 有关,泊松过程具有齐次性.

5.2柯尔莫哥洛夫微分方程

对于连续时间齐次马尔可夫链转移概率)(t p ij 的求解一般比较复杂.下面首先讨论)(t p ij 的可微性及)(t p ij 满足的柯尔莫哥洛夫微分程.

引理5.1 设齐次马尔可夫过程满足正则性条件(5.3),则对于任意固定的

)(,,t p I j i ij ∈是t 的一致连续函数.

证明 设h>0,由定理5.1得

)()()()()(t p t p h p t p h t p ij rj I

r ir ij ij -=-+∑∈

)()()()()(t p t p h p t p h p ij ij ii rj i

r ir -+=∑≠

=)()](1[)()(t p h p t p h p ij ii rj i

r ir --=∑≠

故有)],(1[)()](1[)()(h p t p h p t p h t p ii ij ii ij ij --≥--=-+ ),(1)()()()()(h p h p t p h p t p h t p ii i

r ir rj i

r ir ij ij -=≤≤-+∑∑≠≠

因此

).(1)()(h p t p h t p ii ij ij -≤-+

对于h<0,同样有).(1)()(h p t p h t p ii ij ij --≤-+ 综上所述得到

).(1)()(h p t p h t p ii ij ij -≤-+ 由正则性条件知

,0)()(lim 0=-+→t p h t p ij ij h 即)(t p ij 关于t 是一致连续的.

以下我们恒设齐次马尔可夫过程满足正则性条件(5.3)式.

定理5.3 设)(t p ij 是齐次马尔可夫过程的转移概率,则下列极限存在 (1);)

(1lim 0

∞≤==??-→?ii i ii t q v t t p (2).,)(lim 0

j i q t

t p ij ij t ≠∞<=??→?

我们称ij q 为齐次马尔可夫过程从状态i 到状态j 的转移概率或跳跃强度.定理中的极限的概率意义为:在长为t ?的时间区间内,过程从状态i 转移到另一其他状态的转移概率为)(1t p ii ?-等于t q ii ?加一个比t ?高阶的无穷小量,而过程从状态i 转移到状态j 的转移概率为)(t p ij ?等于t q ij ?加一个比t ?高阶的无穷小量. 推论 对有限齐次马尔可夫过程,有 ∞<=∑≠i

j ij ii q q

证明 由定理5.1 ,有

)()(1,1)(t p t p t p

i

j ij ii I

j ij

?=?-=?∑∑≠∈

由于求和是在有限集中进行,故有

.)(lim )

(1lim 00∑∑≠≠→?→?=??=??-=i

j ij ij i j t ii t ii q t t p t t p q (5.4)

对于状态空间无限的齐次马尔可夫过程,一般只有 ∑≠≥i

j ij ii q q .

若连续时间齐次马尔可夫是具有有限状态空间I={0,1,2,…,n},则其转移速率构

成以下形式的矩阵

?

?

???

???????---=nn n n n n q q q q q q

q q q Q .....................

1

11110

00100 (5.5) 由(5.4)式知,Q 矩阵的每一行元素之和为0,对角线元素为负或0,其余.0,≥ij q 利用Q 矩阵可以推出任意时间间隔t 的转移概率所满足的方法组,从而可以求解转移概率.

由切普曼---柯尔莫哥洛夫方程有 ),()()(t p h p h t p I

k kj ik ij ∑∈=+

或等价地

)()](1[)()()()(t p h p t p h p t p h t p ij ii kj i

k ik ij ij --=-+∑≠

两边除以h 后令0→h 取极限,应用定理5.3得到 )()()

(lim )

()(lim 00

t p q t p h

h p h

t p h t p ij ii kj i

k ik h ij ij h -=-+∑

≠→→ (5.6) 假定在(5.6)式的右边可交换极限与求和,再运用定理5.3,于是得到以下结论: 定理5.4 (柯尔莫哥洛夫向后方程)假设,ii i

k ik q q =∑≠则对一切i,j 及0≥t ,有

,)()(ij ii i

k kj ik ij

p q t p q t p -='∑≠ (5.7) 证明 只要证明(5.6)式右边极限与求和可交换次序.现在对于任意固定的N,有

≥∑

≠→)()

(inf

lim 0t p h

h p kj i

k ik h )()()

(inf lim ,,0t p q t p h h p kj N

k i k ik kj N

k i k ik h ∑∑

<≠<≠→= 因为上式对一切N 成立,所以

)()()

(inf

lim ,

,

0t p q t p h h p kj i k ik kj i k ik h ∑∑

≠≠→≥ (5.8) 为了倒转不等式,注意对于N>i,由于,1)(≤t p kj 所以 ≤∑

≠→)()

(sup lim ,

0t p h

h p kj i k ik h ≤+≤∑∑

≥<≠→])

()()(sup[

lim ,0N

k ik kj N

k i k ik h h h p t p h h p ≤--+≤∑∑

<≠<≠→])()(1)()(sup[

lim ,,0N

k i k ik ii kj N

k i k ik h h h p h h p t p h h p ,)(,,∑∑<≠<≠-

+≤

N

k i k ik

ii kj N

k i k ik

q

q t p q

令∞→N ,由定理5.3和条件得

)()()

(sup lim ,

,

0t p q t p h h p kj i k ik kj i k ik h ∑∑

≠≠→≤. 上式连同(5.8)可得 )()()

(lim ,

,

0t p q t p h h p kj i k ik kj i k ik h ∑∑

≠≠→=.

定理5.4中)(t p ij 满足的微分方程组以柯尔莫可洛夫向后方程著称.称它们为

向后方程,是因为在计算时刻t+h 的状态的概率分布时我们对退后到时刻h 的状态取条件,即我们从

)

()(})0()({..

})(,)0()({)(h p t p i X k h X P k h X i X j h t X P h t p ik I

k kj I

k ij ∑∑∈∈======+=+

开始计算.

对时刻t 的状态取条件,我们可以导出另一组方程,称为柯尔莫哥洛夫向前方程.可得

),()()(h p t p h t p kj I

k ik ij ∑∈=+

)()()()()(t p h p t p t p h t p ij kj I

k ik ij ij -=-+∑∈

=)()](1[)()(t p h p h p t p ij jj kj j

k ik --=∑≠,

所以 )}.()

(1)()({lim )

()(lim 00

t p h h p h h p t p h

t p h t p ij jj kj j

k ik h ij ij h --=-+∑≠→→

假定我们能交换极限与求和,则由定理5.3便得到

),()()(t p q q t p t p ij ii j

k kj ik ij

-='∑≠ 令人遗憾的是上述极限与求和的交换不是恒成立,所以上式并非总是成立.然而在

大多数模型中----包括全部生灭过程与全部有限状态的模型,它们是成立的. 定理5.5(柯尔莫哥洛夫向前方程) 在适当的正则条件下,

,)()()(jj ij kj i

k ik ij

q t p q t p t p -='∑≠ (5.9) 利用方程组(5.7)或(5.9)及初始条件 .,0)0(,1)0(j i p p ij ii ≠==

我们可以解得)(t p ij .柯尔莫哥洛夫向后和向前方程虽然形式不同,但是可以证明它们所求得的解)(t p ij 是相同的.在实际应用中,当固定最后所处状态j,研究)(t p ij 时(i=0,1,2,…,n),采用向后方程比较方便;当固定状态i,研究)(t p ij 时(j=0,1,2,…,),则采用向前方程较方便.

向后方程和向前方程可以写成矩阵形式

),()(t QP t P =' (5.10) ,)()(Q t P t P =' (5.11) 其中

?????

???????---= (222120121110)

020100q q q q q q

q q q Q ?????

???????=......

...

...

(222120121110)

020100p p p p p p

p p p P 这样,连续时间马尔可夫链的转移概率的求解问题就是矩阵微分方程的求解问题,其转移概率由其转移速率矩阵Q 决定.特别地,若Q 是一个有限维矩阵,则(5.10)和(5.11)的解为 .!)()(0

∑∞

===j j

Qt

j Qt e

t P

定理5.6 .齐次马尔可夫过程在t 时刻处于状态I j ∈的绝对概率)(t p j 满足下列方程:

.)()()(kj j

k k jj j j q t p q t p t p ∑≠+-=' (5.12)

证明 由定理5.2,有)()(t p p t p ij I

i i j ∑∈=t

将向前方程(5.9)式两边乘以,i p 并对i 求和得

.)())(()(kj j

k ik

i

I

i jj ij

i

I

i ij

I

i i

q t p

p q t p

p t p p ∑∑

∑∑≠∈∈∈+-='

故 .)()()(kj j

k k jj j j q t p q t p t p ∑≠+-=' .

与离散马尔可夫链类似,我们讨论转移概率 )(t p ij 当 ∞→t 时的极限分布与平稳分布的有限性质.

定义5.4 设)(t p ij 为连续时间马尔可夫链的转移概率,若存在时刻 21,t t ,使得 ,0)(1>t p ij ,0)(2>t p ij

则称状态i 和j 是互通的.若所有状态都是互通的,则称此马尔可夫链为不可约

的.

定理5.7 设连续时间的马尔可夫是不可约的,则有下列性质:

(1) 若它是正常返的,则极限)(lim t p ij t ∞→存在且等于.,0I j j ∈>π这里

.,0I j j ∈>π是方程组

1,==∑∑∈≠I

j j kj j

k k jj j q q πππ (5.13)

的唯一非负解.此时称.,0{I j j ∈>π是该过程的平稳分布,并且有 .)(lim j j t t p π=∞→ (2) 若它是零常返的或非常返的,则

.,,0)(lim )(lim I j i t p t p j t ij t ∈==∞→∞→

在实际问题中,有些问题可以用柯尔莫哥洛夫方程直接求解,有些问题虽然不能求解但是可以用方程(5.13)求解.

例5.2 考虑两个状态的连续时间马尔可夫链,在转移到状态1之前链在状态0停留的时间是参数为λ的指数变量,而在回到状态0之前它停留在状态1的时间是参数为μ的指数变量,显然该链是一个齐次马尔可夫过程,其状态转移概率为 ),()(01h o h h p +=λ),()(10h o h h p +=μ

由定理5.3知

由柯尔莫哥洛夫向前方程得到

)()()(000100

t p t p t p λμ-='=,)()(00μμλ++-t p 其中最后一个等式来自).(1)(0001t p t p -=因为,1)0(00=p 由常数变易法得 ,)()(00t e t p μλμ

λλμ

λμ+-++

+=

若记,,00μ

λμ

μμ

λλλ+=

+=

则

,)()(0000t e t p μλλμ+-+=

类似地由向前方程)()()(010001

t p t p t p μλ-=' 可解得 ,)()(0001t e t p μλλλ+--=

,

)()(lim )

(1lim 100

1010

011011q h p dh

d

h

h p h h p q h h h ===

=-==→→μ,)()

(lim )(1lim 0100101

000000q h p dh

d

h

h p h h p q h h h ===

=-==→→λ

由对称性知,)()(0011t e t p μλμλ+-+= ,)()(0010t e t p μλμμ+--= 转移概率的极限为

),(lim )(lim 10000t p t p t t ∞→∞→==μ),(lim )(lim 11001t p t p t t ∞→∞→==λ 由此可见,当∞→t 时, )(t p ij 的极限存在且与i 无关.定理5.6知,平稳分布为 0100,λπμπ== 若取初始分布为平稳分布,即

,}0)0({00μ===p X P ,}1)0({01λ===p X P 则过程在时刻t 的绝对概率分布为 )()()(1010000t p p t p p t p +=

=0)(000)(00]1[][μμλμλμμλμλ=-+++-+-t t e e

=0)(000)(00][]1[λμλλλμμλμλ=++-+-+-t t e e .

例5.3 机器维修问题.设例5.2中状态0代表某机器正常工作状态1代表机器出故障.状态转移概率与例5.2相同,即在h 时间内,机器从正常工作变为出故障的概率为),()(01h o h h p +=λ在h 时间内,机器从有故障变为经修复后正常工作的概率为),()(10h o h h p +=μ试求在t=0时正常工作的机器,在t=5时为正常工作的概率. 解 由例5.2已求得该过程的Q 矩阵为

???

?

??--=μμλλQ .

根据题意,要求机器最后所处的状态为正常工作,只需计算)(00t p 即可. 由例5.2知

,)()(0000t e t p μλλμ+-+=,,00μ

λμμμ

λλλ+=

+=

故 ,)5(5)(0000μλλμ+-+=e p 因为P{X(0)=0}=1=,0p 所以

====)5()5(}0)5({0000p p p X P .)5(5)(0000μλλμ+-+=e p

)

()()(1010101t p p t p p t p +=

5.3 生灭过程

连续时间马尔可夫链的一类重要特殊情形是生灭过程,它的特征是在很短的时间内,系统的状态只能从状态i 转移到状态i-1或i+1或保持不变,确切定义如下. 定义5.5 设齐次马尔可夫过程}0),({≥t t X 的状态空间为I={0,1,2,…},转移概率为)(t p ij ,如果

,0),()(1,>+=+i i i i h o h h p λλ

,0,0),()(01,=>+=-μμμi i i i h o h h p ),()(1)(,h o h h p i i i i ++-=μλ

则称 }0),({≥t t X 为生灭过程,i λ为出生率,

i μ为死亡率.

若,λλi i =μλμμ,(,i i =是正常数),则称}0),({≥t t X 为线性生灭过程.

若0≡i μ,则称}0),({≥t t X 为纯生过程. 若0≡i λ,则称}0),({≥t t X 为纯灭过程. 生灭过程可作如下概率解释:若以X(t)表示一个生物群体在t 时刻的大小,则在很短的时间h 内(不计高阶无穷小),群体变化有三种可能,状态由i 变到i+1,即增加一个个体,其概率为h i λ;.状态由i 变到i-1,即减少一个个体,.其概率为h i μ;群体大小保持不变,其概率为.)(1h i i μλ+- 由定理5.3得到 ,0,)()(,0≥+=-==i h p dh

d

t q i i h ii ii μλ ???≥-=≥+===

=,1,1,,0,1,)()(0i i j i i j h p dh d

t q i

i h ij ij μλ

,2,0≥-=j i q ij 故柯尔莫哥洛夫向前方程为

.,),()()()()(1,11,1I j i t p t p t p t p j i j ij j j j i j ij

∈++-='++--μμλλ 故柯尔莫哥洛夫向后方程为

.,),()()()()(,11,I j i t p t p t p t p j i i ij j j j i i ij

∈++-='+-λμλμ 因为上述方程组的求解较为困难,我们讨论其平稳分布.由(5.13)式,有 ,1100πμπλ=

,

2),()(,≥-=j i h o h p j i

.1,)(1111≥+=+++--j j j j j j j j πμπλπμλ 逐步递推得

,010

1πμλπ=…, ,11--=j j

j j πμλπ 再利用11=∑∞

=j j π,得平稳分布,

1

1211100)......1(-∞

=-∑+=j j

j μμμλλλπ,

1

12111021110)......1(......-∞=--∑+=j j

j j j j μμμλλλμμμλλλπ

例5.4 生灭过程例子

M/M/S 排队系统.假设顾客按照参数为λ的泊松过程来到一个有s 个服务员的服务站,即相继来到之间的时间是均值为λ

1的独立指数随机变量,每一个顾客一

来到,如果有服务员空闲,则直接进行服务,否则此顾客加入排队系列.当一个服务员结束对一位顾客的服务时顾客就离开服务系统,排队中的下一顾客进入服务. 假定相继的服务时间是独立的指数随机变量,均值为μ1.如果我们以X(t)记时刻t

系统中的人数,则}0),({≥t t X 是生灭过程

???>≤≤=,,,

1,s n s s n n n μμμ

.0,≥=n n λλ

M/M/s 排队系统中M 表示马尔可夫过程,s 代表s 个服务员.特别在M/M/1排队系

统中,μμλλ==n n ,,若1<μλ,则由(5.14)可得

.0),1()()(1)(1

≥-

=+=

∑∞

=n n n n

n

n μ

λ

μλμ

λμ

λπ