第3章_离散信源(1)题与答案

第3章_离散信源(1)题与答案
第3章_离散信源(1)题与答案

3.1 设有一离散无记忆信源,其概率空间为

???

?

??=====??????8/14/1324/18/310)(4321x x x x X P X 该信源发出的信息序列为(202 120 130 213 001 203 210 110 321 010 021 032 011 223 210)。

求:

(1) 此消息的自信息量是多少?

(2) 此消息中平均每符号携带的信息量是多少?

解: (1)

此消息总共有14个0、13个1、12个2、6个3,因此消息发出的概率是:

6

2514814183??

? ?????? ?????? ??=p

此消息的信息量是:bit p I 811

.87log =-=

(2)

此消息中平均每符号携带的信息量是:bit n I 951.145/811.87/==

3.2 某一无记忆信源的符号集为{0, 1},已知信源的概率空间为

????

??=??????4/34/110

)(X P X

(1) 求信息符号的平均熵;

(2) 由100个符号构成的序列,求某一特定序列(例如有m 个“0”和(100 - m )个“1”)的自信息量的表达式; (3) 计算(2)中序列的熵。

解: (1)

bit x p x p X H i

i i 811.043log 4341log 41

)(log )()(=??? ??+-=-=∑

(2)

bit m x p x I x p m

i i m m

m i 585.15.4143

log

)(log )(4

34341)(100

100100

100100+=-=-==?

?

? ?????? ??=---

(3)

bit X H X H 1.81811.0100)(100)(100=?==

3.5 某信源的消息符号集的概率分布和二进制代码如题表3.2所列。

题表 3.2

(1) (2) 求每个消息符号所需要的平均二进制码的个数或平均代码长度。进而用这一结果求码序列中的一个二进制码的熵;

(3) 当消息是由符号序列组成时,各符号之间若相互独立,求其对应的二进制码序列中出现0和1的无条件概率0p 和1p ,求相邻码间的条件概率1/0p 、0/1p 、1/1p 、0/0p 。

解: (1)

bit x p x p X H i

i i 75.181log 8181log 8141log 4121log 21

)(log )()(=??? ??+++-=-=∑

(2)

bit

X H L X H N X H l x p l E L N i

i i i 1)(1

)(1)(75.1381

381241121)()(====?+?+?+?=

==∑

(3)

设消息序列长为N ,则0u 、1u 、2u 、3u 的个数分别为8/ ,8/ ,4/ ,2/N N N N 个。

则0的个数为8708181412N N N N N =?+?+?+? 而1的个数为8

738281402N

N N N N =?+?+?+?

因而5.010==p p

212

141/ 21212121/21212121/ 21

2141

/1111/11010

/10000/01101

/0====?===?

=

====p p p p p p p p p p p p

3.7 设有一个信源,它产生0,1序列的信息。该信源在任意时间而且不论以前发生过什么消息符号,均按P(0) = 0.4,P(1) = 0.6的概率发出符号。 (1) 试问这个信源是否是平稳的;

(2) 试计算H(X 2), H(X 3/X 1X 2)及H ∞;

(3) 试计算H(X 4)并写出X 4信源中可能有的所有符号。

解: (1)

这个信源是平稳无记忆信源。因为有这些词语:“它在任意时间....而且不论以前发生过什么符号...........……” (2)

bit

X H X X X X H H bit x p x p X H X X X H bit

X H X H N N N N i

i i 971.0)().../(lim 971.0)6.0log 6.04.0log 4.0()(log )()()/( 942.1)6.0log 6.04.0log 4.0(2)(2)(12132132====+-=-===+?-==-∞

>-∞∑

(3)

1111

111011011100101110101001100001110110010101000011001000010000的所有符号:

884.3)6.0log 6.04.0log 4.0(4)(4)(44X bit X H X H =+?-==

3.11 有一马尔可夫信源,已知转移概率为3/2)/(11=S S p ,3/1)/(12=S S p ,1)/(21=S S p ,

0)/(22=S S p 。试画出状态转移图,并求出信源熵。

解:

bit

S S p S S p S p H S p S p S p S p S p S p S p S p S p S p S p S S p S p S S p S p S p S S p S p S S p S p S p i

j

i j i j i 689.0 31log 314332log 3

2

43 )

/(log )/()(4

/1)(4

/3)(1

)()()(31)()(31)()()(32)()

/()()/()()()/()()/()()(212112

1221112122222121111=?

?? ???+?-=-=??

?==????

?

=+=???

???

?

=+=??

?+=+=∑∑∞

2/3

3.21黑白传真机的信息元只有黑色和白色两种X ={黑,白},一般气象图上黑色出现的概率为P(黑) = 0.3,白色出现的概率为P(白) = 0.7,黑白消息前后没有关联,其转移概率为P(白/白) = 0.9,P(黑/白) = 0.1,P(白/黑) = 0.2,P(黑/黑) = 0.8。求该一阶马尔可夫信源的不确定性H(X/X),并画出该信源的状态转移图。

解:

bit

S S p S S p S p H S p S p S p S p S p S p S p S p S p S p S p S p S S p S p S S p S p S p S S p S p S S p S p S p i

j

i j i j i 553.0 9.0log 9.0321.0log 1.0322.0log 2.0318.0log 8.031 )

/(log )/()(3

/2)(3/1)(1)()()(2)()(2.0)(9.0)()(1.0)(8.0)()/()()/()()()/()()/()()(21211212221112122222121111=?

?

?

???+?+?+?-=-=??

?==??

?=+=??

?+=+=??

?+=+=∑∑∞

3.23 设信源产生A, B, C 三种符号2/1)/(=B B p ,4/1)/()/(==B C p B A p ,8/5)/(=A A p ,

4/1)/(=A B p ,8/1)/(=A C p ,8/5)/(=C C p ,4/1)/(=C B p ,8/1)/(=C A p 。试计算冗余

度。

解:

??

?

?

?

?

???

++=++=++=)(85)(41)(81)()(41)(21)(41)()(81)(41)(85)(C B A C C B

A B C B A A s p s p

s p s p s p s p s p s p s p s p s p s p p(黑/黑)=0.8

S 1

S 2

p(白/白)=0.9

138.03

log 366

.111 366.1 85log 853141log 413181log 8131 41

log

413121log 213141log 4131 81log

813141log 413185log 8

5

31 )

/(log )/()(3/1)(3/1)(3/1)(1)()()()()()(03

3

3

=-=-==?

?

?

?+?+?+?+?+?+????+?+?-=-=???

??===??

?=++==∞∞∑∑∑H H R bit

p e e p e e p e p H s p s p s p s p s p s p s p s p s p i

j

k

i j i j i C

B A

C B A C B A

3.26 一阶马尔可夫信源的状态图如下图所示。信源X 的符号集为{0, 1, 2}。

(1) 求平稳后信源的概率分布; (2) 求信源的熵H ∞。

解: (1)

??

?

?

?

?

???

+=+=+=)(43)(31)()(41)(32)()(4

1)(43)(323122311

s p s p s p s p s p s p s p s p s p

???

??===?????==11/4)(11/3)(11/4)()(4

3)()()(3

211231s p s p s p s p s p s p s p

(2)

bit

e e p e e p e p H i

j

k

i j i j i 840.0 43log 4311441log 41114 31

log

3111332log 32113 41log

4111443log 4

3

114 )

/(log )/()(333

=?

?

?

?+?+?+?+????+?-=-=∑∑∑∞

第3章_离散信源()题与答案

该信源发出的信息序列为(202 120 130 213 001 203 210 110 321 010 021 032 011 223 210)。求: (1)此消息的自信息量是多少? (2)此消息中平均每符号携带的信息量是多少? 解: (1) 此消息总共有14个0、13个1、12个2、6个3,因此消息发出的概率是: 此消息的信息量是:I二-log p =87.811 bit 3.2某一无记忆信源的符号集为{0, 1},已知信源的概率空间为 ;x 口0 1: ]P(X)」J/4 3/4: (1)求信息符号的平均熵; ⑵ 由100个符号构成的序列,求某一特定序列(例如有m个“0”和(100 - m个“1”) 的自信息量的表达式; ⑶计算⑵中序列的熵。 解: (1) 丁"133、 H(X)二一p(X|) log p(X|) log log 0.811 bit i\_4 4 4 4 J 100 -m 3 —,100 4 3〔00 -m l(xj - -log p(xj - -log 10厂=41.5 1.585m bit 4 H(X100) =100H(X) =100 0.811 =81.1 bit 其概率空间为 ;X L X1 = 0 X2 =1 X3 = 2 X4 = 3 J P(X)J '、3/8 1/4 1/4 1/8 离散无记忆信源 ⑵ 此消息中平均每符号携带的信息量是: I /n =87.811/45=1.951 bit z-m 100 -m g盯(4〕

3.5某信源的消息符号集的概率分布和二进制代码如题表 3.2所列

(1)求信息的符号熵; (2)求每个消息符号所需要的平均二进制码的个数或平均代码长度。进而用这一结果求码序列中的一个二进制码的熵; (3)当消息是由符号序列组成时,各符号之间若相互独立,求其对应的二进制码序列中出现 0和1的无条件概率P o和P i,求相邻码间的条件概率P o/1、P l/0、P i/1、P o/o。 解: (1) 「1 1 1 1 1 1 1 1 \ H(X) - p(xjlogp(x) log log log log 1.75 bit i(2 2448888 丿 ⑵ - 丁1111 L =E(h)=為p(x)h 1 ——2 — 3 — 3=1.75 i 2 4 8 8 1 1 H N(X) H (X) H(X) =1 bit N L 设消息序列长为N,则u0、u1、u2、u3的个数分别为N/2, N/4, N /8, N/8个。 N N N N 7N 则0的个数为一1 — 1 — 1 — 0 =—— 2 4 8 8 8 N N N N 7N 而1的个数为0 1 2 3 = 2 4 8 8 8 因而p0 = p1 = 0.5 P0/1 二P10 / P1 =屮P 0/0 = P00 / P0 P1/0 二p 01 / p 1 二2__2 1 P1/1 二 p 11 / p 1

离散数学试卷及答案(2)

一、填空 20% (每小题2分) 1、 P :你努力,Q :你失败。“除非你努力,否则你将失败”的翻译为 ;“虽然你努力了,但还是失败了”的翻译为 。 2、论域D={1,2},指定谓词P 则公式),(x y yP x ??真值为 。 2、 设S={a 1 ,a 2 ,…,a 8},B i 是S 的子集,则由B 31所表达的子集是 。 3、 设A={2,3,4,5,6}上的二元关系}|,{是质数x y x y x R ∨<><=,则R= (列举法)。 R 的关系矩阵M R = 。 5、设A={1,2,3},则A 上既不是对称的又不是反对称的关系R= ; A 上既是对称的又是反对称的关系R= 。 6、设代数系统,其中A={a ,b ,c}, 则幺元是 ;是否有幂等 性 ;是否有对称性 。 7、4阶群必是 群或 群。 8、下面偏序格是分配格的是 。

9、n 个结点的无向完全图K n 的边数为 ,欧拉图的充要条件是 。 10、公式R Q P Q P P ?∧∨?∧∧?∨)(())(( 的根树表示为 。 二、选择 20% (每小题2分) 1、在下述公式中是重言式为( ) A .)()(Q P Q P ∨→∧; B .))()(()(P Q Q P Q P →∧→??; C .Q Q P ∧→?)(; D .)(Q P P ∨→ 。 2、命题公式 )()(P Q Q P ∨?→→? 中极小项的个数为( ),成真赋值的个数为( )。 A .0; B .1; C .2; D .3 。 3、设}}2,1{},1{,{Φ=S ,则 S 2 有( )个元素。 A .3; B .6; C .7; D .8 。 4、 设} 3 ,2 ,1 {=S ,定义S S ?上的等价关系 },,,, | ,,,{c b d a S S d c S S b a d c b a R +=+?>∈∈<><><<=则由 R 产 生的S S ?上一个划分共有( )个分块。 A .4; B .5; C .6; D .9 。 5、设} 3 ,2 ,1 {=S ,S 上关系R 的关系图为

离散数学试卷及答案

一、单项选择题(本大题共15小题,每小题1分,共15分)在每小题列出的四个选 项中只有一个选项是符合题目要求的,请将正确选项前的字母填在题后的括号内。 1.一个连通的无向图G,如果它的所有结点的度数都是偶数,那么它具有一条( ) A.汉密尔顿回路 B.欧拉回路 C.汉密尔顿通路 D.初级回路 2.设G是连通简单平面图,G中有11个顶点5个面,则G中的边是( ) A.10 B.12 C.16 D.14 3.在布尔代数L中,表达式(a∧b)∨(a∧b∧c)∨(b∧c)的等价式是( ) A.b∧(a∨c) B.(a∧b)∨(a’∧b) C.(a∨b)∧(a∨b∨c)∧(b∨c) D.(b∨c)∧(a∨c) 4.设i是虚数,·是复数乘法运算,则G=<{1,-1,i,-i},·>是群,下列是G的子群是( ) A.<{1},·> B.〈{-1},·〉 C.〈{i},·〉 D.〈{-i},·〉 5.设Z为整数集,A为集合,A的幂集为P(A),+、-、/为数的加、减、除运算,∩为集合的交 运算,下列系统中是代数系统的有( ) A.〈Z,+,/〉 B.〈Z,/〉 C.〈Z,-,/〉 D.〈P(A),∩〉 6.下列各代数系统中不含有零元素的是( ) A.〈Q,*〉Q是全体有理数集,*是数的乘法运算 B.〈Mn(R),*〉,Mn(R)是全体n阶实矩阵集合,*是矩阵乘法运算 C.〈Z, Z是整数集, 定义为x xy=xy,?x,y∈Z D.〈Z,+〉,Z是整数集,+是数的加法运算 7.设A={1,2,3},A上二元关系R的关系图如下: R具有的性质是 A.自反性 B.对称性 C.传递性 D.反自反性 8.设A={a,b,c},A上二元关系R={〈a,a〉,〈b,b〉,〈a,c〉},则关系R的对称闭包S(R)是( ) A.R∪I A B.R C.R∪{〈c,a〉} D.R∩I A 9.设X={a,b,c},Ix是X上恒等关系,要使Ix∪{〈a,b〉,〈b,c〉,〈c,a〉,〈b,a〉}∪R为X上的 等价关系,R应取( ) A.{〈c,a〉,〈a,c〉} B.{〈c,b〉,〈b,a〉} C.{〈c,a〉,〈b,a〉} D.{〈a,c〉,〈c,b〉} 10.下列式子正确的是( ) A. ?∈? B.??? C.{?}?? D.{?}∈? 11.设解释R如下:论域D为实数集,a=0,f(x,y)=x-y,A(x,y):x

信源及信源熵习题答案

第二章: 试问四进制、八进制脉冲所含信息量是二进制脉冲的多少倍 解: 四进制脉冲可以表示4个不同的消息,例如:{0, 1, 2, 3} 八进制脉冲可以表示8个不同的消息,例如:{0, 1, 2, 3, 4, 5, 6, 7} 二进制脉冲可以表示2个不同的消息,例如:{0, 1} 假设每个消息的发出都是等概率的,则: 四进制脉冲的平均信息量H(X 1) = log 2n = log 24 = 2 bit/symbol 八进制脉冲的平均信息量H(X 2) = log 2n = log 28 = 3 bit/symbol 二进制脉冲的平均信息量H(X 0) = log 2n = log 22 = 1 bit/symbol 《 所以: 四进制、八进制脉冲所含信息量分别是二进制脉冲信息量的2倍和3倍。 居住某地区的女孩子有25%是大学生,在女大学生中有75%是身高160厘米以上的,而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩是大学生”的消息,问获得多少信息量 解: 设随机变量X 代表女孩子学历 X x 1(是大学生) x 2(不是大学生) P(X) ( 设随机变量Y 代表女孩子身高 Y y 1(身高>160cm ) y 2(身高<160cm ) P(Y) " 已知:在女大学生中有75%是身高160厘米以上的 即:p(y 1/ x 1) = 求:身高160厘米以上的某女孩是大学生的信息量 即:bit y p x y p x p y x p y x I 415.15.075.025.0log )()/()(log )/(log )/(2111121111=??? ???-=? ? ????-=-= 一副充分洗乱了的牌(含52张牌),试问 (1) 任一特定排列所给出的信息量是多少 (2) 若从中抽取13张牌,所给出的点数都不相同能得到多少信息量 》 解: (1) 52张牌共有52!种排列方式,假设每种排列方式出现是等概率的则所给出的信息量是: bit x p x I i i 581.225!52log )(log )(2==-= (2) 52张牌共有4种花色、13种点数,抽取13张点数不同的牌的概率如下:

第3章_离散信源(1)题与答案

3.1 设有一离散无记忆信源,其概率空间为 ??? ? ??=====??????8/14/1324/18/310)(4321x x x x X P X 该信源发出的信息序列为(202 120 130 213 001 203 210 110 321 010 021 032 011 223 210)。 求: (1) 此消息的自信息量是多少? (2) 此消息中平均每符号携带的信息量是多少? 解: (1) 此消息总共有14个0、13个1、12个2、6个3,因此消息发出的概率是: 6 2514814183?? ? ?????? ?????? ??=p 此消息的信息量是:bit p I 811.87log =-= (2) 此消息中平均每符号携带的信息量是:bit n I 951.145/811.87/== 3.2 某一无记忆信源的符号集为{0, 1},已知信源的概率空间为 ???? ??=??????4/34/110 )(X P X (1) 求信息符号的平均熵; (2) 由100个符号构成的序列,求某一特定序列(例如有m 个“0”和(100 - m )个“1”)的自信息量的表达式; (3) 计算(2)中序列的熵。 解: (1) bit x p x p X H i i i 811.043log 4341log 41 )(log )()(=??? ??+-=-=∑ (2) bit m x p x I x p m i i m m m i 585.15.4143 log )(log )(4 34341)(100 100100 100100+=-=-==? ? ? ?????? ??=--- (3) bit X H X H 1.81811.0100)(100)(100=?== 3.5 某信源的消息符号集的概率分布和二进制代码如题表3.2所列。 题表 3.2

离散数学考试试题(A卷及答案)

离散数学考试试题(A卷及答案) 一、(10分)判断下列公式的类型(永真式、永假式、可满足式)? 1)((P→Q)∧Q)?((Q∨R)∧Q) 2)?((Q→P)∨?P)∧(P∨R) 3)((?P∨Q)→R)→((P∧Q)∨R) 解:1)永真式;2)永假式;3)可满足式。 二、(8分)个体域为{1,2},求?x?y(x+y=4)的真值。 解:?x?y(x+y=4)??x((x+1=4)∨(x+2=4)) ?((1+1=4)∨(1+2=4))∧((2+1=4)∨(2+1=4)) ?(0∨0)∧(0∨1) ?1∧1?0 三、(8分)已知集合A和B且|A|=n,|B|=m,求A到B的二元关系数是多少?A到B的函数数是多少? 解:因为|P(A×B)|=2|A×B|=2|A||B|=2mn,所以A到B的二元关系有2mn个。因为|BA|=|B||A|=mn,所以A到B的函数mn个。 四、(10分)已知A={1,2,3,4,5}和R={<1,2>,<2,1>,<2,3>,<3,4>,<5,4>},求r(R)、s(R)和t(R)。 解:r(R)={<1,2>,<2,1>,<2,3>,<3,4>,<5,4>,<1,1>,<2,2>,<3,3>,<4,4>,<5,5>} s(R)={<1,2>,<2,1>,<2,3>,<3,4>,<5,4>,<3,2>,<4,3>,<4,5>} t(R)={<1,2>,<2,1>,<2,3>,<3,4>,<5,4>,<1,1>,<1,3>,<2,2>,<2,4>,<1,4>} 五、(10分) 75个儿童到公园游乐场,他们在那里可以骑旋转木马,坐滑行铁道,乘宇宙飞船,已知其中20人这三种东西都乘过,其中55人至少乘坐过其中的两种。若每样乘坐一次的费用是0.5元,公园游乐场总共收入70元,求有多少儿童没有乘坐过其中任何一种。 解设A、B、C分别表示骑旋转木马、坐滑行铁道、乘宇宙飞船的儿童组成的集合,|A∩B∩C|=20,|A∩B|+|A∩C|+|B∩C|-2|A∩B∩C|=55,|A|+|B|+|C|=70/0.5=140。 由容斥原理,得 |A∪B∪C|=|A|+|B|+|C|―|A∩B|―|A∩C|―|B∩C|+|A∩B∩C| 所以 |A∩B∩C|=75-|A∪B∪C|=75-(|A|+|B|+|C|)+(|A∩B|+|A∩C|+|B∩C|-2|A∩B∩C|)+|A∩B∩C|=75-140+55+20=10 没有乘坐过其中任何一种的儿童共10人。 六、(12分)已知R和S是非空集合A上的等价关系,试证:1)R∩S是A上的等价关系;2)对a∈A,[a]R ∩S=[a]R∩[a]S。 解:?x∈A,因为R和S是自反关系,所以∈R、∈S,因而∈R∩S,故R∩S是自反 的。 ?x、y∈A,若∈R∩S,则∈R、∈S,因为R和S是对称关系,所以因∈R、∈S,因而∈R∩S,故R∩S是对称的。

(完整版)计算离散信源的熵matlab实现

实验一:计算离散信源的熵 一、实验设备: 1、计算机 2、软件:Matlab 二、实验目的: 1、熟悉离散信源的特点; 2、学习仿真离散信源的方法 3、学习离散信源平均信息量的计算方法 4、熟悉 Matlab 编程; 三、实验内容: 1、写出计算自信息量的Matlab 程序 2、写出计算离散信源平均信息量的Matlab 程序。 3、掌握二元离散信源的最大信息量与概率的关系。 4、将程序在计算机上仿真实现,验证程序的正确性并完成习题。 四、实验报告要求 简要总结离散信源的特点及离散信源平均信息量的计算,写出习题的MATLAB 实现语句。 信息论基础: 自信息的计算公式 21()log a I a p = Matlab 实现:I=log2(1/p) 或I=-log2(p) 熵(平均自信息)的计算公式 22111()log log q q i i i i i i H x p p p p ====-∑∑ Matlab 实现:HX=sum(-x.*log2(x));或者h=h-x(i)*log2(x(i)); 习题: 1. 甲地天气预报构成的信源空间为: 1111(),,,8482 X p x ??????=???????? 小雨 云 大雨晴 乙地信源空间为: 17(),88 Y p y ??????=???????? 小雨晴 求此两个信源的熵。求各种天气的自信息量。 案:() 1.75;()0.5436H X H Y ==

运行程序: p1=[1/2,1/4,1/8,1/8];%p1代表甲信源对应的概率p2=[7/8,1/8];%p2代表乙信源对应的概率 H1=0.0; H2=0.0; I=[]; J=[]; for i=1:4 H1=H1+p1(i)*log2(1/p1(i)); I(i)=log2(1/p1(i)); end disp('自信息量分别为:'); I disp('H1信源熵为:'); H1 for j=1:2 H2=H2+p2(j)*log2(1/p2(j)); J(j)=log2(1/p2(j)); end disp('自信息量分别为:'); J disp('H2信源熵为:'); H2

离散数学考试试题(A、B卷及答案)

离散数学考试试题(A卷及答案) 一、证明题(10分) 1) (P∧Q∧A C)∧(A P∨Q∨C ) (A∧(P Q ))C。P<->Q=(p->Q)合取(Q->p) 证明: (P∧Q∧A C)∧(A P∨Q∨C) (P ∨Q ∨A∨C)∧(A∨P∨Q∨C) ((P ∨Q ∨A)∧(A∨P∨Q))∨C反用分配律 ((P∧Q∧A)∨(A ∧P ∧Q))∨C ( A∧((P∧Q)∨(P ∧Q)))∨C再反用分配律 GAGGAGAGGAFFFFAFAF

( A∧(P Q))∨C (A∧(P Q ))C 2) (P Q)P Q。 证明:(P Q)((P∧Q))(P ∨Q))P Q。 二、分别用真值表法和公式法求(P(Q∨R))∧(P∨(Q R))的主析取范式与主合取范式,并写出其相应的成真赋值和成假赋值(15分)。 主析取范式与析取范式的区别:主析取范式里每个括号里都必须有全部的变元。 主析取范式可由析取范式经等值演算法算得。 GAGGAGAGGAFFFFAFAF

证明: 公式法:因为(P(Q ∨R))∧(P∨(Q R)) (P∨Q∨R)∧(P∨(Q ∧R )∨(Q ∧R)) (P∨Q ∨R)∧(((P∨Q)∧(P ∨R ))∨(Q ∧R ))分配律 (P∨Q∨R)∧(P∨Q ∨Q)∧(P∨Q ∨R)∧(P∨R ∨Q)∧(P∨R ∨R) (P∨Q ∨R)∧(P∨Q ∨R )∧(P ∨Q∨R) M∧5M∧6M使(非P析取Q析取R)为0 4 GAGGAGAGGAFFFFAFAF

所赋真值,即100,二进制为4 GAGGAGAGGAFFFFAFAF

《离散数学》练习题和参考答案

《离散数学》练习题和参考答案 一、选择或填空(数理逻辑部分) 1、下列哪些公式为永真蕴含式?( ) (1)?Q=>Q→P (2)?Q=>P→Q (3)P=>P→Q (4)?P∧(P∨Q)=>?P 答:(1),(4) 2、下列公式中哪些是永真式?( ) (1)(┐P∧Q)→(Q→?R) (2)P→(Q→Q) (3)(P∧Q)→P (4)P→(P∨Q) 答:(2),(3),(4)3、设有下列公式,请问哪几个是永真蕴涵式?( ) (1)P=>P∧Q (2) P∧Q=>P (3) P∧Q=>P∨Q (4)P∧(P→Q)=>Q (5) ?(P→Q)=>P (6) ?P∧(P∨Q)=>?P 答:(2),(3),(4),(5),(6) 4、公式?x((A(x)→B(y,x))∧?z C(y,z))→D(x)中,自由变元是( ),约束变元是( )。答:x,y, x,z 5、判断下列语句是不是命题。若是,给出命题的真值。( ) 北京是中华人民共和国的首都。 (2) 陕西师大是一座工厂。(3) 你喜欢唱歌吗? (4) 若7+8>18,则三角形有4条边。(5) 前进! (6) 给我一杯水吧! 答:(1)是,T (2)是,F (3)不是 (4)是,T (5)不是(6)不是 6、命题“存在一些人是大学生”的否定是( ),而命题“所有的人都是要死的”的否定是( )。 答:所有人都不是大学生,有些人不会死 7、设P:我生病,Q:我去学校,则下列命题可符号化为( )。 (1) 只有在生病时,我才不去学校 (2) 若我生病,则我不去学校 (3) 当且仅当我生病时,我才不去学校(4) 若我不生病,则我一定去学校 答:(1) P Q→ ?(2)Q P? →(3)Q P? ?(4)Q P→ ? 8、设个体域为整数集,则下列公式的意义是( )。 (1) ?x?y(x+y=0) (2) ?y?x(x+y=0) 答:(1)对任一整数x存在整数 y满足x+y=0(2)存在整数y对任一整数x满足x+y=0 9、设全体域D是正整数集合,确定下列命题的真值: (1) ?x?y (xy=y) ( ) (2) ?x?y(x+y=y) ( ) (3) ?x?y(x+y=x) ( ) (4) ?x?y(y=2x) ( )答:(1) F (2) F (3)F (4)T 10、设谓词P(x):x是奇数,Q(x):x是偶数,谓词公式?x(P(x)∨Q(x))在哪个个体域中为真?( ) (1) 自然数(2) 实数 (3) 复数(4) (1)--(3)均成立答:(1) 11、命题“2是偶数或-3是负数”的否定是()。答:2不是偶数且-3不是负数。 12、永真式的否定是() (1) 永真式(2) 永假式(3) 可满足式(4) (1)--(3)均有可能答:(2) 13、公式(?P∧Q)∨(?P∧?Q)化简为(),公式 Q→(P∨(P∧Q))可化简为()。答:?P ,Q→P 14、谓词公式?x(P(x)∨?yR(y))→Q(x)中量词?x的辖域是()。答:P(x)∨?yR(y) 15、令R(x):x是实数,Q(x):x是有理数。则命题“并非每个实数都是有理数”的符号化表示为()。

离散信源题与答案

离散信源题与答案 Last revision date: 13 December 2020.

3.1 设有一离散无记忆信源,其概率空间为 该信源发出的信息序列为(202 120 130 213 001 203 210 110 321 010 021 032 011 223 210)。求: (1) 此消息的自信息量是多少? (2) 此消息中平均每符号携带的信息量是多少? 解: (1) 此消息总共有14个0、13个1、12个2、6个3,因此消息发出的概率是: 此消息的信息量是:bit p I 811.87log =-= (2) 此消息中平均每符号携带的信息量是:bit n I 951.145/811.87/== 3.2 某一无记忆信源的符号集为{0, 1},已知信源的概率空间为 (1) 求信息符号的平均熵; (2) 由100个符号构成的序列,求某一特定序列(例如有m 个“0”和(100 - m )个“1”)的自信息量的表达式; (3) 计算(2)中序列的熵。 解: (1) (2) (3) 3.5 某信源的消息符号集的概率分布和二进制代码如题表3.2所列。 (1) (2) 求每个消息符号所需要的平均二进制码的个数或平均代码长度。进而用这一结果求码序列中的一个二进制码的熵; (3) 当消息是由符号序列组成时,各符号之间若相互独立,求其对应的二进制码序列中出现0和1的无条件概率0p 和1p ,求相邻码间的条件概率1/0p 、0/1p 、1/1p 、0/0p 。 解: (1) (2) (3) 设消息序列长为N ,则0u 、1u 、2u 、3u 的个数分别为8/ ,8/ ,4/ ,2/N N N N 个。 则0的个数为 8 708181412N N N N N =?+?+?+? 而1的个数为8738281402N N N N N =?+?+?+?

离散数学练习题

离散数学练习题 1、图中度为零的结点称为孤立结点。 A. 正确 B. 错误 正确:【A】 2、域是整环。 A. 正确 B. 错误 正确:【A】 3、有限格都是有界格。 A. 正确 B. 错误 正确:【A】 4、连通且不含圈的图称为树。 A. 正确 B. 错误 正确:【A】 5、“如果1+1≠3,则2+2≠4”是真命题。 A. 正确 B. 错误 正确:【B】 6、无向图G为欧拉图,则G是连通的。 A. 正确 B. 错误 正确:【A】 7、若A和B都是谓词公式,则(A∧B)、(A∨B)、(A→B)、(A<->B)都是谓词公式。 A. 正确 B. 错误

8、设A, B, C是命题公式,则AVBV﹁C 也是命题公式。 A. 正确 B. 错误 正确:【A】 9、设〈L,≤〉是格,则格的交∧和并∨运算满足等幂律。 A. 正确 B. 错误 正确:【A】 10、“x+3>1。”是命题。 A. 正确 B. 错误 正确:【B】 11、半群满足交换律。 A. 正确 B. 错误 正确:【B】 12、在任何图中,奇数度的结点数必是偶数。 A. 正确 B. 错误 正确:【A】 13、在格〈L,∨,∧〉中,如果交运算对并运算是可分配的,则并运算对交运算也是可分配的。 A. 正确 B. 错误 正确:【A】 14、完全图Kn没有割集,它的连通性能是最好的。 A. 正确 B. 错误

15、对任意集合A,都有??A。 A. 正确 B. 错误 正确:【A】 17、强连通图一定是单向连通图。 A. 正确 B. 错误 正确:【A】 18、代数系统〈G,°〉为群的条件是存在零元素。 A. 正确 B. 错误 正确:【B】 19、对应日常生活中的“任意的”,“所有的”,“一切的”等词,用符号“任意”表示。 A. 正确 B. 错误 正确:【A】 20、如果a是集合A中的元素,则称a属于A,记作a?A。 A. 正确 B. 错误 正确:【B】 21、A,B是集合,P(A),P(B)为其幂集,且,则P(A)∩P(B)为() A. B. C. D. 正确:【B】 22、设M={x|f1(x)=0},N={x|f2(x)=0},则方程f1(x)?f2(x)=0的解

离散信源题与答案

? ?? ???=====??????8/14/1324/18/310)(4321x x x x X P X 该信源发出的信息序列为(202 120 130 213 001 203 210 110 321 010 021 032 011 223 210)。 求: (1) 此消息的自信息量是多少 (2) 此消息中平均每符号携带的信息量是多少 解: (1) 此消息总共有14个0、13个1、12个2、6个3,因此消息发出的概率是: 6 2514814183?? ? ?????? ?????? ??=p 此消息的信息量是:bit p I 811.87log =-= (2) 此消息中平均每符号携带的信息量是:bit n I 951.145/811.87/== 某一无记忆信源的符号集为{0, 1},已知信源的概率空间为 ???? ??=??????4/34/110 )(X P X (1) 求信息符号的平均熵; (2) 由100个符号构成的序列,求某一特定序列(例如有m 个“0”和(100 - m )个“1”)的自信息量的表达式; (3) 计算(2)中序列的熵。 解: (1) bit x p x p X H i i i 811.043log 4341log 41 )(log )()(=??? ??+-=-=∑ (2) bit m x p x I x p m i i m m m i 585.15.414 3 log )(log )(4 34341)(100 100100 100100+=-=-==? ? ? ?????? ??=--- (3) bit X H X H 1.81811.0100)(100)(100=?== 某信源的消息符号集的概率分布和二进制代码如题表所列。 题表

离散数学试卷及答案7

一、单项选择题:(每小题1分,本大题共10分) 1.命题公式)(P Q P ∨→是( )。 A 、 矛盾式; B 、可满足式; C 、重言式; D 、等价式。 2.下列各式中哪个不成立( )。 A 、)()())()((x xQ x xP x Q x P x ?∨??∨? ; B 、)()())()((x xQ x xP x Q x P x ?∨??∨?; C 、)()())()((x xQ x xP x Q x P x ?∧??∧?; D 、Q x xP Q x P x ∧??∧?)())((。 3.谓词公式)())()((x Q y yR x P x →?∨?中的 x 是( )。 A 、自由变元; B 、约束变元; C 、既是自由变元又是约束变元; D 、既不是自由变元又不是约束变元。 4.在0 Φ之间应填入( )符号。 A 、= ; B 、? ; C 、∈ ; D 、? 。 5.设< A , > 是偏序集,A B ?,下面结论正确的是( )。 A 、 B 的极大元B b ∈且唯一; B 、B 的极大元A b ∈且不唯一; C 、B 的上界B b ∈且不唯一; D 、B 的上确界A b ∈且唯一。 6.在自然数集N 上,下列( )运算是可结合的。 (对任意N b a ∈,) A 、b a b a -=* ; B 、),max(b a b a =* ; C 、b a b a 5+=* ; D 、b a b a -=*。 7.Q 为有理数集N ,Q 上定义运算*为a*b = a + b – ab ,则的幺元为( )。 A 、a ; B 、b ; C 、1; D 、0。

离散信源题与答案

设有一离散无记忆信源,其概率空间为 ??? ? ??=====??????8/14/1324/18/310)(4321x x x x X P X 该信源发出的信息序列为(202 120 130 213 001 203 210 110 321 010 021 032 011 223 210)。 求: (1) 此消息的自信息量是多少? (2) 此消息中平均每符号携带的信息量是多少? 解: (1) 此消息总共有14个0、13个1、12个2、6个3,因此消息发出的概率是: 6 2514814183?? ? ?????? ?????? ??=p 此消息的信息量是:bit p I 811.87log =-= (2) 此消息中平均每符号携带的信息量是:bit n I 951.145/811.87/== 某一无记忆信源的符号集为{0, 1},已知信源的概率空间为 ???? ??=??????4/34/110 )(X P X (1) 求信息符号的平均熵; (2) 由100个符号构成的序列,求某一特定序列(例如有m 个“0”和(100 - m )个“1”)的自信息量的表达式; (3) 计算(2)中序列的熵。 解: (1) bit x p x p X H i i i 811.043log 4341log 41 )(log )()(=??? ??+-=-=∑ (2) bit m x p x I x p m i i m m m i 585.15.4143 log )(log )(4 34341)(100 100100 100100+=-=-==? ? ? ?????? ??=--- (3) bit X H X H 1.81811.0100)(100)(100=?== 某信源的消息符号集的概率分布和二进制代码如题表所列。 题表

离散数学期末练习题 (带答案)

离散数学复习注意事项: 1、第一遍复习一定要认真按考试大纲要求将本学期所学习内容系统复习一遍。 2、第二遍复习按照考试大纲的要求对第一遍复习进行总结。把大纲中指定的例题及书后习题认真做一做。检验一下主要内容的掌握情况。 3、第三遍复习把随后发去的练习题认真做一做,检验一下第一遍与第二遍复习情况,要认真理解,注意做题思路与方法。 离散数学综合练习题 一、选择题 1.下列句子中,()是命题。 A.2是常数。B.这朵花多好看呀! C.请把门关上!D.下午有会吗? 2.令p: 今天下雪了,q:路滑,r:他迟到了。则命题“下雪路滑,他迟到了” 可符号化为()。 A. p q r ∨→ ∧→ B. p q r C. p q r ∨? ∧∧ D. p q r 3.令:p今天下雪了,:q路滑,则命题“虽然今天下雪了,但是路不滑”可符号化为()。 A.p q ∧ ∧? B.p q C.p q →? ∨? D. p q 4.设() Q x:x会飞,命题“有的鸟不会飞”可符号化为()。 P x:x是鸟,() A. ()(()()) Q x ??∧()) x P x Q x ??→ B. ()(() x P x C. ()(()()) Q x ??∧()) x P x Q x ??→ D. ()(() x P x 5.设() L x y:x大于等于y;命题“所有整数 f x:x的绝对值,(,) P x:x是整数,() 的绝对值大于等于0”可符号化为()。 A. (()((),0)) ?→ x P x L f x ?∧B. (()((),0)) x P x L f x C. ()((),0) ?→ xP x L f x ?∧ D. ()((),0) xP x L f x 6.设() F x:x是人,() G x:x犯错误,命题“没有不犯错误的人”符号化为()。 A.(()()) ??→? x F x G x ?∧B.(()()) x F x G x C.(()()) ??∧? x F x G x ??∧D.(()()) x F x G x 7.下列命题公式不是永真式的是()。 A. () p q p →→ →→ B. () p q p C. () →∨ p q p p q p ?∨→ D. () 8.设() R x:x为有理数;() Q x:x为实数。命题“任何有理数都是实数”的符号化为()

第三章 信源及信源熵

第三章 信源及信源熵 ?信源的主要问题: 信源的描述(数学建模); 信源输出信息能力的定量分析(信源熵); 信源信息的有效表示(信息编码)。 编码器 信道 译码器 信宿 噪声源 信源

第三章 信源及信源熵 ?信源的主要问题: 信源的描述(数学建模); 信源输出信息能力的定量分析(信源熵); 信源信息的有效表示(信息编码)。 编码器 信道 译码器 信宿 噪声源 信源

第三章信源及信源熵 ?3.1 信源的分类及其数学模型?3.2 离散单符号信源 ?3.3 离散多符号信源 ?3.3.1 离散平稳信源 ?3.3.2 离散平稳无记忆信源 ?3.3.3 离散平稳有记忆信源 ?3.3.4 马尔可夫信源 ?3.4 信源的相关性和剩余度

3.1 信源的分类及其数学模型 ?信源的分类 分类1:根据信源输出的消息在时间和取值上是离散或连续分。时间(空间)取值信源种类举例数学描述 离散离散 离散信源 (数字信源) 文字、数据、 离散化图像 离散随机变量序列 离散连续连续信号跳远比赛的结果、 语音信号抽样以后 连续随机变量序列 连续连续 波形信源 (模拟信源) 语音、音乐、热噪 声、图形、图像 随机过程 连续离散不常见

3.1 信源的分类及其数学模型 分类2:根据各维随机变量的概率分布是否随时间的推移而变化分。 1)平稳信源 2)非平稳信源 分类3:根据随机变量间是否统计独立分。 1)有记忆信源 2)无记忆信源

3.1 信源的分类及其数学模型 实际信源分类: ()( ()1H NH X H H m ??=???????????∞????????+?? ?? ???? ?X 离散无记忆信源:)记忆长度无限长:离散平稳信源平稳信源离散有记忆信源记忆长度有限马尔可夫信源:连续平稳信源非平稳信源 信源

离散数学模拟试卷一

模拟试卷一 一、判断选择题(共 10 分,每小题 1 分) ( ) 1.(?pú?q)?(p??q)不是重言式 ( ) 2.设 A,B,C 是Q 的子集,则有 A′(B?C)1(A′B)?(A′C)。 ( ) 3. 命题函数是命题。( ) ( ) 4. 设无向图G 具有割点,则G 中一定不存在汉密尔顿回路; ( ) 5. 有向图 G是单侧连通; (G) 6 1) 一个命题公式的对偶式是唯一的 2) 一个命题公式的摄取范围是唯一的 3) 一个命题公式的真值表示唯一的 4) 一个命题公式的重叠式是唯一的 哪些命题式正确的 A 1)与 4) B 2)与 3) C 1)与 3) D 3)与 4) 7 下列叙述中错误的是( ) A 若 AUB=AUC,则 B=C B 若 7A∩B=7A∩C,则 B=C C 若 CU(A∩C)=B∩(BU7A),则 B=C D 若 A x B = B x C,则 B=C 8 下列叙述中错误的是( ) A 有些关系既是对称,又是反对称的 B 有些关系既是自反的,又是反自反的 C 有些关系既不对称,又不反对称的 D 有些关系既不是自反的,又不是反自反的 9 在一个代数系统中( ) A 单位元可能也是零元 B 独异点中,所有元素都没有逆元 C 有左单位元就不可能有右单位元 D 某个元素有多个左逆元,就不可能有右逆元 10 一个简单连通无向图有 n个结点,它的边数至少有( ) A 一条 B n-1 条 C n条 D n+1 条

二、逻辑推证 (1)?(P?Q)?? (RúS),((Q?P) ú?R) ,?(R?P) T P?Q 若 S={1,2,3,…… ,19,20},设 R 为 S 上的等价关系,且由 xoy (mod 5) 所定义,即 x- y 能被 5 整除。写出由 R 导出的 S 的划分和商集 S/R。 十二. 设(S,*)是一个有单位元的半群,a∈S,且有左逆元 u 和右逆元 v,证明 u=v。 十三. 证明:设(G,*)是一个半群,如果对于G 中任意 a, b, 方程a*y=b 和 y*a=b 在 G 中都有解,则G 是一个群。 十四. 设 G 是有 n-1 条边的图(n 是 G 的顶点数)。证明:如果 G 中无圈,那么 G 是一棵树。

最新离散数学练习题(含答案)

离散数学试题 第一部分选择题 一、单项选择题 1.下列是两个命题变元p,q的小项是( C ) A.p∧┐p∧q B.┐p∨q C.┐p∧q D.┐p∨p∨q 2.令p:今天下雪了,q:路滑,则命题“虽然今天下雪了,但是路不滑”可符号化为( D )A.p→┐q B.p∨┐q C.p∧q D.p∧┐q 3.下列语句中是命题的只有( A ) A.1+1=10 B.x+y=10 C.sinx+siny<0 D.x mod 3=2 4.下列等值式不正确的是( C ) A.┐(?x)A?(?x)┐A B.(?x)(B→A(x))?B→(?x)A(x) 02324# 离散数学试题第1 页共4页

C.(?x)(A(x)∧B(x))?(?x)A(x)∧(?x)B(x) D.(?x)(?y)(A(x)→B(y))?(?x)A(x)→(?y)B(y) 5.谓词公式(?x)P(x,y)∧(?x)(Q(x,z)→(?x)(?y)R(x,y,z)中量词?x的辖域是( C )A.(?x)Q(x,z)→(?x)(?y)R(x,y,z)) B.Q(x,z)→(?y)R(x,y,z) C.Q(x,z)→(?x)(?y)R(x,y,z) D.Q(x,z) 6.设A={a,b,c,d},A上的等价关系R={,,,}∪I A,则对应于R的A的划分是( D ) A.{{a},{b,c},{d}} B.{{a,b},{c},{d}} C.{{a},{b},{c},{d}} D.{{a,b},{c,d}} 7.设A={?},B=P(P(A)),以下正确的式子是( A ) A.{?,{?}}∈B B.{{?,?}}∈B C.{{?},{{?}}}∈B D.{?,{{?}}}∈B 8.设X,Y,Z是集合,一是集合相对补运算,下列等式不正确的是( A ) A.(X-Y)-Z=X-(Y∩Z) 02324# 离散数学试题第2 页共4页

离散数学小测试题及答案

一、填空 1.设 }7|{)},5()(|{<∈=<∈=+ x E x x B x N x x A 且且(N :自然数集,E + 正偶数) 则 =?B A {0,1,2,3,4,6}; 。 2.A ,B ,C 表示三个集合,文图中阴影部分的集合表达式为 A C B -⊕)( 。 3.设P ,Q 的真值为0,R ,S 的真值为1,则 )()))(((S R P R Q P ?∨→?∧→∨?的真值= 1 。 4.公式P R S R P ?∨∧∨∧)()(的主合取范式为 )()(R S P R S P ∨?∨?∧∨∨? 。 5.若解释I 的论域D 仅包含一个元素,则 )()(x xP x xP ?→? 在I 下真值为 {<1,1>, <1,3>, <2,2>, <2,4> } 。 6. P :你努力,Q :你失败。“除非你努力,否则你将失败”的翻译为 Q P →?; ;“虽然你努力了,但还是失败了”的翻译为 Q P ∧ 。 7.论域D={1,2},指定谓词P 则公式),(x y yP x ??真值为 T 。 二、选择 1、下列是真命题的有( C D ) A . }}{{}{a a ?; B .}}{,{}}{{ΦΦ∈Φ; C . }},{{ΦΦ∈Φ; D . }}{{}{Φ∈Φ。 2、下列集合中相等的有(B 、C )

A .{4,3}Φ?; B .{Φ,3,4}; C .{4,Φ,3,3}; D . {3,4}。 3、设全集U 是实数集R ,,,则图 中阴影部分所表示的集合是( C ). A. B. C. D. 4、在下述公式中是重言式为( B 、D ) A .)()(Q P Q P ∨→∧; B .))()(()(P Q Q P Q P →∧→??; C .Q Q P ∧→?)(; D .)(Q P P ∨→。 5、命题公式 )()(P Q Q P ∨?→→? 中极小项的个数为(D ),成真赋值的个数为( D )。 A .0; B .1; C .2; D .3 。 6、给定推理 ①))()((x G x F x →? P ②)()(y G y F → ③)(x xF ? P ④)(y F ⑤)(y G ⑥)(x xG ? )())()((x xG x G x F x ??→?∴ 推理过程中错在( C )。 A 、①->②; B 、②->③; C 、③->④; D 、④->⑤; E 、⑤->⑥ 三、逻辑判断 1. 用等值演算法和真值表法判断公式)())()((Q P P Q Q P A ??→∧→=的类型。

第章离散信源题与答案

设有一离散无记忆信源,其概率空间为 该信源发出的信息序列为(202032)。求: (1)此消息的自信息量是多少? (2)此消息中平均每符号携带的信息量是多少? 解: (1) 此消息总共有14个0、13个1、12个2、6个3,因此消息发出的概率是: 此消息的信息量是:bit p I 811.87log =-= (2) 此消息中平均每符号携带的信息量是:bit n I 951.145/811.87/== 某一无记忆信源的符号集为{0,1},已知信源的概率空间为 (1)求信息符号的平均熵; (2)由100个符号构成的序列,求某一特定序列(例如有m 个“0”和(100-m )个“1”)的自信息量的表达式; (3)计算(2)中序列的熵。 解: (1) (2) (3) 某信源的消息符号集的概率分布和二进制代码如题表所列。 (1)(2)求每个消息符号所需要的平均二进制码的个数或平均代码长度。进而用这一结果求码序列中的一个二进制码的熵; (3)当消息是由符号序列组成时,各符号之间若相互独立,求其对应的二进制码序列中出现0和1的无条件概率0p 和1p ,求相邻码间的条件概率1/0p 、0/1p 、1/1p 、0/0p 。 解: (1) (2) (3) 设消息序列长为N ,则0u 、1u 、2u 、3u 的个数分别为8/ ,8/ ,4/ ,2/N N N N 个。 则0的个数为 8 708181412N N N N N =?+?+?+? 而1的个数为8738281402N N N N N =?+?+?+?

因而5.010==p p 设有一个信源,它产生0,1序列的信息。该信源在任意时间而且不论以前发生过什么消息符号,均按P(0)=,P(1)=的概率发出符号。 (1)试问这个信源是否是平稳的; (2)试计算H(X 2),H(X 3/X 1X 2)及H ∞; (3)试计算H(X 4)并写出X 4信源中可能有的所有符号。 解: (1) 这个信源是平稳无记忆信源。因为有这些词语:“它在任意时间....而且不论以前发生过什么符..........号. ……” (2) (3) 有一马尔可夫信源,已知转移概率为3/2)/(11=S S p ,3/1)/(12=S S p ,1)/(21=S S p ,0)/(22=S S p 。试画出状态转移图,并求出信源熵。 解: 黑白传真机的信息元只有黑色和白色两种X ={黑,白},一般气象图上黑色出现的概率为P(黑)=,白色出现的概率为P(白)=,黑白消息前后没有关联,其转移概率为P(白/白)=,P(黑/白)=,P(白/黑)=,P(黑/黑)=。求该一阶马尔可夫信源的不确定性H(X/X),并画出该信源的状态转移图。 解: 设信源产生A,B,C 三种符号2/1)/(=B B p ,4/1)/()/(==B C p B A p ,8/5)/(=A A p ,4/1)/(=A B p ,8/1)/(=A C p ,8/5)/(=C C p ,4/1)/(=C B p ,8/1)/(=C A p 。试计算冗余度。 解: 一阶马尔可夫信源的状态图如下图所示。信源X 的符号集为{0,1,2}。 (1)求平稳后信源的概率分布; (2)求信源的熵H ∞。 解: (1) (2)

相关文档
最新文档