图像压缩与编码习题

1.设某一幅图像共有8个灰度级，各灰度级出现的概率分别为 P1=0.50 P2=0.01 P3=0.03 P4=0.05 P5=0.05 P6=0.07 P7=0.19 P8=0.10

试对此图像进行Huffman 编码和费诺编码。并比较两种编码方式的效率

解：1）Huffman 编码

灰度级概率第一步第二步第三步第四步第五步第六步 P1 0.50 0.50 0.50 0.50 0.50 0.50 0.50 0 P7 0.19 0.19 0.19 0.19 0.19 0.31 0 0.50 1 P8 0.10 0.10 0.10 0.12 0.19 0 0.19 1 P6 0.07 0.07 0.09 0.10 0 0.12 1 P4 0.05 0.05 0.07 0 0.09 1 P5 0.05 0.05 0 0.05 1 P3 0.03 0 0.04 1 P2 0.01 1

P1=0 P7=11 P8=1000 P6=1010 P4=1011 P5=10010 P3=100110 P2=100111

2）费诺编码

P1=0 P7=100 P8=101 P6=1100 P4=1101 P5=1110 P3=11110 P2=11111

输入概率 P1 0.50 0 P7 0.19 1 0

0 P8 0.10 1 P6 0.07 1 0

P4 0.05 1

P5 0.05 1 0

P3 0.03 1

P2 0.01 1

3）比较编码效率

P Huffman 编码

码长费曼编码

码长 0.50 0 1 0 1 0.01 100111 6 11111 5 0.03 100110 6 11110 5 0.05 10011 5 1101 4 0.05 10010 5 1110 4 0.07 1010 4 1100 4 0.19 11 2 100 3 0.10 1000

101

平均码长

2.3

2.25

费曼编码的效率更高

2.设有一幅8×8图像，其灰度分布级如图

1）对该图像进行Huffman 编码，并计算编码效率和压缩比

2）对该图像的差分图像进行Huffman 编码，并计算编码效率和压缩比 3）比较（1）,（2）的结果

解：1）原始图像Huffman 编码 S 0 4 5 6 7 P 1/8

31/64

1/4

7/64

1/32

??? ??+?++?+?-=321log 321647log 64741log 416431log 643181log 8

)(22222s H

H （s ）=1.887

44444440

4555554045666540

4567654045676540

455555404444444044444440

S P 第一步第二步第三步编码 4 31/64 31/64 31/64 33/64 0 1 5 16/64 16/64 17/64 0 31/64 1 01 0 8/64 9/64 0 16/64 1 001 6 7/64 0 8/64 1 0000 7 2/64 1 0001

64/113642647

464836416264311=??

? ??+?+?+?+?

=L =1.922bit 982.0922

.1887

.1L s H ===

）（编码效率η 压缩比162.4922

.18

2）差分图像Huffman 编码差分图像像素级分布

4 0 0 0 0 0 0 -4 4 1 1 1 1 1 -1 -4 4 1 1 0 0 -1 -1 -4 4 1 1 0 0 -1 -1 -4 4 1 1 1 -1 -1 -1 -4 4 1 0 0 0 0 -1 -4 4 0 0 0 0 0 0 -4 4 0 0 0 0 0 0 -4 S 0 1 -1 4 -4 P 26/64

13/64

9/64

8/64

??? ??++++-=648log 648648log 648649log 6496413log 64136426log 64

)(22222s H =2.143

S P 第一步第二步第三步编码

0 26/64 26/64 26/64 38/64 0 1 1 13/64 13/64 25/64 0 26/64 1 01 -1 9/64 16/64 0 13/64 1 001 4 8/64 0 9/64 1 0000 -4 8/64 1 0001

234.2648648

464936413264261=??

? ??+?+?+?+?

=L bit 955.0234

.2134

.2'==

η编码效率

581.3234

.28

'C ==

压缩比 3）比较结果编码效率：'ηη> 压缩比：'C C >

图像压缩编码方法

图像压缩编码方法综述概述：近年来, 随着数字化信息时代的到来和多媒体计算机技术的发展, 使得人们所面对的各种数据量剧增, 数据压缩技术的研究受到人们越来越多的重视。图像压缩编码就是在满足一定保真度和图像质量的前提下，对图像数据进行变换、编码和压缩，去除多余的数据以减少表示数字图像时需要的数据量，便于图像的存储和传输。即以较少的数据量有损或无损地表示原来的像素矩阵的技术,也称图像编码。图像压缩编码原理：图像数据的压缩机理来自两个方面:一是利用图像中存在大量冗余度可供压缩；二是利用人眼的视觉特性。图像数据的冗余度又可以分为空间冗余、时间冗余、结构冗余、知识冗余和视觉冗余几个方面。空间冗余：在一幅图像中规则的物体和规则的背景具有很强的相关性。时间冗余：电视图像序列中相邻两幅图像之间有较大的相关性。结构冗余和知识冗余：图像从大面积上看常存在有纹理结构，称之为结构冗余。视觉冗余：人眼的视觉系统对于图像的感知是非均匀和非线性的，对图像的变化并不都能察觉出来。人眼的视觉特性：亮度辨别阈值：当景物的亮度在背景亮度基础上增加很少时，人眼是辨别不出的，只有当亮度增加到某一数值时，人眼才能感觉其亮度有变化。人眼刚刚能察觉的亮度变化值称为亮度辨别阈值。视觉阈值：视觉阈值是指干扰或失真刚好可以被察觉的门限值，低于它就察觉不出来，高于它才看得出来，这是一个统计值。空间分辨力：空间分辨力是指对一幅图像相邻像素的灰度和细节的分辨力，视觉对于不同图像内容的分辨力不同。掩盖效应：“掩盖效应”是指人眼对图像中量化误差的敏感程度，与图像信号变化的剧烈程度有关。图像压缩编码的分类：根据编码过程中是否存在信息损耗可将图像编码分为: 无损压缩：又称为可逆编码(Reversible Coding)，解压缩时可完全回复原始数据而不引起任何失真；有损压缩：又称不可逆压缩(Non-Reversible Coding)，不能完全恢复原始数据，一定的失真换来可观的压缩比。根据编码原理可以将图像编码分为: 熵编码：熵编码是编码过程中按熵原理不丢失任何信息的编码。熵编码基

信息论与编码课后习题答案

1．有一个马尔可夫信源，已知p(x 1|x 1)=2/3，p(x 2|x 1)=1/3，p(x 1|x 2)=1，p(x 2|x 2)=0，试画出该信源的香农线图，并求出信源熵。解：该信源的香农线图为： 1/3 ○ ○ 2/3 (x 1) 1 (x 2) 在计算信源熵之前，先用转移概率求稳定状态下二个状态x 1和 x 2 的概率)(1x p 和)(2x p 立方程：)()()(1111x p x x p x p =+)()(221x p x x p =)()(2132x p x p + )()()(1122x p x x p x p =+)()(222x p x x p =)(0)(2131x p x p + )()(21x p x p +=1 得4 3 1)(=x p 4 12)(=x p 马尔可夫信源熵H = ∑∑- I J i j i j i x x p x x p x p )(log )()( 得 H=0.689bit/符号 2．设有一个无记忆信源发出符号A 和B ，已知4 341)(.)(= =B p A p 。求： ①计算该信源熵； ②设该信源改为发出二重符号序列消息的信源，采用费诺编码方法，求其平均信息传输速率； ③又设该信源改为发三重序列消息的信源，采用霍夫曼编码方法，求其平均信息传输速率。解：①∑- =X i i x p x p X H )(log )()( =0.812 bit/符号 ②发出二重符号序列消息的信源,发出四种消息的概率分别为用费诺编码方法代码组 b i BB 0 1 BA 10 2 AB 110 3 AA 111 3 无记忆信源 624.1)(2)(2 ==X H X H bit/双符号平均代码组长度 2B =1.687 bit/双符号 B X H R )(22==0.963 bit/码元时间 ③三重符号序列消息有8个,它们的概率分别为用霍夫曼编码方法代码组 b i BBB 64 27 0 0 1 BBA 64 9 0 )(6419 1 110 3

图像压缩编码实验报告

图像压缩编码实验报告一、实验目的 1.了解有关数字图像压缩的基本概念，了解几种常用的图像压缩编码方式； 2.进一步熟悉JPEG编码与离散余弦变换（DCT）变换的原理及含义； 3.掌握编程实现离散余弦变换（DCT）变换及JPEG编码的方法； 4.对重建图像的质量进行评价。二、实验原理 1、图像压缩基本概念及原理图像压缩主要目的是为了节省存储空间，增加传输速度。图像压缩的理想标准是信息丢失最少，压缩比例最大。不损失图像质量的压缩称为无损压缩，无损压缩不可能达到很高的压缩比；损失图像质量的压缩称为有损压缩，高的压缩比是以牺牲图像质量为代价的。压缩的实现方法是对图像重新进行编码，希望用更少的数据表示图像。应用在多媒体中的图像压缩编码方法，从压缩编码算法原理上可以分为以下3类：（1）无损压缩编码种类哈夫曼（Huffman）编码，算术编码，行程（RLE）编码，Lempel zev编码。（2）有损压缩编码种类预测编码，DPCM，运动补偿；频率域方法：正交变换编码(如DCT)，子带编码；空间域方法：统计分块编码；模型方法：分形编码，模型基编码；基于重要性：滤波，子采样，比特分配，向量量化；（3）混合编码 JBIG，H.261，JPEG，MPEG等技术标准。 2、JPEG 压缩编码原理 JPEG是一个应用广泛的静态图像数据压缩标准，其中包含两种压缩算法(DCT和DPCM)，并考虑了人眼的视觉特性，在量化和无损压缩编码方面综合权衡，达到较大的压缩比(25:1以上)。JPEG既适用于灰度图像也适用于彩色图像。其中最常用的是基于DCT变换的顺序式模式，又称为基本系统。JPEG 的压缩编码大致分

信息论与编码理论课后习题答案高等教育出版社

信息论与编码理论习题解第二章-信息量和熵解: 平均每个符号长为:154 4.0312.032= ?+?秒每个符号的熵为9183.03log 3 1 23log 32=?+?比特/符号所以信息速率为444.34 15 9183.0=?比特/秒解: 同步信号均相同不含信息,其余认为等概, 每个码字的信息量为 3*2=6 比特；所以信息速率为600010006=?比特/秒解:(a)一对骰子总点数为7的概率是 36 6 所以得到的信息量为 585.2)366(log 2= 比特 (b) 一对骰子总点数为12的概率是36 1 所以得到的信息量为 17.536 1 log 2= 比特解: (a)任一特定排列的概率为 ! 521 ,所以给出的信息量为 58.225! 521 log 2 =- 比特 (b) 从中任取13张牌,所给出的点数都不相同的概率为 1352 13 13 521344!13C A =? 所以得到的信息量为 21.134 log 1313 52 2=C 比特. 解:易证每次出现i 点的概率为 21 i ,所以

比特比特比特比特比特比特比特398.221 log 21)(807.1)6(070.2)5(392.2)4(807.2)3(392.3)2(392.4)1(6,5,4,3,2,1,21 log )(26 12=-==============-==∑ =i i X H x I x I x I x I x I x I i i i x I i 解: 可能有的排列总数为 27720! 5!4!3! 12= 没有两棵梧桐树相邻的排列数可如下图求得， Y X Y X Y X Y X Y X Y X Y X Y 图中X 表示白杨或白桦，它有???? ??37种排法，Y 表示梧桐树可以栽种的位置，它有???? ??58种排法，所以共有???? ??58*???? ??37=1960种排法保证没有两棵梧桐树相邻，因此若告诉你没有两棵梧桐树相邻时，得到关于树排列的信息为1960log 27720log 22-= 比特解: X=0表示未录取，X=1表示录取； Y=0表示本市，Y=1表示外地； Z=0表示学过英语，Z=1表示未学过英语，由此得

信息论与编码课后答案

一个马尔可夫信源有3个符号{}1,23,u u u ，转移概率为：()11|1/2p u u =，()21|1/2p u u =， ()31|0p u u =，()12|1/3p u u =，()22|0p u u =，()32|2/3p u u =，()13|1/3p u u =，()23|2/3p u u =，()33|0p u u =，画出状态图并求出各符号稳态概率。解：状态图如下状态转移矩阵为： 1/21/2 01/302/31/32/30p ?? ?= ? ??? 设状态u 1，u 2，u 3稳定后的概率分别为W 1，W 2、W 3 由1231WP W W W W =??++=?得1231132231231 112331223 231W W W W W W W W W W W W ?++=???+=???=???++=? 计算可得1231025925625W W W ?=??? =?? ?=?? 由符号集{0，1}组成的二阶马尔可夫链，其转移概率为：(0|00)p =，(0|11)p =，(1|00)p =， (1|11)p =，(0|01)p =，(0|10)p =，(1|01)p =，(1|10)p =。画出状态图，并计算各状态的稳态概率。解：(0|00)(00|00)0.8p p == (0|01)(10|01)0.5p p == (0|11)(10|11)0.2p p == (0|10)(00|10)0.5p p == (1|00)(01|00)0.2p p == (1|01)(11|01)0.5p p == (1|11)(11|11)0.8p p == (1|10)(01|10)0.5p p ==

图像压缩编码

小波变换在图像压缩中的应用学院精密仪器与光电子工程学院专业光学工程年级2014级学号1014202009 姓名孙学斌

一、图像压缩编码数字图像图像是自然界景物的客观反映。自然界的图像无论在亮度、色彩，还是空间分布上都是以模拟函数的形式出现的，无法采用数字计算机进行处理、传输和存储。在数字图像领域，将图像看成是由许多大小相同、形状一致的像素(Picture Element简称Pixel组成)用二维矩阵表示。图像的数字化包括取样和量化两个主要步骤。在空间将连续坐标离散化的过程为取样，而进一步将图像的幅度值整数化的过程称为量化。图像编码技术数据压缩就是以较少的数据量表示信源以原始形式所代表的信息，其目的在于节省存储空间、传输时间、信号频带或发送能量等。其组成系统如图所示。过程应尽量保证去除冗余量而不会减少或较少减少信息量，即压缩后的数据要能够完全或在一定的容差内近似恢复。完全恢复被压缩信源信息的方法称为无损压缩或无失真压缩，近似恢复的方法称为有损压缩或有失真压缩。图像压缩编码的必要性与可行性 1．图像压缩编码的必要性采用数字技术会使信号处理技术性能大为提高，但其数据量的增加也是十分惊人的。图像数据更是多媒体、网络通信等技术重点研究的压缩对象。不加压缩的图像数据是计算机的处理速度、通信信道的容量等所无法承受的。如果将上述的图像信号压缩几倍、十几倍、甚至上百倍，将十分有利于图像的存储和传输。可见，在现有硬件设施条件下，对图像信号本身进行压缩是解决上述矛盾的主要出路。 2．图像压缩编码的可能性图像数据量大，同时冗余数据也是客观存在的。在有些图像中可压缩的可能性很大。一般图像中存在着以下数据冗余因素。 (1)编码冗余编码冗余也称信息熵冗余。去除信源编码中的冗余量可以在对信息无损的前提下减少代表信息的数据量。对图像进行编码时，要建立表达图像信息的一系列符号码本。如果码本不能使每个像素所需的平均比特数最小，则说明存在编码冗余，就存在压缩的可能性。 (2)空间冗余

图像压缩与编码

实验项目3、图像压缩与编码一、实验目的（1）理解图像压缩编码的基本原理；（2）掌握用程序代码实现DCT变换编码；（3）掌握用程序代码实现游程编码。二、实验原理及知识点 1、图像压缩编码图像信号经过数字化后，数据量相当大，很难直接进行保存。为了提高信道利用率和在有限的信道容量下传输更多的图像信息，必须对图像进行压缩编码。图像压缩技术标准一般可分为如下几种：JPEG压缩（JPEG Compression）、JPEG 2000 、H.26X标准（H.26X standards）以及MPEG标准（MPEG standards）。数字压缩技术的性能指标包括：压缩比、平均码字长度、编码效率、冗余度。从信息论角度分，可以将图像的压缩编码方法分为无失真压缩编码和有限失真编码。前者主要包括Huffman编码、算术编码和游程编码；后者主要包括预测编码、变换编码和矢量量化编码以及运动检测和运动补偿技术。图像数据压缩的目的是在满足一定图像质量的条件下，用尽可能少的比特数来表示原始图像，以提高图像传输的效率和减少图像存储的容量，在信息论中称为信源编码。图像压缩是通过删除图像数据中冗余的或者不必要的部分来减小图像数据量的技术，压缩过程就是编码过程，解压缩过程就是解码过程。 2、游程编码某些图像特别是计算机生成的图像往往包含许多颜色相同的块，在这些块中，许多连续的扫描行或者同一扫描行上有许多连续的像素都具有相同的颜色值。在这些情况下就不需要存储每一个像素的颜色值，而是仅仅存储一个像素值以及具有相同颜色的像素数目，将这种编码方法称为游程（或行程）编码，连续的具有相同颜色值的所有像素构成一个行程。在对图像数据进行编码时，沿一定方向排列的具有相同灰度值的像素可看成是连续符号，用字串代替这些连续符号，可大幅度减少数据量。游程编码记录方式有两种：①逐行记录每个游程的终点列号：②逐行记录每个游程的长度 3、DCT变换编码变换编码是在变换域进行图像压缩的一种技术。图1显示了一个典型的变换编码系统。压缩图像输入图像N×N 图1 变换编码系统在变换编码系统中，如果正变换采用DCT变换就称为DCT变换（离散余弦变换）编码系统。DCT用于把一幅图像映射为一组变换系数，然后对系数进行量化和编码。对于大多数的正常图像来说，多数系数具有较小的数值且可以被粗略地量化（或者完全抛弃），而产生的图像失真较小。

信息论与编码理论习题答案全解

第二章信息量和熵 2.2 八元编码系统，码长为3，第一个符号用于同步，每秒1000个码字，求它的信息速率。解：同步信息均相同，不含信息，因此每个码字的信息量为 2?8log =2?3=6 bit 因此，信息速率为 6?1000=6000 bit/s 2.3 掷一对无偏骰子，告诉你得到的总的点数为：(a) 7; (b) 12。问各得到多少信息量。解：(1) 可能的组合为 {1，6},{2，5},{3，4},{4，3},{5，2},{6，1} )(a p =366=6 1 得到的信息量 =) (1 log a p =6log =2.585 bit (2) 可能的唯一，为 {6，6} )(b p =361 得到的信息量=) (1 log b p =36log =5.17 bit 2.4 经过充分洗牌后的一副扑克（52张），问： (a) 任何一种特定的排列所给出的信息量是多少？ (b) 若从中抽取13张牌，所给出的点数都不相同时得到多少信息量？解：(a) )(a p =! 521 信息量=) (1 log a p =!52log =225.58 bit (b) ???????花色任选种点数任意排列 13413!13 )(b p =13 52134!13A ?=1352 13 4C 信息量=1313 52 4log log -C =13.208 bit

图像压缩编码

Discussion on Wavelet B ases Selection for Digital Image Compression H AN Fang2f ang,XU Shuang,ZHENG De2zhong (College o f Electric Engineering,Yanshan Univer sity,Qinhuangdao Hebei066004,China) Abstract:　This paper studies the selection of optimal wavelet bases.The merits of biorthog onal spline wavelets are dis2 cussed and dem onstrated.C ontinuity of spline derivatives assures wavelets sm ooth and symmetry of biorthog onal wavelets makes the filters have linear phase.Those features can reduce distortion and guarantee the reconstructed images quality. K ey w ords:　Optimal wavelet bases;Image com pression;S pline wavelets;Biorthog onal wavelets 关于数字图像压缩中小波基选择问题的探讨① 韩芳芳,徐　爽,郑德忠 (燕山大学,电气工程学院,河北　秦皇岛　066004) 摘要:针对数字图像压缩编码中最优小波基的选择问题,论证了双正交样条小波基的优点,并对其进行了推导。样条小波的导数连续性保证了小波基的光滑性,双正交对偶小波的对称性使得滤波器具有线性相位,可减小失真,保证重构图像的质量。关键词:最优小波基;图像压缩;样条小波;双正交小波中图分类号:T N919 文献标识码:A 文章编号:1004-1699(2004)01-0154-04 图像是人类感知信息的重要途径之一。然而图像经过采样及量化编码后数据量巨大,给传输与存储带来很多困难,因而需要对图像数据进行有效的压缩。在F ourier分析基础上发展起来的小波分析,提供了一种自适应的时域和频域同时局部化的分析方法,通过伸缩和平移等运算功能进行多尺度细化分析,能够有效地从信号中提取信息。小波分析用于数字图像压缩,压缩比高,压缩速度快,压缩后信号与图像的特征不变,且在传递过程中可以抗干扰。因此小波分析成为数字图像处理及压缩编码的有力工具。如何选择最优小波基是图像压缩编码中所面临的一个棘手问题。对于图像信号而言,一方面要对巨大的数据量进行有效压缩,另一方面,要保持重建图像的质量满足视觉要求。小波基的选择存在一些标准,如平滑性、逼近精度、支撑大小和滤波频率等,如何最佳的组合这些特征是一个难点所在。 1　小波基的选择问题如何最合理、快速的选择小波基,目前这方面的研究并无定论。在小波基的选择中,一般较为看重以下几方面: 平滑性与消失矩。消失矩表明了小波变换后的能量集中程度,消失矩阶数很大时,精细尺度下的高频部分数值有许多是小得可以忽略的(奇异点除外)[1]。从重构图像质量角度而言,平滑性的影响要 2004年3月传　感　技　术　学　报第1期 ①收稿日期:2003211210 作者简介:韩芳芳(1978-)女,硕士研究生,主要研究方向为视频信号压缩编码; 徐　爽(1978-)女,硕士研究生,主要研究方向为信号处理与语音编码; 郑德忠(1952-)男,教授,博士生导师,河北省人工智能学会副理事长,中国电子协会高级会员,主要从事信号处理和先进控制等方面的研究工作,已在国内外发表论文50余篇。qhdzdz@https://www.360docs.net/doc/f413866651.html,.

信息论与编码理论第二章习题答案

I (X ;Y=1)= P(x/Y 1)I(x;Y 1) x P(x/Y 1)log P(x/Y 1) P(x) = P(X 0/Y 1)log P(X 0/Y 1) P(X 0) P(X 1/Y 1)log P(X 1/Y 1) P(X 1) 部分答案，仅供参考。信息速率是指平均每秒传输的信息量点和划出现的信息量分别为log3Jog3， 2’ 一秒钟点和划出现的次数平均为 1 15 2 1 ~4 0.20.4 - 3 3 一秒钟点和划分别出现的次数平均为巴5 4 4 那么根据两者出现的次数，可以计算一秒钟其信息量平均为10 log 3 5 竺 5 4 2 4 4 2 解： ⑻骰子A和B，掷出7点有以下6种可能： A=1,B=6; A=2,B=5; A=3,B=4; A=4,B=3; A=5,B=2; A=6,B=1 概率为6/36=1/6，所以信息量 -log(1/6)=1+log3 ~ bit (b)骰子A和B,掷出12点只有1种可能： A=6,B=6 概率为1/36，所以信息量 -log(1/36)=2+log9 ~ bit 解：出现各点数的概率和信息量： 1 点：1/21 , log21 ?bit ; 2 点：2/21 , log21-1 ?bit ; 3 点：1/7 , log7 4 点：4/21 , log21-2 5 点：5/21 , log (21/5 )~; 6 点：2/ 7 , log(7/2)? 平均信息量： (1/21) X +(2/21) X +(1/7) X +(4/21) X +(5/21) X +(2/7) 解： X=1:考生被录取；X=0考生未被录取； Y=1：考生来自本市；Y=0考生来自外地； Z=1:考生学过英语；z=o：考生未学过英语 P(X=1)=1/4, P( X=q=3/4; P( Y=1/ X=1)=1/2 ；P( Y=1/ X=0)=1/10 ；P(Z=1/ Y=1 )=1, P( Z=1/ X=0, Y=0 )=, P( Z=1/ X=1, Y=0 )=, P(Z=1/Y=0)= (a)P(X=0,Y=1)=P(Y=1/X=0)P(X=0)=, P(X=1,Y=1)= P(Y=1/X=1)P(X=1)= P(Y=1)= P(X=0,Y=1)+ P(X=1,Y=1)= P(X=0/Y=1)=P(X=0,Y=1)/P(Y=1)=, P(X=1/Y=1)=P(X=1,Y=1)/P(Y=1)=

信息论与编码习题参考答案(全)

信息论与编码习题参考答案第一章单符号离散信源 1.1同时掷一对均匀的子，试求： (1)“2和6同时出现”这一事件的自信息量； (2)“两个5同时出现”这一事件的自信息量； (3)两个点数的各种组合的熵； (4)两个点数之和的熵； (5)“两个点数中至少有一个是1”的自信息量。解： bit P a I N n P bit P a I N n P c c N 17.536log log )(361 )2(17.418log log )(362)1(36 662221111 616==-=∴====-=∴== =?==样本空间： (3)信源空间： bit x H 32.436log 36 62log 3615)(=??+?? =∴ (4)信源空间： bit x H 71.3636 log 366536log 3610 436log 368336log 366236log 36436log 362)(=??+?+?+??= ∴＋＋ (5) bit P a I N n P 17.11136 log log )(3611333==-=∴==

1.2如有6行、8列的棋型方格，若有两个质点A 和B ，分别以等概落入任一方格，且它们的坐标分别为（Xa ，Ya ）, （Xb ，Yb ）,但A ，B 不能同时落入同一方格。（1）若仅有质点A ，求A 落入任一方格的平均信息量；（2）若已知A 已落入，求B 落入的平均信息量；（3）若A ，B 是可辨认的，求A ，B 落入的平均信息量。解： bit a P a P a a P a I a P A i 58.548log )(log )()(H 48log )(log )(481 )(:)1(48 1 i i i i i ==-=∴=-=∴= ∑=落入任一格的概率 bit b P b P b b P b I b P A i 55.547log )(log )()(H 47 log )(log )(47 1 )(:B ,)2(48 1i i i i i ==-=∴=-=∴=∑=落入任一格的概率是落入任一格的情况下在已知 bit AB P AB P AB H AB P AB I AB P AB i i i i i i i 14.11)4748log()(log )()() (log )(47 1 481)()3(47481 =?=-=-=∴?=∑?=是同时落入某两格的概率 1.3从大量统计资料知道,男性中红绿色盲的发病率为7%,女性发病率为0.5%.如果你问一位男士：“你是否是红绿色盲？”他的回答可能是：“是”，也可能“不是”。问这两个回答中各含有多少信息量？平均每个回答中各含有多少信息量？如果你问一位女士，则她的答案中含有多少平均信息量？解： bit w P w P w P w P m m P m I w P w I bit m P m P m P m P m bit m P m I bit m P m I n n y y n n y y n n y y n n y y 0454.0log99.5%99.5%-log0.5%-0.5% )(log )()(log )()(H % 5.99log )(log )(%5.0log )(log )(36 6.0log93%93%-log7%-7% )(log )()(log )()(H 105.0%93log )(log )(84.3%7log )(log )(: =??=?-?-=-=-=-=-==??=?-?-==-=-==-=-=平均每个回答信息量：：回答“不是”的信息量回答“是”的信息量：对于女：平均每个回答信息量：：回答“不是”的信息量回答“是”的信息量：对于男士

图像压缩编码的方法概述

图像压缩编码的方法概述摘要：在图像压缩的领域，存在各种各样的压缩方法。不同的压缩编码方法在压缩比、压缩速度等方面各不相同。本文从压缩方法分类、压缩原理等方面分析了人工神经网络压缩、正交变换等压缩编码方法的实现与效果。关键词：图像压缩；编码；方法图像压缩编码一般可以大致分为三个步骤。输入的原始图像首先需要经过映射变换，之后还需经过量化器以及熵编码器的处理最终成为码流输出。一、图像压缩方法的分类 1.按照原始信息和压缩解码后的信息的相近程度分为以下两类：（1）无失真编码又称无损编码。它要求经过编解码处理后恢复出的图像和原图完全一样，编码过程不丢失任何信息。如果对已量化的信号进行编码，必须注意到量化所产生的失真是不可逆的。所以我们这里所说的无失真是对已量化的信号而言的。特点在于信息无失真，但压缩比有限。（2）限失真编码中会损失部分信息，但此种方法以忽略人的视觉不敏感的次要信息的方法来得到高的压缩比。图像的失真怎么度量，至今没有一个很好的评判标准。在由人眼主观判读的情况下，唯有人眼是对图像质量的最有利评判者。但是人眼视觉机理到现在为止仍为被完全掌握，所以我们很难得到一个和主观评价十分相符的客观标准。目前用的最多的仍是均方误差。这个失真度量标准并不好，之所以广泛应用，是因为方便。

2.按照图像压缩的方法原理可分为以下三类：（1）在图像编码过程中映射变换模块所做的工作是对编码图像进行预测，之后将预测差输出供量化编码，而在接受端将量化的预测差与预测值相加以恢复原图，则这种编码方法称为预测编码。预测编码中，我们只对新的信息进行编码。并且是利用去除邻近像素之间的相关性和冗余性的方法来达到压缩的目的。（2）若压缩编码中的映射变换模块用某种形式的正交变换来代替，则我们把这种方式的编码方法称为变换编码。在变换编码中常用的变换方法有很多，我们主要用到的有离散余弦变换（DCT），离散傅立叶变换（DFT）和离散小波变换（DWT）等。（3）混合编码，LZW算法以及近些年来的一些新的压缩编码方法，最主要的有分形编码算法、小波变换压缩算法、基于模型的压缩算法等。 3.按照压缩对象来分，我们可将图像压缩方法分为静止图像压缩和运动图像压缩。它们所采用的压缩编码标准有所不同，对于静止图像压缩而言，采用的是JPEG、JPEG2000标准；而对运动的图像进行压缩时，我们则采用的是、、、MPEG-1、MPEG-2、MPEG-4、MPEG-7等。二、常用的图像压缩方法图像压缩方法至研究开始至今，已经有将近70年的发展了，随着科技的不断发展和人们越来越高的期望和要求，使得图像压缩技术也在不断的发展着，不断的进步着，各种各样的方法层出不穷，争对不同的要求我们可以选择不同的方法对图像进行压缩，以达到

信息论与编码课后习题答案

1．有一个马尔可夫信源，已知p(x 1|x 1)=2/3，p(x 2|x 1)=1/3，p(x 1|x 2)=1，p(x 2|x 2)=0，试画出该信源的香农线图，并求出信源熵。解：该信源的香农线图为： 1/3 ○ ○ 2/3 (x 1) 1 (x 2) 在计算信源熵之前，先用转移概率求稳定状态下二个状态x 1和 x 2 的概率)(1x p 和)(2x p 立方程：)()()(1111x p x x p x p =+)()(221x p x x p =)()(2132x p x p + )()()(1122x p x x p x p =+)()(222x p x x p =)(0)(2131x p x p + )()(21x p x p +=1 得4 3 1)(=x p 4 12)(=x p 马尔可夫信源熵H = ∑∑- I J i j i j i x x p x x p x p )(log )()( 得 H=符号 2．设有一个无记忆信源发出符号A 和B ，已知4 3 41)(.)(= =B p A p 。求： ①计算该信源熵； ②设该信源改为发出二重符号序列消息的信源，采用费诺编码方法，求其平均信息传输速率； ③又设该信源改为发三重序列消息的信源，采用霍夫曼编码方法，求其平均信息传输速率。解：①∑- =X i i x p x p X H )(log )()( = bit/符号 ②发出二重符号序列消息的信源,发出四种消息的概率分别为 1614141)(=?=AA p 1634341 )(=?=AB p 1634143)(=?=BA p 1694343)(=?=BB p 用费诺编码方法代码组 b i BB 0 1 BA 10 2 AB 110 3

(完整版)信息论与编码习题参考答案

1.6为了使电视图象获得良好的清晰度和规定的对比度，需要用5×105个像素和10个不同的亮度电平，并设每秒要传送30帧图象，所有的像素是独立的，且所有亮度电平等概出现。求传输此图象所需要的信息率（bit/s ）。解： bit/s 104.98310661.130)/)(()/(R bit/frame 10661.1322.3105)(H 105)(H bit/pels 322.310log )(log )()(H 76650510 10?=??=?=∴?=??=??====∑=frame bit X H s frame r x X a p a p x i i i 所需信息速率为：每帧图像的熵是：每个像素的熵是：，由熵的极值性：由于亮度电平等概出现 1.7设某彩电系统，除了满足对于黑白电视系统的上述要求外，还必须有30个不同的色彩度。试证明传输这种彩电系统的信息率要比黑白系统的信息率大 2.5倍左右。证: . 5.2,,5.25.2477.210 log 300log )(H )(H pels /bit 300log )(log )()(H bit 3001030,10,,3001300 11倍左右比黑白电视系统高彩色电视系统信息率要图形所以传输相同的倍作用大信息量比黑白电视系统彩色电视系统每个像素每个像素的熵是：量化所以每个像素需要用个亮度每个色彩度需要求下在满足黑白电视系统要个不同色彩度增加∴≈====∴=?∑=x x b p b p x i i i Θ 1.8每帧电视图像可以认为是由3×105个像素组成，所以像素均是独立变化，且每像素又取128个不同的亮度电平，并设亮度电平是等概出现。问每帧图像含有多少信息量？若现在有一个广播员，在约10000个汉字中选1000个字来口述这一电视图像，试问若要恰当地描述此图像，广播员在口述中至少需要多少汉字？解: 个汉字最少需要数描述一帧图像需要汉字每个汉字所包含信息量每个汉字所出现概率每帧图象所含信息量556 6 5 5 10322.6/10322.61 .0log 101.2)()()()(,log H(c):1.010000 1000 symble /bit 101.2128log 103)(103)(: ?∴?=-?=≥ ≤-=∴== ?=??=??=frame c H X H n c nH X H n p p x H X H 1.9 给定一个概率分布 ) ,...,,(21n p p p 和一个整数m ， n m ≤≤0。定义 ∑=-=m i i m p q 1 1，证明： )log(),,...,,(),...,,(2121m n q q p p p H p p p H m m m n -+≤。并说明等式何时成立？证： ∑∑+==- -=>-=<-=''-=''∴>- =''-=''>-=n m i i i m i i i n p p p p p p p H x x x x f x e x x x f x x e x x x f x x x x f 1 121log log ),...,,( )0(log )( 0log )log ()(0 log )log ()()0(log )(ΘΘ又为凸函数。即又为凸函数，如下：先证明时等式成立。当且仅当时等式成立。当且仅当即可得：的算术平均值的函数，函数的平均值小于变量由凸函数的性质，变量n m m m m m n m m m i i i m m m m m m i i i n m i i i m i i i n n m m m m m n m i i i m m n m i i n m i i n m i i n m i i n m i i i p p p m n q q p p p H p p p H q q p p q p p p H m n q q q p p p p p p p p p H p p p m n q q q p p m n q q m n p m n p m n m n p f m n m n p f m n p p ===-+≤--=-+--≤- -=∴===-+-≤- --=----=---≤---=- ++==+==+++=+=+=+=+=+=∑∑∑∑∑∑∑∑∑ ∑...)log(),,...,,(),...,,(log log ),,...,,() log(log log log log ),...,,(...) log(log log log log )()()() ()(log 2121211 211 1 1 21211 1111 1 ΘΘ 2.13把n 个二进制对称信道串接起来，每个二进制对称信道的错误传输概率为p(0

语音编码和图像编码的分类及特点

语音编码和图像编码的分类及特点一、语音编码一般而言，语音编码分三大类：波形编码、参数编码及混合编码。 <1>、波形编码波形编码将时域模拟话音的波形信号进过采样、量化和编码形成数字语音信号，是将语音信号作为一般的波形信号来处理，力图使重建的波形保持原语音信号的波形形状。具有适应能力强、合成质量高的优点。但所需编码速率较高，通常在16KB/S以上，并且编码质量随着编码速率的降低显著下降，且占用的较高的带宽。波形编码又可以分为时域上和频域上的波形编码，频域上有子带编码和自适应变换域编码，时域上PCM、DPCM、ADPCM、APC和?M增量调制等。 ①、子带编码它首先用一组带通滤波器将输入信号按频谱分开，然后让每路子信号通过各自的自适应PCM编码器（ADPCM）编码，经过分接和解码再复合成原始信号。特点：1、每个子带独立自适应，可按每个子带的能量调节量化阶；2、可根据各个子带对听觉的作用大小共设计最佳的比特数；3、量化噪声都限制在子带内某一频带的量化噪声串到另一频带中去。 ②、自适应变换域编码利用正交变换将信号有时域变换到另外的一个域，使变换域系数密集化，从而使信号相邻样本间冗余度得到降低。特点：对变换域系数进行量化编码，可以降低数码率。 ③、PCM（Pulse-code modulation），脉冲编码调制对连续变化的模拟信号进行进行抽样、量化和编码产生。特点是保真度高，解码速度快，缺点是编码后的数据量大。 ④、DPCM(Differential Pulse Code Modulation)差分脉冲编码调制是对模拟信号幅度抽样的差值进行量化编码的调制方式，是用已经过去的抽样值来预测当前的抽样值，对它们的差值进行编码。特点：对于有些信号瞬时斜率比较大，很容易引起过载；而且瞬时斜率较大的信号也没有像话音信号那种音节特性，因而也不能采用像音节压扩那样的方法，只能采用瞬时压扩的方法；传输的比特率要比PCM低；一个典型的缺点就是易受到传输线路上噪声的干扰。 ⑤、ADPCM（adaptive differential pulse code modulation），自适应差分脉冲编码调制是DPCM的扩展，区别在于较DPCM在实现上预测器和量化器会随着相关的参数自适应的变化，达到较好的编码效果。特点：优点在算法复杂度低，压缩比小，编解码延时最短，压缩/解压缩算法非常的简单,低空间消耗。缺点是声音的质量一般。 ⑥、?M增量调制只保留每一信号样值与其预测值之差的符号，并用一位二进制数编码的差分脉冲编码调制。特点：1、电路简单，而脉码调制编码器需要较多逻辑电路；2、数据率低于

信息论与编码理论习题答案

第二章信息量和熵 2.2 八元编码系统，码长为3，第一个符号用于同步，每秒1000个码字，求它的信息速率。解：同步信息均相同，不含信息，因此每个码字的信息量为 2?8log =2?3=6 bit 因此，信息速率为 6?1000=6000 bit/s 2.3 掷一对无偏骰子，告诉你得到的总的点数为：(a) 7; (b) 12。问各得到多少信息量。解：(1) 可能的组合为 {1，6},{2，5},{3，4},{4，3},{5，2},{6，1} )(a p =366=6 1 得到的信息量 =) (1 log a p =6log =2.585 bit (2) 可能的唯一，为 {6，6} )(b p =361 得到的信息量=) (1 log b p =36log =5.17 bit 2.4 经过充分洗牌后的一副扑克（52张），问： (a) 任何一种特定的排列所给出的信息量是多少？ (b) 若从中抽取13张牌，所给出的点数都不相同时得到多少信息量？解：(a) )(a p =! 521 信息量=) (1 log a p =!52log =225.58 bit (b) ???????花色任选种点数任意排列 13413!13 )(b p =13 52 134!13A ?=135213 4C 信息量=1313 524log log -C =13.208 bit