信息论与编码-曹雪虹-课后习题答案.doc

3.1设二元对称信道的传递矩阵为

(1)若P(0)=3/4,P(1)=1/4，求H(X),H(X/Y),H(Y/X)和I(X;Y)；

(2)求该信道的信道容量及其达到信道容量时的输入概率分布；

解：

1)

2)

其最佳输入分布为

3.5求下列二个信道的信道容量，并加以比较

（1）（2）

其中p+=1

解：

（1）此信道是准对称信道，信道矩阵中Y可划分成三个互不相交的子集由于集列所组成的矩阵,而这两个子矩阵满足对称性，因此可直接利用准对称信道的信道容量公式进行计算。

C1=logr-H(p1’p2’p3’)-

其中r=2,N1=M1=1-2N2=M2=4所以

C1=log2-H(,p-ε,2ε)-(1-2)log(1-2)-2log4

=log2+()log()+(p-ε)log(p-ε)+2εlog2ε-(1-2ε)log(1-2ε)-2εlog4ε

=log2-2εlog2-(1-2ε)log(1-2ε)+()log()+(p-ε)log(p-ε)

=(1-2ε)log2/(1-2ε)+()log()+(p-)log(p-)

输入等概率分布时达到信道容量。

（2）此信道也是准对称信道，也可采用上述两种方法之一来进行计算。先采用准对称信道的信道容量公式进行计算，此信道矩阵中Y可划分成两个互不相交的子集，由子集列所组成的矩阵为，这两矩阵为对称矩阵其中r=2,N1=M1=1-2N2=M2=2，所以

C=logr-H(-,p-ε,2ε,0)-

=log2+(-)log(-)+(p-ε)log(p-ε)+2εlog2ε-(1-2ε)log(1-2ε)-2εlog2ε

=log2-(1-2ε)log(1-2ε)+(-)log(-)+(p-ε)log(p-ε)

=(1-2ε)log2/(1-2ε)+2εlog2+(-)log(-)+(p-ε)log(p-ε)

=C1+2εlog2

输入等概率分布（P（a1）=P（a2）=1/2）时达到此信道容量。比较此两信道容量，可得C2=C1+2εlog2

3.9在图片传输中，每帧约有2.25í106个像素，为了能很好地重现图像，能分16个亮度电平，并假设亮度电平等概分布。试计算每分钟传送一帧图片所需信道的带宽（信噪功率比为30dB）。

解：

4.2某二元信源其失真矩阵为求这信源的Dmax和Dmin和R(D)函数。

解：

因为二元等概信源率失真函数：

其中n=2,所以率失真函数为：

4.3一个四元对称信源，接收符号Y={0,1,2,3}，其失真矩阵为，求Dmax和Dmin及信源的R(D)函数，并画出其曲线（取4至5个点）。

解：

因为n元等概信源率失真函数：

其中a=1,n=4,所以率失真函数为：

5-1将下表所列的某六进制信源进行二进制编码，试问：

消息

概率

u1

u2

u3

u4

u5

u6

1/2

1/4

1/16

1/16

1/16

1/16

000

001

010

011

100

101

0

01

011

0111

01111

011111

0

10

110

1110

11110

111110

0

10

1101

1100

1001

1111

1

000

001

010

110

110

01

001

100

101

110

111

这些码中哪些是唯一可译码？

哪些码是非延长码？

对所有唯一可译码求出其平均码长和编译效率。

解：首先，根据克劳夫特不等式，找出非唯一可译码

不是唯一可译码，而：

又根据码树构造码字的方法

，，的码字均处于终端节点

他们是即时码

5-2

(1)因为A,B,C,D四个字母,每个字母用两个码,每个码为0.5ms,所以每个字母用10ms

当信源等概率分布时,信源熵为H(X)=log(4)=2

平均信息传递速率为bit/ms=200bit/s

(2)信源熵为

H(X)=

=0.198bit/ms=198bit/s

5-5

(1)

H(U)=

(2)每个信源使用3个二进制符号,出现0的次数为

出现1的次数为

P(0)=

P(1)=

(3)

(4)相应的香农编码

信源符号xi

符号概率pi

累加概率Pi

-Logp(xi)

码长Ki

码字

x1

1/2

0

1

1

0

x2

1/4

0.5

2

2

10

x3

1/8

0.75

3

3

110

x4

1/16

0.875

4

4

1110

x5

1/32

0.938

5

5

11110

x6

1/64

0.969

6

6

111110

x7

1