数字通信 第2篇 信源编码.pdf

2.1 离散信源与模拟信源 电信学院刘金铸 第 2 章 信源编码 2.1 离散信源与模拟信源 一、离散信源 例子：输出符合序列取自符号集：X x ,x ,,x 。 1 2 L L 统计规律：每符号出现概率。P P x , k 1,2,,L 。 P 1。    k k k k 1/3 2.1 离散信源与模拟信源 电信学院刘金铸 x   信源表达： k   P k   x 表示符号。一种区分。无大小。 k 但编码时，赋予数值0,1,2，…，L 。引入数学运算，伽罗华域运算。 集中元素数量有限。 2/3 2.1 离散信源与模拟信源 电信学院刘金铸 二、模拟信源 具有输出波形x (t) ，是随机过程X (t ) 的一个样本函数。 例如：语音。 注意x (t) 、X (t ) 的概念。 抽样及抽样定理 抽样x (t) x(n) 。时间离散的随机变量。 抽样定理：f 2W 。 ：x (t) 的最高频率。 W s 3/3 铸 2.2 信息的对数量度 电信学院刘金 2.2 信息的对数量度 （两个问题。另一个，互信息。放在信道中阐述） 一、离散信源输出符号的自信息量 1 I (xk ) log2 ( ) P x k  自信息量的意义和实质。符号出现的不确定度。 与通常所说的“信息”意义的区别。 为何取对数： P (x ) 0 ，I 。P (x ) 1，I 0 。 k k 1/3 铸 2.2 信息的对数量度