信息论与编码_习题集五邑大学.pdfVIP

下载本文档

11
0
约1.65千字
约 5页
2022-10-24 发布于江苏
举报
版权申诉

信息论与编码_习题集五邑大学.pdf

1、本文档共5页，可阅读全部内容。
2、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击这里二次下载。
4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
5、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
6、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
7、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
8、VIP文档为合作方或网友上传，每下载1次，网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档

期中习题 1 同时掷两个均匀的骰子，也就是各面呈现的概率都是1/6，求： (1) 事件“3 和5 同时出现”的自信息量； (2) 事件“两个l 同时出现”的自信息量； (3) 两个点数之和(即2，3，?，12 构成的子集)的熵； (4) 事件“两个骰子点数中至少有一个是1”的自信息量。 p p 2 某一无记忆信源的符号集为{0，1}，已知 (0) =1/ 4, (1) = 3/ 4。 (1) 求信源的熵。 (2) 由100 个符号构成的序列，求某一特定的序列(例如有m 个“0”和100 ?m 个“1”)的自信息量的表达式。 (3) 计算(2)中的序列的熵。 3 在一个二进制的信道中，信源消息集X={0，1}且p(1)=p(0)，信宿的消息集Y={0，1}， p y x p y x 信道传输概率 ( =1| =0)=1/4， ( =0 | =1)=1/8。求： (1) 在接收端收到y=0 后，所提供的关于传输消息x 的平均条件互信息I(X；y=0)； (2) 该情况下所能提供的平均互信息量I(X；Y)。 4 5 6 0 1 0 1 X         7 已知二元信源  以及失真矩阵 d  ，求（1）D ；（2）D ；   p(x) p 1p ij 1 0 min max       （3）R(D)。答案： 1、 2、 3、 4、 5 、（2）（3） 6、 7、解：（1）D p*00*(1p)0； min 达到D 的信道为一个一一对应的无噪信道，所以 min R(0)I(U;V)H(U)H(p)  （2）最大允许失真度为D min p(u)d(u,v)min(p,(1p)) max v ij 如果p 1/2,D p max 如果p 1/2,D 1p max （3）因为二源对称信源，所以 R(D)H(p)H(D) 0Dp