《总结与习题》由会员分享，可在线阅读，更多相关《总结与习题（58页珍藏版）》请在金锄头文库上搜索。
1、2018/10/16,1,信道容量 C：在信道中最大的信息传输速率，单位是比特/信道符号。单位时间的信道容量 Ct：若信道平均传输一个符号需要 t 秒钟，则单位时间的信道容量为Ct 实际是信道的最大信息传输速率。,第三章总结,2018/10/16,2,求信道容量的方法 当信道特性 p(yj /xi) 固定后，I(X;Y) 随信源概率分布 p(xi) 的变化而变化。 调整 p(xi)，在接收端就能获得不同的信息量。由平均互信息的性质已知，I(X;Y) 是 p(xi) 的上凸函数，因此总能找到一种概率分布 p(xi)（即某一种信源），使信道所能传送的信息率为最大。 C 和 Ct 都是求平均互信息
2、I(X;Y) 的条件极大值问题，当输入信源概率分布 p(xi) 调整好以后， C 和 Ct 已与 p(xi) 无关，而仅仅是信道转移概率的函数，只与信道统计特性有关； 信道容量是完全描述信道特性的参量； 信道容量是信道能够传送的最大信息量。,2018/10/16,3,香农公式说明当信道容量一定时，增大信道带宽，可以降低对信噪功率比的要求；反之，当信道频带较窄时，可以通过提高信噪功率比来补偿。 当信道频带无限时，其信道容量与信号功率成正比。,2018/10/16,4,信道编码定理：若有一离散无记忆平稳信道，其容量为 C，输入序列长度为 L，只要待传送的信息率 RC时，任何编码的 Pe 必大于零，
3、当 L，Pe1。 信道编码定理说明：同无失真信源编码定理类似，信道编码定理也是一个理想编码的存在性定理。它指出信道容量是一个临界值，只要信息传输率不超过这个临界值，信道就可几乎无失真地把信息传送过去，否则就会产生失真。,2018/10/16,5,习题1,3.1.设信源通过一干扰信道，接收符号为Y=y1,y2,信道传递概率如下图所示。求 信源X中事件x1和x2分别含有的信息量。 收到消息yj (j=1,2)后，获得的关于xi (i=1,2)的信息量。 信源X和信源Y的信息熵。 信道疑义度H(X/Y)和噪声熵H(Y/X)。 接收到消息Y后获得的平均互信息。,2018/10/16,6,习题1,解答：
4、,互信息可以为正值也可以为负值，负值表明由于噪声的存在，接收到一个消息后，对另一个消息是否出现的不确定性反而增加了。,2018/10/16,7,习题1,2018/10/16,8,习题2,3.2.设二元对称信道的传递概率为若P(0)=3/4,P(1)=1/4,求H(X),H(X/Y),H(Y/X)和I(X;Y)。 求该信道的信道容量及达到信道容量时的输入概率分布。,2018/10/16,9,习题2,2018/10/16,10,习题2,2018/10/16,11,习题3,3.3 设有一批电阻，按阻值分70%是2KQ，30%是5KQ；按瓦分64%是1/8W，其余是1/4W。现已知2KQ阻值的电阻中8
5、0%是1/8W。问通过测量阻值可以得到的关于瓦数的平均信息量是多少？ 解：设随机变量X表示电阻的瓦数，Y表示电阻的阻值，则其概率分布为,已知,，由概率的归一性：,由,，得,.,2018/10/16,12,习题3,2018/10/16,13,2018/10/16,14,2018/10/16,15,2018/10/16,16,2018/10/16,17,离散时间随机过程。该过程中，在给定当前知识或信息的情况下，过去（即当期以前的历史状态）对于预测将来（即当期以后的未来状态）是无关的,2018/10/16,18,2018/10/16,19,2018/10/16,20,3),2018/10/16,21
6、,2018/10/16,22,2018/10/16,23,2018/10/16,24,2018/10/16,25,2018/10/16,26,2018/10/16,27,2018/10/16,28,2018/10/16,29,2018/10/16,30,2018/10/16,31,2018/10/16,32,2018/10/16,33,X1X2,Y,2018/10/16,34,2018/10/16,35,习题3,解答：消息是一个二元序列，且为等概率分布，即P(0)=P(1)=1/2，故信源的熵为H(X)=1(bit/symbol)。则该消息序列含有的信息量14000(bit/symbol)。下
7、面计算该二元对称信道能传输的最大的信息传输速率：信道传递矩阵为：信道容量（最大信息传输率）为：C=1-H(P)=1-H(0.98)0.8586bit/symbol,2018/10/16,36,习题3,得最大信息传输速率为：Rt 1500符号/秒 0.8586比特/符号1287.9比特/秒1.288103比特/秒此信道10秒钟内能无失真传输得最大信息量10 Rt 1.288104比特可见，此信道10秒内能无失真传输得最大信息量小于这消息序列所含有的信息量，故从信息传输的角度来考虑，不可能在10秒钟内将这消息无失真的传送完。,2018/10/16,37,习题4,3.10.求下图中信道的信道容量及其
8、最佳的输入概率分布。,（a） (b),2018/10/16,38,习题4,解答：图中两个信道的信道矩阵分别为均满足对称性，所以这两个信道是对称离散信道。由对称离散信道的信道容量公式得：最佳输入分布（即达到信道容量的输入分布）是等概率分布,2018/10/16,39,习题5,3.12.求下图中信道的信道容量及其最佳的输入概率分布。并求当=0和1/2时的信道容量C。,2018/10/16,40,习题5,解答：图中信道的信道矩阵如下此信道为一般信道。,2018/10/16,41,习题5,2018/10/16,42,习题5,2018/10/16,43,习题6,6.5设一连续消息通过某放大器，该放大器输
9、出的最大瞬时电压为b,最小瞬时电压为a。若消息从放大器中输出，问放大器输出消息在每个自由度上的最大熵是多少？又放大器的带宽为F,问单位时间内输出最大信息量是多少？,2018/10/16,44,习题6,解答：已知幅度受限的连续随机变量的概率密度函数为均匀分布时其熵最大。所以，放大器输出消息的最大熵比特/自由度因为放大器的带宽为F,则取样率为2F。那么，放大器在单位时间内输出的消息有2F个自由度，单位时间内输出的最大信息量为：比特/秒,2018/10/16,45,习题7,6.9 设连续随机变量X,已知X0,其平均值受限，即数学期望为A,试求在此条件下获得最大熵的最佳分布，并求出最大熵。,2018/
10、10/16,46,习题7,2018/10/16,47,习题8,6.24.在图片传输中，每帧约为2.25106个像素，为了能很好地重现图像，需分16个亮度电平，并假设亮度电平等概率分布。试计算每秒钟传送30帧图片所需信道的带宽（信噪功率比为30db ）。,2018/10/16,48,习题8,解答：每秒需传送的信息率为信道的信噪功率比为 ，所以,2018/10/16,49,习题9,6.25.设在平均功率受限高斯加性噪声连续信道中，信道带宽为3KHZ，又设（信号功率噪声功率）/噪声功率10db。(1)试计算该信道传送的最大信息率（单位时间）(2)若（信号功率噪声功率）/噪声功率降为5db，要达到相同
11、的最大信息传输率，信道带宽应是多少？,2018/10/16,50,习题9,解答：(1)平均功率受限高斯加性连续信道，W为3KHz,10log10(1+PS/PN)=10 1+PS/PN =10,2018/10/16,51,练习题1,若已知信道输入分布为等概率分布，且有如下两个信道，其转移概率矩阵分别为：试求这两个信道的信道容量，并问这两个信道是否有噪声？,2018/10/16,52,练习题1,2018/10/16,53,练习题2,设有一离散级联信道如下图所示：试求(1)X与Y之间的信道容量C1 (2) Y与Z 之间的信道容量C2 (3) X与Z之间的信道容量C3，及其输入分布,2018/10/
12、16,54,练习题2,2018/10/16,55,3.设电话信号的信息率为5.6104比特/秒，在一个噪声功率谱为N0=510-6mW/Hz、限频F、限输入功率P的高斯信道中传送，若F=4kHz,问无差错传输所需的最小功率P是多少W?若F趋于无穷大时，则P是多少瓦？,练习题3,2018/10/16,56,练习题3,2018/10/16,57,练习题4,4.若有一限频、限功率、白色高斯连续信道，它由两级串接功率放大器组成，其功率增益分别为G1=20db, G2=10db,而带宽为1MHz,当信道输入为2mW时，试求(1)若信道噪声功率密度为N0=210-6mW/Hz，求信道容量C=?(2)当信道输入、G2、N0均不变，而带宽变为1.5MHz，若要获得同样容量C, G1 应为多少倍？（以10为底）,2018/10/16,58,练习题4,
