《近代信息论-第二章-2》由会员分享，可在线阅读，更多相关《近代信息论-第二章-2（35页珍藏版）》请在金锄头文库上搜索。
1、第二章 信道和信道容量2.I(,Y)=Hc(Y)-Hc (N)证明1.条件概率：P(y|)=P(N)证明2. I(,Y)=Hc(Y)-Hc (N)证明高斯信道的信道容量n设输入平均功率受限 Pwin设输出Y平均功率受限 Pwon要使得Y的熵H(Y)最大，Y必定是均值为零 ，方差为Pwo的高斯变量N(0, Pwo)。限平均功率的最大熵定理高斯信道的信道容量可以通过提高输入 功率来增大C上界加性干扰信道容量（一般情形）n一般信道有非加性干扰，无法解得信道容量，而对 叠加性干扰信道，虽无法解得C，但可得上下界。下界加性干扰信道容量（一般情形）下界n综合上下界，对于加性信道：加性干扰信道容量（一般情形
2、）v可见，高斯信道是最差的信道，或者说，高斯干扰 就是最坏的干扰。v实际中，在未知噪声分布时，一般假设为高斯噪声 ，这样做最保险。back第七节：信道的组合n独立并联信道n和信道n级联信道独立并联信道独立信道n定义联合平均互信息独立并联信道n当个信道独立时，分别求各信道的互信息独立并联信道各信道的互信息第一信道第二信道第N信道以上求和n结论：独立并联信道12 当输入变量相互独立时，且各信道输入分布使 信道达到各自信道容量Ck时，n讨论：n对于“离散无记忆信道，N次扩展”独立并联信道信道n时分信道：时间离散无记忆信道n各时间单元干扰不同，可看作独立并列信道n假设各信道均为高斯信道：和信道（并信道
3、）n定义：n任一时间随机的选用，信道1或信道2（两者不能同时选用）， 选信道1的概率P1,选信道2的概率P2，且P1 +P2 =1。n组合信道的输入n组合信道的输出n转移概率此信道称为和信道或并信道。n例：GSM, 双频P1P212Y1Y2n定理：信道1与信道2的和信道的信道容 量C满足：n推广：N个独立信道的和信道，若各分 信道的信道容量为Cn,则和信道的信道 容量为每个信道被使用的概率为：和信道（并信道）信道容量级连信道（串行信道）n可先计算总的转移概率，然后用常规法计算 C.n可证明，若N个转移概率相同的信道级连，信道信道back第八节：波形信道n定义：信道的输入、输出是任意的时间函数，
4、则称 信道为波形信道，或时间连续信道。n限时T,限频F的加性高斯白噪声信道nShannon 公式n功率分配back限时T,限频F的加性高斯白噪声信 道n输入(t),输出Y(t),信道噪声是高斯白噪声N(t), nY(t)=(t)+N(t); 与N相互独立n(t),Y(t)和N(t)都是限频、限时T的随机过程。n根据抽样定理：,Y,N可用2F频率抽样，能转化为时间间隔为 的n个随机变量组成的随机变量。n对于白噪声N(t),其功率谱 在-F,F为常数N0/2,由 功率谱与相关函数的域变换关系，得：限时T,限频F的加性高斯白噪声信 道-FFbackShannon公式n限时T,限频Fn对于高斯加性信道
5、对于限时T,限频F的信号Shannon公式back功率分配（限时限频）n独立并列信道，信道容量n设输入功率恒定问题如何分配功率，即各 如何取值， 才能使达到最大 即：各信道输出功率相等，才能保证联合信道容量最大 。重 新 解结论：v噪声大的信道输入功率分配额小；v噪声小的信道输入功率分配额大，这样可使得总的信道容量C增大。太坏的信道不用K注水原理back第九节：有记忆非白噪声信 道n非白噪声n有串扰（码间串扰）可视为记忆n串音n远端FETn近端NET前述加性高斯白噪声信道（AWGN) 实际如电话线信道容量n输入(t), 输出Y(t)；n非白噪声(colored noise) 是由高斯信源q(t)经过LTI：h(t)得到的；nZ(t)：高斯白噪声；n(t), q(t), Z(t) 独立。n信道本身的冲激响应：g(t)n非白噪声干扰可看作白噪声通过一个线性时不变滤波器(LTI filter) 建模g(t)(t)Y(t)Z(t)加性白噪声h(t)q(t)LTI (非白噪声）g(t)(t)Y(t)Z(t)加性白噪声h(t)q(t)LTI (非白噪声）信道容量时域:频域:G11Y1Z1H1Q1G22Y2Z2H2Q2G33Y3Z3H3Q3第m个信道的输出第m个信道的信噪比第m个信道容量总的信道容量 ：令信道带宽B 每个独立信道带宽 最大的符号传输率（无失真传输的条件） 最大信息传输率back
