信道容量的计算通信电子WCDMA技术_通信电子-数据通信与网络.pdf

（4o 2o。（沽）4.2 信道容量的计算 这里，我们介绍一般离散信道的信道容量讣算方法，根据信道容量的定义，就是在固定信 道的条件下，对所有可能的输入概率分布 P（x）求平均互信息的极大值.前面已知/（XV）是 输入概率分布的上凸函数，所以极大值一定存在而/（XV）是厂个变虽:（州）,（花）,（）的多元函数。并且满足工”（兀）=1。所以可用拉格朗日乘子法来 r-I 计算这个条件极值。引入一个函数：0=/（X;Y）/l 工）解方程组 .2（易）=1 1）可以先解岀达到极值的概率分布和拉格朗日乘子久的值，然后在解出信道容MCo 因为/（xv）=ja）e（xk）iog/=|1 而卩（必）=卩（兀）2（牙也），所以 r-1 希 log（）；）=（為 In（x）log e=岑勢 log e。解（4。2。1）式有 Q（x|兀）-XX（兀 Q（）i k）loge-兄=0 気 p（x）务気 p（yj（对 i=i,2,都成立）又因为 C$（丑）2（片|无）=（丹）A-!u）TWi3X2(y_,k)i。（儿|兀）=2+logt?现在令 z(xf.；y)=(2(y|)iog 冃 假设使得平均互信息/（XV）达到极值的输入概率分布pvp2 Pr这样有 从而上式左边即为信道容咼，得 C=A+oge 0(儿|兀)丽 式中，I（Xi;Y）是输岀端接收到 Y 后获得关于X=Xj的信息量.即是信源符号 X=对输 出端 Y 平均提供的互信息.一般来讲，心;Y）值与為有关根据（4。2.2）式和（4。2.3）式，z（xf.；r）=c a=i2“）所以对于一般离散信道有如下定理。定理 4。2.1 一般离散信道的平均互信息/（XV）达到极大值（即等于信道容量）的充 要条件是输入概率分布（召）,卩（兀）满足（“）/（y）=c 对所有的召,卩（召）工 0（方）/（x.；y）Cq）H0 按照下式不断地对概率分布进行迭代，更新:Pr+l=P(x；)K 室内配电线路的安装及漏电保护器的安装训练能力目标让学生能做基本的室内电工装修等工作德育目标培养学生正确安装室内电工布局布线等养成良好的具有经验丰富实践能力强的专用型人才二教学方法讲授实训三教学重难点室内生活领域中不同场合对照明装置和线路安装的要求不同电气照明及配电线路的安装与维修一般包括照明灯具安装配电板安装和配电线路设与检修几项内容也是电工技术中的一项基本技能本项目主要进行常用照明灯具的安装照明配电具安装的一般要求各种灯具开关插座及所有附件都必须安装牢固可靠应符合规定的要求壁灯及吸顶灯要牢固地设在建筑物的平面上吊灯必须装有吊线盒每只吊线盒一般只允许装一盏电灯双管日光灯和特殊吊灯除外日光灯和较大的吊1=1 其中 Aw)=cxp“x=无;y)|p“室内配电线路的安装及漏电保护器的安装训练能力目标让学生能做基本的室内电工装修等工作德育目标培养学生正确安装室内电工布局布线等养成良好的具有经验丰富实践能力强的专用型人才二教学方法讲授实训三教学重难点室内生活领域中不同场合对照明装置和线路安装的要求不同电气照明及配电线路的安装与维修一般包括照明灯具安装配电板安装和配电线路设与检修几项内容也是电工技术中的一项基本技能本项目主要进行常用照明灯具的安装照明配电具安装的一般要求各种灯具开关插座及所有附件都必须安装牢固可靠应符合规定的要求壁灯及吸顶灯要牢固地设在建筑物的平面上吊灯必须装有吊线盒每只吊线盒一般只允许装一盏电灯双管日光灯和特殊吊灯除外日光灯和较大的吊由此所得的/（P,0 序列收敛于信道容量 c.我们还可以将上述过程写成算法以便编制程序实现（如图4.2.1）/厶 Tog 工P（G0A（P）【U=log 皿于仅（P）k 图 4.2.1 信道容量的迭代算法 对于一些特殊的离散信道，我们有方便的方法计算其信道容量。定义 4。2.1 设 X 和 Y 分别表示输入信源与输岀信源，则我们称 H（X|Y）为损失燔,H（Y|X）为信道噪声炳 室内配电线路的安装及漏电保护器的安装训练能力目标让学生能做基本的室内电工装修等工作德育目标培养学生正确安装室内电工布局布线等养成良好的具有经验丰富实践能力强的专用型人才二教学方法讲授实训三教学重难点室内生活领域中不同场合对照明装置和线路安装的要求不同电气照明及配电线路的安装与维修一般包括照明灯具安装配电板安装和配电线路设与检修几项内容也是电工技术中的一项基本技能本项目主要进行常用照明灯具的安装照明配电具安装的一般要求各种灯具开关插座及所有附件都必须安装牢固可靠应符合规定的要求壁灯及吸顶灯要牢固地设在建筑物的平面上吊灯必须装有吊线盒每只吊线盒一般只允许装一盏电灯双管日光灯和特殊吊灯除外日光灯和较大的吊如果信道的损失爛 H（X|Y）=O,则次信道容量为 室内配电线路的安装及漏电保护器的安装训练能力目标让学生能做基本的室内电工装修等工作德育目标培养学生正确安装室内电工布局布线等养成良好的具有经验丰富实践能力强的专用型人才二教学方法讲授实训三教学重难点室内生活领域中不同场合对照明装置和线路安装的要求不同电气照明及配电线路的安装与维修一般包括照明灯具安装配电板安装和配电线路设与检修几项内容也是电工技术中的一项基本技能本项目主要进行常用照明灯具的安装照明配电具安装的一般要求各种灯具开关插座及所有附件都必须安装牢固可靠应符合规定的要求壁灯及吸顶灯要牢固地设在建筑物的平面上吊灯必须装有吊线盒每只吊线盒一般只允许装一盏电灯双管日光灯和特殊吊灯除外日光灯和较大的吊1.6 3 6 6 13 3 2 丄 6 6 3 1 2 C=max/（X;Y）=max（H（x）-H（X|y）=maxH（X）=logr（bit/符号）这里输入信 源 X 的信源符号个数为 r.如果信道的噪声爛 H（Y|X）=O.则此信道容量为 C=max/（X;Y）=max H（Y）=log s（bit/符号）P（x P（x 这里输出信源符 Y 的符号个数为 s.定义 4.2。2 一个信道 Q 称为对称离散信道，如果它满足下而的性质:（1）信道 Q 矩阵中每一行是另一行的置换:（2）每一列式另一列的置换.例如，信道矩阵 满足对称性，所以对应信道是对称离散信道.定义 4。2.3 对称离散信道的信道容量为 C=logy H（尺（bit/符号）上式只与対称信道矩阵中行矢量 人；尺,尺 和输出符号集的个数 s 有关。证明 I（X;Y）=H（Y）-H（YX）而 H（YX）=X P 工 P（y|x）log 詁刁=J；p（A-）H（r|x=x）X 由于信道的对称性，所以H（YX=x）与；r 无关，为一常熟，即 C=,/?）P（X=log$H（尺尽,尺）接着举一个例子加以说明。例 4.20 1 某对称离散信倒的信道矩阵为 丄 r 3 3 6 6 P=1-6 1-6 室内配电线路的安装及漏电保护器的安装训练能力目标让学生能做基本的室内电工装修等工作德育目标培养学生正确安装室内电工布局布线等养成良好的具有经验丰富实践能力强的专用型人才二教学方法讲授实训三教学重难点室内生活领域中不同场合对照明装置和线路安装的要求不同电气照明及配电线路的安装与维修一般包括照明灯具安装配电板安装和配电线路设与检修几项内容也是电工技术中的一项基本技能本项目主要进行常用照明灯具的安装照明配电具安装的一般要求各种灯具开关插座及所有附件都必须安装牢固可靠应符合规定的要求壁灯及吸顶灯要牢固地设在建筑物的平面上吊灯必须装有吊线盒每只吊线盒一般只允许装一盏电灯双管日光灯和特殊吊灯除外日光灯和较大的吊用公式计算信道容量 c 1 1 L 1 1,1 L 1=2-log-+-logr-log-+-log-J=0.0817(bit/符号)定义 4。2。3 若信道矩阵 Q 的列可以划分成若干互不相交的子集矩阵即 Bj cB,=（i H 力且目 UB?U=Y。由BK为列组成的矩阵 Q 是对称矩阵,则称信道矩阵 Q所对应的信道为准对称信道。例如，信道矩阵 3 3 6 6(0.7 0.1 0.2、1111 弓一0.2 0 0.7,都是准对称信道，在信道矩阵片中.Y 可以划分为三个子集，由子集的列组成的矩阵为 1 1 T 3 6 3 9 6 1 1 1 1 6 3;3 它们满足对称性，所以片对应的信道是准对称信道。冋理可划分为 P.7 0.2)fo.n 伙=12 山）并且可以证明达到准对称离散信道容量的输入分布式等概分布，我们将推导作为习题留 给读者。例 422 设信道传递矩阵为-p-q q p r=I p q i_p_q丿 可表示成如图 4.2。2 所示，计算其信道容量 根据上而计算公式可得 N=i-qN2=q M=-q.M2=2q 则有 C=log2 _ Ha _ p _ q,q,p)一(1 一 q)log(l q)_q og2q=log+(l-q)log(l-一 g)+(l-g)log 图 422 i_q 下而我们举一些其他信道容量的例子 例 4.2。3 设离散信道如图 4。2。3 所示，输入符号集为他心“，输出 符号集为%$，信道矩阵为 图 4。2。3h2 室内配电线路的安装及漏电保护器的安装训练能力目标让学生能做基本的室内电工装修等工作德育目标培养学生正确安装室内电工布局布线等养成良好的具有经验丰富实践能力强的专用型人才二教学方法讲授实训三教学重难点室内生活领域中不同场合对照明装置和线路安装的要求不同电气照明及配电线路的安装与维修一般包括照明灯具安装配电板安装和配电线路设与检修几项内容也是电工技术中的一项基本技能本项目主要进行常用照明灯具的安装照明配电具安装的一般要求各种灯具开关插座及所有附件都必须安装牢固可靠应符合规定的要求壁灯及吸顶灯要牢固地设在建筑物的平面上吊灯必须装有吊线盒每只吊线盒一般只允许装一盏电灯双管日光灯和特殊吊灯除外日光灯和较大的吊2 2 0 1 lo 1)由于输入符号他传递到妨和仇是等概率的，所以他可以省去。而且 5 皿 2 与%你 都分别传递到勺和方 2,因此可只取 5 和5,所以设输入概率分布 P(q)=P(y)=，2 卩(。2)=卩(“3)=卩 4)=0,可以计算得P(bl)=P(b2)=,由定理 4。2。1 得/(X=aY)=/(x=a2 Y)=log2 I(x=a4;Y)=I(x=a5;Y)=log2/(x=6/3；y)=O 可见，此假设分布满足眾理 4.2。1,因此，信道容量 C=log2=1(bit/符号)最佳分布是 P(q)=P(aJ=丄，”(a?)=P(“3)=P(5)=0 厶 若设输入分布为 p(e)=m)=p)=pa)=-.p(3)=oo 同理可得 4 P()=P2)=*，根据定理 4.2.1 有/Z(A；.；y)=log2(xt=avavaa5)W(x/.；y)1 移项后得 E2（y；klc+】ogP（丹）=Q（“k）iogQSk）J=I）=i（，=1,2,“）令 Q=C+logP（兀），代入上式得 E。（旳 X k=E。（力 X）1。2（刀闰）户1 尸1 0=1,2,，门 化为矩阵形式为 QP：=_ 6（牛）H（牛2）、卩 这是含有 S个未知数 0 丿个方程的非齐次线性方程组。如果设厂=$,信道矩阵 0 为非奇异矩阵，则此方程组有解，并且可以求出 0,的数值,户I Ciog 工 2 为（bi符号）J 由这个C值可解得对应的输出概论分布 P（丹）。P（刀）=20Y 0=1,2,.）再根据 P（兀）=乞叫風咖）j=1,2,s,即可解出达到信道容量的最佳输入 r-1 分布P3）.下面给出一例。例 4。24 设离散无记忆信道输入 X 的符号集为他心心，输岀丫的符号集 为%彷 03上 4、如图 4。2。4 所示。其信道矩阵为 室内配电线路的安装及漏电保护器的安装训练能力目标让学生能做基本的室内电工装修等工作德育目标培养学生正确安装室内电工布局布线等养成良好的具有经验丰富实践能力强的专用型人才二教学方法讲授实训三教学重难点室内生活领域中不同场合对照明装置和线路安装的要求不同电气照明及配电线路的安装与维修一般包括照明灯具安装配电板安装和配电线路设与检修几项内容也是电工技术中的一项基本技能本项目主要进行常用照明灯具的安装照明配电具安装的一般要求各种灯具开关插座及所有附件都必须安装牢固可靠应符合规定的要求壁灯及吸顶灯要牢固地设在建筑物的平面上吊灯必须装有吊线盒每只吊线盒一般只允许装一盏电灯双管日光灯和特殊吊灯除外日光灯和较大的吊丄丄 0 y 2 4 4 0 10 0 0 0 10 丄 0 丄丄.4 4 2 我们才用上而所讲的方法来计算信道容量：z 1.1.1.H 1 1,1 1,1 討+捫+护=尹产叫+才陀 02=0 0 产。1/7 1/?1 1 1 1-1 1】1 P，+Px+P 信道 2 -Y2。（乃卜2）解根据泄理 4.1 o 1 有 /（x&2；睾）s/（x 誌）1-1 即联合平均互信息不大于各自信道的平均互信息之和，因此得到独立并联信道的信道容量为 2 G.2=max/（X/2；程）P（XiX2）C 产 max/（/），是个独立信道的信道容量。p 只有当输入符号兀互相独立，且输入符号无的概率分布达到各子信道容量的概率分布 时，独立并联信道的信道容量才等于各信道容疑之和，即 C孑土 G 1-1 这个方法推广到 N 个独立并联信道容量的讣算，即有 C=max KX.X.-XM-YN）XC,Pg心）1 对于信道【和 II,我们将它串联起来组成新的信道（如图 42。6）丛_信道 信道 II 室内配电线路的安装及漏电保护器的安装训练能力目标让学生能做基本的室内电工装修等工作德育目标培养学生正确安装室内电工布局布线等养成良好的具有经验丰富实践能力强的专用型人才二教学方法讲授实训三教学重难点室内生活领域中不同场合对照明装置和线路安装的要求不同电气照明及配电线路的安装与维修一般包括照明灯具安装配电板安装和配电线路设与检修几项内容也是电工技术中的一项基本技能本项目主要进行常用照明灯具的安装照明配电具安装的一般要求各种灯具开关插座及所有附件都必须安装牢固可靠应符合规定的要求壁灯及吸顶灯要牢固地设在建筑物的平面上吊灯必须装有吊线盒每只吊线盒一般只允许装一盏电灯双管日光灯和特殊吊灯除外日光灯和较大的吊图 4.2.6 则此信道容量为 C,（IJI）=max/（X;Z）P（r）例 4.2.6 设有两个离散二元对称信道（BSC 信道），其串联信道如图 4。2.7,并设第一 个信道输入符号集的概率空间为室内配电线路的安装及漏电保护器的安装训练能力目标让学生能做基本的室内电工装修等工作德育目标培养学生正确安装室内电工布局布线等养成良好的具有经验丰富实践能力强的专用型人才二教学方法讲授实训三教学重难点室内生活领域中不同场合对照明装置和线路安装的要求不同电气照明及配电线路的安装与维修一般包括照明灯具安装配电板安装和配电线路设与检修几项内容也是电工技术中的一项基本技能本项目主要进行常用照明灯具的安装照明配电具安装的一般要求各种灯具开关插座及所有附件都必须安装牢固可靠应符合规定的要求壁灯及吸顶灯要牢固地设在建筑物的平面上吊灯必须装有吊线盒每只吊线盒一般只允许装一盏电灯双管日光灯和特殊吊灯除外日光灯和较大的吊e.=a=-p)2+p2 当串联信道数目越多 X 二元对称信 Y 二元对称信 Z 逍 I il-II 图 4。2.7 而两个信道的信道矩阵分别为 所以串联信道总的信道矩阵为 根据平均互信息定义 C=(bit/符号)L/(X;Z)=1-H2p(l-/?)(bit/符号)其中 J(XV)n/(X;Z)(根据信息不增原理)因此,越多，可证：Iim/(X;XJ=Oo nx 对于本例中两个串联的二元离散对称信道，其信道容量为 C:|;(IJI)=max/(X;Z)=1-H(2(l 一 仍)(bit/符号)(X PM)1 2;1-“P 室内配电线路的安装及漏电保护器的安装训练能力目标让学生能做基本的室内电工装修等工作德育目标培养学生正确安装室内电工布局布线等养成良好的具有经验丰富实践能力强的专用型人才二教学方法讲授实训三教学重难点室内生活领域中不同场合对照明装置和线路安装的要求不同电气照明及配电线路的安装与维修一般包括照明灯具安装配电板安装和配电线路设与检修几项内容也是电工技术中的一项基本技能本项目主要进行常用照明灯具的安装照明配电具安装的一般要求各种灯具开关插座及所有附件都必须安装牢固可靠应符合规定的要求壁灯及吸顶灯要牢固地设在建筑物的平面上吊灯必须装有吊线盒每只吊线盒一般只允许装一盏电灯双管日光灯和特殊吊灯除外日光灯和较大的吊