第四章离散信道及其容量精选PPT.ppt
《第四章离散信道及其容量精选PPT.ppt》由会员分享,可在线阅读,更多相关《第四章离散信道及其容量精选PPT.ppt(48页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、第四章离散信道及其容量第1页,此课件共48页哦3 3研究信道的目的研究信道的目的在通信系统中研究信道,主要是为了描述、度在通信系统中研究信道,主要是为了描述、度量、分析不同类型信道,计算其容量,即极限传输量、分析不同类型信道,计算其容量,即极限传输能力,并分析其特性。能力,并分析其特性。信道输入量X(随机过程)输出量Y(随机过程)p(Y|X)第2页,此课件共48页哦按输入按输入/输出信号在输出信号在幅度幅度和和时间时间上的上的取值取值:离散信道:离散信道:输入和输出的随机序列取值都是离散的信道输入和输出的随机序列取值都是离散的信道连续信道:连续信道:输入和输出的随机序列取值都是连续的信道输入和
2、输出的随机序列取值都是连续的信道半离散半离散(半连续半连续)信道:信道:输入变量取值离散而输出变量取值连续输入变量取值离散而输出变量取值连续输入变量取值连续而输出变量取值离散输入变量取值连续而输出变量取值离散第3页,此课件共48页哦l时间离散的连续信道:时间离散的连续信道:信道输入和输出是连续的时间序列信道输入和输出是连续的时间序列l波形信道:波形信道:输入和输出都是时间的实函数输入和输出都是时间的实函数x(t),y(t)x(t),y(t)l两端信道两端信道l多端信道多端信道l恒参信道:参数不随时间变化恒参信道:参数不随时间变化l随参信道:参数随时间变化随参信道:参数随时间变化l无记忆信道和有
3、记忆信道无记忆信道和有记忆信道l对称信道和非对称信道对称信道和非对称信道第4页,此课件共48页哦l多元接入信道多元接入信道l广播信道广播信道l无损信道无损信道l确定信道确定信道l无噪信道无噪信道第5页,此课件共48页哦4.2 4.2 离散无记忆信道离散无记忆信道4.2.14.2.1离散信道数学模型离散信道数学模型信道描述信道描述信道可以引用三组变量来描述:信道可以引用三组变量来描述:信道输入:信道输入:X=(X1,X2Xi,),Xi a1an信道输出:信道输出:Y=(Y1,Y2Yj,),Yj b1bm信道概率转移矩阵:信道概率转移矩阵:py/x=p(y1y2.yn|x1x2 py/x=p(y1
4、y2.yn|x1x2xn)xn)即:即:X X p(y|x)Yp(y|x)Y 第6页,此课件共48页哦定义定义4.2.14.2.1若离散信道对任意若离散信道对任意N N长的输入、输出序列长的输入、输出序列有有 则称它为离散无记忆信道则称它为离散无记忆信道DMCDMC。其。其信源模型为信源模型为X p(yX p(yn n|x|xn n)Y)Y任何时刻信道的输出至于此时刻信道的输入有关任何时刻信道的输出至于此时刻信道的输入有关,而而与以前的输入无关。与以前的输入无关。定义定义4.2.24.2.2对任意对任意n n和和m,iA,jB,m,iA,jB,若离散无记若离散无记忆信道还满足忆信道还满足则称此
5、信道为平稳的或恒参的。则称此信道为平稳的或恒参的。第7页,此课件共48页哦1 1、无扰、无扰(无噪无噪)信道信道信道的输出信号信道的输出信号Y Y与输入信号与输入信号X X之间有确定之间有确定的关系的关系Y=Y=f f(X),(X),已知已知X X后就确知后就确知Y Y转移概率转移概率:第8页,此课件共48页哦2、有干扰无记忆信道 信道的输出信号Y与输入信号X之间没有确定的关系,但转移概率满足:3、有干扰有记忆信道4.2.24.2.2单符号离散信道单符号离散信道X=a1,a2,X=a1,a2,ar ar P(Y/X)=p(bj/ai)(i=1,2,P(Y/X)=p(bj/ai)(i=1,2,r
6、;j=1,2,r;j=1,2,s)s)Y=b1,b2,Y=b1,b2,bsbs0p(bj/ai)10p(bj/ai)1第9页,此课件共48页哦信道的传递概率又称为转移概率信道的传递概率又称为转移概率矩阵矩阵PP称为转移矩阵或信道矩阵;表示为:称为转移矩阵或信道矩阵;表示为:P=b1b2bsa1p(b1/a1)p(b2/a1)p(bs/a1)a2p(b1/a2)p(b2/a2)p(bs/a2)arp(b1/ar)p(b2/ar)p(bs/ar)PP矩阵为一个矩阵为一个rsrs矩阵,其每行元素之和等于矩阵,其每行元素之和等于1 1第10页,此课件共48页哦3 3、图示法描述、图示法描述第11页,此
7、课件共48页哦例4.2.1:二元对称信道二元对称信道BSCBSC输入符号输入符号X X取值取值0,10,1;输出符号输出符号Y Y取值取值0,1 0,1 很重要的一种特殊信道很重要的一种特殊信道信道转移概率信道转移概率:p(0|0)=1 p(0|0)=1p p(1|1)=1p p(1|1)=1p p p(0|1)=p p(1|0)=p p(0|1)=p p(1|0)=p0101pp1-p1-p第12页,此课件共48页哦4.2.24.2.2二元删除信道二元删除信道BEC BEC l二元删除信道二元删除信道BEC BEC 输入符号输入符号X X取值取值0,10,1;输出符号输出符号Y Y取值取值0
8、,1,2 0,1,2 l转移矩阵转移矩阵0 02 21 10 01 1p p1 1-p pq q1 1-q q第13页,此课件共48页哦4.2.34.2.3二元对称消失信道二元对称消失信道l二元删除信道二元删除信道BEC BEC 输入符号输入符号X X取值取值0,10,1;输出符号输出符号Y Y取值取值0,1,2 0,1,2 l转移矩阵转移矩阵0 0 x x1 10 01 11 1-p p-q qq q1 1-p p-q qq qp pp p第14页,此课件共48页哦先验概率先验概率:信源发出消息信源发出消息a ai i的概率的概率p p(a ai i)=P(X=)=P(X=a ai i)(i
9、=1,2,)(i=1,2,r),r)后验概率后验概率:信宿收到信宿收到b bj j 后推测信源发出后推测信源发出a ai i的概率的概率p p(a ai i|b bj j)=P(X=)=P(X=a ai i|Y=|Y=b bj j)联合概率联合概率:p p(a ai i|b bj j)=P(X=)=P(X=a ai i,Y=,Y=b bj j)=p p(a ai i)p p(b bj j|a ai i)=)=p p(b bj j)p p(a ai i|b bj j)前向概率前向概率:(及信道传递概率)(及信道传递概率)输出符号概率输出符号概率:p p(b bj j|a ai i)=P(Y=)=
10、P(Y=b bj j|X=|X=a ai i)p p(b bj j)=P(Y=)=P(Y=b bj j)第15页,此课件共48页哦4.2.34.2.3信道疑义度信道疑义度定义定义4.2.34.2.3称输入空间称输入空间X X对输入空间对输入空间Y Y的条件熵的条件熵可疑度,它表示接收者收到可疑度,它表示接收者收到Y Y后,对信源后,对信源X X仍然存仍然存在的平均不确定度。对于接收者来说,条件熵在的平均不确定度。对于接收者来说,条件熵H(X/Y)H(X/Y)称为疑义度,称为疑义度,对对X X尚存在的平均不确定度是尚存在的平均不确定度是由于干扰由于干扰(噪声噪声)引起的引起的 第16页,此课件共
11、48页哦4.2.44.2.4平均互信息平均互信息定义定义4.2.44.2.4原始信源熵与信道疑义度之差称为平均原始信源熵与信道疑义度之差称为平均互信息。互信息。信息信息=先验不确定性后验不确定性先验不确定性后验不确定性 =不确定性减少的量不确定性减少的量lY Y未知未知,X,X 的不确定度为的不确定度为H(X)H(X)lY Y已知已知,X,X 的不确定度变为的不确定度变为H(X|Y)H(X|Y)第17页,此课件共48页哦平均互信息有扰信道干扰源信源X信宿Yl通信系统中,若发端的符号为X,收端的符号为Y如果是一一对应信道,接收到Y后,对X的不确定性将完全消除:H(X|Y)=0一般情况:H(X|Y
12、)H(X),即了解Y后对X的不确定度的将减少l通过信道传输消除了一些不确定性,获得了一定的信息。第18页,此课件共48页哦l平均互信息平均互信息的另一种定义方法:的另一种定义方法:第19页,此课件共48页哦定理定理4.2.14.2.1对于固定的信道(给定转移概率对于固定的信道(给定转移概率矩阵矩阵P P后)后),平均互信息平均互信息I(X;Y)I(X;Y)是输入信源是输入信源的概率分布的概率分布p p(x x)的上凸函数。的上凸函数。定理定理4.2.24.2.2对于固定的信源分布对于固定的信源分布,平均互信平均互信息息I(X;Y)I(X;Y)是信道传递概率是信道传递概率p p(y|xy|x)的
13、下凸函的下凸函数。数。第20页,此课件共48页哦4.2.54.2.5平均互信息与各类熵的关系平均互信息与各类熵的关系熵只是平均不确定性的描述熵只是平均不确定性的描述;不确定性的消除不确定性的消除(两熵之差两熵之差)才才等于接收端所获得的信息量。等于接收端所获得的信息量。获得的信息量不应该和不确定性获得的信息量不应该和不确定性混为一谈混为一谈 第21页,此课件共48页哦维拉图维拉图H(X|Y)H(X)H(Y)H(XY)H(Y|X)I(X;Y)第22页,此课件共48页哦4.34.3离散无记忆扩展信道离散无记忆扩展信道4.3.1 N4.3.1 N次扩展信道次扩展信道1 1、简单的离散无记忆信道、简单
14、的离散无记忆信道第23页,此课件共48页哦第24页,此课件共48页哦2 2、N N次扩展信道次扩展信道第25页,此课件共48页哦第26页,此课件共48页哦定定理理:设设离离散散信信道道的的输输入入序序列列X X(X(X1 1X X2 2X XN N)通通过过信信道道传传输输,接接收收到到的的随随机机序序列列为为Y=(Y=(Y Y1 1Y Y2 2Y YN N),而而信道的转移概率为信道的转移概率为p p(y yx x)。若信道是无记忆的,则有:若信道是无记忆的,则有:若信源是无记忆的,则有:若信源是无记忆的,则有:若信源与信道都是无记忆的,则有:若信源与信道都是无记忆的,则有:第27页,此课件
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第四 离散 信道 及其 容量 精选 PPT
限制150内