信息论第3章-1.pptx
《信息论第3章-1.pptx》由会员分享,可在线阅读,更多相关《信息论第3章-1.pptx(38页珍藏版)》请在一课资料网上搜索。
1、信息论与编码,信道与信道容量,第三章,3,3.1 信道分类和表示参数 3.2 离散单个符号信道及其容量 3.3 离散序列信道及其容量 3.4 连续信道及其容量,内容,4,3.1 信道分类和表示参数,5,信道,信道:信息传输的通道 在通信中,信道按其物理组成常被分成微波信道、光纤信道、电缆信道等。信号在这些信道中传输的过程遵循不同的物理规律, 通信技术必须研究信号在这些信道中传输时的特性 信息论不研究信号在信道中传输的物理过程,并假定信道的传输特性已知,这样信息论就可以抽象地将信道用下图所示的模型来描述。,信 道,输入量X (随机过程),输出量Y (随机过程),p(Y|X),6,3.1.1 信道
2、分类,按输入/输出信号在幅度和时间上的取值: 离散信道: 输入和输出的随机序列取值都是离散的信道 连续信道: 输入和输出的随机序列取值都是连续的信道 半离散(半连续)信道: 输入变量取值离散而输出变量取值连续 输入变量取值连续而输出变量取值离散 波形信道: 信道的输入和输出都是一些时间上连续的随机信号。,7,信道分类,按输入/输出之间关系的记忆性来划分: 无记忆信道: 信道的输出只与信道该时刻的输入有关,而与其他时刻的输入无关 有无记忆信道: 信道的输出不但与信道现时的输入有关而且还与以前时刻的输入有关,8,信道分类,按输入输出信号之间的关系是否是确定关系: 无干扰信道: 输入/输出符号之间有
3、确定的一一对应关系 有干扰信道: 输入/输出之间关系是一种统计依存的关系 输入/输出的统计关系: 离散无记忆信道: 用条件概率矩阵来描述。 离散有记忆信道: 可像有记忆信源中那样引入状态的概念。,9,3.1.2 信道参数,设信道的输入X=(X1, X2 Xi, ), Xi a1 an 输出Y= (Y1, Y2 Yj,), Yj b1 bm 信道转移概率矩阵p(Y|X): 描述输入/输出的统计依赖关系,反映信道统计关系,信 道,X,Y,p(Y|X),10,无干扰(无噪声)信道,无干扰(无噪声)信道 信道的输出信号Y与输入信号X之间有确定的关系Y=f (X),已知X后就确知Y 转移概率:,11,有
4、干扰无记忆信道,有干扰无记忆信道 信道的输出信号Y与输入信号X之间没有确定的关系,但转移概率满足:,有干扰无记忆信道可分为: 二进制离散信道 离散无记忆信道 离散输入、连续输出信道 波形信道,12,离散无记忆信道DMC,信道输入是n元符号 Xa1, a2, , an 信道输出是m元符号 Yb1, b2, , bm 转移矩阵,pij=p(bj|ai),13,P:转移概率矩阵 已知X,信道输出Y表现出来的统计特性 完全描述了信道的统计特性,其中有些概率是信道干扰引起的错误概率,有些是正确传输的概率,转移概率矩阵,14,反信道转移概率矩阵 已知Y,信道输入X表现出来的统计特性,(ai|bj):后向概
5、率 已知信道输出端接收到符号bj但发送的输入符号为ai的概率。,15,二进制离散信道BSC,二进制离散信道BSC 输入符号X取值0,1; 输出符号Y取值0,1 很重要的一种特殊信道 信道转移概率: p(0|0) = 1p p(1|1) = 1p p(0|1) = p p(1|0) = p,无错误传输的概率,传输发生错误的概率,16,二元删除信道BEC,二元删除信道BEC 输入符号X取值0,1; 输出符号Y取值0,1,2 转移矩阵,0,2,1,0,1,p,1-p,q,1-q,17,3.2 离散单个符号信道及其容量,18,信道容量,我们研究信道的目的是要讨论信道中平均每个符号所能传送的信息量,即信



- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 信息论
