?信息是可以量度的,信息量有多少的差别Р1/15/2018Р2Р消息、信号和信息Р信号最具体,它是一物理量,可测量、可显示、可描述,同时它又是载荷信息的实体Р消息是具体的、非物理的,可描述为语言文字、符号、数据、图片,能够被感觉到,同时它是信息的载荷体,是信息论中主要描述形式Р信息是抽象的、非物理的А哲学层表达Р信息的物理层表达Р信息的数学层表达Р1/15/2018Р3Р通信系统模型简介Р信道Р信源Р信源编码Р加密Р信道编码Р干扰源Р信宿Р信源解码Р解密Р信道解码Р加密密钥Р解密密钥Р1/15/2018Р4Р第2章信源及信源熵Р重点掌握?信源的分类和数学描述?自信息量、互信息?离散信源熵?离散序列信源的熵?熵的性质?一般了解?连续信源熵?冗余度Р1/15/2018Р5Р信源分类Р离散?信源Р{Р离散无记忆信源Р离散有记忆信源Р{Р{Р发出单个符号的无记忆信源Р发出符号序列的无记忆信源Р发出符号序列的有记忆信源Р发出符号序列的马尔可夫信源Р1/15/2018Р6Р信源的数学描述Р单符号无记忆信源?用一维离散型随机变量X来描述这些信息的输出。?数学模型Р符号序列无记忆信源?很多实际信源输出的消息往往是由一系列符号组成,这种用每次发出1组含2个以上符号的符号序列来代表一个消息的信源叫做发出符号序列的信源。?设信源输出的随机序列为X,? 序列中的变量Р1/15/2018Р7Р信源的数学描述Р有记忆信源的联合概率表示比较复杂,需要引入条件概率来反映信源发出符号序列内各个符号之间的记忆特征。Р1/15/2018Р8Р信源的数学描述Р一阶马尔可夫信源Рm阶马尔可夫信源Р1/15/2018Р9Р自信息量Р随机事件的自信息量定义为其概率对数的负值,即РI (xi) 含义:?当事件xi发生以前,表示事件xi发生的不确定性?当事件xi发生以后,表示事件xi所含有的信息量Р1/15/2018Р10
全文预览
