- 电子工业出版社
- 9787121247057
- 1-12
- 29265
- 49225087-3
- 平塑
- 16开
- 2021-05
- 895
- 492
- 工学
- 信息与通信工程
- TN911.2
- 电子信息与电气
- 本科 研究生(硕士、EMBA、MBA、MPA、博士)
内容简介
本书是“十二五”普通高等教育本科国家级规划教材,且为教育部评选的“2008年度普通高等教育精品教材”。
????本书系统地论述了香农信息论基本理论及某些应用问题,基本覆盖了信息论的各个方面的内容。内容包括:信息的定义和度量;各类离散信源和连续信源的信息熵;有记忆、无记忆、离散和连续信道的信道容量;香农信息论的三个基本定理:无失真信源编码定理、限失真信源编码定理和信道编码定理;网络信息理论及保密系统的信息理论。本书还介绍了无失真数据压缩(即无失真信源编码)的实用的编码算法与方法,以及信道纠错编码的基本内容和分析方法;最后简要地介绍了信息论与热力学、光学、统计学、生物学和医学等其他学科交叉结合的应用内容。尤其是新增第13章,介绍量子力学与信息理论交叉结合而飞速发展起来,又极具诱人前景的量子信息科学。
????本书系统地论述了香农信息论基本理论及某些应用问题,基本覆盖了信息论的各个方面的内容。内容包括:信息的定义和度量;各类离散信源和连续信源的信息熵;有记忆、无记忆、离散和连续信道的信道容量;香农信息论的三个基本定理:无失真信源编码定理、限失真信源编码定理和信道编码定理;网络信息理论及保密系统的信息理论。本书还介绍了无失真数据压缩(即无失真信源编码)的实用的编码算法与方法,以及信道纠错编码的基本内容和分析方法;最后简要地介绍了信息论与热力学、光学、统计学、生物学和医学等其他学科交叉结合的应用内容。尤其是新增第13章,介绍量子力学与信息理论交叉结合而飞速发展起来,又极具诱人前景的量子信息科学。
目录
目录
第1章绪论
11信息的概念
12信息论研究的对象、目的和内容
13信息论发展简史与信息科学
第2章离散信源及其信息测度
21信源的数学模型及分类
22离散信源的信息熵
221自信息
222信息熵
23信息熵的基本性质
24信息熵的唯一性定理
25离散无记忆的扩展信源
26离散平稳信源
261离散平稳信源的数学定义
262二维离散平稳信源及其信息熵
263离散平稳信源的极限熵
27马尔可夫信源
271马尔可夫信源和m阶马尔可夫信源的定义
272马尔可夫信源和m阶马尔可夫信源的信息熵
28信源剩余度与自然语言的熵
29意义信息和加权熵
小结
习题
第3章离散信道及其信道容量
31信道的数学模型及分类
311信道的分类
312离散信道的数学模型
313单符号离散信道的数学模型
32平均互信息及平均条件互信息
321信道疑义度
322平均互信息
323平均条件互信息
33平均互信息的特性
34信道容量及其一般计算方法
341离散无噪信道的信道容量
342对称离散信道的信道容量
343准对称信道的信道容量
344一般离散信道的信道容量
35信道容量的迭代算法
351信道容量的迭代算法
352信道容量迭代算法的收敛性
36离散无记忆扩展信道及其信道容量
37独立并联信道及其信道容量
38串联信道的互信息和数据处理定理
39信源与信道的匹配
小结
习题
第4章波形信源和波形信道
41波形信源的统计特性和离散化
42连续信源和波形信源的信息测度
421连续信源的差熵
422连续平稳信源和波形信源的差熵
423两种特殊连续信源的差熵
43连续信源熵的性质及最大差熵定理
431差熵的性质
432具有最大差熵的连续信源
44连续信源熵的变换
441坐标变换后概率密度函数的变化
442坐标变换后差熵的变化
45熵功率
46连续信道和波形信道的分类
461按信道输入和输出的统计特性分类
462按噪声的统计特性分类
463按噪声对信号的作用功能分类
47连续信道和波形信道的信息传输率
471基本连续信道的平均互信息
472多维连续信道的平均互信息
473波形信道的信息传输率
474连续信道平均互信息的特性
48连续信道和波形信道的信道容量
481单符号高斯加性信道
482单符号非高斯加性信道
483多维无记忆高斯加性连续信道
484多维有记忆高斯加性连续信道
485限带高斯白噪声加性波形信道
486有色高斯加性波形信道
487香农公式的重要实际指导意义
小结
习题
第5章无失真信源编码定理
51编码器
52等长码
53渐近等分割性和ε典型序列
54等长信源编码定理
55变长码
551唯一可译变长码与即时码
552即时码的树图构造法
553克拉夫特(Kraft)不等式
554唯一可译变长码的判断法
56变长信源编码定理
小结
习题
第6章有噪信道编码定理
61错误概率和译码规则
62错误概率与编码方法
63联合ε典型序列
64有噪信道编码定理
65联合信源信道编码定理
小结
习题
第7章保真度准则下的信源编码
71失真度和平均失真度
711失真度
712平均失真度
72信息率失真函数及其性质
721信息率失真函数
722信息率失真函数的性质
73二元信源和离散对称信源的R(D)函数
731二元对称信源的R(D)函数
732离散对称信源的R(D)函数
74信息率失真函数的参量表述及其计算
*75信息率失真函数的迭代算法
76连续信源的信息率失真函数
761连续信源的信息率失真函数
762高斯信源的信息率失真函数
*763连续信源R(D)函数的参量表述及其计算
77保真度准则下的信源编码定理
*771失真ε典型序列
*772保真度准则下信源编码定理的证明
78联合有失真信源信道编码定理
79限失真信源编码定理的实用意义
小结
习题
第8章无失真的信源编码
81霍夫曼(Huffman)码
811二元霍夫曼码
812r元霍夫曼码
813霍夫曼码的最佳性
82费诺(Fano)码
83香农-费诺-埃利斯码
84游程编码和MH编码
841游程编码
第1章绪论
11信息的概念
12信息论研究的对象、目的和内容
13信息论发展简史与信息科学
第2章离散信源及其信息测度
21信源的数学模型及分类
22离散信源的信息熵
221自信息
222信息熵
23信息熵的基本性质
24信息熵的唯一性定理
25离散无记忆的扩展信源
26离散平稳信源
261离散平稳信源的数学定义
262二维离散平稳信源及其信息熵
263离散平稳信源的极限熵
27马尔可夫信源
271马尔可夫信源和m阶马尔可夫信源的定义
272马尔可夫信源和m阶马尔可夫信源的信息熵
28信源剩余度与自然语言的熵
29意义信息和加权熵
小结
习题
第3章离散信道及其信道容量
31信道的数学模型及分类
311信道的分类
312离散信道的数学模型
313单符号离散信道的数学模型
32平均互信息及平均条件互信息
321信道疑义度
322平均互信息
323平均条件互信息
33平均互信息的特性
34信道容量及其一般计算方法
341离散无噪信道的信道容量
342对称离散信道的信道容量
343准对称信道的信道容量
344一般离散信道的信道容量
35信道容量的迭代算法
351信道容量的迭代算法
352信道容量迭代算法的收敛性
36离散无记忆扩展信道及其信道容量
37独立并联信道及其信道容量
38串联信道的互信息和数据处理定理
39信源与信道的匹配
小结
习题
第4章波形信源和波形信道
41波形信源的统计特性和离散化
42连续信源和波形信源的信息测度
421连续信源的差熵
422连续平稳信源和波形信源的差熵
423两种特殊连续信源的差熵
43连续信源熵的性质及最大差熵定理
431差熵的性质
432具有最大差熵的连续信源
44连续信源熵的变换
441坐标变换后概率密度函数的变化
442坐标变换后差熵的变化
45熵功率
46连续信道和波形信道的分类
461按信道输入和输出的统计特性分类
462按噪声的统计特性分类
463按噪声对信号的作用功能分类
47连续信道和波形信道的信息传输率
471基本连续信道的平均互信息
472多维连续信道的平均互信息
473波形信道的信息传输率
474连续信道平均互信息的特性
48连续信道和波形信道的信道容量
481单符号高斯加性信道
482单符号非高斯加性信道
483多维无记忆高斯加性连续信道
484多维有记忆高斯加性连续信道
485限带高斯白噪声加性波形信道
486有色高斯加性波形信道
487香农公式的重要实际指导意义
小结
习题
第5章无失真信源编码定理
51编码器
52等长码
53渐近等分割性和ε典型序列
54等长信源编码定理
55变长码
551唯一可译变长码与即时码
552即时码的树图构造法
553克拉夫特(Kraft)不等式
554唯一可译变长码的判断法
56变长信源编码定理
小结
习题
第6章有噪信道编码定理
61错误概率和译码规则
62错误概率与编码方法
63联合ε典型序列
64有噪信道编码定理
65联合信源信道编码定理
小结
习题
第7章保真度准则下的信源编码
71失真度和平均失真度
711失真度
712平均失真度
72信息率失真函数及其性质
721信息率失真函数
722信息率失真函数的性质
73二元信源和离散对称信源的R(D)函数
731二元对称信源的R(D)函数
732离散对称信源的R(D)函数
74信息率失真函数的参量表述及其计算
*75信息率失真函数的迭代算法
76连续信源的信息率失真函数
761连续信源的信息率失真函数
762高斯信源的信息率失真函数
*763连续信源R(D)函数的参量表述及其计算
77保真度准则下的信源编码定理
*771失真ε典型序列
*772保真度准则下信源编码定理的证明
78联合有失真信源信道编码定理
79限失真信源编码定理的实用意义
小结
习题
第8章无失真的信源编码
81霍夫曼(Huffman)码
811二元霍夫曼码
812r元霍夫曼码
813霍夫曼码的最佳性
82费诺(Fano)码
83香农-费诺-埃利斯码
84游程编码和MH编码
841游程编码