第0章 导言 1__eol__0.1 什么是神经网络 1__eol__0.2 人类大脑 4__eol__0.3 神经元模型 6__eol__0.4 视为有向图的神经网络 9__eol__0.5 反馈 11__eol__0.6 网络结构 12__eol__0.7 知识表示 15__eol__0.8 学习过程 21__eol__0.9 学习任务 23__eol__0.10 结语 28__eol__注释和参考文献 28__eol__第1章 Rosenblatt感知器 29__eol__1.1 引言 29__eol__1.2 感知器 29__eol__1.3 感知器收敛定理 30__eol__1.4 高斯环境下感知器与贝叶斯分类器的关系 34__eol__1.5 计算机实验：模式分类 38__eol__1.6 批量感知器算法 40__eol__1.7 小结和讨论 41__eol__注释和参考文献 42__eol__习题 42__eol__第2章 回归建模 43__eol__2.1 引言 43__eol__2.2 线性回归模型：初步考虑 43__eol__2.3 参数向量的最大后验估计 45__eol__2.4 正则化最小二乘估计与MAP估计的关系 48__eol__2.5 计算机实验：模式分类 49__eol__2.6 最小描述长度原理 50__eol__2.7 有限样本量考虑 52__eol__2.8 工具变量法 54__eol__2.9 小结和讨论 56__eol__注释和参考文献 56__eol__习题 56__eol__计算机实验 57__eol__第3章 最小均方算法 58__eol__3.1 引言 58__eol__3.2 LMS算法的滤波结构 58__eol__3.3 无约束优化：回顾 60__eol__3.4 维纳滤波器 64__eol__3.5 最小均方算法 65__eol__3.6 描述LMS算法和维纳滤波器偏差的马尔可夫模型 67__eol__3.7 朗之万方程：布朗运动的特点 67__eol__3.8 库什纳直接平均法 68__eol__3.9 小学习率参数的统计LMS学习理论 69__eol__3.10 计算机实验I：线性预测 71__eol__3.11 计算机实验II：模式分类 72__eol__3.12 LMS算法的优缺点 73__eol__3.13 学习率退火计划 74__eol__3.14 小结和讨论 75__eol__注释和参考文献 76__eol__习题 76__eol__第4章 多层感知器 79__eol__4.1 引言 79__eol__4.2 一些预备知识 80__eol__4.3 批量学习与在线学习 81__eol__4.4 反向传播算法 83__eol__4.5 异或问题 91__eol__4.6 提升反向传播算法性能的启发式算法 92__eol__4.7 计算机实验：模式分类 96__eol__4.8 反向传播和微分 96__eol__4.9 黑塞矩阵及其在在线学习中的作用 99__eol__4.10 学习率的最优退火和自适应控制 101__eol__4.11 泛化 105__eol__4.12 函数逼近 106__eol__4.13 交叉验证 109__eol__4.14 复杂度正则化和网络修剪 112__eol__4.15 反向传播学习的优缺点 116__eol__4.16 作为优化问题的监督学习 119__eol__4.17 卷积网络 129__eol__4.18 非线性滤波 130__eol__4.19 小规模和大规模学习问题 134__eol__4.20 小结和讨论 139__eol__注释和参考文献 140__eol__习题 141__eol__第5章 核方法和径向基函数网络 147__eol__5.1 引言 147__eol__5.2 模式可分性的Cover定理 147__eol__5.3 插值问题 151__eol__5.4 径向基函数网络 152__eol__5.5 K均值聚类 154__eol__5.6 权重向量的递归最小二乘估计 156__eol__5.7 RBF网络的混合学习过程 159__eol__5.8 计算机实验：模式分类 159__eol__5.9 高斯隐藏单元的解释 162__eol__5.10 核回归及其与RBF网络的关系 163__eol__5.11 小结和讨论 166__eol__注释和参考文献 167__eol__习题 169__eol__第6章 支持向量机 172__eol__6.1 引言 172__eol__6.2 线性可分模式的最优超平面 172__eol__6.3 不可分模式的最优超平面 177__eol__6.4 作为核机器的支持向量机 180__eol__6.5 支持向量机的设计 182__eol__6.6 异或问题 183__eol__6.7 计算机实验：模式分类 184__eol__6.8 回归：鲁棒性考虑 187__eol__6.9 线性回归问题的最优解 187__eol__6.10 表示定理和相关问题 190__eol__6.11 小结和讨论 194__eol__注释和参考文献 195__eol__习题 197__eol__第7章 正则化理论 201__eol__7.1 引言 201__eol__7.2 良态Hadamard条件 202__eol__7.3 Tikhonov正则化理论 202__eol__7.4 正则化网络 209__eol__7.5 广义径向基函数网络 210__eol__7.6 再论正则化最小二乘估计 213__eol__7.7 关于正则化的其他说明 215__eol__7.8 正则化参数估计 216__eol__7.9 半监督学习 220__eol__7.10 流形正则化：初步考虑 220__eol__7.11 微分流形 221__eol__7.12 广义正则化理论 224__eol__7.13 谱图理论 225__eol__7.14 广义表示定理 227__eol__7.15 拉普拉斯正则化最小二乘算法 228__eol__7.16 半监督学习模式分类实验 229__eol__7.17 小结和讨论 231__eol__注释和参考文献 232__eol__习题 234__eol__第8章 主成分分析 237__eol__8.1 引言 237__eol__8.2 自组织原则 237__eol__8.3 自组织的特征分析 240__eol__8.4 主成分分析：扰动理论 241__eol__8.5 基于Hebb的最大特征滤波器 247__eol__8.6 基于Hebb的主成分分析 253__eol__8.7 案例研究：图像编码 257__eol__8.8 核主成分分析 259__eol__8.9 自然图像编码中的基本问题 263__eol__8.10 核Hebb算法 264__eol__8.11 小结和讨论 267__eol__注释和参考文献 269__eol__习题 271__eol__第9章 自组织映射 275__eol__9.1 引言 275__eol__9.2 两个基本的特征映射模型 276__eol__9.3 自组织映射 277__eol__9.4 特征映射的性质 282__eol__9.5 计算机实验I：使用SOM求解网格动力学 288__eol__9.6 上下文映射 289__eol__9.7 分层向量量化 291__eol__9.8 核自组织映射 294__eol__9.9 计算机实验II：使用核SOM求解网格动力学 299__eol__9.10 核SOM与KL散度的关系 300__eol__9.11 小结和讨论 301__eol__注释和参考文献 303__eol__习题 304__eol__第10章 信息论学习模型 308__eol__10.1 引言 308__eol__10.2 熵 309__eol__10.3 最大熵原则 311__eol__10.4 互信息 313__eol__10.5 KL散度 315__eol__10.6 Copula函数 316__eol__10.7 作为待优化目标函数的互信息 319__eol__10.8 最大互信息原则 320__eol__10.9 最大互信息与冗余减少 323__eol__10.10 空间相干特征 325__eol__10.11 空间非相干特征 327__eol__10.12 独立成分分析 328__eol__10.13 自然图像的稀疏编码与ICA编码比较 333__eol__10.14 独立成分分析的自然梯度学习 335__eol__10.15 独立成分分析的最大似然估计 341__eol__10.16 盲源分离的最大熵学习 343__eol__10.17 独立成分分析的负熵的最大化 346__eol__10.18 相干独立分量分析 351__eol__10.19 率失真理论和信息瓶颈 357__eol__10.20 数据的最优流形表示 360__eol__10.21 计算机实验：模式分类 364__eol__10.22 小结和讨论 364__eol__