- 科学出版社
- 9787030803832
- 1版
- 2026-07
作者简介
内容简介
大数据与深度学习是当前热门的信息技术，在交通领域有重要应用。本书由浅入深，首先概述了神经网络的发展，并介绍了交通大数据与深度学习的数学基础知识。在此基础上，以理论结合案例的形式，介绍了交通领域大数据与深度学习的应用，包括感知机、BP神经网络、循环神经网络、径向基函数神经网络、卷积神经网络、图卷积网络、编码器-解码器、注意力机制以及Transformer，详尽展示了交通大数据与深度学习技术及应用的全貌。此外，本书附录部分提供了详细的代码，这些代码都是经过实践验证的，以期为读者提供更好的入门指导。
目录
目录
第1章 交通大数据与神经网络发展 1
背景：交通大数据中的神经网络 1
1.1 交通大数据分类及采集技术 2
1.2 神经网络的来源 6
1.3 生物神经网络 7
1.4 人工神经网络 8
1.5 神经网络中典型模型的出现时间表 11
1.6 展望 14
参考文献 15
第2章 数学基础知识 18
背景：数学在机器学习中扮演的角色 18
2.1 激活函数 18
2.1.1 Sigmoid函数 18
2.1.2 Tanh函数 19
2.1.3 ReLU函数 19
2.1.4 ELU函数 20
2.1.5 Softmax函数 21
2.2 矩阵与微分 22
2.2.1 矩阵的基本计算 22
2.2.2 矩阵对标量的导数 23
2.2.3 矩阵变量函数的导数 24
2.2.4 向量函数的导数 27
2.2.5 矩阵和向量的微分 28
2.2.6 特征值分解和奇异值分解 29
2.3 数学优化方法 30
2.3.1 基本概念 30
2.3.2 数学优化问题的类型 31
2.3.3 常用优化算法 32
2.4 概率与统计 38
2.4.1 数据评价指标 38
2.4.2 数据预处理 39
2.4.3 数据分析 41
2.4.4 方差与切比雪夫不等式 42
iv 交通大数据与深度学习
2.4.5 样本均值与样本方差 43
参考文献 44
第3章 感知机 45
背景：为什么提出感知机 45
3.1 单层感知机 45
3.1.1 单层感知机的结构 46
3.1.2 单层感知机的学习算法 46
3.1.3 单层感知机的局限性 48
3.2 多层感知机 49
3.2.1 多层感知机的提出 49
3.2.2 多层感知机前向传播算法 50
3.2.3 多层感知机的功能 51
3.3 感知机的应用实例 52
3.3.1 基于MATLAB的感知机应用实例 52
3.3.2 基于Python的感知机应用实例 53
参考文献 54
第4章 BP神经网络 56
背景：为什么提出BP神经网络 56
4.1 BP神经网络的结构 56
4.2 BP神经网络的学习算法 57
4.2.1 前向传播计算 57
4.2.2 反向传播计算 58
4.3 BP神经网络的局限性 61
4.4 BP神经网络的改进 62
4.4.1 自身算法的改进 62
4.4.2 与其他智能算法的融合 64
4.5 BP 神经网络的应用实例 65
4.5.1 基于MATLAB的BP神经网络应用实例 65
4.5.2 基于Python的BP神经网络应用实例 68
参考文献 70
第5章 循环神经网络 72
背景：为什么提出循环神经网络 72
5.1 循环神经网络概述 72
5.1.1 RNN结构 72
5.1.2 RNN前向传播过程示例 74
5.1.3 BPTT算法 75
5.1.4 长期依赖问题 78
5.2 循环神经网络变体 78
5.2.1 双向循环神经网络 78
5.2.2 深度循环神经网络 79
5.3 基于门控的循环神经网络 80
5.3.1 长短时记忆网络 80
5.3.2 LSTM变体 82
5.3.3 门控循环单元 83
5.3.4 GRU与LSTM的区别 85
5.4 循环神经网络的应用实例 85
5.4.1 基于MATLAB的循环神经网络应用实例 85
5.4.2 基于Python的循环神经网络应用实例 86
参考文献 88
第6章 径向基函数神经网络 90
背景：为什么提出径向基函数神经网络 90
6.1 径向基函数神经网络概述 90
6.2 径向基函数 91
6.3 正则化RBF神经网络 92
6.4 广义RBF神经网络 93
6.5 径向基函数神经网络的学习算法 95
6.5.1 随机选取固定中心(直接计算法) 95
6.5.2 自组织选取中心 96
6.5.3 有监督选取中心 97
6.5.4 正交最小二乘法 98
6.6 径向基函数神经网络与多层感知机的比较 99
6.7 径向基函数神经网络的应用实例 100
6.7.1 基于MATLAB的径向基函数神经网络实例 100
6.7.2 基于Python的径向基函数神经网络实例 102
参考文献 103
第7章 卷积神经网络 105
背景：为什么提出卷积神经网络 105
7.1 卷积神经网络的结构 105
7.2 卷积 106
7.2.1 全连接层存在的问题 106
7.2.2 卷积运算 106
7.2.3 步长 109
7.2.4 填充 110
7.2.5 深度 110
7.2.6 池化层 112
7.3 扩张卷积 112
vi 交通大数据与深度学习
7.4 卷积神经网络变体演化 113
7.4.1 LeNet 113
7.4.2 AlexNet 114
7.4.3 ZF-Net 115
7.4.4 VGG-Net 116
7.4.5 GoogLeNet 117
7.4.6 ResNet 119
7.4.7 DenseNet 120
7.5 卷积神经网络的训练 121
7.5.1 卷积层误差项的传递 122
7.5.2 池化层的训练 128
7.6 卷积神经网络的应用实例 130
7.6.1 基于MATLAB的卷积神经网络实例 130
7.6.2 基于Python的卷积神经网络实例 132
参考文献 135
第8章 图卷积网络 136
背景：为什么提出图卷积网络 136
8.1 图信号与图拉普拉斯矩阵 138
8.1.1 图信号 138
8.1.2 图拉普拉斯矩阵 138
8.2 傅里叶变换及其在图上的扩展 141
8.2.1 一般傅里叶变换 141
8.2.2 图傅里叶变换 142
8.2.3 一般傅里叶逆变换 142
8.2.4 图傅里叶逆变换 142
8.3 图卷积 143
8.3.1 谱方法 143
8.3.2 空间方法 143
8.4 图卷积网络 144
8.4.1 图卷积网络结构 144
8.4.2 图卷积网络计算过程 146
8.5 GCN 变体 147
8.5.1 R-GCN 147
8.5.2 GraphSAGE 148
8.5.3 AGCN 149
8.5.4 GAT 151
8.5.5 FastGCN 152
8.5.6 SGCN 154
8.5.7 ECCN 155
8.5.8 Cluster-GCN 156
8.5.9 Extended GCN 158
8.5.10 MFFB GCN 159
8.5.11 多动态图 160
8.5.12 ARMAGCN 160
8.6 图卷积网络的应用实例 162
8.6.1 基于MATLAB的图卷积网络实例 162
8.6.2 基于Python的图卷积网络实例 163
参考文献 165
第9章 编码器-解码器和注意力机制 167
背景：为什么提出编码器-解码器架构 167
9.1 编码器-解码器 167
9.1.1 编码器概述 167
9.1.2 编码器-解码器结构 168
9.1.3 传统编码器-解码器结构的缺陷 168
9.2 注意力机制的诞生 169
9.3 引入注意力的编码器-解码器 171
9.4 注意力计算原理 173
9.5 不同类别注意力的计算原理 175
9.5.1 键值对注意力 175
9.5.2 自注意力 176
9.5.3 多头注意力 177
9.5.4 结构化注意力 178
9.6 注意力机制的应用 179
9.6.1 注意力机制的计算实例 179
9.6.2 CNN+注意力 180
9.6.3 LSTM+注意力 180
9.6.4 指针网络 181
9.6.5 GMAN 181
9.7 编码器-解码器应用实例 183
9.7.1 基于MATLAB的编码器-解码器应用实例 183
9.7.2 基于Python的编码器-解码器应用实例 184
参考文献 186
第10章 Transformer 188
背景：为什么提出Transformer 188
10.1 Transformer概述 188
10.2 Transformer中的注意力机制 189
10.2.1 自注意力机制 189
10.2.2 多头注意力机制 193
10.2.3 稀疏注意力 194
10.2.4 线性注意力 195
10.2.5 查询原型和内存压缩 196
10.2.6 先验注意力 196
10.2.7 改进的多头注意力机制 197
10.3 位置编码 197
10.3.1 什么是位置编码 197
10.3.2 构造位置编码的方法 198
10.3.3 Transformer中的位置编码方法 200
10.4 归一化 201
10.4.1 批量归一化 201
10.4.2 层归一化 202
10.4.3 层归一化的改进方法 203
10.5 Transformer的变体 204
10.5.1 RPConvformer 204
10.5.2 Informer 207
10.5.3 分治策略的Transformer 208
10.5.4 探索替代架构 209
10.6 Transformer应用实例 210
10.6.1 基于MATLAB 的Transformer应用实例 210
10.6.2 基于Python 的Transformer应用实例 211
参考文献 212
附录 216
第1章 交通大数据与神经网络发展 1
背景：交通大数据中的神经网络 1
1.1 交通大数据分类及采集技术 2
1.2 神经网络的来源 6
1.3 生物神经网络 7
1.4 人工神经网络 8
1.5 神经网络中典型模型的出现时间表 11
1.6 展望 14
参考文献 15
第2章 数学基础知识 18
背景：数学在机器学习中扮演的角色 18
2.1 激活函数 18
2.1.1 Sigmoid函数 18
2.1.2 Tanh函数 19
2.1.3 ReLU函数 19
2.1.4 ELU函数 20
2.1.5 Softmax函数 21
2.2 矩阵与微分 22
2.2.1 矩阵的基本计算 22
2.2.2 矩阵对标量的导数 23
2.2.3 矩阵变量函数的导数 24
2.2.4 向量函数的导数 27
2.2.5 矩阵和向量的微分 28
2.2.6 特征值分解和奇异值分解 29
2.3 数学优化方法 30
2.3.1 基本概念 30
2.3.2 数学优化问题的类型 31
2.3.3 常用优化算法 32
2.4 概率与统计 38
2.4.1 数据评价指标 38
2.4.2 数据预处理 39
2.4.3 数据分析 41
2.4.4 方差与切比雪夫不等式 42
iv 交通大数据与深度学习
2.4.5 样本均值与样本方差 43
参考文献 44
第3章 感知机 45
背景：为什么提出感知机 45
3.1 单层感知机 45
3.1.1 单层感知机的结构 46
3.1.2 单层感知机的学习算法 46
3.1.3 单层感知机的局限性 48
3.2 多层感知机 49
3.2.1 多层感知机的提出 49
3.2.2 多层感知机前向传播算法 50
3.2.3 多层感知机的功能 51
3.3 感知机的应用实例 52
3.3.1 基于MATLAB的感知机应用实例 52
3.3.2 基于Python的感知机应用实例 53
参考文献 54
第4章 BP神经网络 56
背景：为什么提出BP神经网络 56
4.1 BP神经网络的结构 56
4.2 BP神经网络的学习算法 57
4.2.1 前向传播计算 57
4.2.2 反向传播计算 58
4.3 BP神经网络的局限性 61
4.4 BP神经网络的改进 62
4.4.1 自身算法的改进 62
4.4.2 与其他智能算法的融合 64
4.5 BP 神经网络的应用实例 65
4.5.1 基于MATLAB的BP神经网络应用实例 65
4.5.2 基于Python的BP神经网络应用实例 68
参考文献 70
第5章 循环神经网络 72
背景：为什么提出循环神经网络 72
5.1 循环神经网络概述 72
5.1.1 RNN结构 72
5.1.2 RNN前向传播过程示例 74
5.1.3 BPTT算法 75
5.1.4 长期依赖问题 78
5.2 循环神经网络变体 78
5.2.1 双向循环神经网络 78
5.2.2 深度循环神经网络 79
5.3 基于门控的循环神经网络 80
5.3.1 长短时记忆网络 80
5.3.2 LSTM变体 82
5.3.3 门控循环单元 83
5.3.4 GRU与LSTM的区别 85
5.4 循环神经网络的应用实例 85
5.4.1 基于MATLAB的循环神经网络应用实例 85
5.4.2 基于Python的循环神经网络应用实例 86
参考文献 88
第6章 径向基函数神经网络 90
背景：为什么提出径向基函数神经网络 90
6.1 径向基函数神经网络概述 90
6.2 径向基函数 91
6.3 正则化RBF神经网络 92
6.4 广义RBF神经网络 93
6.5 径向基函数神经网络的学习算法 95
6.5.1 随机选取固定中心(直接计算法) 95
6.5.2 自组织选取中心 96
6.5.3 有监督选取中心 97
6.5.4 正交最小二乘法 98
6.6 径向基函数神经网络与多层感知机的比较 99
6.7 径向基函数神经网络的应用实例 100
6.7.1 基于MATLAB的径向基函数神经网络实例 100
6.7.2 基于Python的径向基函数神经网络实例 102
参考文献 103
第7章 卷积神经网络 105
背景：为什么提出卷积神经网络 105
7.1 卷积神经网络的结构 105
7.2 卷积 106
7.2.1 全连接层存在的问题 106
7.2.2 卷积运算 106
7.2.3 步长 109
7.2.4 填充 110
7.2.5 深度 110
7.2.6 池化层 112
7.3 扩张卷积 112
vi 交通大数据与深度学习
7.4 卷积神经网络变体演化 113
7.4.1 LeNet 113
7.4.2 AlexNet 114
7.4.3 ZF-Net 115
7.4.4 VGG-Net 116
7.4.5 GoogLeNet 117
7.4.6 ResNet 119
7.4.7 DenseNet 120
7.5 卷积神经网络的训练 121
7.5.1 卷积层误差项的传递 122
7.5.2 池化层的训练 128
7.6 卷积神经网络的应用实例 130
7.6.1 基于MATLAB的卷积神经网络实例 130
7.6.2 基于Python的卷积神经网络实例 132
参考文献 135
第8章 图卷积网络 136
背景：为什么提出图卷积网络 136
8.1 图信号与图拉普拉斯矩阵 138
8.1.1 图信号 138
8.1.2 图拉普拉斯矩阵 138
8.2 傅里叶变换及其在图上的扩展 141
8.2.1 一般傅里叶变换 141
8.2.2 图傅里叶变换 142
8.2.3 一般傅里叶逆变换 142
8.2.4 图傅里叶逆变换 142
8.3 图卷积 143
8.3.1 谱方法 143
8.3.2 空间方法 143
8.4 图卷积网络 144
8.4.1 图卷积网络结构 144
8.4.2 图卷积网络计算过程 146
8.5 GCN 变体 147
8.5.1 R-GCN 147
8.5.2 GraphSAGE 148
8.5.3 AGCN 149
8.5.4 GAT 151
8.5.5 FastGCN 152
8.5.6 SGCN 154
8.5.7 ECCN 155
8.5.8 Cluster-GCN 156
8.5.9 Extended GCN 158
8.5.10 MFFB GCN 159
8.5.11 多动态图 160
8.5.12 ARMAGCN 160
8.6 图卷积网络的应用实例 162
8.6.1 基于MATLAB的图卷积网络实例 162
8.6.2 基于Python的图卷积网络实例 163
参考文献 165
第9章 编码器-解码器和注意力机制 167
背景：为什么提出编码器-解码器架构 167
9.1 编码器-解码器 167
9.1.1 编码器概述 167
9.1.2 编码器-解码器结构 168
9.1.3 传统编码器-解码器结构的缺陷 168
9.2 注意力机制的诞生 169
9.3 引入注意力的编码器-解码器 171
9.4 注意力计算原理 173
9.5 不同类别注意力的计算原理 175
9.5.1 键值对注意力 175
9.5.2 自注意力 176
9.5.3 多头注意力 177
9.5.4 结构化注意力 178
9.6 注意力机制的应用 179
9.6.1 注意力机制的计算实例 179
9.6.2 CNN+注意力 180
9.6.3 LSTM+注意力 180
9.6.4 指针网络 181
9.6.5 GMAN 181
9.7 编码器-解码器应用实例 183
9.7.1 基于MATLAB的编码器-解码器应用实例 183
9.7.2 基于Python的编码器-解码器应用实例 184
参考文献 186
第10章 Transformer 188
背景：为什么提出Transformer 188
10.1 Transformer概述 188
10.2 Transformer中的注意力机制 189
10.2.1 自注意力机制 189
10.2.2 多头注意力机制 193
10.2.3 稀疏注意力 194
10.2.4 线性注意力 195
10.2.5 查询原型和内存压缩 196
10.2.6 先验注意力 196
10.2.7 改进的多头注意力机制 197
10.3 位置编码 197
10.3.1 什么是位置编码 197
10.3.2 构造位置编码的方法 198
10.3.3 Transformer中的位置编码方法 200
10.4 归一化 201
10.4.1 批量归一化 201
10.4.2 层归一化 202
10.4.3 层归一化的改进方法 203
10.5 Transformer的变体 204
10.5.1 RPConvformer 204
10.5.2 Informer 207
10.5.3 分治策略的Transformer 208
10.5.4 探索替代架构 209
10.6 Transformer应用实例 210
10.6.1 基于MATLAB 的Transformer应用实例 210
10.6.2 基于Python 的Transformer应用实例 211
参考文献 212
附录 216
