第一部分 深度学习基本原理

第1章 绪论 2
1.1 人工智能、机器学习和深度学习的关系 2
1.2 深度学习 3
1.2.1 深度学习的背景和发展 4
1.2.2 深度学习的基本原理 4
1.2.3 深度学习的实践 4
1.2.4 深度学习的应用领域 4
1.3 本书的目标和结构 7
第2章 深度学习基础知识 9
2.1 线性模型 9
2.1.1 回归问题 9
2.1.2 分类问题 14
2.2 前向传播 15
2.3 反向传播 16
2.4 损失函数 17
2.4.1 损失函数的概念 17
2.4.2 损失函数的作用 17
2.4.3 常见的损失函数 18
2.5 梯度下降 20
2.5.1 梯度的概念 20
2.5.2 梯度下降的含义 20
2.5.3 梯度下降法的一般过程 20
2.5.4 梯度下降法的优缺点 21
2.5.5 常见的梯度下降法 22
2.5.6 梯度下降优化算法 24
2.6 学习率 29
2.6.1 学习率的概念 29
2.6.2 学习率衰减方法 29
2.7 激活函数 31
2.7.1 激活函数的概念 31
2.7.2 常见的激活函数 32
2.8 拟合问题及其策略 36
2.9 正则化 37
2.9.1 正则化的概念 37
2.9.2 权重衰退 37
2.9.3 提前停止 37
2.9.4 Dropout正则化 38
2.10 模型的容量、表示容量和有效容量 39
2.11 超参数 40
2.11.1 超参数的种类 40
2.11.2 超参数怎样影响模型性能 40
2.11.3 超参数调优的作用 41
2.11.4 如何寻找超参数的最优值 41
2.12 归一化 42
2.12.1 归一化的概念 42
2.12.2 归一化的目的 43
2.12.3 常用的归一化方法 43
2.13 模型参数初始化 44
2.13.1 参数初始化 44
2.13.2 全零初始化 45
2.13.3 随机初始化 45
2.13.4 Xavier初始化 46
2.14 模型评估 47
第3章 卷积神经网络 48
3.1 卷积神经网络概述 48
3.1.1 深度学习中的卷积神经网络 48
3.1.2 基于卷积神经网络的图像处理 49
3.2 卷积神经网络的基本结构 50
3.2.1 输入层 51
3.2.2 卷积层 51
3.2.3 池化层 55
3.2.4 全连接层 57
3.2.5 输出层 57
3.3 卷积的变种 57
3.3.1 分组卷积 57
3.3.2 转置卷积 58
3.3.3 空洞卷积 59
3.4 1 × 1卷积的作用 60
3.5 卷积核是否越大越好 60
3.6 卷积神经网络的特性 61
3.6.1 局部连接 61
3.6.2 权重共享 62

第二部分 深度学习在工业缺陷检测中的实践

第4章 图像处理基础 64
4.1 OpenCV入门 67
4.2 图像的输入、显示和保存 68
4.2.1 图像的输入 68
4.2.2 图像的显示 69
4.2.3 图像的保存 70
4.3 图像的运算 71
4.3.1 图像加法 71
4.3.2 图像混合 72
4.4 图像的几何变换 73
4.4.1 图像的平移 73
4.4.2 图像的缩放 76
4.4.3 图像的旋转 78
4.5 图像的形态学处理 82
4.5.1 图像灰度化 82
4.5.2 图像二值化 84
4.5.3 图像腐蚀 90
4.5.4 图像膨胀 92
4.5.5 开运算 94
4.5.6 闭运算 97
4.5.7 梯度运算 99
4.5.8 礼帽运算 102
4.5.9 黑帽运算 104
4.6 图像平滑处理 106
4.6.1 均值滤波 106
4.6.2 方框滤波 108
4.6.3 高斯滤波 109
4.6.4 中值滤波 112
4.7 实例——芯片外观参数的测量 114
第5章 图像数据生成（以DCGAN图像
生成实践为例） 117
5.1　DCGAN概述 119
5.2 生成网络与判别网络 120
5.2.1 生成网络概述 120
5.2.2 判别网络概述 122
5.3 使用DCGAN实现图像数据生成 124
5.3.1 数据集简介 124
5.3.2 数据载入 125
5.3.3 构建模型 127
5.3.4 训练模型 131
5.3.5 验证模型 135
第6章 图像分类（以AlexNet网络图像
分类实践为例） 139
6.1 AlexNet网络 140
6.1.1 AlexNet网络概述 140
6.1.2 各层参数详解 141
6.2 使用AlexNet网络实现图像分类 143
6.2.1 数据集简介 143
6.2.2 数据载入 144
6.2.3 构建模型 145
6.2.4 训练模型 147
6.2.5 验证模型 148
6.2.6 预测模型 150
第7章 目标检测（以晶圆表面缺陷
检测为例） 153
7.1 目标检测任务 155
7.2 YOLO网络 156
7.2.1 YOLOv5概述 156
7.2.2 YOLOv5网络结构 156
7.2.3 YOLOv5s各层参数详解 162
7.3 使用YOLO实现缺陷目标检测 168
7.3.1 构建数据集 168
7.3.2 数据载入 169
7.3.3 数据增强 170
7.3.4 构建模型 175
7.3.5 训练模型 179
7.3.6 验证模型 180
第8章 语义分割（以自然遥感检测为例） 182
8.1 语义分割任务 185
8.2 UNet网络 185
8.2.1 UNet网络概述 185
8.2.2 ResNet网络结构 186
8.2.3 UNet网络结构 187
8.2.4 UNet各层参数详解 188
8.3 使用UNet实现遥感图像检测 191
8.3.1 数据载入 191
8.3.2 构建模型 193
8.3.3 训练模型 200
8.3.4 预测模型 203

参考文献 206