- 电子工业出版社
- 9787121521911
- 1-2
- 16开
- 2026-05
- 339
- 工学
- 计算机类
- 计算机科学与技术
- 本科 研究生及以上
内容简介
深度学习是2010年以后人工智能领域令人振奋的新技术，而可解释深度学习一直是该领域的重要研究内容。在大语言模型结构日益复杂、能力持续增强、受众不断扩大的当下，模型可解释性研究显得尤为关键。本书围绕经典深度神经网络的可解释性问题，系统归纳并介绍了当前主流的可解释性方法，分为基础篇、方法篇和前沿篇。基础篇（第1、2章）概述了深度学习和可解释深度学习的基本概念与发展现状；方法篇（第3～7章）详细介绍了5种经典的可解释深度学习方法，涵盖方法原理分析和代码实现；前沿篇（第8、9章）探讨了可解释性研究领域的对抗攻击与防御方法。
本书既可作为可解释深度学习、图像识别等方向专业人士的参考用书，也可作为人工智能相关专业高年级本科生的课外阅读材料。本书中整理的大量面向经典神经网络的可解释性方法，对当前广泛流行的基于Transformer架构的神经网络模型研究具有较高的参考价值。许多方法已完成适配性改进，并在新架构中取得了良好的效果，感兴趣的读者可查阅相关文献进一步拓展学习。
本书既可作为可解释深度学习、图像识别等方向专业人士的参考用书，也可作为人工智能相关专业高年级本科生的课外阅读材料。本书中整理的大量面向经典神经网络的可解释性方法，对当前广泛流行的基于Transformer架构的神经网络模型研究具有较高的参考价值。许多方法已完成适配性改进，并在新架构中取得了良好的效果，感兴趣的读者可查阅相关文献进一步拓展学习。
目录
第1章 深度学习概述 1
1.1 人工智能基础 1
1.1.1 发展历程 1
1.1.2 研究内容 2
1.1.3 挑战和发展趋势 3
1.2 机器学习基础 5
1.3 深度学习基础 7
1.3.1 前馈神经网络 7
1.3.2 卷积神经网络 9
1.3.3 循环神经网络 14
1.3.4 损失函数 16
1.3.5 优化算法 16
1.3.6 应用案例 17
1.4 本书的结构 20
第2章 可解释深度学习发展概况 22
2.1 可解释性的含义 22
2.1.1 可解释性是什么 22
2.1.2 为什么需要可解释性 26
2.1.3 需要什么样的可解释性 28
2.2 可解释深度学习基础 29
2.2.1 发展历程 29
2.2.2 基本概念 30
2.2.3 两个主体：用户和模型 32
2.3 可解释深度学习内容 32
2.3.1 研究内容 32
2.3.2 方法分类 34
2.3.3 开源工具 36
2.4 可解释深度学习研究动态 37
2.4.1 政策和计划 37
2.4.2 学术研讨会 38
本章小结 39
第3章 梯度归因方法 40
3.1 方法概述 40
3.2 基于反卷积的方法 41
3.2.1 卷积与反卷积 41
3.2.2 反卷积可视化方法 43
3.2.3 反卷积的棋盘效应 47
3.2.4 反卷积的其他用途 48
3.3 基于梯度的方法 49
3.3.1 普通反向传播 49
3.3.2 导向反向传播 51
3.3.3 Smooth Gradient 54
3.3.4 Integrated Gradient 60
3.3.5 Noise Gradient 67
3.3.6 梯度类反向传播方法的比较 68
3.4 基于相关性传播的方法 69
3.4.1 LRP 69
3.4.2 CLRP 79
3.4.3 SGLRP 80
3.5 基于泰勒分解的方法 80
3.5.1 泰勒展开式 80
3.5.2 深度泰勒分解 81
3.6 效果评估 81
3.6.1 定性评估 82
3.6.2 定量评估 82
3.7 pytorch-cnn-visualizations工具包 83
本章小结 84
第4章 扰动方法 85
4.1 方法概述 85
4.2 滑动像素块扰动 87
4.3 RISE 93
4.4 基于优化的扰动 96
4.5 基于生成的扰动 98
本章小结 99
第5章 类激活映射方法 100
5.1 方法概述 100
5.2 基于分类层权重的类激活映射 101
5.2.1 GAP-CAM的原理 101
5.2.2 GAP-CAM的过程 103
5.2.3 GAP-CAM的分析 104
5.3 基于梯度的类激活映射 107
5.3.1 Grad-CAM 107
5.3.2 Grad-CAM++ 109
5.3.3 Layer-CAM 112
5.4 基于分数的类激活映射 114
5.4.1 Score-CAM 114
5.4.2 Group-CAM 116
5.5 混合式类激活映射 118
5.5.1 Guided Grad-CAM 118
5.5.2 Smooth Grad-CAM 119
5.5.3 Relevance-CAM 119
5.6 比较与评估 120
5.6.1 各种方法的比较 120
5.6.2 弱监督目标定位评估方法 121
5.6.3 随机性检验评估方法 122
5.7 pytorch-grad-cam工具包 122
本章小结 123
第6章 激活最大化方法 124
6.1 方法概述 124
6.2 简单AM 125
6.3 引入局部先验信息 127
6.3.1 输入空间正则化 127
6.3.2 梯度空间高斯模糊 130
6.4 引入全局先验信息 130
6.5 DGN-AM 131
6.6 比较与评估 133
6.7 Understanding-NN工具包 134
本章小结 135
第7章 模型代理方法 136
7.1 方法概述 136
7.2 LIME 136
7.2.1 基本思想 136
7.2.2 方法细节 137
7.2.3 图像分类器的解释 139
7.2.4 文本分类器的解释 142
7.2.5 回归模型的解释 145
7.3 SHAP 148
7.3.1 合作博弈理论 148
7.3.2 Shapley值 149
7.3.3 方法细节 151
7.3.4 图像分类器的解释 152
7.3.5 文本分类器的解释 155
本章小结 159
第8章 可解释性对抗攻击方法 160
8.1 方法概述 160
8.1.1 对抗样本 160
8.1.2 对抗样本生成方法 162
8.1.3 显著图对抗样本生成方法 165
8.2 基于对抗性扰动的显著图攻击方法 167
8.2.1 单个实例层面的攻击 167
8.2.2 模型或数据集层面的攻击 168
8.2.3 攻击案例分析 169
8.3 基于对抗补丁的显著图攻击方法 170
8.3.1 Grad-CAM的数学符号定义 170
8.3.2 方法细节 171
8.3.3 可泛化的通用对抗补丁 172
8.3.4 对抗样本攻击方法 173
8.3.5 原理分析及比较 173
8.3.6 攻击实验分析 175
本章小结 177
第9章 可解释性对抗防御方法 178
9.1 方法概述 178
9.1.1 从可解释性方法的角度防御 178
9.1.2 从模型的角度防御 178
9.2 基于自适应噪声扰动的显著图对抗防御方法 179
9.2.1 问题定义 179
9.2.2 敌手描述 181
9.2.3 方法描述 182
9.2.4 实验与分析 185
9.3 对抗鲁棒性与可解释性 198
本章小结 199
参考文献 200
术语中英文对照表 204
1.1 人工智能基础 1
1.1.1 发展历程 1
1.1.2 研究内容 2
1.1.3 挑战和发展趋势 3
1.2 机器学习基础 5
1.3 深度学习基础 7
1.3.1 前馈神经网络 7
1.3.2 卷积神经网络 9
1.3.3 循环神经网络 14
1.3.4 损失函数 16
1.3.5 优化算法 16
1.3.6 应用案例 17
1.4 本书的结构 20
第2章 可解释深度学习发展概况 22
2.1 可解释性的含义 22
2.1.1 可解释性是什么 22
2.1.2 为什么需要可解释性 26
2.1.3 需要什么样的可解释性 28
2.2 可解释深度学习基础 29
2.2.1 发展历程 29
2.2.2 基本概念 30
2.2.3 两个主体：用户和模型 32
2.3 可解释深度学习内容 32
2.3.1 研究内容 32
2.3.2 方法分类 34
2.3.3 开源工具 36
2.4 可解释深度学习研究动态 37
2.4.1 政策和计划 37
2.4.2 学术研讨会 38
本章小结 39
第3章 梯度归因方法 40
3.1 方法概述 40
3.2 基于反卷积的方法 41
3.2.1 卷积与反卷积 41
3.2.2 反卷积可视化方法 43
3.2.3 反卷积的棋盘效应 47
3.2.4 反卷积的其他用途 48
3.3 基于梯度的方法 49
3.3.1 普通反向传播 49
3.3.2 导向反向传播 51
3.3.3 Smooth Gradient 54
3.3.4 Integrated Gradient 60
3.3.5 Noise Gradient 67
3.3.6 梯度类反向传播方法的比较 68
3.4 基于相关性传播的方法 69
3.4.1 LRP 69
3.4.2 CLRP 79
3.4.3 SGLRP 80
3.5 基于泰勒分解的方法 80
3.5.1 泰勒展开式 80
3.5.2 深度泰勒分解 81
3.6 效果评估 81
3.6.1 定性评估 82
3.6.2 定量评估 82
3.7 pytorch-cnn-visualizations工具包 83
本章小结 84
第4章 扰动方法 85
4.1 方法概述 85
4.2 滑动像素块扰动 87
4.3 RISE 93
4.4 基于优化的扰动 96
4.5 基于生成的扰动 98
本章小结 99
第5章 类激活映射方法 100
5.1 方法概述 100
5.2 基于分类层权重的类激活映射 101
5.2.1 GAP-CAM的原理 101
5.2.2 GAP-CAM的过程 103
5.2.3 GAP-CAM的分析 104
5.3 基于梯度的类激活映射 107
5.3.1 Grad-CAM 107
5.3.2 Grad-CAM++ 109
5.3.3 Layer-CAM 112
5.4 基于分数的类激活映射 114
5.4.1 Score-CAM 114
5.4.2 Group-CAM 116
5.5 混合式类激活映射 118
5.5.1 Guided Grad-CAM 118
5.5.2 Smooth Grad-CAM 119
5.5.3 Relevance-CAM 119
5.6 比较与评估 120
5.6.1 各种方法的比较 120
5.6.2 弱监督目标定位评估方法 121
5.6.3 随机性检验评估方法 122
5.7 pytorch-grad-cam工具包 122
本章小结 123
第6章 激活最大化方法 124
6.1 方法概述 124
6.2 简单AM 125
6.3 引入局部先验信息 127
6.3.1 输入空间正则化 127
6.3.2 梯度空间高斯模糊 130
6.4 引入全局先验信息 130
6.5 DGN-AM 131
6.6 比较与评估 133
6.7 Understanding-NN工具包 134
本章小结 135
第7章 模型代理方法 136
7.1 方法概述 136
7.2 LIME 136
7.2.1 基本思想 136
7.2.2 方法细节 137
7.2.3 图像分类器的解释 139
7.2.4 文本分类器的解释 142
7.2.5 回归模型的解释 145
7.3 SHAP 148
7.3.1 合作博弈理论 148
7.3.2 Shapley值 149
7.3.3 方法细节 151
7.3.4 图像分类器的解释 152
7.3.5 文本分类器的解释 155
本章小结 159
第8章 可解释性对抗攻击方法 160
8.1 方法概述 160
8.1.1 对抗样本 160
8.1.2 对抗样本生成方法 162
8.1.3 显著图对抗样本生成方法 165
8.2 基于对抗性扰动的显著图攻击方法 167
8.2.1 单个实例层面的攻击 167
8.2.2 模型或数据集层面的攻击 168
8.2.3 攻击案例分析 169
8.3 基于对抗补丁的显著图攻击方法 170
8.3.1 Grad-CAM的数学符号定义 170
8.3.2 方法细节 171
8.3.3 可泛化的通用对抗补丁 172
8.3.4 对抗样本攻击方法 173
8.3.5 原理分析及比较 173
8.3.6 攻击实验分析 175
本章小结 177
第9章 可解释性对抗防御方法 178
9.1 方法概述 178
9.1.1 从可解释性方法的角度防御 178
9.1.2 从模型的角度防御 178
9.2 基于自适应噪声扰动的显著图对抗防御方法 179
9.2.1 问题定义 179
9.2.2 敌手描述 181
9.2.3 方法描述 182
9.2.4 实验与分析 185
9.3 对抗鲁棒性与可解释性 198
本章小结 199
参考文献 200
术语中英文对照表 204
