前言
第1章机器学习概述
11机器学习的概念和分类
111机器学习的定义与三要素
112基于学习策略的分类
113基于学习方式的分类
12机器学习的发展历程
121符号推理
122统计机器学习
123深度学习
124强化学习
125自主学习
13机器学习的应用
131计算机视觉
132自然语言处理
133多模态
134推荐系统
135医疗和生物信息学
136自动驾驶
137时间序列分析
第2章机器学习的统计学基础
21概率与条件概率
211随机事件与概率定义
212概率的加法定理
213条件概率与概率的乘法定理
214全概率公式与贝叶斯公式
22随机变量的分布
221离散随机变量与分布
222连续随机变量与分布
223随机变量函数的分布
224二维随机变量与分布
225二维随机变量函数的分布
23随机变量的数字特征
231数学期望
232方差与标准差
233原点矩与中心矩
234协方差与相关系数
235切比雪夫不等式与大数定律
24正态分布与中心极限定理
241正态分布
242二维正态分布
243中心极限定理
25样本与抽样分布
251总体与样本
252样本函数与统计学
253数理统计中的常见分布
第3章机器学习的常用Python库
31NumPy
311NumPy概述
312ndarray数组的基础
313ndarray数组的访问
314ndarray数组的运算
315ndarray数组与线性代数
32Pandas
321Pandas概述
322Series
323DataFrame
324Pandas读写数据
325Pandas数据处理与分析
33Matplotlib
331Matplotlib概述
332Pyplot
333Figure
334Axes
34Scikit-learn
341Scikit-learn概述
342样例数据集
343数据预处理
344特征选择
345模型选择
346度量指标
35TensorFlow
351TensorFlow概述
352数据类型
353张量
354索引与切片
355维度变换
356广播
36PyTorch
361PyTorch概述
362张量
363PyTorch构建神经网络
364PyTorch构建复杂应用
37习题
第4章机器学习的基本流程
41数据预处理
411数据收集与预处理
412特征工程
413特征集与标签集
414训练集、测试集与验证集
42模型构建与模型训练
421模型结构
422超参数
423损失函数
424权值优化
43模型选择与评估
431过拟合与欠拟合
432正则化
433交叉验证
434训练误差与测试误差
435模型评估的性能指标
44习题
第5章回归
51线性回归
511回归分析与最小二乘法
512一元线性回归
513多元线性回归
514线性回归的实现
52多项式回归
521多项式回归的一般形式
522多项式回归的实现
53岭回归和Lasso回归
531岭回归模型
532Lasso回归模型
533岭回归和Lasso回归的实现
54决策树与随机森林回归
541决策树回归模型的原理
542随机森林回归模型的原理
543随机森林回归的实现
55案例：预测房屋的价格
551问题定义
552回归模型的设计
553回归模型的实现
56习题
第6章分类：Logistic回归和最大熵模型
61Logistic回归模型
611Logistic回归模型的原理
612Logistic回归用于求解二分类和多分类问题
613Logistic回归求解二分类问题的实现
62最大熵模型
621最大熵模型的原理
622最大熵模型用于求解多分类问题
623最大熵模型求解多分类问题的实现
63案例：鸢尾花品种分类
631问题定义
632基于Logistic回归模型和最大熵模型的鸢尾花品种分类模型的设计
633模型的实现
64习题
第7章分类：决策树
71决策树分类模型
711决策树分类模型的原理
712ID3算法
713C45算法
714CART算法
72决策树剪枝处理
721预剪枝
722后剪枝
73案例：信用评估分类
731问题定义
732基于决策分类树的信用评估模型设计
733模型的实现
74习题
第8章分类：贝叶斯分类器
81朴素贝叶斯分类器
811朴素贝叶斯分类模型的原理
812高斯朴素贝叶斯分类模型
813多项式朴素贝叶斯分类模型
814伯努利朴素贝叶斯分类模型
815半朴素贝叶斯分类模型的原理
816朴素贝叶斯分类模型的实现
82贝叶斯网络
821贝叶斯网络分类模型的原理
822贝叶斯网络分类模型的实现
83案例：垃圾邮件分类
831问题定义
832基于朴素贝叶斯的垃圾邮件分类模型的设计
833模型的实现
84习题
第9章分类：支持向量机
91线性SVM
911VC维理论
912线性SVM分类模型的原理
913线性SVM分类模型的实现
92非线性SVM
921非线性SVM分类模型的原理
922非线性SVM分类模型的实现
93案例：手写数字识别
931问题定义
932SVM分类模型的设计
933模型的实现
94习题
第10章分类：集成学习
101集成学习的原理
1011个体学习器
1012Boosting方法
1013Bagging方法
1014结合策略
102AdaBoost
1021AdaBoost算法的原理
1022AdaBoost算法的实现
103XGBoost
1031XGBoost算法的原理
1032XGBoost算法的实现
104随机森林
1041随机森林分类模型的原理
1042随机森林分类模型的实现
105案例：情感分析
1051问题定义
1052基于集成学习的情感分析模型的设计
1053模型的实现
106习题
第11章聚类分析
111聚类概述
1111聚类分析与无监督学习
1112聚类算法的类型
1113评估指标
112基于原型的聚类
1121k-means算法
1122k-medoids算法
1123基于原型的聚类算法的实现
113基于密度的聚类
1131DBSCAN算法
1132OPTICS算法
1133DPC算法
1134基于密度的聚类算法的实现
114基于层次的聚类
1141合并的层次聚类算法
1142分裂的层次聚类算法
1143基于层次的聚类算法的实现
115案例：异常检测
1151问题定义
1152聚类算法的设计
1153算法的实现
116习题
第12章降维
121维数灾难
1211维数灾难的定义
1212维数灾难与过拟合
122PCA算法
123SVD算法
1231SVD算法的原理
1232SVD算法的实现
124LDA算法
1241LDA算法的原理
1242LDA算法的实现
125案例：基于常见降维算法的人脸识别
1251问题定义
1252降维算法的设计
1253人脸识别算法的实现
1254降维算法在人脸识别中的应用
126习题
第13章神经网络
131神经网络的基本结构
1311神经网络概述
1312神经元
1313激活函数
1314感知机
132神经网络的构建
1321反向传播
1322损失函数
1323优化器
1324初始化
1325正则化
133常用神经网络
1331前馈神经网络
1332卷积神经网络
1333循环神经网络
134案例：图像分类
1341问题定义
1342基于卷积神经网络的图像分类模型的设计
1343模型的实现
135习题
第14章深度学习
141深度学习中的优化与正则化
1411SGD算法
1412动量SGD算法
1413自适应学习率算法
1414Dropout正则化
1415批归一化
1416层归一化
142生成对抗网络
1421生成对抗网络的基本结构
1422生成对抗网络的实现
143自编码器
1431自编码器的基本结构
1432自编码器的实现
144注意力机制与Transformer
1441注意力机制原理
1442序列到序列模型
1443Transformer的基本结构
1444Transformer的实现
145案例：自然语言理解与生成
1451问题定义
1452基于Transformer的自然语言理解与生成模型的设计
1453模型的实现
146习题
参考文献