前言
第1章绪论
11机器学习的定义
12机器学习的发展历史
13机器学习的分类
131监督学习
132无监督学习
133半监督学习
134强化学习
14基本术语与符号
141基本术语
142基本符号
15机器学习的过程
16将Python用于机器学习
161安装Python解释器
162安装PyCharm
163安装Anaconda
164用于科学计算、数据科学和
机器学习的软件包
17本章小结
18习题
第2章模型评估与调优
21概述
22评估方法
221留出法
222交叉验证法
223留一法交叉验证
224自助法
23优化
231用学习和验证曲线调试
算法
232通过网格搜索调优机器学习
模型
24性能度量
241错误率与准确率
242查准率、查全率与F1
243ROC与AUC
244多元分类评估指标
25本章小结
26习题
第3章回归分析
31引言
311回归分析概述
312回归分析的目标
313回归分析的步骤
32一元线性回归
321一元线性回归模型
322参数w和b的推导过程
323一元线性回归模型的代码
实现及应用
33多元线性回归
331多元线性回归模型和参数
求解
332多元线性回归模型的代码
实现及应用
34对率回归
341对率回归模型
342参数w和b的推导过程
343参数更新公式的推导
344对率回归模型的代码实现及
应用
35多项式回归
36正则化回归
361岭回归模型
362最小绝对收缩与选择
算子（LASSO回归）
363弹性网络
37回归模型的评价指标
38回归分析实践
381构建波士顿房价预测模型
382构建信用卡欺诈行为分类
模型
39本章小结
310习题
第4章决策树
41决策树概述
411决策树的概念
412决策树的优缺点
42决策树的划分准则
421信息增益
422增益率
423基尼指数
43决策树的建立
431决策树的归纳过程
432决策树实例分析
433决策树停止准则
434决策树剪枝
44多变量决策树
45集成方法
451随机森林
452梯度提升树
46回归树
461回归决策树
462回归加权平均树
463随机森林回归树
464梯度提升回归树
47决策树实践
471构建巴黎住房分类模型
472构建航班价格预测模型
48本章小结
49习题
第5章神经网络
51神经网络的发展历史
52神经元模型
521生物学的神经元模型
522M-P神经元模型
53激活函数
531Sigmoid激活函数
532tanh激活函数
533ReLU激活函数
534采用激活函数的原因
535激活函数的特点
54感知机模型
541感知机模型的结构
542感知机模型的原理
543感知机模型的实现
544感知机模型的优缺点
55多层前馈神经网络模型
551多层前馈神经网络的工作
原理
552多层前馈神经网络参数的
学习过程
553多层前馈神经网络算法的
实现
56训练方法
561梯度下降法
562随机梯度下降法
563小批量梯度下降法
57梯度消失和梯度爆炸
571产生原因
572解决方案
58神经网络实践：构建南瓜子
分类模型
581数据的简单分析
582利用感知机
583利用多层感知机
59本章小结
510习题
第6章支持向量机
61支持向量机概述
611线性分类
612最大间隔分类
62硬间隔支持向量机
621硬间隔支持向量机模型
622利用对偶问题求解
623硬间隔支持向量机求解
实例
63核支持向量机
631核函数
632核函数求解实例
64软间隔支持向量机
641松弛变量
642对偶问题
65感知机与SVM线性可分的
区别
66SVM的优缺点
67支持向量机实践：构建手机
价格分类模型
671数据的简单分析
672利用硬间隔支持向量机
673利用软间隔支持向量机
68本章小结
69习题
第7章贝叶斯分类器
71贝叶斯分类器概述
711贝叶斯定理
712贝叶斯定理的应用
713贝叶斯思想
72贝叶斯分类器的原理
721贝叶斯决策论
722极大似然估计
73朴素贝叶斯分类器
74半朴素贝叶斯分类器
741超父独依赖分类器
742平均独依赖估计
743树增广朴素贝叶斯
75贝叶斯网络
751贝叶斯网络的定义
752贝叶斯网络的结构特征
753贝叶斯网络的学习
754贝叶斯网络的推断
76贝叶斯分类器实践：构建
鸢尾花分类模型
761数据的简单分析
762利用朴素贝叶斯
763利用半朴素贝叶斯
764利用贝叶斯网络
77本章小结
78习题
第8章聚类分析
81聚类概述
811聚类的相关概念
812聚类与分类的区别
813聚类算法的分类
814相似性度量
815归一化处理
82基于划分的聚类算法
821K-Means算法
822K-Means++算法
823K-Medoid算法
824Kernel K-Means算法
825Mini-Batch K-Means
算法
826K-Means with Triangle
Inequality算法
83基于层次的聚类算法
831层次聚类算法的基础
832Hierarchical K-Means
算法
833Agglomerative Clustering
算法
834BIRCH算法
84基于密度的聚类算法
841DBSCAN算法
842OPTICS算法
85谱聚类算法
851图划分思想
852相似度矩阵
853拉普拉斯矩阵
854谱聚类算法的步骤
86基于网格的聚类算法
87基于模型的聚类算法
88聚类评估
881估计聚类趋势
882确定簇数
883测定聚类质量
89聚类分析实践：对客户进行
细分
891数据预处理
892利用K-Means算法
893利用Agglomerative Clustering
算法
810本章小结
811习题
第9章降维技术
91降维的重要性
911维度爆炸
912降维的原因
92主成分分析算法
921向量投影和矩阵投影的
含义
922向量降维和矩阵降维
923PCA的优化目标
924PCA算法的原理
925PCA算法的步骤
926PCA的应用
927核主成分分析
93奇异值分解
931矩阵的特征分解
932SVD的定义
933SVD算法的步骤
934SVD的重要性质
94降维技术实践：对生物体的
基因进行降维
941数据的简单分析
942利用PCA进行降维
943利用SVD进行降维
95本章小结
96习题
第10章集成学习
101自助聚合算法
1011Bagging算法的思想
1012随机森林
102可提升算法
1021Boosting的基本概念
1022AdaBoost
1023Bagging与Boosting的
区别
1024梯度提升算法
103堆叠算法
104集成学习实践：构建红酒
分类模型
1041利用Bagging实现
1042利用Boosting实现
1043利用Stacking实现
105本章小结
106习题
参考文献