[套装书]机器学习算法框架实战：Java和Python实现+深入理解XGBoost：高效机器学习算法与进阶（2册）

作者
麦嘉铭 何龙
丛书名
出版社
机械工业出版社
ISBN
9782007141040
简要
简介
内容简介书籍计算机书籍 ---------------------------机器学习算法框架实战：Java和Python实现--------------------------- 随着互联网技术的飞速发展，全球逐渐步入了大数据时代，智能化的趋势越来越明显，各行各业几乎都喊出了智能化的口号，机器学习作为人工智能的一个重要研究方向，在一定程度上成为了IT人才的必要技能。本书以一个自研机器学习算法框架的构建为主线，首先介绍了机器学习的相关概念和背景，然后按照代数矩阵运算层、最优化方法层、算法模型层和业务功能层的分层顺序对算法框架展开讲述，旨在通过理论和实践相结合的方式，帮助广大零算法基础的开发人员了解和掌握一定的算法能力，同时作为算法设计人员在工程实现上的参考范例。 本书实用性强，既面向零算法基础的开发人员，也面向具备一定算法能力，并且在工程实现上希望有所借鉴或参考学习的算法设计人员及机器学习算法爱好者。 ---------------------------深入理解XGBoost：高效机器学习算法与进阶--------------------------- 本书主要介绍：XGBoost相关的机器学习基础算法；XGBoost安装编译与简单使用；XGBoost的实现原理与理论证明；XGBoost基于CPU多线程的实现以及分布式训练方法；剖析XGBoost源码，从代码层面洞彻XGBoost的实现原理，以及XGBoost的应用与调优，通过典型示例为读者提供使用参考，掌握实战技能。 通过阅读本书，不仅能使读者理解XGBoost的原理，将XGBoost应用到业务场景中，更能从源码的角度深入学习XGBoost的并行化和分布式实现等优化技术，以更短的时间训练出高准确度的模型，使XGBoost成为学习和工作中的一把利剑。
目录



---------------------------机器学习算法框架实战：Java和Python实现---------------------------


前言
第1篇 绪论
第1章 背景 2
1.1 机器学习的概念 2
1.2 机器学习所解决的问题 3
1.2.1 有监督学习问题 3
1.2.2 无监督学习 4
1.3 如何选择机器学习算法 5
1.4 习题 5
第2章 机器学习算法框架概要 7
2.1 算法框架的分层模型 7
2.2 分层模型中各层级的职责 8
2.3 开始搭建框架的准备工作 8
2.3.1 使用Java开发的准备工作 8
2.3.2 使用Python开发的准备工作 13
第2篇 代数矩阵运算层
第3章 矩阵运算库 20
3.1 矩阵运算库概述 20
3.2 矩阵基本运算的实现 20
3.2.1 矩阵的数据结构 20
3.2.2 矩阵的加法和减法 22
3.2.3 矩阵的乘法和点乘 24
3.2.4 矩阵的转置 26
3.3 矩阵的其他操作 27
3.2.1 生成单位矩阵 27
3.3.2 矩阵的复制 28
3.3.3 矩阵的合并 29
3.4 习题 32
第4章 矩阵相关函数的实现 33
4.1 常用函数 33
4.1.1 协方差函数 33
4.1.2 均值函数 34
4.1.3 归一化函数 36
4.1.4 最大值函数 38
4.1.5 最小值函数 40
4.2 行列式函数 41
4.3 矩阵求逆函数 43
4.4 矩阵特征值和特征向量函数 44
4.5 矩阵正交化函数 45
4.5.1 向量单位化 45
4.5.2 矩阵正交化 47
4.6 习题 49
第3篇 最优化方法层
第5章 最速下降优化器 52
5.1 最速下降优化方法概述 52
5.1.1 模型参数优化的目标 52
5.1.2 最速下降优化方法 53
5.2 最速下降优化器的实现 54
5.2.1 参数优化器的接口设计 54
5.2.2 最速下降优化器的具体实现 57
5.3 一个目标函数的优化例子 62
5.3.1 单元测试示例：偏导数的计算 62
5.3.2 单元测试示例：目标函数的参数优化 64
5.4 习题 66
第6章 遗传算法优化器 67
6.1 遗传算法概述 67
6.1.1 遗传算法的目标 67
6.1.2 遗传算法的基本过程 68
6.2 遗传算法优化器的实现 71
6.2.1 遗传算法优化器主体流程的实现 71
6.2.2 遗传算法优化器各算子的实现 74
6.3 一个目标函数的优化例子 82
6.4 习题 85
第4篇 算法模型层
第7章 分类和回归模型 88
7.1 分类和回归模型概述 88
7.2 基础回归模型 89
7.2.1 线性回归模型 89
7.2.2 对数回归模型 92
7.2.3 指数回归模型 94
7.2.4 幂函数回归模型 97
7.2.5 多项式回归模型 100
7.3 分类回归分析的例子 102
7.3.1 示例：验证对数回归模型 102
7.3.2 示例：对比不同模型 104
7.4 习题 108
第8章 多层神经网络模型 109
8.1 多层神经网络模型概述 109
8.1.1 网络模型的表达形式 109
8.1.2 前馈运算 111
8.1.3 反向传播 112
8.2 多层神经网络模型的实现 115
8.3 多层神经网络模型示例 122
8.4 习题 125
第9章 聚类模型 126
9.1 K-means模型 126
9.1.1 K-means聚类模型概述 126
9.1.2 K-means模型的实现 128
9.1.3 示例：一个聚类的例子 131
9.2 GMM 134
9.2.1 从一维高斯函数到多维高斯函数 134
9.2.2 GMM概述 136
9.2.3 GMM的实现 139
9.2.4 示例：对比K-means模型 144
9.3 习题 147
第10章 时间序列模型 148
10.1 指数平滑模型 148
10.1.1 移动平均模型 148
10.1.2 一次指数平滑模型 149
10.1.3 二次指数平滑模型 150
10.2 Holt-Winters模型 150
10.2.1 Holt-Winters模型概述 150
10.2.2 Holt-Winters模型的实现 151
10.2.3 示例：时间序列的预测 156
10.3 习题 160
第11章 降维和特征提取 161
11.1 降维的目的 161
11.2 主成分分析模型 162
11.2.1 主成分分析方法概述 162
11.2.2 主成分分析模型的实现 165
11.2.3 示例：降维提取主要特征 167
11.3 自动编码机模型 170
11.3.1 非线性的主成分分析 170
11.3.2 自动编码机原理概述 171
11.3.3 自动编码机模型的实现 172
11.3.4 示例：对比主成分分析 173
11.4 习题 176
第5篇 业务功能层
第12章 时间序列异常检测 178
12.1 时间序列异常检测的应用场景 178
12.2 时间序列异常检测的基本原理 178
12.2.1 基于预测的时间序列异常检测 179
12.2.2 阈值的估计 179
12.3 时间序列异常检测功能服务的实现 180
12.4 应用实例：找出数据中的异常记录 182
12.5 习题 183
第13章 离群点检测 184
13.1 离群点检测的应用场景 184
13.2 离群点检测的基本原理 185
13.2.1 基于多维高斯函数检测离群点 186
13.2.2 数据的有效降维 188
13.3 离群点检测功能服务的实现 188
13.4 应用实例：找出数据中的异常记录 191
13.5 习题 193
第14章 趋势线拟合 194
14.1 趋势线拟合的应用场景 194
14.2 趋势线拟合的基本原理 195
14.2.1 基于不同基础回归模型的拟合 196
14.2.2 选取合适的回归模型 196
14.3 趋势线拟合功能服务的实现 196
14.4 应用实例：对样本数据进行趋势线拟合 201
14.5 习题 203



---------------------------深入理解XGBoost：高效机器学习算法与进阶---------------------------


前言
第1章　机器学习概述1
1.1　何谓机器学习1
1.1.1　机器学习常用基本概念2
1.1.2　机器学习类型3
1.1.3　机器学习应用开发步骤4
1.2　集成学习发展与XGBoost提出5
1.2.1　集成学习5
1.2.2　XGBoost6
1.3　小结7
第2章　XGBoost骊珠初探9
2.1　搭建Python机器学习环境9
2.1.1　Jupyter Notebook10
2.1.2　NumPy11
2.1.3　Pandas18
2.1.4　Matplotlib32
2.1.5　scikit-learn39
2.2　搭建XGBoost运行环境39
2.3　示例：XGBoost告诉你蘑菇是否有毒42
2.4　小结44
第3章　机器学习算法基础45
3.1　KNN45
3.1.1　KNN关键因素46
3.1.2　用KNN预测鸢尾花品种47
3.2　线性回归52
3.2.1　梯度下降法53
3.2.2　模型评估55
3.2.3　通过线性回归预测波士顿房屋价格55
3.3　逻辑回归57
3.3.1　模型参数估计59
3.3.2　模型评估60
3.3.3　良性/恶性乳腺肿瘤预测61
3.3.4　softmax64
3.4　决策树65
3.4.1　构造决策树66
3.4.2　特征选择67
3.4.3　决策树剪枝71
3.4.4　决策树解决肿瘤分类问题71
3.5　正则化75
3.6　排序78
3.6.1　排序学习算法80
3.6.2　排序评价指标81
3.7　人工神经网络85
3.7.1　感知器85
3.7.2　人工神经网络的实现原理87
3.7.3　神经网络识别手写体数字90
3.8　支持向量机92
3.8.1　核函数95
3.8.2　松弛变量97
3.8.3　通过SVM识别手写体数字98
3.9　小结99
第4章　XGBoost小试牛刀100
4.1　XGBoost实现原理100
4.2　二分类问题101
4.3　多分类问题109
4.4　回归问题113
4.5　排序问题117
4.6　其他常用功能121
4.7　小结145
第5章　XGBoost原理与理论证明146
5.1　CART146
5.1.1　CART生成147
5.1.2　剪枝算法150
5.2　Boosting算法思想与实现151
5.2.1　AdaBoost151
5.2.2　Gradient Boosting151
5.2.3　缩减153
5.2.4　Gradient Tree Boosting153
5.3　XGBoost中的Tree Boosting154
5.3.1　模型定义155
5.3.2　XGBoost中的Gradient Tree Boosting156
5.4　切分点查找算法161
5.4.1　精确贪心算法161
5.4.2　基于直方图的近似算法163
5.4.3　快速直方图算法165
5.4.4　加权分位数概要算法167
5.4.5　稀疏感知切分点查找算法167
5.5　排序学习169
5.6　DART174
5.7　树模型的可解释性177
5.7.1　Saabas177
5.7.2　SHAP179
5.8　线性模型原理183
5.8.1　Elastic Net回归183
5.8.2　并行坐标下降法184
5.8.3　XGBoost线性模型的实现185
5.9　系统优化187
5.9.1　基于列存储数据块的并行学习188
5.9.2　缓存感知访问190
5.9.3　外存块计算191
5.10　小结192
第6章　分布式XGBoost193
6.1　分布式机器学习框架Rabit 193
6.1.1　AllReduce193
6.1.2　Rabit195
6.1.3　Rabit应用197
6.2　资源管理系统YARN 200
6.2.1　YARN的基本架构201
6.2.2　YARN的工作流程202
6.2.3　XGBoost on YARN203
6.3　可移植分布式XGBoost4J205
6.4　基于Spark平台的实现208
6.4.1　Spark架构208
6.4.2　RDD210
6.4.3　XGBoost4J-Spark211
6.5　基于Flink平台的实现223
6.5.1　Flink原理简介224
6.5.2　XGBoost4J-Flink227
6.6　基于GPU加速的实现229
6.6.1　GPU及其编程语言简介229
6.6.2　XGBoost GPU加速原理230
6.6.3　XGBoost GPU应用236
6.7　小结239
第7章　XGBoost进阶240
7.1　模型训练、预测及解析240
7.1.1　树模型训练240
7.1.2　线性模型训练256
7.1.3　模型预测258
7.1.4　模型解析261
7.2　树模型更新264
7.2.1　updater_colmaker264
7.2.2　updater_histmaker264
7.2.3　updater_fast_hist271
7.2.4　其他更新器276
7.3　目标函数278
7.3.1　二分类279
7.3.2　回归280
7.3.3　多分类282
7.3.4　排序学习284
7.4　评估函数288
7.4.1　概述289
7.4.2　二分类291
7.4.3　多分类295
7.4.4　回归296
7.4.5　排序297
7.5　小结299
第8章　模型选择与优化300
8.1　偏差与方差300
8.2　模型选择303
8.2.1　交叉验证304
8.2.2　Bootstrap306
8.3　超参数优化307
8.3.1　网格搜索308
8.3.2　随机搜索310
8.3.3　贝叶斯优化313
8.4　XGBoost超参数优化315
8.4.1　XGBoost参数介绍315
8.4.2　XGBoost调参示例319
8.5　小结334
第9章　通过XGBoost实现广告分类器335
9.1　PCA335
9.1.1　PCA的实现原理335
9.1.2　通过PCA对人脸识别数据降维338
9.1.3　利用PCA实现数据可视化341
9.2　通过XGBoost实现广告分类器343
9.3　小结357
第10章　基于树模型的其他研究与应用358
10.1　GBDT、LR融合提升广告点击率358
10.2　mGBDT360
10.3　DEF362
10.4　一种基于树模型的强化学习方法366
10.5　小结370



有问题微信扫码联系

推荐

Understand China
桂ICP备20004708号-4