新書推薦:
《
滚滚红尘(《滚滚红尘》电影原著)
》
售價:HK$
54.9
《
罗马之变(法语直译,再现罗马共和国走向罗马帝国的辉煌历史)
》
售價:HK$
109.8
《
自然之争:1600年以来苏格兰和英格兰北部地区的环境史(新史学译丛)
》
售價:HK$
106.4
《
硝烟下的博弈:工业革命与中西方战争
》
售價:HK$
87.4
《
让内的理性主义 发现无意识之旅
》
售價:HK$
66.1
《
知命不惧:从芝诺到马可·奥勒留的生活艺术
》
售價:HK$
110.9
《
Zemax光学设计从基础到实践
》
售價:HK$
132.2
《
全球化的黎明:亚洲大航海时代
》
售價:HK$
109.8
|
內容簡介: |
本书包装了一系列项目蓝图,展示了Spark可以帮你解决的一些有趣挑战,读者在将理论知识实践于一些实际项目之前,会了解到如何使用Sparknotebook,以及如何访问、清洗和连接不同的数据集,你将在其中了解Spark机器学习如何帮助你完成从欺诈检测到分析客户流失等各种工作。你还将了解如何使用Spark的并行计算能力构建推荐引擎。
|
目錄:
|
目录?Contents
译者序
前 言
第1章 Spark机器学习简介1
1.1 Spark概述和技术优势2
1.1.1 Spark概述2
1.1.2 Spark优势3
1.2 在机器学习中应用Spark计算4
1.3 机器学习算法5
1.4 MLlib6
1.5 Spark RDD和DataFrame8
1.5.1 Spark RDD8
1.5.2 Spark DataFrame9
1.5.3 R语言DataFrame API10
1.5.4 机器学习框架、RM4E和Spark计算11
1.5.5 机器学习框架12
1.5.6 RM4E13
1.5.7 Spark计算框架13
1.6 机器学习工作流和Spark pipeline14
1.7 机器学习工作流示例16
1.8 Spark notebook简介19
1.8.1 面向机器学习的notebook方法19
1.8.2 Spark notebook21
1.9 小结22
第2章 Spark机器学习的数据准备24
2.1 访问和加载数据集25
2.1.1 访问公开可用的数据集25
2.1.2 加载数据集到Spark26
2.1.3 数据集探索和可视化27
2.2 数据清洗29
2.2.1 处理数据不完备性30
2.2.2 在Spark中进行数据清洗31
2.2.3 更简便的数据清洗32
2.3 一致性匹配33
2.3.1 一致性问题33
2.3.2 基于Spark的一致性匹配34
2.3.3 实体解析34
2.3.4 更好的一致性匹配35
2.4 数据集重组36
2.4.1 数据集重组任务36
2.4.2 使用Spark SQL进行数据集重组37
2.4.3 在Spark上使用R语言进行数据集重组38
2.5 数据集连接39
2.5.1 数据连接及其工具Spark SQL39
2.5.2 Spark中的数据集连接40
2.5.3 使用R语言数据表程序包进行数据连接40
2.6 特征提取42
2.6.1 特征开发的挑战42
2.6.2 基于Spark MLlib的特征开发43
2.6.3 基于R语言的特征开发45
2.7 复用性和自动化45
2.7.1 数据集预处理工作流46
2.7.2 基于Spark pipeline的数据集预处理47
2.7.3 数据集预处理自动化47
2.8 小结49
第3章 基于Spark的整体视图51
3.1 Spark整体视图51
3.1.1 例子52
3.1.2 简洁快速的计算54
3.2 整体视图的方法55
3.2.1 回归模型56
3.2.2 SEM方法57
3.2.3 决策树57
3.3 特征准备58
3.3.1 PCA59
3.3.2 使用专业知识进行分类分组59
3.3.3 特征选择60
3.4 模型估计61
3.4.1 MLlib实现62
3.4.2 R notebook实现62
3.5 模型评估63
3.5.1 快速评价63
3.5.2 RMSE64
3.5.3 ROC曲线65
3.6 结果解释66
3.7 部署66
3.7.1 仪表盘67
3.7.2 规则68
3.8 小结68
第4章 基于Spark的欺诈检测69
4.1 Spark欺诈检测70
4.1.1 例子70
4.1.2 分布式计算71
4.2 欺诈检测方法72
4.2.1 随机森林73
4.2.2 决策树74
4.3 特征提取74
4.3.1 从日志文件提取特征75
4.3.2 数据合并75
4.4 模型估计76
4.4.1 MLlib实现77
4.4.2 R notebook实现77
4.5 模型评价77
4.5.1 快速评价78
4.5.2 混淆矩阵和误报率78
4.6 结果解释79
4.7 部署欺诈检测80
4.7.1 规则81
4.7.2 评分81
4.8 小结82
第5章 基于Spark的风险评分83
5.1 Spark用于风险评分84
5.1.1 例子84
5.1.2 Apache Spark notebook85
5.2 风险评分方法87
5.2.1 逻辑回归87
5.2.2 随机森林和决策树88
5.3 数据和特征准备89
5.4 模型估计91
5.4.1 在Data Scientist Workbench上应用R notebook91
5.4.2 实现R notebook92
5.5 模型评价93
5.5.1 混淆矩阵93
5.5.2 ROC分析93
5.5.3 Kolmogorov-Smirnov检验94
5.6 结果解释95
5.7 部署96
5.8 小结97
第6章 基于Spark的流失预测99
6.1 Spark流失预测99
6.1.1 例子100
6.1.2 Spark计算100
6.2 流失预测的方法101
6.2.1 回归模型102
6.2.2 决策树和随机森林103
6.3 特征准备104
6.3.1 特征提取104
6.3.2 特征选择105
6.4 模型估计105
6.5 模型评估107
6.6 结果解释109
6.7 部署110
6.7.1 评分111
6.7.2 干预措施推荐111
6.8 小结111
第7章 基于Spark的产品推荐112
7.1 基于Apache Spark 的产品推荐引擎112
7.1.1 例子113
7.1.2 基于Spark平台的SPSS114
7.2 产品推荐方法117
7.2.1 协同过滤117
7.2.2 编程准备118
7.3 基于SPSS的数据治理119
7.4 模型估计120
7.5 模型评价121
7.6 产品推荐部署122
7.7 小结125
第8章 基于Spark的学习分析126
8.1 Spark流失预测127
8.1.1 例子127
8.1.2 Spark计算128
8.2 流失预测方法130
8.2.1 回归模型130
8.2.2 决策树131
8.3 特征准备131
8.3.1 特征开发133
8.3.2 特征选择133
8.4 模型估计135
8.5 模型评价137
8.5.1 快速评价138
8.5.2 混淆矩阵和错误率138
8.6 结果解释139
8.6.1 计算干预影响140
8.6.2 计算主因子影响140
8.7 部署141
8.7.1 规则141
8.7.2 评分142
8.8 小结
|
內容試閱:
|
Preface?前言作为数据科学家和机器学习专业人员,我们的工作是建立模型进行欺诈检测、预测客户流失,或者在广泛的领域将数据转换为洞见。为此,我们有时需要处理大量的数据和复杂的计算。因此,我们一直对新的计算工具满怀期待,例如Spark,我们花费了很多时间来学习新工具。有很多可用的资料来学习这些新的工具,但这些资料大多都由计算机科学家编写,更多的是从计算角度来描述。
作为Spark用户,数据科学家和机器学习专业人员更关心新的系统如何帮助我们建立准确度更高的预测模型,如何使数据处理和编程更加简单。这是本书的写作目的,也是由数据科学家来执笔本书的主要原因。
与此同时,数据科学家和机器学习专业人员已经开发了工作框架、处理过程,使用了一些较好的建模工具,例如R语言和SPSS。我们了解到一些新的工具,例如Spark的MLlib,可以用它们来取代一些旧的工具,但不能全部取代。因此,作为Spark的用户,将Spark与一些已有的工具共同使用对我们十分关键,这也成为本书主要的关注点之一,是本书不同于其他Spark书籍的一个关键因素。
整体而言,本书是一本由数据科学家写给数据科学家和机器学习专业人员的Spark参考书,目的是让我们更加容易地在Spark上使用机器学习。
主要内容第1章,从机器学习的角度介绍Apache Spark。我们将讨论Spark DataFrame和R语言、Spark pipeline、RM4E数据科学框架,以及Spark notebook和模型的实现。
第2章,主要介绍使用Apache Spark上的工具进行机器学习数据准备,例如Spark SQL。我们将讨论数据清洗、一致性匹配、数据合并以及特征开发。
第3章,通过实际例子清晰地解释RM4E机器学习框架和处理过程,同时展示使用Spark轻松获得整体商业视图的优势。
第4章,讨论如何通过机器学习简单快速地进行欺诈检测。同时,我们会一步一步地说明从大数据中获得欺诈洞见的过程。
第5章,介绍一个风险评估项目的机器学习方法和处理过程,在DataScientist-Workbench 环境下,使用Spark上的R notebook实现它们。该章我们主要关注notebook。
第6章,通过开发客户流失预测系统提高客户留存度,进一步说明我们在Spark上使用MLlib进行机器学习的详细步骤。
第7章,描述如何使用Spark上的SPSS开发推荐系统,用Spark处理大数据。
第8章,将应用范围拓展到教育机构,如大学和培训机构,这里我们给出机器学习提升教育分析的一个真实的例子,预测学生的流失。
第9章,以一个基于Spark的服务请求预测的实际例子,帮助读者更好地理解Spark在商业和公共服务领域服务城市的应用。
第10章,进一步拓展前面章节学习的内容,让读者将所学的动态机器学习和Spark上的海量电信数据结合起来。
第11章,通过Spark上的开放数据介绍动态机器学习,用户可以采取数据驱动的方法,并使用所有可用的技术来优化结果。该章是第9章和第10章的扩展,同时也是前面章节所有实际例子的一个良好回顾。
预备知识在本书中,我们假设读者有一些Scala或Python的编程基础,有一些建模工具(例如R语言或SPSS)的使用经验,并且了解一些机器学习和数据科学的基础知识。
读者对象本书主要面向需要处理大数据的分析师、数据科学家、研究人员和机器学习专业人员,但不要求相关人员熟悉Spark。
下载彩图我们以PDF文件的形式提供本书中屏幕截图和图标的彩色图片。这些彩色图片会有助于你更好地理解输出的变化。可以在以下网址下载该文件:http:www.packtpub.comsitesdefaultfilesdownloadsApacheSparkMachineLearningBlueprints_ColorImages.pdf。
|
|