数据采集与预处理

作者
米洪 张?_
丛书名
产教融合信息技术类“十三五”规划教材
出版社
人民邮电出版社
ISBN
9787115519153
简要
简介
内容简介 本书以任务驱动为主线,围绕企业级应用进行项目任务设计,主要内容包括数据采集与预处理准备、网络爬虫实践、日志数据采集实践和数据预处理实践,全面地讲述了Scrapy、Flume、Pig、Kettle、Pandas、OpenRefine等技术,以及urllib、Selenium基本库和BeautifulSoup解析库的相关知识与应用案例。 本书内容实用,可操作性强,语言精练、通俗易懂,可作为高等院校计算机应用技术、大数据技术与应用、软件技术、云计算技术与应用等计算机相关专业的教材,也可作为大数据分析、云计算应用领域技术人员的参考用书。
目录
项目1


数据采集与预处理准备 1


学习目标 1


项目描述 1


任务1 认识数据采集技术,熟悉数据采集平台 1


任务描述 1


任务目标 2


知识准备 2


任务实施 10


任务2 认识数据预处理技术 13


任务描述 13


任务目标 13


知识准备 13


任务实施 19





项目2


网络爬虫实践 24


学习目标 24


项目描述 24


任务1 使用urllib爬取北京公交线路信息 24


任务描述 24


任务目标 25


知识准备 25


任务实施 48


任务2 使用Selenium爬取淘宝网站信息 58


任务描述 58


任务目标 58


知识准备 58


任务实施 69


任务3 使用Scrapy爬取北京公交信息 75


任务描述 75


任务目标 75


知识准备 75


任务实施 78


任务4 创新与拓展 86


任务描述 86


任务目标 86





项目3


日志数据采集实践 87


学习目标 87


项目描述 87


任务1 Flume的安装和配置 87


任务描述 87


任务目标 88


知识准备 88


任务实施 95


任务2 Flume采集数据上传到集群 105


任务描述 105


任务目标 106


知识准备 106


任务实施 110


任务3 创新与拓展 118


任务描述 118


任务目标 118





项目4


数据预处理实践 119


学习目标 119


项目描述 119


任务1 用Pig进行数据预处理 119


任务描述 119


任务目标 120


知识准备 120


任务实施 134


任务2 用Kettle进行数据预处理 137


任务描述 137


任务目标 137


知识准备 137


任务实施 139


任务3 用Pandas进行数据预处理 150


任务描述 150


任务目标 150


知识准备 150


任务实施 153


任务4 用OpenRefine进行数据预处理 155


任务描述 155


任务目标 155


知识准备 155


任务实施 157


任务5 用Flume Interceptor对日志信息进行数据预处理 162


任务描述 162


任务目标 163


知识准备 163


任务实施 167


任务6 创新与拓展 176


任务描述 176


任务目标 176








有问题微信扫码联系

推荐

Understand China
桂ICP备20004708号-4