大数据项目管理 从规划到实现
| 作者 |
| 丛书名 |
| 图灵程序设计丛书 |
| 出版社 |
| 人民邮电出版社 |
| ISBN |
| 9787115457363 |
| 简要 |
| 简介 |
| 内容简介书籍计算机书籍 本书提供了一个框架，从整体上介绍与大数据项目开发相关的基本概念，帮助读者评估大数据项目，理解成功的现代数据项目的基本要素。全书共8章，内容包括现代数据项目的主要类型、生命周期、风险管理、接口设计、分布式存储系统、元数据管理、数据处理等。本书旨在让读者厘清思路，顺利地从数据项目的规划阶段走到执行阶段，实现健壮、可维护的架构和解决方案。 |
| 目录 |
| 前言 ix 第 1章 数据项目的主要类型及考虑因素 1 1.1 数据项目的主要类型1 1.2 数据管道和数据暂存 3 1.2.1 主要考虑因素和风险管理 4 1.2.2 数据管道和数据暂存团队的人员组成 13 1.3 数据的处理和分析 14 1.3.1 主要考虑因素和风险管理 14 1.3.2 数据处理和分析团队的人员组成17 1.4 应用程序开发 17 1.4.1 主要考虑因素和风险管理 18 1.4.2 应用程序开发团队的人员组成 22 1.5 小结22 第 2章 评估和选择数据管理解决方案25 2.1 开源项目的阶段 26 2.1.1 孵化阶段 27 2.1.2 发布阶段27 2.1.3 “治愈癌症”阶段 27 2.1.4 打破承诺阶段 28 2.1.5 强化阶段29 2.1.6 企业阶段 30 2.1.7 终结阶段 30 2.2 开源项目的常见生命周期 31 2.2.1 使产品起死回生 32 2.2.2 追随者 33 2.3 评估基准测试34 2.4 技术选型的考虑因素 35 2.4.1 了解构建块36 2.4.2 寻求建议 37 2.4.3 从分析师那里获得见解 37 2.4.4 研究市场趋势 37 2.5 小结 39 第3章 数据项目的风险管理 41 3.1 风险类型 41 3.1.1 技术风险41 3.1.2 团队风险 42 3.1.3 需求风险 42 3.2 风险管理 42 3.2.1 对架构中的风险进行分类42 3.2.2 技术风险 45 3.2.3 团队的优势45 3.2.4 外部团队风险47 3.2.5 需求风险 47 3.2.6 融会贯通 47 3.3 使用原型和PoC 50 3.3.1 找到两三种方法 50 3.3.2 进行PoC，然后丢弃 50 3.3.3 部署的注意事项 50 3.4 使用接口51 3.5 尽早开始构建 52 3.6 频繁测试并保留记录 52 3.7 监控和警报 53 3.8 沟通风险 54 3.8.1 合作并获得信任 54 3.8.2 公开风险54 3.9 将风险作为谈判工具 55 3.10 小结 55 第4章 接口设计57 4.1 人体 57 4.1.1 人体与数据架构 57 4.1.2 解耦61 4.1.3 解耦的注意事项 63 4.1.4 专门化 64 4.2 什么造就了好的接口设计64 4.2.1 合约 64 4.2.2 抽象 64 4.2.3 版本控制 65 4.2.4 防御65 4.2.5 接口的文档和命名66 4.3 非功能性考虑因素 67 4.3.1 可用性 67 4.3.2 响应时间 68 4.3.3 负载容量 68 4.3.4 使用测试来确定SLA 69 4.4 通用接口示例69 4.4.1 发布C订阅 69 4.4.2 异步请求C响应 71 4.4.3 同步请求C响应 72 4.5 小结 73 第5章 分布式存储系统 75 5.1 分布式存储系统的属性 75 5.1.1 谱系 76 5.1.2 分区 77 5.1.3 处理数据变更 78 5.1.4 读取路径 80 5.1.5 可用性与一致性 84 5.1.6 主要用例 85 5.2 存储系统细分85 5.2.1 HDFS 86 5.2.2 S3和对象存储系统 87 5.2.3 Apache HBase 89 5.2.4 Apache Cassandra 90 5.2.5 Elasticsearch和Apache Solr 94 5.2.6 新进者：Apache Kudu和CockroachDB 95 5.2.7 内存存储系统 96 5.3 小结 99 第6章 企业元数据 101 6.1 为什么要关注元数据 102 6.1.1 数据可见性 102 6.1.2 数据之间的关系 103 6.1.3 数据监管104 6.2 数据架构中的元数据类型 105 6.2.1 静态数据 106 6.2.2 动态数据 107 6.2.3 数据源的元数据 110 6.2.4 有关数据处理的元数据 111 6.2.5 报告和仪表盘 112 6.3 元数据收集 112 6.3.1 声明式元数据收集 113 6.3.2 发现式元数据收集 114 6.4 元数据管理实践 115 6.5 小结 116 第7章 确保数据完整性 117 7.1 构建数据管道 118 7.2 验证数据管道 123 7.2.1 行数 123 7.2.2 唯一计数 124 7.2.3 全字节比较 124 7.2.4 校验和比较 125 7.3 小结 126 第8章 数据处理 127 8.1 处理引擎的属性 127 8.1.1 DAG管理 128 8.1.2 计算隔离 130 8.1.3 性能 132 8.1.4 容错 132 8.1.5 交互模型 135 8.1.6 批处理或流处理 135 8.2 数据处理演变史 136 8.3 小结 138 关于作者 139 关于封面 139 |
有问题微信扫码联系