大数据技术与编程基础
出版时间： 2018
内容简介
“大数据”近年成为IT领域的热点话题，人们每天都会通过互联网、移动设备等产生大量数据。如何管理大数据、掌握大数据的核心技术、理解大数据相关的生态系统等，是作为大数据开发者必须学习和熟练掌握的。本系列书以“大数据开发者”应掌握的技术为主线，共分两卷，以7个模块分别介绍如何管理大数据生态系统、如何存储和处理数据、如何利用Hadoop工具、如何利用NoSQL与Hadoop协同工作，以及如何利用Hadoop商业发行版和管理工具。本系列书涵盖了大数据开发工作的核心内容，全面且详尽地涵盖了大数据开发的各个领域。本书为第1卷，共4个模块，分别介绍大数据基础知识、大数据生态系统的管理、HDFS和MapReduce以及Hadoop工具（如Hive、Pig和Oozie等）。本书适用于想成为大数据开发者以及所有对大数据开发感兴趣的技术人员和决策者阅读。
目录
模块1 大数据入门
第 1讲 大数据简介 3
1．1 什么是大数据 4
1．1．1 大数据的优势 5
1．1．2 挖掘各种大数据源 6
1．2 数据管理的历史——大数据的演化 7
1．3 大数据的结构化 9
1．4 大数据要素 13
1．4．1 数据量 13
1．4．2 速度 14
1．4．3 多样性 14
1．5 大数据在商务环境中的应用 14
1．6 大数据行业中的职业机会 16
1．6．1 职业机会 17
1．6．2 所需技能 17
1．6．3 大数据的未来 19
练习 20
备忘单 22
第 2讲 大数据在商业上的应用 23
2．1 社交网络数据的重要性 24
2．2 金融欺诈和大数据 30
2．3 保险业的欺诈检测 32
2．4 在零售业中应用大数据 36
练习 40
备忘单 42
第3讲 处理大数据的技术 43
3．1 大数据的分布式和并行计算 44
3．1．1 并行计算技术 46
3．1．2 虚拟化及其对大数据的重要性 47
3．2 Hadoop简介 47
3．3 云计算和大数据 50
3．3．1 大数据计算的特性 50
3．3．2 云部署模型 51
3．3．3 云交付模型 52
3．3．4 大数据云 52
3．3．5 大数据云市场中的供应商 53
3．3．6 使用云服务所存在的问题 54
3．4 大数据内存计算技术 54
练习 56
备忘单 58
第4讲 了解Hadoop生态系统 59
4．1 Hadoop生态系统 60
4．2 用HDFS存储数据 61
4．2．1 HDFS架构 62
4．2．2 HDFS的一些特殊功能 65
4．3 利用Hadoop MapReduce处理数据 65
4．3．1 MapReduce是如何工作的 66
4．3．2 MapReduce的优点和缺点 66
4．3．3 利用Hadoop YARN管理资源和应用 67
4．4 利用HBase存储数据 68
4．5 使用Hive查询大型数据库 69
4．6 与Hadoop生态系统的交互 70
4．6．1 Pig和Pig Latin 70
4．6．2 Sqoop 71
4．6．3 Zookeeper 72
4．6．4 Flume 72
4．6．5 Oozie 73
练习 74
备忘单 76
第5讲 MapReduce基础 77
5．1 MapReduce的起源 78
5．2 MapReduce是如何工作的 79
5．3 MapReduce作业的优化技术 85
5．3．1 硬件/网络拓扑 85
5．3．2 同步 86
5．3．3 文件系统 86
5．4 MapReduce的应用 86
5．5 HBase在大数据处理中的角色 87
5．6 利用Hive挖掘大数据 89
练习 91
备忘单 94
模块2 管理大数据生态系统
第 1讲 大数据技术基础 97
1．1 探索大数据栈 98
1．2 冗余物理基础设施层 99
1．2．1 物理冗余网络 100
1．2．2 管理硬件：存储和服务器 101
1．2．3 基础设施的操作 101
1．3 安全基础设施层 101
1．4 接口层以及与应用程序和互联网的双向反馈 102
1．5 可操作数据库层 103
1．6 组织数据服务层及工具 104
1．7 分析数据仓库层 105
1．8 分析层 105
1．9 大数据应用层 106
1．10 虚拟化和大数据 107
1．11 虚拟化方法 108
1．11．1 服务器虚拟化 109
1．11．2 应用程序虚拟化 109
1．11．3 网络虚拟化 110
1．11．4 处理器和内存虚拟化 110
1．11．5 数据和存储虚拟化 111
1．11．6 用管理程序进行虚拟化管理 111
1．11．7 抽象与虚拟化 112
1．11．8 实施虚拟化来处理大数据 112
练习 114
备忘单 116
第 2讲 大数据管理系统——数据库和数据仓库 117
2．1 RDBMS和大数据环境 118
2．2 非关系型数据库 119
2．2．1 键值数据库 120
2．2．2 文档数据库 122
2．2．3 列式数据库 124
2．2．4 图数据库 125
2．2．5 空间数据库 127
2．3 混合持久化 129
2．4 将大数据与传统数据仓库相集成 130
2．4．1 优化数据仓库 130
2．4．2 大数据结构与数据仓库的区别 130
2．5 大数据分析和数据仓库 132
2．6 改变大数据时代的部署模式 134
2．6．1 设备模型 134
2．6．2 云模型 135
练习 136
备忘单 138
第3讲 分析与大数据 139
3．1 使用大数据以获取结果 140
3．1．1 基本分析 142
3．1．2 高级分析 143
3．1．3 可操作性分析 144
3．1．4 货币化分析 145
3．2 是什么构成了大数据 145
3．2．1 构成大数据的数据 145
3．2．2 大数据分析算法 146
3．2．3 大数据基础设施支持 146
3．3 探索非结构化数据 148
3．4 理解文本分析 149
3．4．1 分析和提取技术 150
3．4．2 理解提取的信息 151
3．4．3 分类法 152
3．4．4 将结果与结构化数据放在一起 153
3．5 建立新的模式和方法以支持大数据 156
3．5．1 大数据分析的特征 156
3．5．2 大数据分析的应用 157
3．5．3 大数据分析框架的特性 161
练习 163
备忘单 165
第4讲 整合数据、实时数据和实施大数据 168
4．1 大数据分析的各个阶段 169
4．1．1 探索阶段 170
4．1．2 编纂阶段 171
4．1．3 整合和合并阶段 171
4．2 大数据集成的基础 173
4．2．1 传统ETL 174
4．2．2 ELT——提取、加载和转换 175
4．2．3 优先处理大数据质量 175
4．2．4 数据性能分析工具 176
4．2．5 将Hadoop用作ETL 177
4．3 流数据和复杂的事件处理 177
4．3．1 流数据 178
4．3．2 复杂事件处理 181
4．3．3 区分CEP和流 182
4．3．4 流数据和CEP对业务的影响 183
4．4 使大数据成为运营流程的一部分 183
4．5 了解大数据的工作流 186
4．6 确保大数据有效性、准确性和时效性 187
4．6．1 数据的有效性和准确性 187
4．6．2 数据的时效性 187
练习 189
备忘单 191
第5讲 大数据解决方案和动态数据 192
5．1 大数据作为企业战略工具 193
5．1．1 阶段1：利用数据做计划 193
5．1．2 阶段2：执行分析 194
5．1．3 阶段3：检查结果 194
5．1．4 阶段4：根据计划行事 194
5．2 实时分析：把新的维度添加到周期 194
5．2．1 阶段5：实时监控 195
5．2．2 阶段6：调整影响 195
5．2．3 阶段7：实验 195
5．3 对动态数据的需求 196
5．4 案例1：针对环境影响使用流数据 198
5．4．1 这是怎么做到的 198
5．4．2 利用传感器提供实时信息 198
5．4．3 利用实时数据进行研究 199
5．5 案例2：为了公共政策使用大数据 199
5．5．1 问题 200
5．5．2 使用流数据 200
5．6 案例3：在医疗保健行业使用流数据 200
5．6．1 问题 201
5．6．2 使用流数据 201
5．7 案例4：在能源行业使用流数据 201
5．7．1 利用流数据提高能源效率 201
5．7．2 流数据的使用推进了可替代能源的生产 202
5．8 案例5：用实时文本分析提高客户体验 202
5．9 案例6：在金融业使用实时数据 203
5．9．1 保险 204
5．9．2 银行 204
5．9．3 信用卡公司 204
5．10 案例7：使用实时数据防止保险欺诈 205
练习 207
备忘单 210
模块3 存储和处理数据：HDFS和MapReduce
第 1讲 在Hadoop中存储数据 213
1．1 HDFS 214
1．1．1 HDFS的架构 214
1．1．2 使用HDFS文件 218
1．1．3 Hadoop特有的文件类型 220
1．1．4 HDFS联盟和高可用性 224
1．2 HBase 226
1．2．1 HBase的架构 226
1．2．2 HBase模式设计准则 231
1．3 HBase编程 232
1．4 为有效的数据存储结合HDFS和HBase 237
1．5 为应用程序选择恰当的Hadoop数据组织 237
1．5．1 数据被MapReduce独占访问时 237
1．5．2 创建新数据时 238
1．5．3 数据尺寸太大时 238
1．5．4 数据用于实时访问时 238
练习 239
备忘单 241
第 2讲 利用MapReduce处理数据 242
2．1 开始了解MapReduce 243
2．1．1 MapReduce框架 243
2．1．2 MapReduce执行管道 244
2．1．3 MapReduce的运行协调和任务管理 247
2．2 第 一个MapReduce应用程序 249
2．3 设计MapReduce的实现 257
2．3．1 使用MapReduce作为并行处理的框架 258
2．3．2 MapReduce的简单数据处理 259
2．3．3 构建与MapReduce的连接 260
2．3．4 构建迭代的MapReduce应用程序 264
2．3．5 用还是不用MapReduce 268
2．3．6 常见的MapReduce设计提示 269
练习 271
备忘单 274
第3讲 自定义MapReduce执行 275
3．1 用InputFormat控制MapReduce的执行 276
3．1．1 为计算密集型应用程序实施InputFormat 277
3．1．2 实现InputFormat控制map的数量 282
3．1．3 为多HBase表实现InputFormat 287
3．2 用你自定义RecordReader的方式读取数据 290
3．3 用自定义OutputFormat组织输出数据 292
3．4 自定义RecordWriter以你的方式写数据 293
3．5 利用结合器优化MapReduce执行 295
3．6 用分区器来控制reducer的执行 298
练习 299
备忘单 302
第4讲 测试和调试MapReduce应用程序 303
4．1 MapReduce应用程序的单元测试 304
4．1．1 测试mapper 306
4．1．2 测试reducer 307
4．1．3 集成测试 308
4．2 用Eclipse进行本地程序测试 310
4．3 利用日志文件做Hadoop测试 312
4．4 利用工作计数器进行报表度量 316
4．5 在MapReduce中的防御式编程 318
练习 320
备忘单 322
第5讲 实现MapReduce WordCount程序——案例学习 323
5．1 背景 324
5．1．1 句子层级的情感分析 325
5．1．2 情感词法采集 325
5．1．3 文档级别的情感分析 325
5．1．4 比较情感分析 325
5．1．5 基于外观的情感分析 326
5．2 场景 326
5．3 数据解释 326
5．4 方法论 326
5．5 方法 327
模块4 利用Hadoop工具Hive、Pig和Oozie提升效率
第 1讲 探索Hive 343
1．1 介绍Hive 344
1．1．1 Hive数据单元 345
1．1．2 Hive架构 346
1．1．3 Hive元数据存储 347
1．2 启动Hive 347
1．2．1 Hive命令行界面 348
1．2．2 Hive变量 349
1．2．3 Hive属性 349
1．2．4 Hive一次性命令 349
1．3 执行来自文件的Hive查询 350
1．3．1 shell执行 350
1．3．2 Hadoop dfs命令 350
1．3．3 Hive中的注释 351
1．4 数据类型 351
1．4．1 基本数据类型 352
1．4．2 复杂数据类型 354
1．4．3 Hive内置运算符 355
1．5 Hive内置函数 356
1．6 压缩的数据存储 358
1．7 Hive数据定义语言 359
1．7．1 管理Hive中的数据库 359
1．7．2 管理Hive中的表 360
1．8 Hive中的数据操作 364
1．8．1 将数据载入Hive表 364
1．8．2 将数据插入表 365
1．8．3 插入至本地文件 367
练习 368
备忘单 370
第 2讲 高级Hive查询 371
2．1 HiveQL查询 372
2．1．1 SELECT查询 372
2．1．2 LIMIT子句 373
2．1．3 嵌入查询 373
2．1．4 CASE…WHEN…THEN 373
2．1．5 LIKE和RLIKE 373
2．1．6 GROUP BY 374
2．1．7 HAVING 374
2．2 使用函数操作列值 374
2．2．1 内置函数 374
2．2．2 用户定义函数 375
2．3 Hive中的连接 376
2．3．1 内连接 376
2．3．2 外连接 377
2．3．3 笛卡儿积连接 378
2．3．4 Map侧的连接 379
2．3．5 ORDER BY 379
2．3．6 UNION ALL 379
2．4 Hive的最佳实践 380
2．4．1 使用分区 380
2．4．2 规范化 381
2．4．3 有效使用单次扫描 381
2．4．4 桶的使用 381
2．5 性能调优和查询优化 382
2．5．1 EXPLAIN命令 383
2．5．2 LIMIT调优 387
2．6 各种执行类型 387
2．6．1 本地执行 387
2．6．2 并行执行 387
2．6．3 索引 388
2．6．4 预测执行 388
2．7 Hive文件和记录格式 388
2．7．1 文本文件 388
2．7．2 序列文件 389
2．7．3 RCFile 389
2．7．4 记录格式（SerDe） 390
2．7．5 Regex SerDe 390
2．7．6 Avro SerDe 391
2．7．7 JSON SerDe 392
2．8 HiveThrift服务 393
2．8．1 启动HiveThrift服务器 393
2．8．2 使用JDBC的样例HiveThrift客户端 393
2．9 Hive中的安全 395
2．9．1 认证 395
2．9．2 授权 395
练习 397
备忘单 400
第3讲 用Pig分析数据 402
3．1 介绍Pig 403
3．1．1 Pig架构 403
3．1．2 Pig Latin的优势 404
3．2 安装Pig 405
3．2．1 安装Pig所需条件 405
3．2．2 下载Pig 405
3．2．3 构建Pig库 406
3．3 Pig的属性 406
3．4 运行Pig 407
3．5 Pig Latin应用程序流 408
3．6 开始利用Pig Latin 409
3．6．1 Pig Latin结构 410
3．6．2 Pig数据类型 411
3．6．3 Pig语法 412
3．7 Pig脚本接口 413
3．8 Pig Latin的脚本 415
3．8．1 用户定义函数 415
3．8．2 参数替代 418
3．9 Pig中的关系型操作 419
3．9．1 FOREACH 419
3．9．2 FILTER 420
3．9．3 GROUP 421
3．9．4 ORDER BY 422
3．9．5 DISTINCT 423
3．9．6 JOIN 424
3．9．7 LIMIT 425
3．9．8 SAMPLE 426
练习 427
备忘单 430
第4讲 Oozie对数据处理进行自动化 431
4．1 开始了解Oozie 432
4．2 Oozie工作流 433
4．2．1 在Oozie工作流中执行异步活动 436
4．2．2 实现Oozie工作流 437
4．3 Oozie协调器 443
4．4 Oozie套件 448
4．5 利用EL的Oozie参数化 451
4．5．1 工作流函数 451
4．5．2 协调器函数 452
4．5．3 套件函数 452
4．5．4 其他EL函数 452
4．6 Oozie作业执行模型 452
4．7 访问Oozie 455
4．8 Oozie SLA 456
练习 460
备忘单 462
第5讲 使用Oozie 464
5．1 业务场景：使用探测包验证关于位置的信息 465
5．2 根据探测包设计位置验证 466
5．3 设计Oozie工作流 467
5．4 实现Oozie工作流应用程序 469
5．4．1 实现数据准备工作流 469
5．4．2 实现考勤指数和集群簇的工作流 477
5．5 实现工作流的活动 479
5．5．1 从java行为中填充执行上下文 479
5．5．2 在Oozie工作流中使用MapReduce作业 480
5．6 实现Oozie协调器应用程序 483
5．7 实现Oozie套件应用程序 488
5．8 部署、测试和执行Oozie应用程序 489
5．8．1 使用Oozie CLI执行Oozie应用程序 490
5．8．2 将参数传递给Oozie作业 493
5．8．3 决定如何将参数传递给Oozie作业 495
练习 497
备忘单 499
