大数据日知录架构与算法

　　1.大数据领域技术专家、畅销书《这就是搜索引擎：核心技术详解》作者张俊林全新力作，历时3年，质量上乘
　　2.《大数据》《信息检索导论》译者王斌、机器学习专家张栋、新浪微博平台及大数据总经理刘子正、盛大文学首席数据官陈运文、CSDN/《程序员》创始人蒋涛联袂力荐
　　3.全面梳理大数据相关技术，从数据、算法、策略、应用和系统架构等多个维度进行剖析，包罗万象又深入浅出
　　4.内容全部是干货，紧跟技术前沿，是作者理论与实践经验的总结，非常值得一读
　　5.每章后列有精选高质量论文，可以节约读者筛选读物的时间

　　大数据是当前流行的热点概念之一，其已由技术名词衍生到对很多行业产生颠覆性影响的社会现象，作为明确的技术发展趋势之一，基于大数据的各种新型产品必将会对每个人的日常生活产生日益重要的影响。
　　张俊林著的这本《大数据日知录：架构与算法》从架构与算法的角度全面梳理了大数据存储与处理的相关技术。大数据技术具有涉及的知识点异常众多且正处于快速演进发展过程中等特点，其技术点包括底层的硬件体系结构、相关的基础理论、大规模数据存储系统、分布式架构设计、各种不同应用场景下的差异化系统设计思路、机器学习与数据挖掘并行算法以及层出不穷的新架构、新系统等。本书对众多纷繁芜杂的相关技术文献和系统进行了择优汰劣并系统性地对相关知识分门别类地进行整理和介绍，将大数据相关技术分为大数据基础理论、大数据系统体系结构、大数据存储，以及包含批处理、流式计算、交互式数据分析、图数据库、并行机器学习的架构与算法以及增量计算等技术分支在内的大数据处理等几个大的方向。通过这种体系化的知识梳理与讲解，相信对于读者整体和系统地了解、吸收和掌握相关的技术有很大的帮助与促进作用。

　　我和俊林接触不多但神交已久，几年前我看过他一本搜索方面的技术书籍，觉得写得相当不错，从此俊林的书都是必然要收藏的。看了这本书，感觉和上一本一样出色。和其他介绍大数据技术的书相比，这本书的涉及面相当广，覆盖了当前大数据技术（分布式计算、大规模文件系统、NoSQL数据库、常用数据结构和算法、批处理和流式计算、图数据库、分布式机器学习等）的方方面面。实在且实用，我想是这本书的特点，诚挚推荐对大数据技术感兴趣的读者阅读。
　　——王斌
　　中国科学院信息工程研究所研究员、博士生导师，《大数据》《信息检索导论》译者

　　本书区别于市场上已有的众多大数据概念类书籍，重点讲述了解决大数据问题的算法与架构，全书逻辑清晰，重点突出，讲述复杂算法时图文并茂，可以看出作者将实际工作经验结合理论，在本书上花了很多心血，相信能帮助从事大数据工作的所有工程技术人员。
　　——张栋
　　原百度科学家，凤巢系统架构师；原Google研究员，机器学习专家

　　此书内容跨度很大，可称为大数据领域“从入门到精通”的教科书，非常全面且系统化。人人都在谈论大数据，但事实上并没有人告诉大家大数据到底是什么、涵盖哪些方面，而此书可以给出答案。
　　——刘子正
　　新浪微博平台及大数据总经理

　　这是一本大数据技术的百科全书——从大数据的存储结构、内容管理，讲到集群任务调度、分布式数据通信、流行的各类新式数据库的介绍，还有基于机器学习技术的大数据实现以及大数据挖掘应用范例等内容，既包罗万象，又深入浅出。俊林的这本心血之作，是大数据研发人员绝好的技术向导。
　　——陈运文
　　盛大文学首席数据官

　　大数据已成为上到国家领导人，下到媒体会议必谈话题，但大数据的应用时代才刚刚开始，各大互联网公司都奇缺熟悉Hadoop、分布式系统开发和数据分析挖掘的人才，张俊林这本书全面展示了大数据相关的技术，理论算法和实践，有广度有深度，对于希望掌握大数据技术的开发者是必备利器。
　　——蒋涛
　　CSDN总裁、《程序员》杂志创始人

第0 章 当谈论大数据时我们在谈什么 1
0.1 大数据是什么2
0.2 大数据之翼：技术范型转换.4
0.3 大数据商业炼金术6
0.4 “大数据”在路上.7
第1 章 数据分片与路由 9
1.1 抽象模型.10
1.2 哈希分片（HashPartition） 11
1.2.1 RoundRobin11
1.2.2 虚拟桶（VirtualBuckets） 12
1.2.3 一致性哈希（ConsistentHashing） .13
1.3 范围分片（RangePartition） 18
参考文献19
第2 章 数据复制与一致性20
2.1 基本原则与设计理念21
2.1.1 原教旨CAP 主义21
2.1.2 CAP 重装上阵（CAPReloaded）.23
2.1.3 ACID 原则.24
2.1.4 BASE 原则.24
2.1.5 CAP/ACID/BASE三者的关系.25
2.1.6 幂等性（Idempotent）26
2.2 一致性模型分类.26
2.2.1 强一致性27
2.2.2 最终一致性28
2.2.3 因果一致性.28
2.2.4 “读你所写”一致性29
2.2.5 会话一致性29
2.2.6 单调读一致性30
2.2.7 单调写一致性.30
2.3 副本更新策略.30
2.3.1 同时更新30
2.3.2 主从式更新.31
2.3.3 任意节点更新32
2.4 一致性协议.32
2.4.1 两阶段提交协议（Two-PhraseCommit，2PC）33
2.4.2 向量时钟（VectorClock） 38
2.4.3 RWN 协议.40
2.4.4 Paxos 协议.42
2.4.5 Raft 协议.45
参考文献49
第3 章 大数据常用的算法与数据结构51
3.1 布隆过滤器（BloomFilter） 51
3.1.1 基本原理.52
3.1.2 误判率及相关计算52
3.1.3 改进：计数BloomFilter53
3.1.4 应用54
3.2SkipList55
3.3 LSM 树58
3.4 Merkle 哈希树（MerkleHash Tree） .62
3.4.1 Merkle 树基本原理62
3.4.2 Dynamo 中的应用.63
3.4.3 比特币中的应用63
3.5 Snappy 与LZSS 算法65
3.5.1 LZSS 算法.65
3.5.2Snappy67
3.6 Cuckoo 哈希（CuckooHashing） 67
3.6.1 基本原理.68
3.6.2 应用：SILT 存储系统.68
参考文献.70
第4 章 集群资源管理与调度.71
4.1 资源管理抽象模型.72
4.1.1 概念模型72
4.1.2 通用架构.73
4.2 调度系统设计的基本问题.74
4.2.1 资源异质性与工作负载异质性74
4.2.2 数据局部性（DataLocality） 75
4.2.3 抢占式调度与非抢占式调度.75
4.2.4 资源分配粒度（AllocationGranularity） .76
4.2.5 饿死（Starvation）与死锁（Dead Lock）问题.76
4.2.6 资源隔离方法77
4.3 资源管理与调度系统范型.77
4.3.1 集中式调度器（MonolithicScheduler）.78
4.3.2 两级调度器（Two-LevelScheduler） .79
4.3.3 状态共享调度器（Shared-StateScheduler） 79
4.4 资源调度策略.81
4.4.1 FIFO 调度策略81
4.4.2 公平调度器（FairScheduler）81
4.4.3 能力调度器（CapacityScheduler） 82
4.4.4 延迟调度策略（DelayScheduling）82
4.4.5 主资源公平调度策略（DominantResource Fair Scheduling）.82
4.5 Mesos.84
4.6YARN87
参考文献90
第5 章 分布式协调系统.91
5.1 Chubby 锁服务.92
5.1.1 系统架构93
5.1.2 数据模型94
5.1.3 会话与KeepAlive 机制.95
5.1.4 客户端缓存.95
5.2 ZooKeeper96
5.2.1 体系结构.96
5.2.2 数据模型（DataModel） .97
5.2.3 API.98
5.2.4 ZooKeeper 的典型应用场景98
5.2.5 ZooKeeper 的实际应用.103
参考文献.104
第6 章 分布式通信106
6.1 序列化与远程过程调用框架107
6.1.1 ProtocolBuffer 与Thrift .108
6.1.2Avro.109
6.2 消息队列.110
6.2.1 常见的消息队列系统110
6.2.2 Kafka.111
6.3 应用层多播通信（Application-LevelMulti-Broadcast）114
6.3.1 概述.114
6.3.2 Gossip 协议.115
参考文献118
第7 章 数据通道.120
7.1 Log 数据收集.120
7.1.1Chukwa121
7.1.2Scribe122
7.2 数据总线123
7.2.1Databus125
7.2.2 Wormhole.127
7.3 数据导入/导出.128
参考文献.129
第8 章 分布式文件系统131
8.1 Google 文件系统（GFS） .132
8.1.1 GFS 设计原则.132
8.1.2 GFS 整体架构133
8.1.3 GFS 主控服务器134
8.1.4 系统交互行为.136
8.1.5 Colossus137
8.2 HDFS138
8.2.1 HDFS 整体架构.139
8.2.2 HA 方案140
8.2.3 NameNode 联盟143
8.3 HayStack 存储系统145
8.3.1 HayStack 整体架构.146
8.3.2 目录服务147
8.3.3 HayStack 缓存.148
8.3.4 HayStack 存储系统的实现.148
8.4 文件存储布局.150
8.4.1 行式存储151
8.4.2 列式存储.151
8.4.3 混合式存储156
8.5 纠删码（ErasureCode）.158
8.5.1 Reed-Solomon 编码.159
8.5.2 LRC 编码.164
8.5.3 HDFS-RAID 架构.166
参考文献.166
第9 章 内存KV 数据库.168
9.1 RAMCloud169
9.1.1 RAMCloud 整体架构169
9.1.2 数据副本管理与数据恢复170
9.2Redis172
9.3 MemBase.173
参考文献175

　　像移动互联网、O2O、可穿戴设备等概念一样，“大数据”从甫一提出到飓风般席卷并风靡全球，从最初的技术名词到形成渗透到各行各业的社会现象，所耗时间仅几年而已，其兴也勃焉。
　　那么，大数据是否会像很多曾经火热现在已难觅踪迹的流行概念一样，将来某日，人们静心抬眼，发现风已去而水波不兴，徒留夕阳下波光粼粼的涟漪，让人不禁哀叹其亡也忽焉？
　　本书的背景
　　目前看仿佛有此迹象，当一个概念火爆到从街头随便抓一个路人，他都能跟你滔滔不绝地侃侃而谈；当一个新名词铺天盖地而来，让你熟悉到再见一次就要吐的程度，这些确实是典型的泡沫将破的征兆。目前业已出现越来越多的质疑声音，在这种狂热的氛围下，理性的质疑是最难能可贵的，毕竟大数据归根结底是少数派的游戏，而现状好像是人人都处于大数据进行时的状态，这让其看上去显得不甚理性。
　　但是，从社会发展趋势的角度，很明显大数据会是目前肉眼可及的视野范围里能看到的最大趋势之一。从传统IT业到互联网、互联网到移动互联网，从以智能手机和Pad为主要终端载体的移动互联网到可穿戴设备的移动互联网，然后再到万物互联的物联网，这一定是不可违抗的发展规律和前进方向。伴随着这个趋势必然有越来越多、形态越来越丰富的超量数据不断产生，而大数据明显是由此衍生出来的明确且必然的发展趋势。
　　所以，归根结底，大数据概念是个短期内炒得过热，但是从长期来看炒得不足的领域。再过十年如果回望现在，也许会发现：我们今天正在巍峨群山的山脚徘徊，试图找出一条通往山顶的羊肠小道，如此而已。我们当然不能盲目跟风不断追逐切换热点，但是忽视趋势的力量同样也不是一个理性的选择。
　　本书的内容
　　以上所述是本书诞生的大背景，目前市面上陆陆续续已经有不少讲大数据的书，有面向大众的概念普及类图书，也有讲解大数据技术的书，本书属于第二类，专注于大数据处理有关的架构与算法，我相信这是一本比较全面地分门别类梳理大数据技术的书籍。从大约2010年年底起我开始关注并收集整理这方面的技术资料，当然那时还没有听说过大数据的概念，现在的所谓大数据已经是后来的事情了，最初引起我关注的是NoSQL相关的技术，尤其是Google和亚马逊的一系列相关工作，当时隐约地觉得这是一种新的技术发展趋势，甚至是一次技术范型的大转换，所以逐步开始投入越来越多的精力到其中，这包括将相关技术资料分门别类地进行收集、阅读和整理，利用业余时间开始一章一节地慢慢写本书，以及在实际工作中尽可能地应用这些技术和系统等若干方面。
　　本书的写作
　　断断续续完成本书花了大约3年左右的时间，和最初预估的时间还是比较吻合的，这一方面是由于我可投入的时间本身就不多，但是还是希望能够写出一本高质量的技术书籍，所以不得不慢工出细活；另外一方面是由于大数据处理作为一个新领域，其涉及的方方面面的技术点实在太多，而且正处于快速的发展过程中。这个领域是我接触过的领域中知识涵盖面最广的，从底层的硬件开始，到涉及基础理论、大规模数据存储系统、分布式架构设计、各种不同适用场景下的差异化系统设计思路、机器学习与数据挖掘并行算法、层出不穷的新架构和新系统等，说无所不包有些夸张但是所需掌握知识点之多确实是很少见的。而且因为其处于快速发展的过程当中，所以各种技术纷繁芜杂，并无一个成熟的知识分类体系可供参考，需要不断梳理相关知识点之间的相互区别和联系并进行分门别类，如何将纷杂多样的技术梳理成清晰合理的章节内容曾让我头疼不已，当然发展到目前，整个大数据技术体系脉络已经日渐明晰，我相信参考本书目录可以清晰地发现这一点。另外一个阻碍是可参考的资料和系统多而杂，且质量良莠不齐，需要从中汰劣余优，尽可能选出有代表性及有发展潜力的理论、方案和系统，这也是很耗费精力的过程，尽管本书每章后只列出了很少一部分参考资料，但是实际参考的文献与系统要数倍于此，只列出精华部分是为了节省读者选择高质量文献的过程。
　　十几年前当我还在中国科学院读书的时候，就对互联网的蓬勃发展及其对生活和工作各方面的影响感慨不已，当时最直观的感受是最新的国际会议论文很容易获得，往往是会议一开完就能从网上下载到感兴趣的文献，有时候会议没开有些作者就把论文先放在网上供人参考。觉得有了互联网这么强大的全球范围信息便捷分享工具，尽管当时国内科研水平不算高，在最好的国际顶级会议发表论文还是较难的事情，但是随着互联网的普及，科研水准应该能够获得极为快速长足的发展，因为从追踪最新技术进展的角度看大家的起跑线是一样的，而中国人多的优势慢慢应该能够发挥出来，事实上也是如此，最近几年各种国际顶级会议中，国人发表的论文比例越来越高可以证明这一点，而很明显这个趋势还会进一步加快。之所以提这个，是因为大数据相关技术研发道理其实也是一样的，尽管目前国内在这方面的实力和国外相比还有很大的差距，优秀的系统和技术方案往往都是Google、亚马逊、Facebook、Linkedin等这些国际知名互联网公司提出的，国内工业界的技术水准大部分还仅仅停留在能把开源的大数据系统应用起来解决手头碰到的问题这个阶段，但是我相信在不远的将来，国内会逐步涌现出具有国际水准的大数据系统与解决方案，其中的道理与上面所举的学术进步的例子是一样的。目前大部分优秀系统是开源的，相关技术文献也很容易找到，作为有进取心的技术人员，现在所缺乏的不是没有可参考的学习资料，相反是资料太多良莠不齐反而让很多人无所适从，不知该如何下手。国内的技术人员只要肯下功夫、会下功夫，有好的职业发展环境和高的自我期许及技术理想，假以时日，越来越多的世界级水准的大数据处理系统出自国人之手是完全可以预料的，我期望本书对于这些技术人员在全面了解吸收并掌握大数据处理的优秀技术过程中，能贡献绵薄之力。沈利也参与了本书的部分编写工作。
　　张俊林
　　2014年3月