ch3 更正

This commit is contained in:
Vonng 2018-03-06 00:32:08 +08:00
parent 2d2a16ce4a
commit 854474e9bc
2 changed files with 156 additions and 251 deletions

View File

@ -9,7 +9,7 @@
## 法律声明
译者纯粹出于学习目的与个人兴趣翻译,本译文只供学习研究参考之用,不得公开传播发行用于商业用途。有能力阅读英文书籍者请购买正版支持。
译者纯粹出于学习目的与个人兴趣翻译,本译文只供学习研究参考之用,不得公开传播发行用于商业用途。有能力阅读英文书籍者请购买正版支持。
译者保留对译文的署名权,其他权利以原作者和出版社的主张为准,侵删。

View File

@ -13,11 +13,11 @@
在最基本的层次上,一个数据库需要完成两件事情:当你给它数据时,它应该存储起来,而当你提问时,它应该把数据返回给你。
在第二章中,我们讨论了数据模型和查询语言,即程序员录入数据库的数据格式,以及你可以再次获取它的机制。在本章中,我们讨论一样的问题,但是是从数据库的视角:我们如何存储我们提供的数据,以及如何在需要时重新找到数据。
在第二章中,我们讨论了数据模型和查询语言,即程序员录入数据库的数据格式,以及你可以再次获取它的机制。在本章中,我们讨论同样的问题,却是从数据库的视角:数据库如何存储我们提供的数据,以及如何在我们需要时重新找到数据。
作为程序员,为什么要关心数据库如何在内部处理存储和检索?可能不会从头开始实现自己的存储引擎,但是您需要从可用的许多存储引擎中选择适合应用程序的存储引擎。为了调整存储引擎以适应应用的工作负载,你需要大致了解存储引擎在做什么。
作为程序员,为什么要关心数据库如何在内部处理存储和检索?可能不会从头开始实现自己的存储引擎,但是您需要从可用的许多存储引擎中选择适合应用程序的存储引擎。为了调谐一个存储引擎以适应应用工作负载,你需要大致了解存储引擎在做什么。
特别需要注意,针对事务性工作负载优化的存储引擎,与针对分析优化的存储引擎之间存在着巨大差异。稍后我们将在第90页的 “事务处理或分析?” 和第91页的 “列存储”中探讨这个区别,那里将讨论针对分析优化的一系列存储引擎。
特别需要注意,针对事务性工作负载优化的存储引擎,与针对分析优化的存储引擎之间存在着巨大差异。稍后我们将在 “[事务处理还是分析?](#事务处理还是分析?)” 和 “[列存储](#列存储)”中探讨这个区别,那里将讨论针对分析优化的一系列存储引擎。
但是我们将从您最可能熟悉的两大类数据库传统关系型数据库与所谓的“NoSQL”数据库开始通过介绍它们的存储引擎来开始本章的内容。
@ -25,7 +25,7 @@
### 数据库的底层数据结构
## 数据库的底层数据结构
世界上最简单的数据库可以用两个Bash函数实现
@ -75,27 +75,27 @@ $ cat database
让我们从键值数据key-value Data的索引开始。这不是您可以索引的唯一一种数据类型但键值数据是非常常见的。对于更复杂的索引来说这是一个有用的构建模块。
键值存储与在大多数编程语言中可以找到的字典类型非常相似,通常字典都是用散列表(哈希表)实现的。哈希映射在许多算法教科书中都有描述[1,2]所以我们不会详细讨论它们工作方式。既然我们已经有内存数据结构——HashMap为什么不使用它们来索引在磁盘上的数据呢
键值存储与在大多数编程语言中可以找到的字典类型非常相似,通常字典都是用散列表(哈希表)实现的。哈希映射在许多算法教科书中都有描述【1,2】所以我们不会详细讨论它们工作方式。既然我们已经有内存数据结构——HashMap为什么不使用它们来索引在磁盘上的数据呢
假设我们的数据存储只包含一个文件就像前面的例子一样。然后最简单的索引策略是保留一个内存HashMap其中每个键映射到数据文件中的一个字节偏移量即该值可以被找到的位置。
如图3-1所示。无论何时将新的键值对添加到文件中还要更新散列映射以反映刚刚写入的数据的偏移量这适用于插入新键和更新现有键。查找一个值时使用哈希映射来查找数据文件中的偏移量寻找该位置并读取该值。
[图3-1](img/fig3-1.png)所示。无论何时将新的键值对添加到文件中,还要更新散列映射以反映刚刚写入的数据的偏移量(这适用于插入新键和更新现有键)。查找一个值时,使用哈希映射来查找数据文件中的偏移量,寻找该位置并读取该值。
![](img/fig3-1.png)
**图3-1 以类CSV格式存储键值对的日志并使用内存哈希映射进行索引。**
听上去简单但这是一个可行的方法。这实际上就是Bitcask做的事情Riak中默认的存储引擎[3]。 Bitcask提供高性能的读取和写入操作但所有键必须能合适地放入在内存因为哈希映射完全保留在内存中。这些值可以使用比可用内存更多的空间因为可以从磁盘上通过一次`seek`加载所需部分如果数据文件的那部分已经在文件系统缓存中则读取根本不需要任何磁盘I/O。
听上去简单但这是一个可行的方法。这实际上就是Bitcask做的事情Riak中默认的存储引擎【3】。 Bitcask提供高性能的读取和写入操作但所有键必须能合适地放入在内存因为哈希映射完全保留在内存中。这些值可以使用比可用内存更多的空间因为可以从磁盘上通过一次`seek`加载所需部分如果数据文件的那部分已经在文件系统缓存中则读取根本不需要任何磁盘I/O。
像Bitcask这样的存储引擎非常适合每个键的值经常更新的情况。例如键可能是视频的URL值可能是它播放的次数每次有人点击播放按钮时递增。在这种类型的工作负载中有很多写操作但是没有太多不同的键 - 每个键有很多的写操作,但是将所有键保存在内存中是可行的。
像Bitcask这样的存储引擎非常适合每个键的值经常更新的情况。例如键可能是视频的URL值可能是它播放的次数每次有人点击播放按钮时递增。在这种类型的工作负载中有很多写操作但是没有太多不同的键——每个键有很多的写操作,但是将所有键保存在内存中是可行的。
直到现在,我们只是追加写一个文件 - 所以我们如何避免最终用完磁盘空间一个好的解决方案是通过在达到一定大小时关闭一个段文件然后将其写入一个新的段文件来将日志分割成特定大小的段。然后我们可以对这些段进行压缩如图3-2所示。压缩意味着在日志中丢弃重复的键只保留每个键的最新更新。
直到现在,我们只是追加写一个文件 - 所以我们如何避免最终用完磁盘空间?一个好的解决方案是通过在达到一定大小时关闭一个段文件,然后将其写入一个新的段文件来将日志分割成特定大小的段。然后我们可以对这些段进行压缩,如[图3-2](img/fig3-2.png)所示。压缩意味着在日志中丢弃重复的键,只保留每个键的最新更新。
![](img/fig3-2.png)
**图3-2 压缩键值更新日志(统计猫视频的播放次数),只保留每个键的最近值**
而且由于压缩经常会使得段更小假设在一个段内键被平均重写了好几次我们也可以在执行压缩的同时将多个段合并在一起如图3-3所示。段被写入后永远不会被修改所以合并的段被写入一个新的文件。冻结段的合并和压缩可以在后台线程中完成在进行时我们仍然可以继续使用旧的段文件来正常提供读写请求。合并过程完成后我们将读取请求转换为使用新的合并段而不是旧段 - 然后可以简单地删除旧的段文件。
而且,由于压缩经常会使得段更小(假设在一个段内键被平均重写了好几次),我们也可以在执行压缩的同时将多个段合并在一起,如[图3-3](img/fig3-3.png)所示。段被写入后永远不会被修改,所以合并的段被写入一个新的文件。冻结段的合并和压缩可以在后台线程中完成,在进行时,我们仍然可以继续使用旧的段文件来正常提供读写请求。合并过程完成后,我们将读取请求转换为使用新的合并段而不是旧段 - 然后可以简单地删除旧的段文件。
![](img/fig3-3.png)
@ -126,7 +126,7 @@ $ cat database
乍一看,只有追加日志看起来很浪费:为什么不更新文件,用新值覆盖旧值?但是只能追加设计的原因有几个:
* 追加和分段合并是顺序写入操作通常比随机写入快得多尤其是在磁盘旋转硬盘上。在某种程度上顺序写入在基于闪存的固态硬盘SSD上也是优选的[4]。我们将在第83页的“比较B-树和LSM-树”中进一步讨论这个问题。
* 追加和分段合并是顺序写入操作通常比随机写入快得多尤其是在磁盘旋转硬盘上。在某种程度上顺序写入在基于闪存的固态硬盘SSD上也是优选的【4】。我们将在第83页的“[比较B-树和LSM-树](#比较B-树和LSM-树)”中进一步讨论这个问题。
* 如果段文件是附加的或不可变的,并发和崩溃恢复就简单多了。例如,您不必担心在覆盖值时发生崩溃的情况,而将包含旧值和新值的一部分的文件保留在一起。
* 合并旧段可以避免数据文件随着时间的推移而分散的问题。
@ -134,9 +134,9 @@ $ cat database
* 散列表必须能放进内存
如果你有非常多的键那真是倒霉。原则上可以在磁盘上保留一个哈希映射不幸的是磁盘哈希映射很难表现优秀。它需要大量的随机访问I/O当它变满时增长是很昂贵的并且散列冲突需要很多的逻辑[5]
如果你有非常多的键那真是倒霉。原则上可以在磁盘上保留一个哈希映射不幸的是磁盘哈希映射很难表现优秀。它需要大量的随机访问I/O当它变满时增长是很昂贵的并且散列冲突需要很多的逻辑【5】
* 范围查询效率不高。例如您无法轻松扫描kitty00000和kitty99999之间的所有键 - 您必须在散列映射中单独查找每个键。
* 范围查询效率不高。例如您无法轻松扫描kitty00000和kitty99999之间的所有键——您必须在散列映射中单独查找每个键。
在下一节中,我们将看看一个没有这些限制的索引结构。
@ -144,7 +144,7 @@ $ cat database
### SSTables和LSM-Trees
在图3-3中每个日志结构存储段都是一系列键值对。这些对按照它们写入的顺序出现日志中稍后的值优先于日志中较早的相同键的值。除此之外文件中键值对的顺序并不重要。
[图3-3](img/fig3-3.png)中,每个日志结构存储段都是一系列键值对。这些对按照它们写入的顺序出现,日志中稍后的值优先于日志中较早的相同键的值。除此之外,文件中键值对的顺序并不重要。
现在我们可以对段文件的格式做一个简单的改变:我们要求键值对的序列按键排序。乍一看,这个要求似乎打破了我们使用顺序写入的能力,但是我们马上就会明白这一点。
@ -158,7 +158,7 @@ $ cat database
如果在几个输入段中出现相同的键,该怎么办?请记住,每个段都包含在一段时间内写入数据库的所有值。这意味着一个输入段中的所有值必须比另一个段中的所有值更新(假设我们总是合并相邻的段)。当多个段包含相同的键时,我们可以保留最近段的值,并丢弃旧段中的值。
2. 为了在文件中找到一个特定的键,你不再需要保存内存中所有键的索引。以[图3-5]()为例:假设你正在内存中寻找键`handiwork`,但是你不知道段文件中该关键字的确切偏移量。然而,你知道`handbag`和`handsome`的偏移,而且由于排序特性,你知道`handiwork`必须出现在这两者之间。这意味着您可以跳到`handbag`的偏移位置并从那里扫描,直到您找到`handiwork`(或没找到,如果该文件中没有该键)。
2. 为了在文件中找到一个特定的键,你不再需要保存内存中所有键的索引。以[图3-5](img/fig3-5.png)为例:假设你正在内存中寻找键`handiwork`,但是你不知道段文件中该关键字的确切偏移量。然而,你知道`handbag`和`handsome`的偏移,而且由于排序特性,你知道`handiwork`必须出现在这两者之间。这意味着您可以跳到`handbag`的偏移位置并从那里扫描,直到您找到`handiwork`(或没找到,如果该文件中没有该键)。
![](img/fig3-5.png)
@ -174,11 +174,11 @@ $ cat database
到目前为止,但是如何让你的数据首先被按键排序呢?我们的传入写入可以以任何顺序发生。
在磁盘上维护有序结构是可能的参阅“B-Tree”但在内存保存则要容易得多。有许多可以使用的众所周知的树形数据结构例如红黑树或AVL树[2]。使用这些数据结构,您可以按任何顺序插入键,并按排序顺序读取它们。
在磁盘上维护有序结构是可能的参阅“B-Tree”但在内存保存则要容易得多。有许多可以使用的众所周知的树形数据结构例如红黑树或AVL树【2】。使用这些数据结构,您可以按任何顺序插入键,并按排序顺序读取它们。
现在我们可以使我们的存储引擎工作如下:
* 写入时,将其添加到内存中的平衡树数据结构(for例如红黑树。这个内存树有时被称为memtable。
* 写入时将其添加到内存中的平衡树数据结构例如红黑树。这个内存树有时被称为memtable。
* 当memtable大于某个阈值通常为几兆字节将其作为SSTable文件写入磁盘。这可以高效地完成因为树已经维护了按键排序的键值对。新的SSTable文件成为数据库的最新部分。当SSTable被写入磁盘时写入可以继续到一个新的memtable实例。
* 为了提供读取请求首先尝试在memtable中找到关键字然后在最近的磁盘段中然后在下一个较旧的段中找到该关键字。
* 有时会在后台运行合并和压缩过程以组合段文件并丢弃覆盖或删除的值。
@ -187,17 +187,17 @@ $ cat database
#### 用SSTables制作LSM树
这里描述的算法本质上是LevelDB [6]和RocksDB [7]中使用的关键值存储引擎库被设计嵌入到其他应用程序中。除此之外LevelDB可以在Riak中用作Bitcask的替代品。在Cassandra和HBase中使用了类似的存储引擎[8]这两种引擎都受到了Google的Bigtable文档[9]引入了SSTable和memtable的启发。
这里描述的算法本质上是LevelDB 【6】和RocksDB 【7】中使用的关键值存储引擎库被设计嵌入到其他应用程序中。除此之外LevelDB可以在Riak中用作Bitcask的替代品。在Cassandra和HBase中使用了类似的存储引擎【8】这两种引擎都受到了Google的Bigtable文档【9】引入了SSTable和memtable的启发。
最初这种索引结构是由Patrick O'Neil等人描述的。在Log-Structured Merge-Tree或LSM-Tree[10]的基础上,建立在以前的工作上日志结构的文件系统[11]。基于这种合并和压缩排序文件原理的存储引擎通常被称为LSM存储引擎。
最初这种索引结构是由Patrick O'Neil等人描述的。在日志结构合并树或LSM-Tree【10】的基础上建立在以前的工作上日志结构的文件系统【11】。基于这种合并和压缩排序文件原理的存储引擎通常被称为LSM存储引擎。
Lucene是Elasticsearch和Solr使用的一种全文搜索的索引引擎它使用类似的方法来存储它的词典[12,13]。全文索引比键值索引复杂得多但是基于类似的想法在搜索查询中给出一个单词找到提及单词的所有文档网页产品描述等。这是通过键值结构实现的其中键是单词术语值是包含单词发布列表的所有文档的ID的列表。在Lucene中从术语到发布列表的这种映射保存在SSTable类的有序文件中根据需要在后台合并[14]
Lucene是Elasticsearch和Solr使用的一种全文搜索的索引引擎它使用类似的方法来存储它的词典【12,13】。全文索引比键值索引复杂得多但是基于类似的想法在搜索查询中给出一个单词找到提及单词的所有文档网页产品描述等。这是通过键值结构实现的其中键是单词术语值是包含单词发布列表的所有文档的ID的列表。在Lucene中从术语到发布列表的这种映射保存在SSTable类的有序文件中根据需要在后台合并【14】
#### 性能优化
与往常一样大量的细节使得存储引擎在实践中表现良好。例如当查找数据库中不存在的键时LSM树算法可能会很慢您必须检查memtable然后将这些段一直回到最老的可能必须从磁盘读取每一个然后才能确定键不存在。为了优化这种访问存储引擎通常使用额外的Bloom过滤器[15]。 (布隆过滤器是用于近似集合内容的内存高效数据结构,它可以告诉您数据库中是否出现键,从而为不存在的键节省许多不必要的磁盘读取操作。
与往常一样大量的细节使得存储引擎在实践中表现良好。例如当查找数据库中不存在的键时LSM树算法可能会很慢您必须检查memtable然后将这些段一直回到最老的可能必须从磁盘读取每一个然后才能确定键不存在。为了优化这种访问存储引擎通常使用额外的Bloom过滤器【15】。 (布隆过滤器是用于近似集合内容的内存高效数据结构,它可以告诉您数据库中是否出现键,从而为不存在的键节省许多不必要的磁盘读取操作。
还有不同的策略来确定SSTables如何被压缩和合并的顺序和时间。最常见的选择是大小分层压实。 LevelDB和RocksDB使用平坦压缩因此Lev-elDB的名称HBase使用大小分层Cassandra同时支持[16]。在规模级别的调整中更新和更小的SSTables先后被合并到更老的和更大的SSTable中。在水平压实中关键范围被拆分成更小的SSTables而较旧的数据被移动到单独的“水平”这使得压缩能够更加递增地进行并且使用更少的磁盘空间。
还有不同的策略来确定SSTables如何被压缩和合并的顺序和时间。最常见的选择是大小分层压实。 LevelDB和RocksDB使用平坦压缩LevelDB因此得名HBase使用大小分层Cassandra同时支持【16】。在规模级别的调整中更新和更小的SSTables先后被合并到更老的和更大的SSTable中。在水平压实中关键范围被拆分成更小的SSTables而较旧的数据被移动到单独的“水平”这使得压缩能够更加递增地进行并且使用更少的磁盘空间。
即使有许多微妙的东西LSM树的基本思想 - 保存一系列在后台合并的SSTables - 简单而有效。即使数据集比可用内存大得多它仍能继续正常工作。由于数据按排序顺序存储因此可以高效地执行范围查询扫描所有高于某些最小值和最高值的所有键并且因为磁盘写入是连续的所以LSM-tree可以支持非常高的写入吞吐量。
@ -205,13 +205,13 @@ Lucene是Elasticsearch和Solr使用的一种全文搜索的索引引擎它使
### B树
我们迄今为止讨论的日志结构索引正在被接受但它们并不是最常见的索引类型。使用最广泛的索引结构是1970年引入[17]不到10年后又被称为“无处不在”[18]B树经受了时间的考验。在几乎所有的关系数据库中它们仍然是标准的索引实现许多非关系数据库也使用它们。
刚才讨论的日志结构索引正处在逐渐被接受的阶段但它们并不是最常见的索引类型。使用最广泛的索引结构在1970年被引入【17】不到10年后变得“无处不在”【18】B树经受了时间的考验。在几乎所有的关系数据库中它们仍然是标准的索引实现许多非关系数据库也使用它们。
像SSTables一样B树保持按键排序的键值对这允许高效的键值查找和范围查询。但这就是相似之处的结尾B树有着非常不同的设计理念。
我们前面看到的日志结构索引将数据库分解为可变大小的段通常是几兆字节或更大的大小并且总是按顺序编写段。相比之下B树将数据库分解成固定大小的块或页面传统上大小为4 KB有时会更大并且一次只能读取或写入一个页面。这种设计更接近于底层硬件因为磁盘也被安排在固定大小的块中。
每个页面都可以使用地址或位置来标识,这允许一个页面引用另一个页面 - 类似于指针,但在磁盘而不是在内存中。我们可以使用这些页面引用来构建一个页面树,如[图3-6]()所示。
每个页面都可以使用地址或位置来标识,这允许一个页面引用另一个页面 - 类似于指针,但在磁盘而不是在内存中。我们可以使用这些页面引用来构建一个页面树,如[图3-6](img/fig3-6.png)所示。
![](img/fig3-6.png)
@ -219,71 +219,71 @@ Lucene是Elasticsearch和Solr使用的一种全文搜索的索引引擎它使
一个页面会被指定为B树的根在索引中查找一个键时就从这里开始。该页面包含几个键和对子页面的引用。每个子页面负责一段连续范围的键引用之间的键指明了引用子页面的键范围。
在[图3-6]()的例子中我们正在寻找关键字251所以我们知道我们需要遵循边界200和300之间的页面引用。这将我们带到一个类似的页面进一步打破了200 -300到子范围。
在[图3-6](img/fig3-6.png)的例子中我们正在寻找关键字251所以我们知道我们需要遵循边界200和300之间的页面引用。这将我们带到一个类似的页面进一步打破了200-300到子范围。
最后,我们可以看到包含单个键(叶页)的页面,该页面包含每个键的内联值,或者包含对可以找到值的页面的引用。
在B树的一个页面中对子页面的引用的数量称为分支因子。例如在图3-6中分支因子是六。在实践中分支因子取决于存储页面参考和范围边界所需的空间量但通常是几百个。
在B树的一个页面中对子页面的引用的数量称为分支因子。例如[图3-6](img/fig3-6.png)中,分支因子是六。在实践中,分支因子取决于存储页面参考和范围边界所需的空间量,但通常是几百个。
如果要更新B树中现有键的值则搜索包含该键的叶页更改该页中的值并将该页写回到磁盘对该页的任何引用保持有效 。如果你想添加一个新的键你需要找到其范围包含新键的页面并将其添加到该页面。如果页面中没有足够的可用空间容纳新键则将其分成两个半满页面并更新父页面以解释键范围的新分区如图3-7所示。
如果要更新B树中现有键的值则搜索包含该键的叶页更改该页中的值并将该页写回到磁盘对该页的任何引用保持有效 。如果你想添加一个新的键,你需要找到其范围包含新键的页面,并将其添加到该页面。如果页面中没有足够的可用空间容纳新键,则将其分成两个半满页面,并更新父页面以解释键范围的新分区,如[图3-7](img/fig3-7.png)所示。
![](img/fig3-7.png)
**图3-7 通过分割页面来生长B树**
该算法确保树保持平衡具有n个键的B树总是具有Olog n的深度。大多数数据库可以放入一个三到四层的B树所以你不需要遵循许多页面引用来找到你正在查找的页面。 分支因子为500的4 KB页面的四级树可以存储多达256 TB。
该算法确保树保持平衡具有n个键的B树总是具有O(log n)的深度。大多数数据库可以放入一个三到四层的B树所以你不需要遵循许多页面引用来找到你正在查找的页面。 分支因子为500的4 KB页面的四级树可以存储多达256 TB。
#### 让B树更可靠
B树的基本底层写操作是用新数据覆盖磁盘上的页面。假定覆盖不改变页面的位置;即当页面被覆盖时对该页面的所有引用保持完整。这与日志结构索引如LSM-trees形成鲜明对比后者只附加到文件并最终删除过时的文件但从不修改文件。
您可以考虑将硬盘上的页面覆盖为实际的硬件操作。在磁性硬盘驱动器上这意味着将磁头移动到正确的位置等待旋转盘上的正确位置出现然后用新的数据覆盖适当的扇区。在固态硬盘上由于SSD必须一次擦除和重写相当大的存储芯片块所以会发生更复杂的事情[19]
您可以考虑将硬盘上的页面覆盖为实际的硬件操作。在磁性硬盘驱动器上这意味着将磁头移动到正确的位置等待旋转盘上的正确位置出现然后用新的数据覆盖适当的扇区。在固态硬盘上由于SSD必须一次擦除和重写相当大的存储芯片块所以会发生更复杂的事情【19】
而且,一些操作需要覆盖几个不同的页面。例如,如果因为插入导致页面过度而拆分页面,则需要编写已拆分的两个页面,并覆盖其父页面以更新对两个子页面的引用。这是一个危险的操作,因为如果数据库在仅有一些页面被写入后崩溃,那么最终将导致一个损坏的索引(例如,可能有一个孤儿页面不是任何父项的子项) 。
为了使数据库对崩溃具有韧性B树实现通常会带有一个额外的磁盘数据结构预写式日志WAL也称为重做日志。这是一个只能追加的文件每个B树修改都可以应用到树本身的页面上。当数据库在崩溃后恢复时这个日志被用来恢复B树回到一致的状态[5,20]
为了使数据库对崩溃具有韧性B树实现通常会带有一个额外的磁盘数据结构预写式日志WAL也称为重做日志。这是一个只能追加的文件每个B树修改都可以应用到树本身的页面上。当数据库在崩溃后恢复时这个日志被用来恢复B树回到一致的状态【5,20】
更新页面的一个额外的复杂情况是如果多个线程要同时访问B树则需要仔细的并发控制 - 否则线程可能会看到树处于不一致的状态。这通常通过使用***锁存器latches***(轻量级锁)保护树的数据结构来完成。日志结构化的方法在这方面更简单,因为它们在后台进行所有的合并,而不会干扰传入的查询,并且不时地将旧的分段原子交换为新的分段。
更新页面的一个额外的复杂情况是如果多个线程要同时访问B树则需要仔细的并发控制 - 否则线程可能会看到树处于不一致的状态。这通常通过使用**锁存器latches**(轻量级锁)保护树的数据结构来完成。日志结构化的方法在这方面更简单,因为它们在后台进行所有的合并,而不会干扰传入的查询,并且不时地将旧的分段原子交换为新的分段。
#### B树优化
由于B树已经存在了这么久许多优化已经发展了多年这并不奇怪。仅举几例
* 一些数据库如LMDB使用写时复制方案[21]而不是覆盖页面并维护WAL进行崩溃恢复。修改的页面被写入到不同的位置并且树中的父页面的新版本被创建指向新的位置。这种方法对于并发控制也很有用我们将在第237页的“快照隔离和可重复读取”中看到。
* 一些数据库如LMDB使用写时复制方案【21】而不是覆盖页面并维护WAL进行崩溃恢复。修改的页面被写入到不同的位置并且树中的父页面的新版本被创建指向新的位置。这种方法对于并发控制也很有用我们将在“[快照隔离和可重复读](ch7.md#快照隔离和可重复读)”中看到。
* 我们可以通过不存储整个键来节省页面空间,但可以缩小它的大小。特别是在树内部的页面上,键只需要提供足够的信息来充当键范围之间的边界。在页面中包含更多的键允许树具有更高的分支因子,因此更少的层次
* 通常,页面可以放置在磁盘上的任何位置;没有什么要求附近的键范围页面附近的磁盘上。如果查询需要按照排序顺序扫描大部分关键字范围那么每个页面的布局可能会非常不方便因为每个读取的页面都可能需要磁盘查找。因此许多B-树实现尝试布局树使得叶子页面按顺序出现在磁盘上。但是随着树的增长维持这个顺序是很困难的。相比之下由于LSM树在合并过程中一次又一次地重写存储的大部分所以它们更容易使顺序键在磁盘上彼此靠近。
* 额外的指针已添加到树中。例如,每个叶子页面可以在左边和右边具有对其兄弟页面的引用,这允许不跳回父页面就能顺序扫描。
* B树的变体如分形树[22]借用一些日志结构的思想来减少磁盘寻道(而且它们与分形无关)。
### 比较B-树和LSM-
### 比较B树和LSM树
尽管B树实现通常比LSM树实现更成熟但LSM树由于其性能特点也非常有趣。根据经验LSM树通常写速度更快而B树被认为读取速度更快[23]。 LSM树上的读取通常比较慢因为他们必须在压缩的不同阶段检查几个不同的数据结构和SSTables。
尽管B树实现通常比LSM树实现更成熟但LSM树由于其性能特点也非常有趣。根据经验LSM树通常写速度更快而B树被认为读取速度更快【23】。 LSM树上的读取通常比较慢因为他们必须在压缩的不同阶段检查几个不同的数据结构和SSTables。
然而,基准通常对工作量的细节不确定和敏感。 您需要测试具有特定工作负载的系统,以便进行有效的比较。 在本节中,我们将简要讨论一些在衡量存储引擎性能时值得考虑的事情。
#### LSM树的优点
B树索引必须至少两次写入每一段数据一次写入预先写入日志一次写入树页面本身也许再次分页。即使在该页面中只有几个字节发生了变化也需要一次编写整个页面的开销。有些存储引擎甚至会覆盖同一个页面两次以免在电源故障的情况下导致页面部分更新[24,25]
B树索引必须至少两次写入每一段数据一次写入预先写入日志一次写入树页面本身也许再次分页。即使在该页面中只有几个字节发生了变化也需要一次编写整个页面的开销。有些存储引擎甚至会覆盖同一个页面两次以免在电源故障的情况下导致页面部分更新【24,25】
由于反复压缩和合并SSTables日志结构索引也会重写数据。这种影响 - 在数据库的生命周期中写入数据库导致对磁盘的多次写入 - 被称为**写放大Write amplification**。固态硬盘是特别值得关注的,固态硬盘在磨损之前只能覆盖一段时间。
在写入繁重的应用程序中,性能瓶颈可能是数据库可以写入磁盘的速度。在这种情况下,写入放大具有直接的性能成本:存储引擎写入磁盘的次数越多,可用磁盘带宽内的每秒写入次数越少。
而且LSM树通常能够比B-树支持更高的写入吞吐量部分原因是它们有时具有较低的写入放大尽管这取决于存储引擎配置和工作负载部分是因为它们顺序地写入紧凑的SSTable文件而不是必须覆盖树中的几个页面[26]。这种差异在磁性硬盘驱动器上尤其重要,顺序写入比随机写入快得多。
而且LSM树通常能够比B-树支持更高的写入吞吐量部分原因是它们有时具有较低的写入放大尽管这取决于存储引擎配置和工作负载部分是因为它们顺序地写入紧凑的SSTable文件而不是必须覆盖树中的几个页面【26】。这种差异在磁性硬盘驱动器上尤其重要,顺序写入比随机写入快得多。
LSM树可以被压缩得更好因此经常比B树在磁盘上产生更小的文件。 B树存储引擎会由于分割而留下一些未使用的磁盘空间当页面被拆分或某行不能放入现有页面时页面中的某些空间仍未被使用。由于LSM树不是面向页面的并且定期重写SSTables以去除碎片所以它们具有较低的存储开销特别是当使用平坦压缩时[27]
LSM树可以被压缩得更好因此经常比B树在磁盘上产生更小的文件。 B树存储引擎会由于分割而留下一些未使用的磁盘空间当页面被拆分或某行不能放入现有页面时页面中的某些空间仍未被使用。由于LSM树不是面向页面的并且定期重写SSTables以去除碎片所以它们具有较低的存储开销特别是当使用平坦压缩时【27】
在许多固态硬盘上,固件内部使用日志结构化算法,将随机写入转变为顺序写入底层存储芯片,因此存储引擎写入模式的影响不太明显[19]。但是较低的写入放大率和减少的碎片对SSD仍然有利更紧凑地表示数据可在可用的I/O带宽内提供更多的读取和写入请求。
在许多固态硬盘上,固件内部使用日志结构化算法,将随机写入转变为顺序写入底层存储芯片,因此存储引擎写入模式的影响不太明显【19】。但是较低的写入放大率和减少的碎片对SSD仍然有利更紧凑地表示数据可在可用的I/O带宽内提供更多的读取和写入请求。
#### LSM树的缺点
日志结构存储的缺点是压缩过程有时会干扰正在进行的读写操作。尽管存储引擎尝试逐步执行压缩而不影响并发访问,但是磁盘资源有限,所以很容易发生请求需要等待而磁盘完成昂贵的压缩操作。对吞吐量和平均响应时间的影响通常很小,但是在更高百分比的情况下(参阅第13页上的“描述性能”对日志结构化存储引擎的查询响应时间有时会相当长而B树的行为则相对更具可预测性[28]
日志结构存储的缺点是压缩过程有时会干扰正在进行的读写操作。尽管存储引擎尝试逐步执行压缩而不影响并发访问,但是磁盘资源有限,所以很容易发生请求需要等待而磁盘完成昂贵的压缩操作。对吞吐量和平均响应时间的影响通常很小,但是在更高百分比的情况下(参阅“[描述性能](ch1.md#描述性能)对日志结构化存储引擎的查询响应时间有时会相当长而B树的行为则相对更具可预测性【28】
压缩的另一个问题出现在高写入吞吐量磁盘的有限写入带宽需要在初始写入记录和刷新memtable到磁盘和在后台运行的压缩线程之间共享。写入空数据库时可以使用全磁盘带宽进行初始写入但数据库越大压缩所需的磁盘带宽就越多。
如果写入吞吐量很高并且压缩没有仔细配置压缩跟不上写入速率。在这种情况下磁盘上未合并段的数量不断增加直到磁盘空间用完读取速度也会减慢因为它们需要检查更多段文件。通常情况下即使压缩无法跟上基于SSTable的存储引擎也不会限制传入写入的速率所以您需要进行明确的监控来检测这种情况[29,30]
如果写入吞吐量很高并且压缩没有仔细配置压缩跟不上写入速率。在这种情况下磁盘上未合并段的数量不断增加直到磁盘空间用完读取速度也会减慢因为它们需要检查更多段文件。通常情况下即使压缩无法跟上基于SSTable的存储引擎也不会限制传入写入的速率所以您需要进行明确的监控来检测这种情况【29,30】
B树的一个优点是每个键只存在于索引中的一个位置而日志结构化的存储引擎可能在不同的段中有相同键的多个副本。这个方面使得B树在想要提供强大的事务语义的数据库中很有吸引力在许多关系数据库中事务隔离是通过在键范围上使用锁来实现的在B树索引中这些锁可以直接连接到树[5]。在第7章中,我们将更详细地讨论这一点。
B树的一个优点是每个键只存在于索引中的一个位置而日志结构化的存储引擎可能在不同的段中有相同键的多个副本。这个方面使得B树在想要提供强大的事务语义的数据库中很有吸引力在许多关系数据库中事务隔离是通过在键范围上使用锁来实现的在B树索引中这些锁可以直接连接到树【5】。在[第7章](ch7.md)中,我们将更详细地讨论这一点。
B树在数据库体系结构中是非常根深蒂固的为许多工作负载提供始终如一的良好性能所以它们不可能很快就会消失。在新的数据存储中日志结构化索引变得越来越流行。没有快速和容易的规则来确定哪种类型的存储引擎对你的场景更好所以值得进行一些经验上的测试
@ -291,49 +291,49 @@ B树在数据库体系结构中是非常根深蒂固的为许多工作负载
到目前为止,我们只讨论了关键值索引,它们就像关系模型中的**主键primary key**索引。主键唯一标识关系表中的一行或文档数据库中的一个文档或图形数据库中的一个顶点。数据库中的其他记录可以通过其主键或ID引用该行/文档/顶点,并且索引用于解析这样的引用。
有二级索引也很常见。在关系数据库中您可以使用CREATE INDEX命令在同一个表上创建多个二级索引而且这些索引通常对于有效地执行联接而言至关重要。例如在第2章中的[图2-1]()中,很可能在`user_id`列上有一个二级索引,以便您可以在每个表中找到属于同一用户的所有行。
有二级索引也很常见。在关系数据库中,您可以使用`CREATE INDEX`命令在同一个表上创建多个二级索引,而且这些索引通常对于有效地执行联接而言至关重要。例如,在[第2章](ch2.md)中的[图2-1](img/fig2-1.png)中,很可能在`user_id`列上有一个二级索引,以便您可以在每个表中找到属于同一用户的所有行。
一个二级索引可以很容易地从一个键值索引构建。主要的不同是Key不是唯一的。即可能有许多行文档顶点具有相同的键。这可以通过两种方式来解决或者通过使索引中的每个值成为匹配行标识符的列表如全文索引中的发布列表或者通过向每个索引添加行标识符来使每个关键字唯一。无论哪种方式B树和日志结构索引都可以用作辅助索引。
#### 将值存储在索引中
索引中的关键字是查询搜索的内容,但是该值可以是以下两种情况之一:它可以是所讨论的实际行(文档,顶点),也可以是对存储在别处的行的引用。在后一种情况下,行被存储的地方被称为**堆文件heap file**,并且存储的数据没有特定的顺序(它可以是仅附加的,或者可以跟踪被删除的行以便用新数据覆盖它们后来)。堆文件方法很常见,因为它避免了在存在多个二级索引时复制数据:每个索引只引用堆文件中的一个位置,实际的数据保存在一个地方。
在不更改键的情况下更新值时,堆文件方法可以非常高效:只要新值不大于旧值,就可以覆盖该记录。如果新值更大,情况会更复杂,因为它可能需要移到堆中有足够空间的新位置。在这种情况下,要么所有的索引都需要更新,以指向记录的新堆位置,或者在旧堆位置留下一个转发指针[5]
在不更改键的情况下更新值时,堆文件方法可以非常高效:只要新值不大于旧值,就可以覆盖该记录。如果新值更大,情况会更复杂,因为它可能需要移到堆中有足够空间的新位置。在这种情况下,要么所有的索引都需要更新,以指向记录的新堆位置,或者在旧堆位置留下一个转发指针【5】
在某些情况下从索引到堆文件的额外跳跃对读取来说性能损失太大因此可能希望将索引行直接存储在索引中。这被称为聚集索引。例如在MySQL的InnoDB存储引擎中表的主键总是一个聚簇索引二级索引是指主键(而不是堆文件的位置)[31]。在SQL Server中您可以为每个表指定一个聚簇索引[32]
在某些情况下从索引到堆文件的额外跳跃对读取来说性能损失太大因此可能希望将索引行直接存储在索引中。这被称为聚集索引。例如在MySQL的InnoDB存储引擎中表的主键总是一个聚簇索引二级索引用主键而不是堆文件中的位置【31】。在SQL Server中可以为每个表指定一个聚簇索引【32】
在**聚集索引clustered index**(在索引中存储所有行数据)和**非聚集索引nonclustered index**(仅在索引中存储对数据的引用)之间的折衷被称为**包含列的索引index with included columns**或**覆盖索引covering index**,其存储表的一部分在索引内[33]。这允许通过单独使用索引来回答一些查询(这种情况叫做:索引**覆盖了cover**查询)[32]
在**聚集索引clustered index**(在索引中存储所有行数据)和**非聚集索引nonclustered index**(仅在索引中存储对数据的引用)之间的折衷被称为**包含列的索引index with included columns**或**覆盖索引covering index**,其存储表的一部分在索引内【33】。这允许通过单独使用索引来回答一些查询(这种情况叫做:索引**覆盖了cover**查询)【32】
与任何类型的数据重复一样,聚簇和覆盖索引可以加快读取速度,但是它们需要额外的存储空间,并且会增加写入开销。数据库还需要额外的努力来执行事务保证,因为应用程序不应该因为重复而导致不一致。
#### 多列索引
目前讨论的索引只将一个键映射到一个值。这是不够的,如果我们需要同时查询一个表(或文档中的多个字段)的多个列
至今讨论的索引只是将一个键映射到一个值。如果我们需要同时查询一个表中的多个列(或文档中的多个字段),这显然是不够的
最常见的多列索引被称为**连接索引concatenated index**,它通过将一列附加到另一列(索引定义指定字段以何种顺序连接)来简单地将多个字段组合成一个键。这就像一个老式的纸质电话簿,它提供了一个从(姓,名)到电话号码的索引。由于排序顺序,索引可以用来查找所有具有特定姓氏的人,或所有具有特定姓氏 - 姓氏组合的人。**然而,如果你想找到所有具有特定名字的人,这个索引是没有用的**。
最常见的多列索引被称为**连接索引concatenated index**,它通过将一列的值追加到另一列后面,简单地将多个字段组合成一个键(索引定义中指定了字段的连接顺序)。这就像一个老式的纸质电话簿,它提供了一个从(姓,名)到电话号码的索引。由于排序顺序,索引可以用来查找所有具有特定姓氏的人,或所有具有特定姓-名组合的人。**然而,如果你想找到所有具有特定名字的人,这个索引是没有用的**。
多维索引是一种查询多个列的更一般的方法,这对于地理空间数据尤为重要。例如,餐搜索网站可能有一个数据库,其中包含每个餐厅的经度和纬度。当用户在地图上查看餐馆时,网站需要搜索用户正在查看的矩形地图区域内的所有餐馆。这需要一个二维范围查询,如下所示:
**多维索引multi-dimensional index**是一种查询多个列的更一般的方法,这对于地理空间数据尤为重要。例如,餐搜索网站可能有一个数据库,其中包含每个餐厅的经度和纬度。当用户在地图上查看餐馆时,网站需要搜索用户正在查看的矩形地图区域内的所有餐馆。这需要一个二维范围查询,如下所示:
```sql
SELECT * FROM restaurants WHERE latitude > 51.4946 AND latitude < 51.5079
AND longitude > -0.1162 AND longitude < -0.1004;
```
一个标准的B树或者LSM树索引不能够有效地回答这种查询:它可以给你一个纬度范围内的所有餐馆(但是在任何长度上),或者所有餐馆一系列的经度(但在北极和南极之间的任何地方),但不能同时存在
一个标准的B树或者LSM树索引不能够高效地响应这种查询:它可以返回一个纬度范围内的所有餐馆(但经度可能是任意值),或者返回在同一个经度范围内的所有餐馆(但纬度可能是北极和南极之间的任意地方),但不能同时满足
一种选择是使用空间填充曲线将二维位置转换为单个数字然后使用常规B树索引[34]。更普遍的是使用特殊化的空间索引例如R树。例如PostGIS使用PostgreSQL的Gist工具[35]将地理空间索引实现为R-树。这里我们没有足够的空间来描述R树但是有大量的文献可供参考。
一种选择是使用空间填充曲线将二维位置转换为单个数字然后使用常规B树索引【34】。更普遍的是使用特殊化的空间索引例如R树。例如PostGIS使用PostgreSQL的通用Gist工具【35】将地理空间索引实现为R-树。这里我们没有足够的地方来描述R树但是有大量的文献可供参考。
一个有趣的想法是,多维索引不仅仅是地理位置。例如,在电子商务网站上,您可以使用维度红色绿色蓝色上的三维索引来搜索特定颜色范围内的产品也可以在天气观测数据库中搜索二维日期温度的指数以便有效地搜索2013年的温度在25至30°C之间的所有观测资料。使用一维索引将不得不扫描2013年的所有记录不管温度如何然后通过温度进行过滤反之亦然。 2D索引可以同时通过时间戳和温度缩小。这个技术被HyperDex使用[36]
一个有趣的主意是,多维索引不仅可以用于地理位置。例如,在电子商务网站上可以使用维度红色绿色蓝色上的三维索引来搜索特定颜色范围内的产品也可以在天气观测数据库中搜索二维日期温度的指数以便有效地搜索2013年的温度在25至30°C之间的所有观测资料。使用一维索引将不得不扫描2013年的所有记录不管温度如何然后通过温度进行过滤反之亦然。 二维索引可以同时通过时间戳和温度来收窄数据集。这个技术被HyperDex使用【36】
#### 全文搜索和模糊索引
到目前为止所讨论的所有索引都假定您有确切的数据,并允许您查询键的确切值或具有排序顺序的键的值范围。他们不允许你做的是搜索类似的键,如拼写错误的单词。这种模糊的查询需要不同的技术。
例如全文搜索引擎通常允许搜索一个单词以扩展为包括该单词的同义词忽略单词的语法变体并且搜索在相同文档中彼此靠近的单词的出现并且支持各种其他功能取决于文本的语言分析。为了处理文档或查询中的拼写错误Lucene能够在一定的编辑距离内搜索文本编辑距离1意味着添加删除或替换了一个字母[37]
例如全文搜索引擎通常允许搜索一个单词以扩展为包括该单词的同义词忽略单词的语法变体并且搜索在相同文档中彼此靠近的单词的出现并且支持各种其他功能取决于文本的语言分析。为了处理文档或查询中的拼写错误Lucene能够在一定的编辑距离内搜索文本编辑距离1意味着添加删除或替换了一个字母【37】
正如第78页“在SSTables中创建一个LSM-tree”中所提到的Lucene为其词典使用了一个类似于SSTable的结构。这个结构需要一个小的内存索引告诉查询在排序文件中哪个偏移量需要查找关键字。在LevelDB中这个内存中的索引是一些键的稀疏集合但在Lucene中内存中的索引是键中字符的有限状态自动机类似于trie [38]。这个自动机可以转换成Levenshtein自动机它支持在给定的编辑距离内有效地搜索单词[39]
正如“[在SSTables中创建LSM树](#在SSTables中创建LSM树)”中所提到的Lucene为其词典使用了一个类似于SSTable的结构。这个结构需要一个小的内存索引告诉查询在排序文件中哪个偏移量需要查找关键字。在LevelDB中这个内存中的索引是一些键的稀疏集合但在Lucene中内存中的索引是键中字符的有限状态自动机类似于trie 【38】。这个自动机可以转换成Levenshtein自动机它支持在给定的编辑距离内有效地搜索单词【39】
其他的模糊搜索技术正朝着文档分类和机器学习的方向发展。有关更多详细信息,请参阅信息检索教科书[例如40]
其他的模糊搜索技术正朝着文档分类和机器学习的方向发展。有关更多详细信息,请参阅信息检索教科书例如【40】
#### 在内存中存储一切
@ -345,22 +345,22 @@ SELECT * FROM restaurants WHERE latitude > 51.4946 AND latitude < 51.5079
内存数据库重新启动时,需要从磁盘或通过网络从副本重新加载其状态(除非使用特殊的硬件)。尽管写入磁盘,它仍然是一个内存数据库,因为磁盘仅用作耐久性附加日志,读取完全由内存提供。写入磁盘也具有操作优势:磁盘上的文件可以很容易地由外部实用程序进行备份,检查和分析。
诸如VoltDBMemSQL和Oracle TimesTen等产品是具有关系模型的内存数据库供应商声称通过消除与管理磁盘上的数据结构相关的所有开销他们可以提供巨大的性能改进[41,42]。 RAMCloud是一个开源的内存键值存储器具有持久性对存储器中的数据以及磁盘上的数据使用日志结构化方法[43]。 Redis和Couchbase通过异步写入磁盘提供了较弱的持久性。
诸如VoltDBMemSQL和Oracle TimesTen等产品是具有关系模型的内存数据库供应商声称通过消除与管理磁盘上的数据结构相关的所有开销他们可以提供巨大的性能改进【41,42】。 RAM Cloud是一个开源的内存键值存储器具有持久性对存储器中的数据以及磁盘上的数据使用日志结构化方法【43】。 Redis和Couchbase通过异步写入磁盘提供了较弱的持久性。
**反直觉的是,内存数据库的性能优势并不是因为它们不需要从磁盘读取的事实。即使是基于磁盘的存储引擎也可能永远不需要从磁盘读取,因为操作系统缓存最近在内存中使用了磁盘块。相反,它们更快的原因在于省去了将内存数据结构编码为磁盘数据结构的开销**。[44]
**反直觉的是,内存数据库的性能优势并不是因为它们不需要从磁盘读取的事实。即使是基于磁盘的存储引擎也可能永远不需要从磁盘读取,因为操作系统缓存最近在内存中使用了磁盘块。相反,它们更快的原因在于省去了将内存数据结构编码为磁盘数据结构的开销**。【44】
除了性能内存数据库的另一个有趣的领域是提供难以用基于磁盘的索引实现的数据模型。例如Redis为各种数据结构如优先级队列和集合提供了类似数据库的接口。因为它将所有数据保存在内存中所以它的实现相对简单。
最近的研究表明,内存数据库体系结构可以扩展到支持比可用内存更大的数据集,而不必重新采用以磁盘为中心的体系结构[45]。所谓的**反缓存anti-caching**方法通过在内存不足的情况下将最近最少使用的数据从内存转移到磁盘并在将来再次访问时将其重新加载到内存中。这与操作系统对虚拟内存和交换文件的操作类似但数据库可以比操作系统更有效地管理内存因为它可以按单个记录的粒度工作而不是整个内存页面。尽管如此这种方法仍然需要索引能完全放入内存中就像本章开头的Bitcask例子
最近的研究表明,内存数据库体系结构可以扩展到支持比可用内存更大的数据集,而不必重新采用以磁盘为中心的体系结构【45】。所谓的**反缓存anti-caching**方法通过在内存不足的情况下将最近最少使用的数据从内存转移到磁盘并在将来再次访问时将其重新加载到内存中。这与操作系统对虚拟内存和交换文件的操作类似但数据库可以比操作系统更有效地管理内存因为它可以按单个记录的粒度工作而不是整个内存页面。尽管如此这种方法仍然需要索引能完全放入内存中就像本章开头的Bitcask例子
如果非易失性存储器NVM技术得到更广泛的应用可能还需要进一步改变存储引擎设计[46]。目前这是一个新的研究领域,值得关注。
如果非易失性存储器NVM技术得到更广泛的应用可能还需要进一步改变存储引擎设计【46】。目前这是一个新的研究领域,值得关注。
## 事务处理还是分析?
在业务数据处理的早期,对数据库的写入通常对应于正在进行的商业交易:进行销售,向供应商下订单,支付员工工资等等。随着数据库扩展到那些没有不涉及钱易手,术语交易仍然卡住,指的是形成一个逻辑单元的一组读写。
事务不一定具有ACID原子性一致性隔离性和持久性属性。事务处理只是意味着允许客户端进行低延迟读取和写入 - 而不是批量处理作业而这些作业只能定期运行例如每天一次。我们在第7章中讨论ACID属性在第10章中讨论批处理。
事务不一定具有ACID原子性一致性隔离性和持久性属性。事务处理只是意味着允许客户端进行低延迟读取和写入 - 而不是批量处理作业,而这些作业只能定期运行(例如每天一次)。我们在[第7章](ch7.md)中讨论ACID属性[第10章](ch10.md)中讨论批处理。
即使数据库开始被用于许多不同类型的博客文章游戏中的动作地址簿中的联系人等等基本访问模式仍然类似于处理业务事务。应用程序通常使用索引通过某个键查找少量记录。根据用户的输入插入或更新记录。由于这些应用程序是交互式的因此访问模式被称为在线事务处理OLTP
但是,数据库也开始越来越多地用于数据分析,这些数据分析具有非常不同的访问模式。通常,分析查询需要扫描大量记录,每个记录只读取几列,并计算汇总统计信息(如计数,总和或平均值),而不是将原始数据返回给用户。例如,如果您的数据是一个销售交易表,那么分析查询可能是:
@ -369,17 +369,17 @@ SELECT * FROM restaurants WHERE latitude > 51.4946 AND latitude < 51.5079
* 我们在最近的推广活动中销售多少香蕉?
* 哪种品牌的婴儿食品最常与X品牌的尿布一起购买
这些查询通常由业务分析师编写并提供给帮助公司管理层做出更好决策商业智能的报告。为了区分这种使用数据库的事务处理模式它被称为在线分析处理OLAP[47]。OLTP和OLAP之间的区别并不总是清晰的但是一些典型的特征在表3中列出-1
这些查询通常由业务分析师编写并提供给帮助公司管理层做出更好决策商业智能的报告。为了区分这种使用数据库的事务处理模式它被称为在线分析处理OLAP【47】。OLTP和OLAP之间的区别并不总是清晰的但是一些典型的特征在[表3-1]()中列出。
**表3-1 比较交易处理和分析系统的特点**
| 属性 | 分析系统 OLAP | 事务处理 OLTP |
| :----: | :------------: | :-----------: |
| 主要读取模式 | 查询少量记录,按键读取 | 在大批量记录上聚合 |
| 主要写入模式 | 随机访问,写入要求低延时 | 批量导入ETL事件流 |
| 主要用户 | 终端用户通过Web应用 | 内部数据分析师,决策支持 |
| 处理的数据 | 数据的最新状态(当前时间点) | 随时间推移的历史事件 |
| 数据集尺寸 | TB ~ PB | GB ~ TB |
| 属性 | 事务处理 OLTP | 分析系统 OLAP |
| :----------: | :--------------------------: | :----------------------: |
| 主要读取模式 | 查询少量记录,按键读取 | 在大批量记录上聚合 |
| 主要写入模式 | 随机访问,写入要求低延时 | 批量导入ETL事件流 |
| 主要用户 | 终端用户通过Web应用 | 内部数据分析师,决策支持 |
| 处理的数据 | 数据的最新状态(当前时间点) | 随时间推移的历史事件 |
| 数据集尺寸 | GB ~ TB | TB ~ PB |
起初,相同的数据库用于事务处理和分析查询。 SQL在这方面证明是非常灵活的对于OLTP类型的查询以及OLAP类型的查询来说效果很好。尽管如此在二十世纪八十年代末和九十年代初期公司有停止使用OLTP系统进行分析的趋势而是在单独的数据库上运行分析。这个单独的数据库被称为数据仓库。
@ -389,57 +389,57 @@ SELECT * FROM restaurants WHERE latitude > 51.4946 AND latitude < 51.5079
这些OLTP系统通常具有高度的可用性并以低延迟处理事务因为这些系统往往对业务运作至关重要。因此数据库管理员密切关注他们的OLTP数据库他们通常不愿意让业务分析人员在OLTP数据库上运行临时分析查询因为这些查询通常很昂贵扫描大部分数据集这会损害同时执行的事务的性能。
相比之下数据仓库是一个独立的数据库分析人员可以查询他们心中的内容而不影响OLTP操作[48]。数据仓库包含公司所有各种OLTP系统中的只读数据副本。从OLTP数据库中提取数据使用定期的数据转储或连续的更新流转换成适合分析的模式清理并加载到数据仓库中。将数据存入仓库的过程称为“提取 - 转换 - 加载ETL如图3-8所示。
相比之下数据仓库是一个独立的数据库分析人员可以查询他们心中的内容而不影响OLTP操作【48】。数据仓库包含公司所有各种OLTP系统中的只读数据副本。从OLTP数据库中提取数据使用定期的数据转储或连续的更新流转换成适合分析的模式清理并加载到数据仓库中。将数据存入仓库的过程称为“抽取-转换-加载ETL如[图3-8](img/fig3-8)所示。
![](img/fig3-8.png)
**图3-8 ETL至数据仓库的简化提纲**
几乎所有的大型企业都有数据仓库但在小型企业中几乎闻所未闻。这可能是因为大多数小公司没有这么多不同的OLTP系统大多数小公司只有少量的数据 - 可以在传统的SQL数据库中查询甚至可以在电子表格中分析。在一家大公司里要做一些在一家小公司很简单的事情需要很多繁重的工作。
几乎所有的大型企业都有数据仓库但在小型企业中几乎闻所未闻。这可能是因为大多数小公司没有这么多不同的OLTP系统大多数小公司只有少量的数据——可以在传统的SQL数据库中查询甚至可以在电子表格中分析。在一家大公司里要做一些在一家小公司很简单的事情需要很多繁重的工作。
使用单独的数据仓库而不是直接查询OLTP系统进行分析的一大优势是数据仓库可针对分析访问模式进行优化。事实证明本章前半部分讨论的索引算法对于OLTP来说工作得很好但对于回答分析查询并不是很好。在本章的其余部分中我们将看看为分析而优化的存储引擎。
### OLTP数据库和数据仓库之间的分歧
#### OLTP数据库和数据仓库之间的分歧
数据仓库的数据模型通常是关系型的因为SQL通常很适合分析查询。有许多图形数据分析工具可以生成SQL查询可视化结果并允许分析人员通过下钻切片和切块等操作探索数据。
表面上一个数据仓库和一个关系OLTP数据库看起来很相似因为它们都有一个SQL查询接口。然而系统的内部看起来可能完全不同因为它们针对非常不同的查询模式进行了优化。现在许多数据库供应商都将重点放在支持事务处理或分析工作负载上而不是两者都支持。
一些数据库例如Microsoft SQL Server和SAP HANA支持同一产品中的事务处理和数据仓库。但是它们正在日益成为两个独立的存储和查询引擎这些引擎正好可以通过一个通用的SQL接口访问[49,50,51]
一些数据库例如Microsoft SQL Server和SAP HANA支持在同一产品中进行事务处理和数据仓库。但是它们正在日益成为两个独立的存储和查询引擎这些引擎正好可以通过一个通用的SQL接口访问【49,50,51】
TeradataVerticaSAP HANA和ParAccel等数据仓库供应商通常使用昂贵的商业许可证销售他们的系统。 Amazon RedShift是ParAccel的托管版本。最近大量的开源SQL-on-Hadoop项目已经出现他们还年轻但是正在与商业数据仓库系统竞争。这些包括Apache HiveSpark SQLCloudera ImpalaFacebook PrestoApache Tajo和Apache Drill [52,53]。其中一些是基于谷歌的Dremel [54]的想法。
TeradataVerticaSAP HANA和ParAccel等数据仓库供应商通常使用昂贵的商业许可证销售他们的系统。 Amazon RedShift是ParAccel的托管版本。最近大量的开源SQL-on-Hadoop项目已经出现它们还很年轻但是正在与商业数据仓库系统竞争。这些包括Apache HiveSpark SQLCloudera ImpalaFacebook PrestoApache Tajo和Apache Drill 【52,53】。其中一些是基于谷歌的Dremel [54]的想法。
### 星型和雪花型:分析的模式
正如第2章所探讨的根据应用程序的需要在事务处理领域中使用了大量不同的数据模型。另一方面在分析中数据模型的多样性则少得多。许多数据仓库都以相当公式化的方式使用被称为星型模式也称为维度建模[55])。
正如[第2章](ch2.md)所探讨的,根据应用程序的需要,在事务处理领域中使用了大量不同的数据模型。另一方面,在分析中,数据模型的多样性则少得多。许多数据仓库都以相当公式化的方式使用,被称为星型模式(也称为维度建模【55】)。
图3-9中的示例模式显示了可能在食品零售商处找到的数据仓库。在模式的中心是一个所谓的事实表在这个例子中它被称为fact_sales。事实表的每一行代表在特定时间发生的事件这里每一行代表客户购买的产品。如果我们分析的是网站流量而不是零售量则每行可能代表一个用户的页面浏览量或点击量。
图3-9中的示例模式显示了可能在食品零售商处找到的数据仓库。在模式的中心是一个所谓的事实表在这个例子中它被称为`fact_sales`)。事实表的每一行代表在特定时间发生的事件(这里,每一行代表客户购买的产品)。如果我们分析的是网站流量而不是零售量,则每行可能代表一个用户的页面浏览量或点击量。
![](img/fig3-9.png)
**图3-9 用于数据仓库的星型模式的示例**
通常情况下事实被视为单独的事件因为这样可以在以后分析中获得最大的灵活性。但是这意味着事实表可以变得非常大。像苹果沃尔玛或eBay这样的大企业在其数据仓库中可能有几十PB的交易历史其中大部分实际上是表[56]
通常情况下事实被视为单独的事件因为这样可以在以后分析中获得最大的灵活性。但是这意味着事实表可以变得非常大。像苹果沃尔玛或eBay这样的大企业在其数据仓库中可能有几十PB的交易历史其中大部分实际上是表【56】
事实表中的一些列是属性,例如产品销售的价格和从供应商那里购买的成本(允许计算利润余额)。事实表中的其他列是对其他表(称为维表)的外键引用。由于事实表中的每一行都表示一个事件,因此这些维度代表事件的发生地点,时间,方式和原因。
例如在图3-9中其中一个维度是已售出的产品。 dim_product表中的每一行代表一种待售产品包括库存单位SKU说明品牌名称类别脂肪含量包装尺寸等。fact_sales表中的每一行都使用外部表明在特定交易中销售了哪些产品。 (为了简单起见,如果客户一次购买几种不同的产品,则它们在事实表中被表示为单独的行)。
例如,在[图3-9](img/fig3-9.md)中,其中一个维度是已售出的产品。 `dim_product`表中的每一行代表一种待售产品包括库存单位SKU说明品牌名称类别脂肪含量包装尺寸等。`fact_sales`表中的每一行都使用外部表明在特定交易中销售了哪些产品。 (为了简单起见,如果客户一次购买几种不同的产品,则它们在事实表中被表示为单独的行)。
即使日期和时间通常使用维度表来表示,因为这允许对日期(诸如公共假期)的附加信息进行编码,从而允许查询区分假期和非假期的销售。
“星型模式”这个名字来源于这样一个事实,即当表关系可视化时,事实表在中间,由维表包围;与这些桌子的连接就像星星的光芒。
“星型模式”这个名字来源于这样一个事实,即当表关系可视化时,事实表在中间,由维表包围;与这些表的连接就像星星的光芒。
这个模板的变体被称为雪花模式其中尺寸被进一步分解为子尺寸。例如品牌和产品类别可能有单独的表格并且dim_product表格中的每一行都可以将品牌和类别作为外键引用而不是将它们作为字符串存储在dim_product表格中。雪花模式比星形模式更规范化但是星形模式通常是首选因为分析师使用它更简单[55]
这个模板的变体被称为雪花模式,其中尺寸被进一步分解为子尺寸。例如,品牌和产品类别可能有单独的表格,并且`dim_product`表格中的每一行都可以将品牌和类别作为外键引用,而不是将它们作为字符串存储在`dim_product`表格中。雪花模式比星形模式更规范化,但是星形模式通常是首选,因为分析师使用它更简单【55】
在典型的数据仓库中表格通常非常宽泛事实表格通常有100列以上有时甚至有数百[51]列。维度表也可以是非常宽的,因为它们包括可能与分析相关的所有元数据 - 例如dim_store表可以包括在每个商店提供哪些服务的细节,它是否具有店内面包房,方形镜头,商店第一次开幕的日期,最后一次改造的时间,离最近的高速公路的距离等等。
在典型的数据仓库中表格通常非常宽泛事实表格通常有100列以上有时甚至有数百列【51】。维度表也可以是非常宽的因为它们包括可能与分析相关的所有元数据——例如`dim_store`表可以包括在每个商店提供哪些服务的细节,它是否具有店内面包房,方形镜头,商店第一次开幕的日期,最后一次改造的时间,离最近的高速公路的距离等等。
## 面向存储
## 列存储
如果事实表中有万亿行和数PB的数据那么高效地存储和查询它们就成为一个具有挑战性的问题。维度表通常要小得多数百万行所以在本节中我们将主要关注事实的存储。
尽管事实表通常超过100列但典型的数据仓库查询一次只能访问4个或5个查询SELECT *”查询很少用于分析)[51]。以例3-1中的查询为例它访问了大量的行在2013日历年中每次都有人购买水果或糖果但只需访问fact_sales表的三列date_keyproduct_sk和数量。查询忽略所有其他列。
尽管事实表通常超过100列但典型的数据仓库查询一次只能访问4个或5个查询`SELECT *`”查询很少用于分析【51】。以[例3-1]()中的查询为例它访问了大量的行在2013日历年中每次都有人购买水果或糖果但只需访问`fact_sales`表的三列:`date_key, product_sk, quantity`。查询忽略所有其他列。
**例3-1 分析人们是否更倾向于购买新鲜水果或糖果,这取决于一周中的哪一天**
@ -460,9 +460,9 @@ GROUP BY
我们如何有效地执行这个查询?
在大多数OLTP数据库中存储都是以面向行的方式进行布局的表格的一行中的所有值都相邻存储。文档数据库是相似的整个文档通常存储为一个连续的字节序列。你可以在图3-1的CSV例子中看到这个。
在大多数OLTP数据库中存储都是以面向行的方式进行布局的表格的一行中的所有值都相邻存储。文档数据库是相似的整个文档通常存储为一个连续的字节序列。你可以在[图3-1](img/fig3-1.png)的CSV例子中看到这个。
为了处理像例3-1这样的查询您可能在`fact_sales.date_key` `fact_sales.product_sk`上有索引它们告诉存储引擎在哪里查找特定日期或特定产品的所有销售情况。但是面向行的存储引擎仍然需要将所有这些行每个包含超过100个属性从磁盘加载到内存中解析它们并过滤掉那些不符合要求的条件。这可能需要很长时间。
为了处理像[例3-1]()这样的查询,您可能在`fact_sales.date_key` `fact_sales.product_sk`上有索引它们告诉存储引擎在哪里查找特定日期或特定产品的所有销售情况。但是面向行的存储引擎仍然需要将所有这些行每个包含超过100个属性从磁盘加载到内存中解析它们并过滤掉那些不符合要求的条件。这可能需要很长时间。
面向列的存储背后的想法很简单:不要将所有来自一行的值存储在一起,而是将来自每一列的所有值存储在一起。如果每个列存储在一个单独的文件中,查询只需要读取和解析查询中使用的那些列,这可以节省大量的工作。这个原理如[图3-10](img/fig3-10.png)所示。
@ -470,7 +470,7 @@ GROUP BY
**图3-10 使用列存储关系型数据,而不是行**
列存储在关系数据模型中是最容易理解的但它同样适用于非关系数据。例如Parquet [57]是一种列式存储格式支持基于Google的Dremel [54]的文档数据模型。
列存储在关系数据模型中是最容易理解的但它同样适用于非关系数据。例如Parquet 【57】是一种列式存储格式支持基于Google的Dremel 【54】的文档数据模型。
面向列的存储布局依赖于包含相同顺序行的每个列文件。 因此如果您需要重新组装整行您可以从每个单独的列文件中获取第23项并将它们放在一起形成表的第23行。
@ -480,7 +480,7 @@ GROUP BY
除了仅从磁盘加载查询所需的列以外,我们还可以通过压缩数据来进一步降低对磁盘吞吐量的需求。幸运的是,面向列的存储通常很适合压缩。
看看图3-10中每一列的值序列它们通常看起来是相当重复的这是压缩的好兆头。根据列中的数据可以使用不同的压缩技术。在数据仓库中特别有效的一种技术是位图编码如图3-11所示。
看看[图3-10](img/fig3-10.png)中每一列的值序列:它们通常看起来是相当重复的,这是压缩的好兆头。根据列中的数据,可以使用不同的压缩技术。在数据仓库中特别有效的一种技术是位图编码,如[图3-11](img/fig3-11.png)所示。
![](img/fig3-11.png)
@ -488,33 +488,34 @@ GROUP BY
通常情况下一列中不同值的数量与行数相比较小例如零售商可能有数十亿的销售交易但只有100,000个不同的产品。现在我们可以得到一个有n个不同值的列并把它转换成n个独立的位图每个不同值的一个位图每行一位。如果该行具有该值则该位为1否则为0。
如果n非常小例如国家/地区列可能有大约200个不同的值则这些位图可以每行存储一位。但是如果n更大大部分位图中将会有很多的零我们说它们是稀疏的。在这种情况下位图可以另外进行游程编码如图3-11底部所示。这可以使列的编码非常紧凑。
如果n非常小例如国家/地区列可能有大约200个不同的值则这些位图可以每行存储一位。但是如果n更大大部分位图中将会有很多的零我们说它们是稀疏的。在这种情况下位图可以另外进行游程编码如[图3-11](fig3-11.png)底部所示。这可以使列的编码非常紧凑。
这些位图索引非常适合数据仓库中常见的各种查询。例如:
```sql
WHERE product_sk IN306869
```
加载product_sk = 30product_sk = 68和product_sk = 69的三个位图,并计算三个位图的按位或,这可以非常有效地完成。
加载`product_sk = 30, product_sk = 68, product_sk = 69`的三个位图,并计算三个位图的按位或,这可以非常有效地完成。
```sql
WHERE product_sk = 31 AND store_sk = 3
```
加载product_sk = 31和store_sk = 3的位图并逐位计算AND。 这是因为列按照相同的顺序包含行因此一列的位图中的第k位对应于与另一列的位图中的第k位相同的行。
加载`product_sk = 31``store_sk = 3`的位图并逐位计算AND。 这是因为列按照相同的顺序包含行因此一列的位图中的第k位对应于与另一列的位图中的第k位相同的行。
对于不同种类的数据,也有各种不同的压缩方案,但我们不会详细讨论它们,参见[58]的概述。
对于不同种类的数据,也有各种不同的压缩方案,但我们不会详细讨论它们,参见【58】的概述。
> #### 面向列的存储和列族
>
> Cassandra和HBase有一个列族的概念他们从Bigtable继承[9]。然而把它们称为面向列是非常具有误导性的在每个列族中它们将一行中的所有列与行键一起存储并且不使用列压缩。因此Bigtable模型仍然主要是面向行的。
> Cassandra和HBase有一个列族的概念他们从Bigtable继承【9】。然而把它们称为面向列是非常具有误导性的在每个列族中它们将一行中的所有列与行键一起存储并且不使用列压缩。因此Bigtable模型仍然主要是面向行的。
>
#### 内存带宽和向量处理
对于需要扫描数百万行的数据仓库查询来说一个巨大的瓶颈是从磁盘获取数据到内存的带宽。但是这不是唯一的瓶颈。分析数据库的开发人员也担心有效利用主存储器带宽到CPU缓存中的带宽避免CPU指令处理流水线中的分支错误预测和泡沫以及在现代中使用单指令多数据SIMD指令CPU [59,60]
对于需要扫描数百万行的数据仓库查询来说一个巨大的瓶颈是从磁盘获取数据到内存的带宽。但是这不是唯一的瓶颈。分析数据库的开发人员也担心有效利用主存储器带宽到CPU缓存中的带宽避免CPU指令处理流水线中的分支错误预测和泡沫以及在现代中使用单指令多数据SIMD指令CPU 【59,60】
除了减少需要从磁盘加载的数据量以外面向列的存储布局也可以有效利用CPU周期。例如查询引擎可以将大量压缩的列数据放在CPU的L1缓存中然后在紧密的循环中循环即没有函数调用。一个CPU可以执行这样一个循环比代码要快得多这个代码需要处理每个记录的大量函数调用和条件。列压缩允许列中的更多行适合相同数量的L1缓存。前面描述的按位“与”和“或”运算符可以被设计为直接在这样的压缩列数据块上操作。这种技术被称为矢量化处理[58,49]
除了减少需要从磁盘加载的数据量以外面向列的存储布局也可以有效利用CPU周期。例如查询引擎可以将大量压缩的列数据放在CPU的L1缓存中然后在紧密的循环中循环即没有函数调用。一个CPU可以执行这样一个循环比代码要快得多这个代码需要处理每个记录的大量函数调用和条件。列压缩允许列中的更多行适合相同数量的L1缓存。前面描述的按位“与”和“或”运算符可以被设计为直接在这样的压缩列数据块上操作。这种技术被称为矢量化处理【58,49】
@ -524,17 +525,17 @@ WHERE product_sk = 31 AND store_sk = 3
注意每列独自排序是没有意义的因为那样我们就不会知道列中的哪些项属于同一行。我们只能重建一行因为我们知道一列中的第k项与另一列中的第k项属于同一行。
相反即使按列存储数据也需要一次对整行进行排序。数据库的管理员可以使用他们对常见查询的知识来选择表格应该被排序的列。例如如果查询通常以日期范围为目标例如上个月则可以将date_key作为第一个排序键。然后查询优化器只能扫描上个月的行这比扫描所有行要快得多。
相反,即使按列存储数据,也需要一次对整行进行排序。数据库的管理员可以使用他们对常见查询的知识来选择表格应该被排序的列。例如,如果查询通常以日期范围为目标,例如上个月,则可以将`date_key`作为第一个排序键。然后,查询优化器只能扫描上个月的行,这比扫描所有行要快得多。
第二列可以确定第一列中具有相同值的任何行的排序顺序。例如如果date_key是图3-10中的第一个排序关键字那么product_sk可能是第二个排序关键字因此同一天的同一产品的所有销售都将在存储中组合在一起。这将有助于需要在特定日期范围内按产品对销售进行分组或过滤的查询。
第二列可以确定第一列中具有相同值的任何行的排序顺序。例如,如果`date_key`[图3-10](img/fig3-10.png)中的第一个排序关键字,那么`product_sk`可能是第二个排序关键字,因此同一天的同一产品的所有销售都将在存储中组合在一起。这将有助于需要在特定日期范围内按产品对销售进行分组或过滤的查询。
排序顺序的另一个好处是它可以帮助压缩列。如果主要排序列没有多个不同的值那么在排序之后它将具有很长的序列其中相同的值连续重复多次。一个简单的运行长度编码就像我们用于图3-11中的位图一样可以将该列压缩到几千字节 - 即使表中有数十亿行。
排序顺序的另一个好处是它可以帮助压缩列。如果主要排序列没有多个不同的值,那么在排序之后,它将具有很长的序列,其中相同的值连续重复多次。一个简单的运行长度编码(就像我们用于[图3-11](img/fig3-11.png)中的位图一样)可以将该列压缩到几千字节——即使表中有数十亿行。
第一个排序键的压缩效果最强。第二和第三个排序键会更混乱,因此不会有这么长时间的重复值。排序优先级下面的列以基本上随机的顺序出现,所以它们可能不会被压缩。但前几列排序仍然是一个整体。
#### 几个不同的排序顺序
这个想法的巧妙扩展在C-Store中引入并在商业数据仓库Vertica [61,62]中被采用。不同的查询受益于不同的排序顺序,为什么不以相同的方式存储相同的数据呢?无论如何,数据需要复制到多台机器,这样,如果一台机器发生故障,您不会丢失数据。您可能还需要存储以不同方式排序的冗余数据,以便在处理查询时,可以使用最适合查询模式的版本。
这个想法的巧妙扩展在C-Store中引入并在商业数据仓库Vertica【61,62】中被采用。不同的查询受益于不同的排序顺序,为什么不以相同的方式存储相同的数据呢?无论如何,数据需要复制到多台机器,这样,如果一台机器发生故障,您不会丢失数据。您可能还需要存储以不同方式排序的冗余数据,以便在处理查询时,可以使用最适合查询模式的版本。
在一个面向列的存储中有多个排序顺序有点类似于在一个面向行的存储中有多个二级索引。但最大的区别在于面向行的存储将每一行保存在一个地方(在堆文件或聚簇索引中),二级索引只包含指向匹配行的指针。在列存储中,通常在其他地方没有任何指向数据的指针,只有包含值的列。
@ -550,7 +551,7 @@ WHERE product_sk = 31 AND store_sk = 3
### 聚合:数据立方体和物化视图
并不是每个数据仓库都必定是一个列存储:传统的面向行的数据库和其他一些架构也被使用。然而,对于专门的分析查询,列式存储可以显着加快,所以它正在迅速普及[51,63]
并不是每个数据仓库都必定是一个列存储:传统的面向行的数据库和其他一些架构也被使用。然而,对于专门的分析查询,列式存储可以显着加快,所以它正在迅速普及【51,63】
数据仓库的另一个值得一提的是物化汇总。如前所述数据仓库查询通常涉及一个聚合函数如SQL中的COUNTSUMAVGMIN或MAX。如果相同的聚合被许多不同的查询使用那么每次都可以通过原始数据来处理。为什么不缓存一些查询使用最频繁的计数或总和
@ -558,13 +559,13 @@ WHERE product_sk = 31 AND store_sk = 3
当底层数据发生变化时物化视图需要更新因为它是数据的非规范化副本。数据库可以自动完成但是这样的更新使得写入成本更高这就是在OLTP数据库中不经常使用物化视图的原因。在读取繁重的数据仓库中它们可能更有意义不管它们是否实际上改善了读取性能取决于个别情况
物化视图的常见特例称为数据立方体或OLAP立方体[64]。它是按不同维度分组的聚合网格。图3-12显示了一个例子。
物化视图的常见特例称为数据立方体或OLAP立方体【64】。它是按不同维度分组的聚合网格。[图3-12](img/fig3-12.png)显示了一个例子。
![](img/fig3-12.png)
**图3-12 数据立方的两个维度,通过求和聚合**
想象一下,现在每个事实都只有两个维度表的外键 - 在图3-12中,这些是日期和产品。您现在可以绘制一个二维表格,一个轴线上的日期和另一个轴上的产品。每个单元包含具有该日期 - 产品组合的所有事实的属性例如net_price的聚集例如SUM。然后您可以沿着每行或每列应用相同的汇总并获得一个维度减少的汇总按产品的销售额无论日期还是按日期销售无论产品如何
想象一下,现在每个事实都只有两个维度表的外键——在[图3-12](img/fig-3-12.png)中,这些是日期和产品。您现在可以绘制一个二维表格,一个轴线上的日期和另一个轴上的产品。每个单元包含具有该日期 - 产品组合的所有事实的属性(例如,`net_price`)的聚集(例如,`SUM`)。然后,您可以沿着每行或每列应用相同的汇总,并获得一个维度减少的汇总(按产品的销售额,无论日期,还是按日期销售,无论产品如何)。
一般来说事实往往有两个以上的维度。在图3-9中有五个维度日期产品商店促销和客户。要想象一个五维超立方体是什么样子是很困难的但是原理是一样的每个单元格都包含特定日期产品 - 商店 - 促销 - 客户组合)的销售。这些值可以在每个维度上重复概括。
@ -619,222 +620,126 @@ WHERE product_sk = 31 AND store_sk = 3
1. Matteo Bertozzi: “[Apache HBase I/O HFile](http://blog.cloudera.com/blog/2012/06/hbase-io-hfile-input-output/),” *blog.cloudera.com*, June, 29 2012.
1. Fay Chang, Jeffrey Dean, Sanjay Ghemawat, et al.: “[Bigtable: A Distributed Storage System for Structured Data](http://research.google.com/archive/bigtable.html),” at *7th USENIX Symposium on Operating System Design and
Implementation* (OSDI), November 2006.
1. Fay Chang, Jeffrey Dean, Sanjay Ghemawat, et al.: “[Bigtable: A Distributed Storage System for Structured Data](http://research.google.com/archive/bigtable.html),” at *7th USENIX Symposium on Operating System Design and Implementation* (OSDI), November 2006.
1. Patrick O'Neil, Edward Cheng, Dieter Gawlick, and Elizabeth O'Neil:
“[The Log-Structured Merge-Tree (LSM-Tree)](http://www.cs.umb.edu/~poneil/lsmtree.pdf),” *Acta Informatica*, volume 33, number 4, pages 351385, June 1996. [doi:10.1007/s002360050048](http://dx.doi.org/10.1007/s002360050048)
1. Patrick O'Neil, Edward Cheng, Dieter Gawlick, and Elizabeth O'Neil: “[The Log-Structured Merge-Tree (LSM-Tree)](http://www.cs.umb.edu/~poneil/lsmtree.pdf),” *Acta Informatica*, volume 33, number 4, pages 351385, June 1996. [doi:10.1007/s002360050048](http://dx.doi.org/10.1007/s002360050048)
1. Mendel Rosenblum and John K. Ousterhout:
“[The Design and Implementation of a Log-Structured File System](http://research.cs.wisc.edu/areas/os/Qual/papers/lfs.pdf),”
*ACM Transactions on Computer Systems*, volume 10, number 1, pages 2652, February 1992.
1. Mendel Rosenblum and John K. Ousterhout: “[The Design and Implementation of a Log-Structured File System](http://research.cs.wisc.edu/areas/os/Qual/papers/lfs.pdf),” *ACM Transactions on Computer Systems*, volume 10, number 1, pages 2652, February 1992.
[doi:10.1145/146941.146943](http://dx.doi.org/10.1145/146941.146943)
1. Adrien Grand:
“[What Is in a Lucene Index?](http://www.slideshare.net/lucenerevolution/what-is-inaluceneagrandfinal),” at *Lucene/Solr Revolution*, November 14, 2013.
1. Adrien Grand: “[What Is in a Lucene Index?](http://www.slideshare.net/lucenerevolution/what-is-inaluceneagrandfinal),” at *Lucene/Solr Revolution*, November 14, 2013.
1. Deepak Kandepet:
“[Hacking Lucene—The Index Format]( http://hackerlabs.github.io/blog/2011/10/01/hacking-lucene-the-index-format/index.html),” *hackerlabs.org*, October 1, 2011.
1. Deepak Kandepet: “[Hacking Lucene—The Index Format]( http://hackerlabs.github.io/blog/2011/10/01/hacking-lucene-the-index-format/index.html),” *hackerlabs.org*, October 1, 2011.
1. Michael McCandless:
“[Visualizing Lucene's Segment Merges](http://blog.mikemccandless.com/2011/02/visualizing-lucenes-segment-merges.html),” *blog.mikemccandless.com*, February 11, 2011.
1. Michael McCandless: “[Visualizing Lucene's Segment Merges](http://blog.mikemccandless.com/2011/02/visualizing-lucenes-segment-merges.html),” *blog.mikemccandless.com*, February 11, 2011.
1. Burton H. Bloom:
“[Space/Time Trade-offs in Hash Coding with Allowable Errors](http://www.cs.upc.edu/~diaz/p422-bloom.pdf),” *Communications of the ACM*, volume 13, number 7, pages 422426, July 1970.
[doi:10.1145/362686.362692](http://dx.doi.org/10.1145/362686.362692)
1. Burton H. Bloom: “[Space/Time Trade-offs in Hash Coding with Allowable Errors](http://www.cs.upc.edu/~diaz/p422-bloom.pdf),” *Communications of the ACM*, volume 13, number 7, pages 422426, July 1970. [doi:10.1145/362686.362692](http://dx.doi.org/10.1145/362686.362692)
1. “[Operating Cassandra: Compaction](https://cassandra.apache.org/doc/latest/operating/compaction.html),” Apache Cassandra Documentation v4.0, 2016.
1. Rudolf Bayer and Edward M. McCreight:
“[Organization and Maintenance of Large Ordered Indices](http://www.dtic.mil/cgi-bin/GetTRDoc?AD=AD0712079),” Boeing Scientific Research Laboratories, Mathematical and Information Sciences
Laboratory, report no. 20, July 1970.
1. Rudolf Bayer and Edward M. McCreight: “[Organization and Maintenance of Large Ordered Indices](http://www.dtic.mil/cgi-bin/GetTRDoc?AD=AD0712079),” Boeing Scientific Research Laboratories, Mathematical and Information Sciences Laboratory, report no. 20, July 1970.
1. Douglas Comer:
“[The Ubiquitous B-Tree](http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.96.6637&rep=rep1&type=pdf),” *ACM Computing Surveys*, volume 11, number 2, pages 121137, June 1979.
[doi:10.1145/356770.356776](http://dx.doi.org/10.1145/356770.356776)
1. Douglas Comer: “[The Ubiquitous B-Tree](http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.96.6637&rep=rep1&type=pdf),” *ACM Computing Surveys*, volume 11, number 2, pages 121137, June 1979. [doi:10.1145/356770.356776](http://dx.doi.org/10.1145/356770.356776)
1. Emmanuel Goossaert:
“[Coding for SSDs](http://codecapsule.com/2014/02/12/coding-for-ssds-part-1-introduction-and-table-of-contents/),” *codecapsule.com*, February 12, 2014.
1. Emmanuel Goossaert: “[Coding for SSDs](http://codecapsule.com/2014/02/12/coding-for-ssds-part-1-introduction-and-table-of-contents/),” *codecapsule.com*, February 12, 2014.
1. C. Mohan and Frank Levine:
“[ARIES/IM: An Efficient and High Concurrency Index Management Method Using Write-Ahead Logging](http://www.ics.uci.edu/~cs223/papers/p371-mohan.pdf),” at *ACM
International Conference on Management of Data* (SIGMOD), June 1992.
[doi:10.1145/130283.130338](http://dx.doi.org/10.1145/130283.130338)
1. C. Mohan and Frank Levine: “[ARIES/IM: An Efficient and High Concurrency Index Management Method Using Write-Ahead Logging](http://www.ics.uci.edu/~cs223/papers/p371-mohan.pdf),” at *ACM International Conference on Management of Data* (SIGMOD), June 1992. [doi:10.1145/130283.130338](http://dx.doi.org/10.1145/130283.130338)
1. Howard Chu:
“[LDAP at Lightning Speed]( https://buildstuff14.sched.com/event/08a1a368e272eb599a52e08b4c3c779d),”
at *Build Stuff '14*, November 2014.
1. Howard Chu: “[LDAP at Lightning Speed]( https://buildstuff14.sched.com/event/08a1a368e272eb599a52e08b4c3c779d),” at *Build Stuff '14*, November 2014.
1. Bradley C. Kuszmaul:
“[A Comparison of Fractal Trees to Log-Structured Merge (LSM) Trees](http://insideanalysis.com/wp-content/uploads/2014/08/Tokutek_lsm-vs-fractal.pdf),” *tokutek.com*,
April 22, 2014.
1. Bradley C. Kuszmaul: “[A Comparison of Fractal Trees to Log-Structured Merge (LSM) Trees](http://insideanalysis.com/wp-content/uploads/2014/08/Tokutek_lsm-vs-fractal.pdf),” *tokutek.com*, April 22, 2014.
1. Manos Athanassoulis, Michael S. Kester,
Lukas M. Maas, et al.: “[Designing Access Methods: The RUM Conjecture](http://openproceedings.org/2016/conf/edbt/paper-12.pdf),” at *19th International Conference on Extending Database
Technology* (EDBT), March 2016.
1. Manos Athanassoulis, Michael S. Kester, Lukas M. Maas, et al.: “[Designing Access Methods: The RUM Conjecture](http://openproceedings.org/2016/conf/edbt/paper-12.pdf),” at *19th International Conference on Extending Database Technology* (EDBT), March 2016.
[doi:10.5441/002/edbt.2016.42](http://dx.doi.org/10.5441/002/edbt.2016.42)
1. Peter Zaitsev:
“[Innodb Double Write](https://www.percona.com/blog/2006/08/04/innodb-double-write/),”
*percona.com*, August 4, 2006.
1. Peter Zaitsev: “[Innodb Double Write](https://www.percona.com/blog/2006/08/04/innodb-double-write/),” *percona.com*, August 4, 2006.
1. Tomas Vondra:
“[On the Impact of Full-Page Writes](http://blog.2ndquadrant.com/on-the-impact-of-full-page-writes/),” *blog.2ndquadrant.com*, November 23, 2016.
1. Tomas Vondra: “[On the Impact of Full-Page Writes](http://blog.2ndquadrant.com/on-the-impact-of-full-page-writes/),” *blog.2ndquadrant.com*, November 23, 2016.
1. Mark Callaghan:
“[The Advantages of an LSM vs a B-Tree](http://smalldatum.blogspot.co.uk/2016/01/summary-of-advantages-of-lsm-vs-b-tree.html),” *smalldatum.blogspot.co.uk*, January 19, 2016.
1. Mark Callaghan: “[The Advantages of an LSM vs a B-Tree](http://smalldatum.blogspot.co.uk/2016/01/summary-of-advantages-of-lsm-vs-b-tree.html),” *smalldatum.blogspot.co.uk*, January 19, 2016.
1. Mark Callaghan:
“[Choosing Between Efficiency and Performance with RocksDB](http://www.codemesh.io/codemesh/mark-callaghan),” at *Code Mesh*, November 4, 2016.
1. Mark Callaghan: “[Choosing Between Efficiency and Performance with RocksDB](http://www.codemesh.io/codemesh/mark-callaghan),” at *Code Mesh*, November 4, 2016.
1. Michi Mutsuzaki:
“[MySQL vs. LevelDB](https://github.com/m1ch1/mapkeeper/wiki/MySQL-vs.-LevelDB),”
*github.com*, August 2011.
1. Michi Mutsuzaki: “[MySQL vs. LevelDB](https://github.com/m1ch1/mapkeeper/wiki/MySQL-vs.-LevelDB),” *github.com*, August 2011.
1. Benjamin Coverston,
Jonathan Ellis, et al.: “[CASSANDRA-1608: Redesigned Compaction](https://issues.apache.org/jira/browse/CASSANDRA-1608), *issues.apache.org*, July 2011.
1. Benjamin Coverston, Jonathan Ellis, et al.: “[CASSANDRA-1608: Redesigned Compaction](https://issues.apache.org/jira/browse/CASSANDRA-1608), *issues.apache.org*, July 2011.
1. Igor Canadi, Siying Dong, and Mark Callaghan:
“[RocksDB Tuning Guide](https://github.com/facebook/rocksdb/wiki/RocksDB-Tuning-Guide),”
1. Igor Canadi, Siying Dong, and Mark Callaghan: “[RocksDB Tuning Guide](https://github.com/facebook/rocksdb/wiki/RocksDB-Tuning-Guide),”
*github.com*, 2016.
1. <a href="http://dev.mysql.com/doc/refman/5.7/en/index.html">*MySQL
5.7 Reference Manual*</a>. Oracle, 2014.
1. [*MySQL 5.7 Reference Manual*](http://dev.mysql.com/doc/refman/5.7/en/index.html). Oracle, 2014.
1. <a href="http://msdn.microsoft.com/en-us/library/ms130214.aspx">*Books
Online for SQL Server 2012*</a>. Microsoft, 2012.
1. [*Books Online for SQL Server 2012*](http://msdn.microsoft.com/en-us/library/ms130214.aspx). Microsoft, 2012.
1. Joe Webb:
“[Using Covering Indexes to Improve Query Performance](https://www.simple-talk.com/sql/learn-sql-server/using-covering-indexes-to-improve-query-performance/),” *simple-talk.com*, 29 September 2008.
1. Joe Webb: “[Using Covering Indexes to Improve Query Performance](https://www.simple-talk.com/sql/learn-sql-server/using-covering-indexes-to-improve-query-performance/),” *simple-talk.com*, 29 September 2008.
1. Frank Ramsak, Volker Markl, Robert Fenk, et al.:
“[Integrating the UB-Tree into a Database System Kernel](http://www.vldb.org/conf/2000/P263.pdf),”
at *26th International Conference on Very Large Data Bases* (VLDB), September 2000.
1. Frank Ramsak, Volker Markl, Robert Fenk, et al.: “[Integrating the UB-Tree into a Database System Kernel](http://www.vldb.org/conf/2000/P263.pdf),” at *26th International Conference on Very Large Data Bases* (VLDB), September 2000.
1. The PostGIS Development Group:
“[PostGIS 2.1.2dev Manual](http://postgis.net/docs/manual-2.1/),”
*postgis.net*, 2014.
1. The PostGIS Development Group: “[PostGIS 2.1.2dev Manual](http://postgis.net/docs/manual-2.1/),” *postgis.net*, 2014.
1. Robert Escriva, Bernard Wong, and Emin Gün Sirer:
“[HyperDex: A Distributed, Searchable Key-Value Store](http://www.cs.princeton.edu/courses/archive/fall13/cos518/papers/hyperdex.pdf),” at *ACM SIGCOMM Conference*, August 2012.
[doi:10.1145/2377677.2377681](http://dx.doi.org/10.1145/2377677.2377681)
1. Robert Escriva, Bernard Wong, and Emin Gün Sirer: “[HyperDex: A Distributed, Searchable Key-Value Store](http://www.cs.princeton.edu/courses/archive/fall13/cos518/papers/hyperdex.pdf),” at *ACM SIGCOMM Conference*, August 2012. [doi:10.1145/2377677.2377681](http://dx.doi.org/10.1145/2377677.2377681)
1. Michael McCandless:
“[Lucene's FuzzyQuery Is 100 Times Faster in 4.0](http://blog.mikemccandless.com/2011/03/lucenes-fuzzyquery-is-100-times-faster.html),” *blog.mikemccandless.com*, March 24, 2011.
1. Michael McCandless: “[Lucene's FuzzyQuery Is 100 Times Faster in 4.0](http://blog.mikemccandless.com/2011/03/lucenes-fuzzyquery-is-100-times-faster.html),” *blog.mikemccandless.com*, March 24, 2011.
1. Steffen Heinz, Justin Zobel, and Hugh E. Williams:
“[Burst Tries: A Fast, Efficient Data Structure for String Keys](http://citeseer.ist.psu.edu/viewdoc/summary?doi=10.1.1.18.3499),”
*ACM Transactions on Information Systems*, volume 20, number 2, pages 192223, April 2002.
[doi:10.1145/506309.506312](http://dx.doi.org/10.1145/506309.506312)
1. Steffen Heinz, Justin Zobel, and Hugh E. Williams: “[Burst Tries: A Fast, Efficient Data Structure for String Keys](http://citeseer.ist.psu.edu/viewdoc/summary?doi=10.1.1.18.3499),” *ACM Transactions on Information Systems*, volume 20, number 2, pages 192223, April 2002. [doi:10.1145/506309.506312](http://dx.doi.org/10.1145/506309.506312)
1. Klaus U. Schulz and Stoyan Mihov:
“[Fast String Correction with Levenshtein Automata](http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.16.652),”
*International Journal on Document Analysis and Recognition*,
volume 5, number 1, pages 6785, November 2002.
[doi:10.1007/s10032-002-0082-8](http://dx.doi.org/10.1007/s10032-002-0082-8)
1. Klaus U. Schulz and Stoyan Mihov: “[Fast String Correction with Levenshtein Automata](http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.16.652),” *International Journal on Document Analysis and Recognition*, volume 5, number 1, pages 6785, November 2002. [doi:10.1007/s10032-002-0082-8](http://dx.doi.org/10.1007/s10032-002-0082-8)
1. Christopher D. Manning, Prabhakar Raghavan, and Hinrich Schütze:
<a href="http://nlp.stanford.edu/IR-book/">*Introduction to Information Retrieval*</a>.
Cambridge University Press, 2008. ISBN: 978-0-521-86571-5, available online at *nlp.stanford.edu/IR-book*
1. Christopher D. Manning, Prabhakar Raghavan, and Hinrich Schütze: [*Introduction to Information Retrieval*](http://nlp.stanford.edu/IR-book/). Cambridge University Press, 2008. ISBN: 978-0-521-86571-5, available online at *nlp.stanford.edu/IR-book*
1. Michael Stonebraker, Samuel Madden, Daniel J. Abadi, et al.:
“[The End of an Architectural Era (Its Time for a Complete Rewrite)](http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.137.3697&rep=rep1&type=pdf),” at
*33rd International Conference on Very Large Data Bases* (VLDB), September 2007.
1. Michael Stonebraker, Samuel Madden, Daniel J. Abadi, et al.: “[The End of an Architectural Era (Its Time for a Complete Rewrite)](http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.137.3697&rep=rep1&type=pdf),” at *33rd International Conference on Very Large Data Bases* (VLDB), September 2007.
1. “[VoltDB Technical Overview White Paper](https://www.voltdb.com/wptechnicaloverview),” VoltDB, 2014.
1. Stephen M. Rumble, Ankita Kejriwal, and John K. Ousterhout:
“[Log-Structured Memory for DRAM-Based Storage](https://www.usenix.org/system/files/conference/fast14/fast14-paper_rumble.pdf),” at *12th USENIX Conference on File and Storage
Technologies* (FAST), February 2014.
1. Stephen M. Rumble, Ankita Kejriwal, and John K. Ousterhout: “[Log-Structured Memory for DRAM-Based Storage](https://www.usenix.org/system/files/conference/fast14/fast14-paper_rumble.pdf),” at *12th USENIX Conference on File and Storage Technologies* (FAST), February 2014.
1. Stavros Harizopoulos, Daniel J. Abadi,
Samuel Madden, and Michael Stonebraker:
“[OLTP Through the Looking Glass, and What We Found There](http://hstore.cs.brown.edu/papers/hstore-lookingglass.pdf),” at *ACM International Conference on Management of Data*
(SIGMOD), June 2008.
[doi:10.1145/1376616.1376713](http://dx.doi.org/10.1145/1376616.1376713)
1. Stavros Harizopoulos, Daniel J. Abadi, Samuel Madden, and Michael Stonebraker: “[OLTP Through the Looking Glass, and What We Found There](http://hstore.cs.brown.edu/papers/hstore-lookingglass.pdf),” at *ACM International Conference on Management of Data*
(SIGMOD), June 2008. [doi:10.1145/1376616.1376713](http://dx.doi.org/10.1145/1376616.1376713)
1. Justin DeBrabant, Andrew Pavlo, Stephen Tu, et al.:
“[Anti-Caching: A New Approach to Database Management System Architecture](http://www.vldb.org/pvldb/vol6/p1942-debrabant.pdf),” *Proceedings of the VLDB Endowment*, volume 6,
number 14, pages 19421953, September 2013.
1. Justin DeBrabant, Andrew Pavlo, Stephen Tu, et al.: “[Anti-Caching: A New Approach to Database Management System Architecture](http://www.vldb.org/pvldb/vol6/p1942-debrabant.pdf),” *Proceedings of the VLDB Endowment*, volume 6, number 14, pages 19421953, September 2013.
1. Joy Arulraj, Andrew Pavlo, and Subramanya R. Dulloor:
“[Let's Talk About Storage & Recovery Methods for Non-Volatile Memory Database Systems](http://www.pdl.cmu.edu/PDL-FTP/NVM/storage.pdf),” at *ACM International Conference on
Management of Data* (SIGMOD), June 2015.
[doi:10.1145/2723372.2749441](http://dx.doi.org/10.1145/2723372.2749441)
1. Joy Arulraj, Andrew Pavlo, and Subramanya R. Dulloor: “[Let's Talk About Storage & Recovery Methods for Non-Volatile Memory Database Systems](http://www.pdl.cmu.edu/PDL-FTP/NVM/storage.pdf),” at *ACM International Conference on Management of Data* (SIGMOD), June 2015. [doi:10.1145/2723372.2749441](http://dx.doi.org/10.1145/2723372.2749441)
1. Edgar F. Codd, S. B. Codd, and C. T. Salley:
“[Providing OLAP to User-Analysts: An IT Mandate](http://www.minet.uni-jena.de/dbis/lehre/ss2005/sem_dwh/lit/Cod93.pdf),” E. F. Codd Associates,
1993.
1. Edgar F. Codd, S. B. Codd, and C. T. Salley: “[Providing OLAP to User-Analysts: An IT Mandate](http://www.minet.uni-jena.de/dbis/lehre/ss2005/sem_dwh/lit/Cod93.pdf),” E. F. Codd Associates, 1993.
1. Surajit Chaudhuri and Umeshwar Dayal:
“[An Overview of Data Warehousing and OLAP Technology](https://www.microsoft.com/en-us/research/wp-content/uploads/2016/02/sigrecord.pdf),” *ACM SIGMOD Record*, volume 26, number 1, pages 6574,
March 1997. [doi:10.1145/248603.248616](http://dx.doi.org/10.1145/248603.248616)
1. Surajit Chaudhuri and Umeshwar Dayal: “[An Overview of Data Warehousing and OLAP Technology](https://www.microsoft.com/en-us/research/wp-content/uploads/2016/02/sigrecord.pdf),” *ACM SIGMOD Record*, volume 26, number 1, pages 6574, March 1997. [doi:10.1145/248603.248616](http://dx.doi.org/10.1145/248603.248616)
1. Per-Åke Larson, Cipri Clinciu, Campbell Fraser, et al.:
“[Enhancements to SQL Server Column Stores](http://research.microsoft.com/pubs/193599/Apollo3%20-%20Sigmod%202013%20-%20final.pdf),” at *ACM International Conference on Management of Data*
(SIGMOD), June 2013.
1. Per-Åke Larson, Cipri Clinciu, Campbell Fraser, et al.: “[Enhancements to SQL Server Column Stores](http://research.microsoft.com/pubs/193599/Apollo3%20-%20Sigmod%202013%20-%20final.pdf),” at *ACM International Conference on Management of Data* (SIGMOD), June 2013.
1. Franz Färber, Norman May, Wolfgang Lehner, et al.:
“[The SAP HANA Database An Architecture Overview](http://sites.computer.org/debull/A12mar/hana.pdf),”
*IEEE Data Engineering Bulletin*, volume 35, number 1, pages 2833, March 2012.
1. Franz Färber, Norman May, Wolfgang Lehner, et al.: “[The SAP HANA Database An Architecture Overview](http://sites.computer.org/debull/A12mar/hana.pdf),” *IEEE Data Engineering Bulletin*, volume 35, number 1, pages 2833, March 2012.
1. Michael Stonebraker:
“[The Traditional RDBMS Wisdom Is (Almost Certainly) All Wrong](http://slideshot.epfl.ch/talks/166),” presentation at *EPFL*, May 2013.
1. Michael Stonebraker: “[The Traditional RDBMS Wisdom Is (Almost Certainly) All Wrong](http://slideshot.epfl.ch/talks/166),” presentation at *EPFL*, May 2013.
1. Daniel J. Abadi:
“[Classifying the SQL-on-Hadoop Solutions](https://web.archive.org/web/20150622074951/http://hadapt.com/blog/2013/10/02/classifying-the-sql-on-hadoop-solutions/),” *hadapt.com*, October 2, 2013.
1. Daniel J. Abadi: “[Classifying the SQL-on-Hadoop Solutions](https://web.archive.org/web/20150622074951/http://hadapt.com/blog/2013/10/02/classifying-the-sql-on-hadoop-solutions/),” *hadapt.com*, October 2, 2013.
1. Marcel Kornacker, Alexander Behm, Victor Bittorf, et al.:
“[Impala: A Modern, Open-Source SQL Engine for Hadoop](http://pandis.net/resources/cidr15impala.pdf),” at *7th Biennial Conference on Innovative Data Systems
Research* (CIDR), January 2015.
1. Marcel Kornacker, Alexander Behm, Victor Bittorf, et al.: “[Impala: A Modern, Open-Source SQL Engine for Hadoop](http://pandis.net/resources/cidr15impala.pdf),” at *7th Biennial Conference on Innovative Data Systems Research* (CIDR), January 2015.
1. Sergey Melnik, Andrey Gubarev, Jing Jing Long, et al.:
“[Dremel: Interactive Analysis of Web-Scale Datasets](http://research.google.com/pubs/pub36632.html),” at *36th International Conference on Very Large Data Bases* (VLDB), pages
1. Sergey Melnik, Andrey Gubarev, Jing Jing Long, et al.: “[Dremel: Interactive Analysis of Web-Scale Datasets](http://research.google.com/pubs/pub36632.html),” at *36th International Conference on Very Large Data Bases* (VLDB), pages
330339, September 2010.
1. Ralph Kimball and Margy Ross:
*The Data Warehouse Toolkit: The Definitive Guide to Dimensional Modeling*,
3rd edition. John Wiley & Sons, July 2013. ISBN: 978-1-118-53080-1
1. Ralph Kimball and Margy Ross: *The Data Warehouse Toolkit: The Definitive Guide to Dimensional Modeling*, 3rd edition. John Wiley & Sons, July 2013. ISBN: 978-1-118-53080-1
1. Derrick Harris:
“[Why Apple, eBay, and Walmart Have Some of the Biggest Data Warehouses Youve Ever Seen](http://gigaom.com/2013/03/27/why-apple-ebay-and-walmart-have-some-of-the-biggest-data-warehouses-youve-ever-seen/),”
*gigaom.com*, March 27, 2013.
1. Derrick Harris: “[Why Apple, eBay, and Walmart Have Some of the Biggest Data Warehouses Youve Ever Seen](http://gigaom.com/2013/03/27/why-apple-ebay-and-walmart-have-some-of-the-biggest-data-warehouses-youve-ever-seen/),” *gigaom.com*, March 27, 2013.
1. Julien Le Dem:
“[Dremel Made Simple with Parquet](https://blog.twitter.com/2013/dremel-made-simple-with-parquet),”
*blog.twitter.com*, September 11, 2013.
1. Julien Le Dem: “[Dremel Made Simple with Parquet](https://blog.twitter.com/2013/dremel-made-simple-with-parquet),” *blog.twitter.com*, September 11, 2013.
1. Daniel J. Abadi, Peter Boncz, Stavros
Harizopoulos, et al.:
“[The Design and Implementation of Modern Column-Oriented Database Systems](http://cs-www.cs.yale.edu/homes/dna/papers/abadi-column-stores.pdf),” *Foundations and Trends in
Databases*, volume 5, number 3, pages 197280, December 2013.
[doi:10.1561/1900000024](http://dx.doi.org/10.1561/1900000024)
1. Daniel J. Abadi, Peter Boncz, Stavros Harizopoulos, et al.: “[The Design and Implementation of Modern Column-Oriented Database Systems](http://cs-www.cs.yale.edu/homes/dna/papers/abadi-column-stores.pdf),” *Foundations and Trends in Databases*, volume 5, number 3, pages 197280, December 2013. [doi:10.1561/1900000024](http://dx.doi.org/10.1561/1900000024)
1. Peter Boncz, Marcin Zukowski, and Niels Nes:
“[MonetDB/X100: Hyper-Pipelining Query Execution](http://www.cidrdb.org/cidr2005/papers/P19.pdf),”
1. Peter Boncz, Marcin Zukowski, and Niels Nes: “[MonetDB/X100: Hyper-Pipelining Query Execution](http://www.cidrdb.org/cidr2005/papers/P19.pdf),”
at *2nd Biennial Conference on Innovative Data Systems Research* (CIDR), January 2005.
1. Jingren Zhou and Kenneth A. Ross:
“[Implementing Database Operations Using SIMD Instructions](http://www1.cs.columbia.edu/~kar/pubsk/simd.pdf),”
1. Jingren Zhou and Kenneth A. Ross: “[Implementing Database Operations Using SIMD Instructions](http://www1.cs.columbia.edu/~kar/pubsk/simd.pdf),”
at *ACM International Conference on Management of Data* (SIGMOD), pages 145156, June 2002.
[doi:10.1145/564691.564709](http://dx.doi.org/10.1145/564691.564709)
1. Michael Stonebraker, Daniel J. Abadi, Adam Batkin, et al.:
“[C-Store: A Column-oriented DBMS](http://www.vldb2005.org/program/paper/thu/p553-stonebraker.pdf),”
1. Michael Stonebraker, Daniel J. Abadi, Adam Batkin, et al.: “[C-Store: A Column-oriented DBMS](http://www.vldb2005.org/program/paper/thu/p553-stonebraker.pdf),”
at *31st International Conference on Very Large Data Bases* (VLDB), pages 553564, September 2005.
1. Andrew Lamb, Matt Fuller, Ramakrishna Varadarajan, et al.:
“[The Vertica Analytic Database: C-Store 7 Years Later](http://vldb.org/pvldb/vol5/p1790_andrewlamb_vldb2012.pdf),”
*Proceedings of the VLDB Endowment*, volume 5, number 12, pages 17901801, August 2012.
1. Andrew Lamb, Matt Fuller, Ramakrishna Varadarajan, et al.: “[The Vertica Analytic Database: C-Store 7 Years Later](http://vldb.org/pvldb/vol5/p1790_andrewlamb_vldb2012.pdf),” *Proceedings of the VLDB Endowment*, volume 5, number 12, pages 17901801, August 2012.
1. Julien Le Dem and Nong Li:
“[Efficient Data Storage for Analytics with Apache Parquet 2.0](http://www.slideshare.net/julienledem/th-210pledem),” at *Hadoop Summit*, San Jose,
June 2014.
1. Julien Le Dem and Nong Li: “[Efficient Data Storage for Analytics with Apache Parquet 2.0](http://www.slideshare.net/julienledem/th-210pledem),” at *Hadoop Summit*, San Jose, June 2014.
1. Jim Gray, Surajit Chaudhuri, Adam Bosworth, et al.:
“[Data Cube: A Relational Aggregation Operator Generalizing Group-By, Cross-Tab, and Sub-Totals](http://arxiv.org/pdf/cs/0701155.pdf),” *Data Mining and Knowledge
Discovery*, volume 1, number 1, pages 2953, March 2007.
[doi:10.1023/A:1009726021843](http://dx.doi.org/10.1023/A:1009726021843)
1. Jim Gray, Surajit Chaudhuri, Adam Bosworth, et al.: “[Data Cube: A Relational Aggregation Operator Generalizing Group-By, Cross-Tab, and Sub-Totals](http://arxiv.org/pdf/cs/0701155.pdf),” *Data Mining and Knowledge Discovery*, volume 1, number 1, pages 2953, March 2007. [doi:10.1023/A:1009726021843](http://dx.doi.org/10.1023/A:1009726021843)