模式设计

这一主题包含设计Greenplum数据库模式的最佳实践。

Greenplum数据库是一种分析型的shared-nothing数据库，它和高度规范化的事务型SMP数据库有很大不同。Greenplum数据库使用非规范化的模式设计会工作得最好，非规范化的模式适合于MPP分析型处理，例如带有大型事实表和较小维度表的星形模式或者雪花模式。

上级主题： 最佳实践

数据类型

一致地使用类型

为表间连接中用到的列使用相同的数据类型。如果数据类型不同，Greenplum数据库必须动态地转换其中一列的数据类型，这样数据值才能被正确地比较。出于这种考虑，用户可能需要增加数据类型尺寸以便连接到其他常用对象。

选择使用最小空间的数据类型

通过选择最有效的数据类型存储数据，用户可以增加数据库容量并且改进查询执行。

使用TEXT或者VARCHAR而不是CHAR。在这些字符数据类型之间没有性能差异，但使用TEXT或VARCHAR能够降低使用的存储空间。

使用能容纳数据的最小数字数据类型。对适合于INT或SMALLINT的数据使用BIGINT会浪费存储空间。

存储模型

在创建表时，Greenplum数据库提供了一批存储选项。非常有必要了解何时使用堆存储以及追加优化（AO）存储，还有何时使用面向行的存储以及面向列的存储。在堆和AO以及行和列之间做出正确的选择对于大型的事实表来说极度重要，但是对于小的维度表就不那么重要。

确定存储模型的最佳实践是：

  1. 设计并且构建一种只插入的模型，在装载前截断每天的分区。
  2. 对于大型的分区事实表，为不同的分区评估并且使用最优的存储选项。一种存储选项对于整个分区表并不总是正确的。例如，有些分区可以是行存的而其他分区是列存的。
  3. 在使用面向列的存储时，每一列在每个Greenplum数据库Segment上都是一个单独的文件。对于具有大量列的表，对经常访问的数据（热数据）考虑列存，对不经常访问的数据（冷数据）考虑面向行的存储。
  4. 存储选项应该在分区级别或者数据被存储的级别设置。
  5. 如果需要，压缩大型表以提升I/O性能并且在集群中腾出空间。

堆存储还是追加优化存储

堆存储是默认模型，并且是PostgreSQL为所有数据库表使用的模型。为将收到反复UPDATE、DELETE以及单个INSERT操作的表和分区使用堆存储。为将收到并发UPDATE、DELETE以及INSERT操作的表和分区使用堆存储。

为初始装载后就很少被更新并且后续只会以批操作执行插入的表和分区使用追加优化存储。绝不要在追加优化表上执行单个INSERT、UPDATE或者DELETE操作。并发的批量INSERT操作可以被执行但是绝不执行并发的批量UPDATE或者DELETE操作。

追加优化表中被更新和删除的行所占用的空间不会像堆表那样被有效地回收及重用，因此追加优化存储模型不适合于频繁更新的表。它的设计目标是用于一次装载、很少更新且频繁进行分析查询处理的大型表。

行存还是列存

行方向是传统的存储数据库元组的方式。组成一行的列被连续地存储在磁盘上，因此整个行可以被以单次I/O从磁盘上读出。

面向列的方式把列值在磁盘上存在一起。对每一列都会创建一个单独的文件。如果表被分区，则会对每个列和分区的组合创建一个单独的文件。当一个查询在一个有很多列的列存表中访问少量列时，I/O代价会比行存表要减少很多，因为不必从磁盘上检索没有被引用的列。

对于包含要求更新并且频繁执行插入的事务的交易型负载，推荐使用面向行的存储。当对表的选择很宽（即查询中需要单个行的很多列）时，应该使用面向行的存储。如果大部分列出现在查询的SELECT列表或者WHERE子句中，请使用面向行的存储。对一般目的或者混合负载使用面向行的存储，因为它能提供灵活性和性能的最佳组合。

面向列的存储是为了读操作而优化，但它并未对写操作优化，一行的列值必须被写入到磁盘上的不同位置。对于有很多列的大型表，当查询中只访问列的一个小集合时，列存表可以提供最优查询性能。

列存的另一个好处是，同一种数据类型的值集合可以用比混合类型值集合更少的空间存储在一起，因此列存表比行存表使用的磁盘空间更少（进而导致需要更少的磁盘I/O）。列存表的压缩效果也比行存表更好。

对于数据仓库的分析型负载，其中的选择很窄或者在少量列上计算数据聚集，请使用面向列的存储。对于定期更新单个列但不修改行中其他列的表，使用面向列的存储。在一个很宽的列存表中读取一个完整的行比在行存表中读取同样一行需要更多时间。有必要理解每个列都是Greenplum数据库中每个Segment上一个单独的物理文件。

压缩

Greenplum数据库提供了各种选项以压缩追加优化表和分区。压缩数据允许在每次磁盘读取操作中读取更多的数据，这样就能提高系统的I/O。最佳实践是在数据所在的层次设置列的压缩设置。

注意被增加到分区表的新分区不会自动继承表级定义的压缩，在增加新分区时，用户必须明确地定义压缩。

Delta和RLE压缩提供了最好的压缩级别。较高的压缩级别通常导致磁盘上更加紧凑的存储，但是写入时的数据压缩和读取时的数据解压会要求额外的时间和CPU周期。排序数据并且结合多种压缩选项可以实现最高的压缩级别。

绝不要对存储在压缩文件系统上的数据使用数据压缩。

测试不同的压缩类型和排序方法以确定对用户特定数据的最佳压缩。

分布

能致使数据被均匀分布的最优分布是Greenplum数据库中最重要的因素。在一个MPP无共享环境中，一个查询的总体响应时间由所有Segment的完成时间度量。整个系统和最慢的一个Segment一样快。如果数据发生倾斜，拥有更多数据的Segment将需要更多时间完成，因此每一个Segment必须有大约相同数据量的行并且执行大概相同量级的处理。如果一个Segment比其他Segment有明显更多的数据要处理，将会导致糟糕的性能和内存不足的情况。

在决定分布策略时，考虑下列最佳实践：

  • 为所有的表明确定义一个分布列或者随机分布。不要使用默认分布。
  • 理想情况下，使用单个将数据在所有Segment之间均匀分布的列。
  • 不要在查询的WHERE子句中将要使用的列上进行分布。
  • 不要在日期或者时间戳上分布。
  • 分布键列数据应该含有唯一值或者非常高的势。
  • 如果单个列无法实现均匀分布，则使用多列分布键，但不要超过两列。额外的列值通常不会得到更均匀的分布，而且它们要求额外的哈希处理时间。
  • 如果两个列的分布键无法实现数据的均匀分布，则使用随机分布。大部分情况中的多列分布键都要求移动操作来连接表，因此它们对于随机分布来说没有优势。

Greenplum数据库的随机分布不是循环的，因此无法保证每个Segment上的记录数相等。随机分布通常会落在变化低于10个百分点的目标范围中。

在连接大型表时，最优分布非常关键。为了执行连接，匹配的行必须位于同一个Segment上。如果数据没有按照同一个连接列分布，其中一个表中需要的行会被动态重新分布到其他Segment上。在一些情况下会执行一次广播移动而不是执行重新分布移动。

本地（局内）连接

使用在所有Segment之间均匀分布表行并且导致本地连接的哈希分布能够提供可观的性能受益。当被连接的行在同一个Segment上时，很多处理都可以在该Segment实例内完成。这被称为本地或者局内连接。本地连接能最小化数据移动，每一个Segment都独立于其他Segment操作，不需要Segment之间的网络流量或通信。

为了在常被连接在一起的大型表上实现本地连接，请在相同的列上分布这些表。本地连接要求连接的两边都被按照相同的列（以及相同的顺序）分布并且连接表时使用分布子句中的所有列。分布列还必须是同样的数据类型——虽然一些具有不同数据类型的值看起来有相同的表现形式，但它们的存储方式不同并且会被哈希为不同的值，因此它们会被存放在不同的Segment上。

数据倾斜

数据倾斜常常是糟糕查询性能和内存不足情况的根源。倾斜的数据会影响查询（读取）性能，但它还影响所有其他的执行操作，例如操作执行的连接和分组。

有必要验证分布以确保数据在初始装载之后被均匀地分布。在增量装载之后继续验证分布也同等重要。

下列查询显示每个Segment的行数以及与最大、最小行数之间的差异：

  1. SELECT 'Example Table' AS "Table Name", 
  2.     max(c) AS "Max Seg Rows", min(c) AS "Min Seg Rows", 
  3.     (max(c)-min(c))*100.0/max(c) AS "Percentage Difference Between Max & Min" 
  4. FROM (SELECT count(*) c, gp_segment_id FROM facts GROUP BY 2) AS a;

gp_toolkit方案有两个使用者可以用来检查倾斜的视图。

  • gp_toolkit.gp_skew_coefficients视图通过计算存储在每个Segment上的数据的变异系数（CV）来显示数据分布倾斜。skccoeff列显示变异系数（CV），它由标准偏差除以均值算出。它同时考虑均值和围绕一个数据序列的均值的变化性。值越低，情况就越好。值越高表明数据倾斜越严重。
  • gp_toolkit.gp_skew_idle_fractions视图通过计算一次表扫描期间系统空闲的百分数来显示数据分布倾斜，这种数据是计算性倾斜的指示器。siffraction列显示在一次表扫描期间系统处于空闲的百分数。这是一种非均匀数据分布或者查询处理倾斜的指示器。例如，值为0.1表示10%的倾斜，值为0.5表示50%的倾斜等等。如果表的倾斜超过10%，就应该评估其分布策略。

处理倾斜

当不成比例的数据量流入一个或者少数Segment并被它们处理时，处理倾斜就会发生。它常常就是Greenplum数据库性能和稳定性问题背后的罪人。它可能随着连接、排序、聚集和多种OLAP操作而发生。查询倾斜在查询执行时才会发生，因此并不如数据倾斜那么容易检测，数据倾斜由于错误的分布键选择导致的非均匀数据分布而产生。数据倾斜存在于表级别，因此它可以被很容易地检测到并且通过选择最优的分布键来避免。

如果单个Segment失效（也就是说并非主机上所有Segment失效），可能就会是一个处理倾斜问题。当前确定处理倾斜还是一种手工处理。首先查看溢出文件。如果有倾斜但还不足以导致溢出，这将不会成为一种性能问题。如果使用者确定倾斜存在，接着查找对该倾斜负责的查询。下面是要使用的步骤和命令（相应地更改传递给gpssh的主机文件名之类的东西）：

  1. 查找要在其中监控倾斜处理的数据库的OID：

    1. SELECT oid, datname FROM pg_database;

    其输出的例子：

    1.   oid  |  datname
    2. -------+-----------
    3.  17088 | gpadmin
    4.  10899 | postgres
    5.      1 | template1
    6.  10898 | template0
    7.  38817 | pws
    8.  39682 | gpperfmon
    9. (6 rows)

  2. 运行一个gpssh命令以在系统中所有的Segment节点间检查文件尺寸。把用前一个命令中得到的数据库OID替换：

    1. [gpadmin@mdw kend]$ gpssh -f ~/hosts -e \
    2.     "du -b /data[1-2]/primary/gpseg*/base/<OID>/pgsql_tmp/*" | \
    3.     grep -v "du -b" | sort | awk -F" " '{ arr[$1] = arr[$1] + $2 ; tot = tot + $2 }; END \
    4.     { for ( i in arr ) print "Segment node" i, arr[i], "bytes (" arr[i]/(1024**3)" GB)"; \
    5.     print "Total", tot, "bytes (" tot/(1024**3)" GB)" }' -

    其输出的例子：

    1. Segment node[sdw1] 2443370457 bytes (2.27557 GB)
    2. Segment node[sdw2] 1766575328 bytes (1.64525 GB)
    3. Segment node[sdw3] 1761686551 bytes (1.6407 GB)
    4. Segment node[sdw4] 1780301617 bytes (1.65804 GB)
    5. Segment node[sdw5] 1742543599 bytes (1.62287 GB)
    6. Segment node[sdw6] 1830073754 bytes (1.70439 GB)
    7. Segment node[sdw7] 1767310099 bytes (1.64594 GB)
    8. Segment node[sdw8] 1765105802 bytes (1.64388 GB)
    9. Total 14856967207 bytes (13.8366 GB)

    如果在磁盘使用上有显著且持续的差别，那么应该研究正在被执行的查询看看有没有倾斜（上面的输出例子并未表明明显的倾斜）。在被监控的系统中，总是会有一点倾斜，但通常它们是短暂的并且将会持续很短的时间。

  3. 如果显著且持久的倾斜出现，下一个任务就是确定导致问题的查询。

    前一步的命令已经摘要了整个节点。这一次，要找到实际的Segment目录。使用者可以从Master或者通过登入前一步确定的特定节点来做这些。下面是一个从Master运行的例子。

    这个例子专门地查找排序文件。并非所有的溢出文件或者倾斜情况都由排序文件导致，因此使用者将需要自定义这个命令：

    1. $ gpssh -f ~/hosts -e 
    2.     "ls -l /data[1-2]/primary/gpseg*/base/19979/pgsql_tmp/*" 
    3.     | grep -i sort | sort

    下面是来自这个命令的输出：

    1. [sdw1] -rw------- 1 gpadmin gpadmin 1002209280 Jul 29 12:48
    2.         /data1/primary/gpseg2/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_19791_0001.0
    3. [sdw1] -rw------- 1 gpadmin gpadmin 1003356160 Jul 29 12:48
    4.         /data1/primary/gpseg1/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_19789_0001.0
    5. [sdw1] -rw------- 1 gpadmin gpadmin  288718848 Jul 23 14:58
    6.         /data1/primary/gpseg2/base/19979/pgsql_tmp/pgsql_tmp_slice0_sort_17758_0001.0
    7. [sdw1] -rw------- 1 gpadmin gpadmin  291176448 Jul 23 14:58
    8.         /data2/primary/gpseg5/base/19979/pgsql_tmp/pgsql_tmp_slice0_sort_17764_0001.0
    9. [sdw1] -rw------- 1 gpadmin gpadmin  988446720 Jul 29 12:48
    10.         /data1/primary/gpseg0/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_19787_0001.0
    11. [sdw1] -rw------- 1 gpadmin gpadmin  995033088 Jul 29 12:48
    12.         /data2/primary/gpseg3/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_19793_0001.0
    13. [sdw1] -rw------- 1 gpadmin gpadmin  997097472 Jul 29 12:48
    14.         /data2/primary/gpseg5/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_19797_0001.0
    15. [sdw1] -rw------- 1 gpadmin gpadmin  997392384 Jul 29 12:48
    16.         /data2/primary/gpseg4/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_19795_0001.0
    17. [sdw2] -rw------- 1 gpadmin gpadmin 1002340352 Jul 29 12:48
    18.         /data2/primary/gpseg11/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_3973_0001.0
    19. [sdw2] -rw------- 1 gpadmin gpadmin 1004339200 Jul 29 12:48
    20.         /data1/primary/gpseg8/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_3967_0001.0
    21. [sdw2] -rw------- 1 gpadmin gpadmin  989036544 Jul 29 12:48
    22.         /data2/primary/gpseg10/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_3971_0001.0
    23. [sdw2] -rw------- 1 gpadmin gpadmin  993722368 Jul 29 12:48
    24.         /data1/primary/gpseg6/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_3963_0001.0
    25. [sdw2] -rw------- 1 gpadmin gpadmin  998277120 Jul 29 12:48
    26.         /data1/primary/gpseg7/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_3965_0001.0
    27. [sdw2] -rw------- 1 gpadmin gpadmin  999751680 Jul 29 12:48
    28.         /data2/primary/gpseg9/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_3969_0001.0
    29. [sdw3] -rw------- 1 gpadmin gpadmin 1000112128 Jul 29 12:48
    30.         /data1/primary/gpseg13/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_24723_0001.0
    31. [sdw3] -rw------- 1 gpadmin gpadmin 1004797952 Jul 29 12:48
    32.         /data2/primary/gpseg17/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_24731_0001.0
    33. [sdw3] -rw------- 1 gpadmin gpadmin 1004994560 Jul 29 12:48
    34.         /data2/primary/gpseg15/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_24727_0001.0
    35. [sdw3] -rw------- 1 gpadmin gpadmin 1006108672 Jul 29 12:48
    36.         /data1/primary/gpseg14/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_24725_0001.0
    37. [sdw3] -rw------- 1 gpadmin gpadmin  998244352 Jul 29 12:48
    38.         /data1/primary/gpseg12/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_24721_0001.0
    39. [sdw3] -rw------- 1 gpadmin gpadmin  998440960 Jul 29 12:48
    40.         /data2/primary/gpseg16/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_24729_0001.0
    41. [sdw4] -rw------- 1 gpadmin gpadmin 1001029632 Jul 29 12:48
    42.         /data2/primary/gpseg23/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_29435_0001.0
    43. [sdw4] -rw------- 1 gpadmin gpadmin 1002504192 Jul 29 12:48
    44.         /data1/primary/gpseg20/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_29429_0001.0
    45. [sdw4] -rw------- 1 gpadmin gpadmin 1002504192 Jul 29 12:48
    46.         /data2/primary/gpseg21/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_29431_0001.0
    47. [sdw4] -rw------- 1 gpadmin gpadmin 1009451008 Jul 29 12:48
    48.         /data1/primary/gpseg19/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_29427_0001.0
    49. [sdw4] -rw------- 1 gpadmin gpadmin  980582400 Jul 29 12:48
    50.         /data1/primary/gpseg18/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_29425_0001.0
    51. [sdw4] -rw------- 1 gpadmin gpadmin  993230848 Jul 29 12:48
    52.         /data2/primary/gpseg22/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_29433_0001.0
    53. [sdw5] -rw------- 1 gpadmin gpadmin 1000898560 Jul 29 12:48
    54.         /data2/primary/gpseg28/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_28641_0001.0
    55. [sdw5] -rw------- 1 gpadmin gpadmin 1003388928 Jul 29 12:48
    56.         /data2/primary/gpseg29/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_28643_0001.0
    57. [sdw5] -rw------- 1 gpadmin gpadmin 1008566272 Jul 29 12:48
    58.         /data1/primary/gpseg24/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_28633_0001.0
    59. [sdw5] -rw------- 1 gpadmin gpadmin  987332608 Jul 29 12:48
    60.         /data1/primary/gpseg25/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_28635_0001.0
    61. [sdw5] -rw------- 1 gpadmin gpadmin  990543872 Jul 29 12:48
    62.         /data2/primary/gpseg27/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_28639_0001.0
    63. [sdw5] -rw------- 1 gpadmin gpadmin  999620608 Jul 29 12:48
    64.         /data1/primary/gpseg26/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_28637_0001.0
    65. [sdw6] -rw------- 1 gpadmin gpadmin 1002242048 Jul 29 12:48
    66.         /data2/primary/gpseg33/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_29598_0001.0
    67. [sdw6] -rw------- 1 gpadmin gpadmin 1003683840 Jul 29 12:48
    68.         /data1/primary/gpseg31/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_29594_0001.0
    69. [sdw6] -rw------- 1 gpadmin gpadmin 1004732416 Jul 29 12:48
    70.         /data2/primary/gpseg34/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_29600_0001.0
    71. [sdw6] -rw------- 1 gpadmin gpadmin  986447872 Jul 29 12:48
    72.         /data2/primary/gpseg35/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_29602_0001.0
    73. [sdw6] -rw------- 1 gpadmin gpadmin  990543872 Jul 29 12:48
    74.         /data1/primary/gpseg30/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_29592_0001.0
    75. [sdw6] -rw------- 1 gpadmin gpadmin  992870400 Jul 29 12:48
    76.         /data1/primary/gpseg32/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_29596_0001.0
    77. [sdw7] -rw------- 1 gpadmin gpadmin 1007321088 Jul 29 12:48
    78.         /data2/primary/gpseg39/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_18530_0001.0
    79. [sdw7] -rw------- 1 gpadmin gpadmin 1011187712 Jul 29 12:48
    80.         /data1/primary/gpseg37/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_18526_0001.0
    81. [sdw7] -rw------- 1 gpadmin gpadmin  987332608 Jul 29 12:48
    82.         /data2/primary/gpseg41/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_18534_0001.0
    83. [sdw7] -rw------- 1 gpadmin gpadmin  994344960 Jul 29 12:48
    84.         /data1/primary/gpseg38/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_18528_0001.0
    85. [sdw7] -rw------- 1 gpadmin gpadmin  996114432 Jul 29 12:48
    86.         /data2/primary/gpseg40/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_18532_0001.0
    87. [sdw7] -rw------- 1 gpadmin gpadmin  999194624 Jul 29 12:48
    88.         /data1/primary/gpseg36/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_18524_0001.0
    89. [sdw8] -rw------- 1 gpadmin gpadmin 1002242048 Jul 29 12:48
    90.         /data2/primary/gpseg46/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15675_0001.0
    91. [sdw8] -rw------- 1 gpadmin gpadmin 1003520000 Jul 29 12:48
    92.         /data1/primary/gpseg43/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15669_0001.0
    93. [sdw8] -rw------- 1 gpadmin gpadmin 1008009216 Jul 29 12:48
    94.         /data1/primary/gpseg44/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15671_0001.0
    95. [sdw8] -rw------- 1 gpadmin gpadmin 1073741824 Jul 29 12:16
    96.         /data2/primary/gpseg45/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15673_0001.0
    97. [sdw8] -rw------- 1 gpadmin gpadmin 1073741824 Jul 29 12:21
    98.         /data2/primary/gpseg45/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15673_0002.1
    99. [sdw8] -rw------- 1 gpadmin gpadmin 1073741824 Jul 29 12:24
    100.         /data2/primary/gpseg45/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15673_0003.2
    101. [sdw8] -rw------- 1 gpadmin gpadmin 1073741824 Jul 29 12:26
    102.         /data2/primary/gpseg45/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15673_0004.3
    103. [sdw8] -rw------- 1 gpadmin gpadmin 1073741824 Jul 29 12:31
    104.         /data2/primary/gpseg45/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15673_0006.5
    105. [sdw8] -rw------- 1 gpadmin gpadmin 1073741824 Jul 29 12:32
    106.         /data2/primary/gpseg45/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15673_0005.4
    107. [sdw8] -rw------- 1 gpadmin gpadmin 1073741824 Jul 29 12:34
    108.         /data2/primary/gpseg45/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15673_0007.6
    109. [sdw8] -rw------- 1 gpadmin gpadmin 1073741824 Jul 29 12:36
    110.         /data2/primary/gpseg45/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15673_0008.7
    111. [sdw8] -rw------- 1 gpadmin gpadmin 1073741824 Jul 29 12:43
    112.         /data2/primary/gpseg45/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15673_0009.8
    113. [sdw8] -rw------- 1 gpadmin gpadmin  924581888 Jul 29 12:48
    114.         /data2/primary/gpseg45/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15673_0010.9
    115. [sdw8] -rw------- 1 gpadmin gpadmin  990085120 Jul 29 12:48
    116.         /data1/primary/gpseg42/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15667_0001.0
    117. [sdw8] -rw------- 1 gpadmin gpadmin  996933632 Jul 29 12:48
    118.       /data2/primary/gpseg47/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15677_0001.0

    扫描这一输出将会揭示出主机sdw8上的名为gpseg45的Segment是罪魁祸首。

  4. 用ssh登入导致问题的节点并且成为root。使用lsof命令查找拥有排序文件的进程的PID：

    1. [root@sdw8 ~]# lsof /data2/primary/gpseg45/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15673_0002.1
    2. COMMAND  PID    USER    FD   TYPE DEVICE  SIZE        NODE        NAME
    3. postgres 15673  gpadmin 11u  REG  8,48    1073741824  64424546751 /data2/primary/gpseg45/base/19979/pgsql_tmp/pgsql_tmp_slice10_sort_15673_0002.1

    PID 15673也是文件名的一部分，但并不总是这样。

  5. 用该PID作为参数运行ps命令以确定数据库和连接信息：

    1. [root@sdw8 ~]# ps -eaf | grep 15673
    2. gpadmin  15673 27471 28 12:05 ?        00:12:59 postgres: port 40003, sbaskin bdw
    3.         172.28.12.250(21813) con699238 seg45 cmd32 slice10 MPPEXEC SELECT
    4. root     29622 29566  0 12:50 pts/16   00:00:00 grep 15673

  6. 在Master上，在pg_log日志文件中查找上一个命令中的用户（sbaskin）、连接（con699238）以及命令编号（cmd32）。日志文件中含有这三个值的行应该是包含该查询的行，但偶尔命令编号可能会略有不同。例如，ps输出可能显示cmd32，但在日志文件中是cmd34。如果该查询仍在运行，该用户和连接的最后一个查询就是导致问题的查询。

对于处理倾斜的纠正几乎都是重写该查询。创建临时表可以消除倾斜。临时表可以被随机地分布以强制一种两阶段的聚集。

分区

一种好的分区策略通过只读取满足查询所需的分区来降低被扫描的数据量。

每个分区在每一个Segment上都是一个单独的物理文件。就像在宽列存表中读取一整行比从对表读取同一行需要更多时间一样，在分区表中读取所有分区比从非分区表中读取相同的数据要求更多的时间。

下面是分区的最佳实践：

  • 只分区大型表，不要分区小型表。
  • 仅当可以基于查询条件实现分区消除（分区剪枝）并且可以基于查询谓词对表分区来完成分区消除时才在大型表上使用分区。优先使用范围分区而不是列表分区。
  • 优先选择范围分区而不是列表分区。
  • 只有当查询包含表的使用不可变操作符（例如\=、<、<= 、>、>=以及<>）的直接简单限制时，查询规划器才能有选择地扫描分区表。

  • 选择性扫描会识别STABLE和IMMUTABLE函数，但是不识别查询中的VOLATILE函数。例如，

    1. date > CURRENT_DATE

    之类的WHERE子句会导致查询规划器选择性地扫描分区表，但

    1. time > TIMEOFDAY

    之类的WHERE子句却不行。有必要通过检查查询的EXPLAIN计划来验证查询是否选择性地扫描分区表（分区被消除）。

  • 不要使用默认分区。默认分区总是会被扫描，但是更重要的是，在很多环境下它们会被装得过多导致糟糕的性能。
  • 绝不在相同的列上对表分区和分布。
  • 不要使用多级分区。虽然支持子分区，但并不推荐使用这种特性，因为通常子分区包含很少的数据或者不包含数据。分区或者子分区数量增加时性能也增加简直就是天方夜谭。维护很多分区和子分区的管理负荷将会压过得到的性能收益。为了性能、可扩展性以及客观理性，请在分区扫描性能和总体分区数量之间做出平衡。
  • 谨防对列式存储使用太多分区。
  • 考虑负载并发性以及为所有并发查询打开并且扫描的平均分区数。

分区和列存文件的数量

对Greenplum数据库支持的文件数的唯一硬限制是操作系统的打开文件限制。但是，有必要考虑集群中文件的总数、每个Segment上的文件数以及一台主机上的文件总数。在一个MPP无共享环境中，每一个节点都独立于其他节点操作。每个节点受到其磁盘、CPU和内存的约束。CPU和I/O约束对Greenplum数据库并不常见，但内存常常是一种限制因素，因为查询执行模型会在内存中优化查询性能。

每个Segment上的最优文件数也基于该节点上的Segment数量、集群的大小、SQL访问、并发、负载和倾斜等因素而变化。通常在每台主机上有六到八个Segment，但更重要的是考虑每个Segment的文件数和节点上的文件总数。

例子 DCA V2 每节点64GB内存

  • 节点数：16
  • 每节点的Segment数：8
  • 每个Segment的平均文件数：10,000

每节点上的文件总数是8*10,000 = 80,000，而该集群的文件总数是8*16*10,000 = 1,280,000。随着分区数和列数的增加，文件数会快速增加。

作为一种通常的最佳实践，请把每节点的文件总数限制为低于100,000。如上一个例子所示，每个Segment的最优文件数和每节点的文件总数取决于节点的硬件配置、集群的大小、SQL访问、并发性、负载以及倾斜。

索引

在Greenplum数据库中通常不需要索引。大部分分析型查询在大量数据库上操作。在Greenplum数据库中，顺序扫描是一种读取数据的有效方法，因为每个Segment都含有数据同等大小的一部分并且所有的Segment都并行工作以读取数据。

对于具有高选择性的查询，索引可能会提升查询性能。对于选择性查询所要求的高基数表，在一个列式表的单列上创建用于钻透目的的索引。

如果确定需要索引，不要索引被频繁更新的列。在频繁被更新的列上创建索引会增加更新时所需的写次数。

只有当表达式被频繁地使用在查询中时，才应该在表达式上建立索引。

带有谓词的索引会创建一个部分索引，它可以被用来从大型表中选择少量行。

避免重叠的索引。具有相同前导列的索引是冗余的。

对于返回一个定向行集合的查询来说，索引能够提高在压缩追加优化表上的性能。对于压缩数据，一种索引访问方法意味着只有必要的页面会被解压缩。

创建有选择性的B-树索引。索引选择度是一列中的可区分值数量除以表中的行数。例如，如果一个表有1000行并且有一列中有800个可区分值，那么该索引的选择度就是0.8，这被认为是还不错。

如果增加一个索引没有产生性能增益，则应该删掉它。验证所创建的每一个索引都会被优化器使用。

总是在向表中装载数据前删除索引。这样装载的运行速度将会比在带有索引的表中装载数据快一个数量级。在装载之后，重新创建索引。

位图索引适合于查询但不适合于更新。当列具有较低的基数（100到100,000个可区分值）时位图索引表现得最好。不要为唯一列、基数非常高或者非常低的数据使用位图索引。不要为事务性负载使用位图索引。

通常，不要索引分区表。如果需要索引，索引列必须不同于分区列。索引分区表的一个好处是因为当B-树尺寸增长时其性能呈指数下降，在分区表上创建索引会导致较小的B-树，其性能比未分区表上的B-树更好。

列顺序与字节对齐

为了最优性能，请布置表列以实现数据类型的字节对齐。以下面的顺序布置堆表中的列：

  1. 分布列和分区列
  2. 固定的数字类型
  3. 可变的数据类型

从大到小布置数据类型，这样BIGINT和TIMESTAMP会在INT和DATE的前面，而所有这些类型都在TEXT、VARCHAR或者NUMERIC(x,y)之前。例如，首先是8字节类型（BIGINT、TIMESTAMP），接着是4字节类型（INT、DATE），再后面是2字节类型（SMALLINT），而可变数据类型在最后（VARCHAR）。

不要以这种顺序定义列：

Int、Bigint、Timestamp、Bigint、Timestamp、Int（分布键）、Date（分区键）、Bigint、Smallint

，而是以这种顺序定义列：

Int（分布键）、Date（分区键）、Bigint、Bigint、Timestamp、Bigint、Timestamp、Int、Smallint