Greenplum数据库内存总览

Greenplum数据库内存总览

在Greenplum数据库系统中，内存是一项关键的资源，对其的高效使用可以保证优秀的性能和输出，这一节描述了Segment主机内存是在Segment之间的分配方式，以及管理员可用的配置方法。

Greenplum数据库的每个Segment主机都会运行多个PostgreSQL的实例，它们会共享主机的内存。Segment在同时进行查询时都会使用同一个配置，并同时消耗相近的量的内存，CPU和磁盘输入/输出。

为了得到最佳的查询输出，内存配置需要精细的管理。在Greenplum数据库中，从操作系统参数，到利用资源队列和资源组管理资源，每个层级都有对应的内存配置，可以设置单个查询分配到的内存大小。

Segment主机内存

在Greenplum数据库的Segment主机上，所有正在运行的进程会共享可用的主机内存，其中包括了操作系统、Greenplum数据库Segment实例，以及其他应用进程。管理员必须要判断并有效地分配Greenplum数据库进程和非Greenplum数据库进程使用的内存大小。与此同时，监控Greenplum数据库或其他进程是否有异常的内存消耗行为也是很重要的。

以下图例显示了Greenplum数据库的Segment主机是启用基于资源队列的资源管理时是如何消耗内存的。

Figure 1. Greenplum数据库Segment主机内存

让我们从下往上看，标记了A的一行表示总主机内存，A行上面的一行表示总主机内存被分成了物理RAM和Swap空间。

标记了B表示所有内存会由Greenplum数据库和其他进程共享，非Greenplum数据的进程包括操作系统以及其他应用，例如系统监控Agent。一些应用会使用大量内存，以至于用户可能不得不调整每个Greenplum数据主机所运行的Segment数量，或是每个Segment消耗的内存量。

每个Segment(C)将会使用等量 (B)。

每个Segment中的当前资源管理模式——资源队列或资源组——控制了运行一个SQL表达式所使用的的内存，这样的配置使得用户可以将业务需求转化为Greenplum数据库系统中的决策策略，以防止可能造成性能下降的查询行为，关于资源组和资源队列的详情，请参阅管理资源。

配置Segment主机内存的选项

主机内存将会由Segment主机上所有的应用共享。你可以通过以下方式来配置主机内存的分配方式：

增加节点的RAM以增加物理内存。
配置Swap空间来增加虚拟内存。
设置核心参数vm.overcommit_memory和vm.overcommit_ratio以配置操作系统处理对内存需求量较大的请求时的方法。

物理RAM和操作系统的配置通常由平台团队和系统管理员管理。有关推荐的核心参数请参考Greenplum 数据库安装指南

预留给操作系统和其他进程的内存量是取决于你的负载。推荐的操作台系统内存大小是32GB，但如果Greenplum数据库中存在太多的并发的话，可将内存增加到64GB。SLAB是使用最多操作系统内存的进程，其内存使用量也会随着Greenplum数据库并发和使用的套接字数量的增加而增加。

vm.overcommit_memory核心参数应该保持为2，这是对Greenplum来说最安全的数值。

vm.overcommit_ratio核心参数设置了应用进程能够使用的RAM的百分比，剩下的内存就会留给操作系统。Red Hat系统默认的值是50（50%），如果将该参数设置得过高，可能会导致Segment主机失效或数据库失效，一般来说比较保险的默认数值是50。该参数如果设置得过低会减少并发数，以及以减少Greenplum数据可用内存为代价来同时处理的查询行为的复杂程度。在增加vm.overcommit_ratio的数值的时候，要记住还要为操作系统的活动保留一定量的内存。

在启用了基于资源组的资源管理时，对vm.overcommit_ratio的配置方法

当启用了基于资源组的资源管理时，操作系统的vm.overcommit_ratio默认数值其实就已经比较合适了，如非必要，可以不改动。如果你的内存使用率太低了，那么就增加该参数，反之亦然。

在启用了基于资源队列的资源管理时，对vm.overcommit_ratio的配置方法

计算在启用了基于资源组的资源管理下vm.overcommit_ratio的数值需要几个数据，首先要用gp_vmem_rq，确认Greenplum数据库进程可用的内存，计算规则如下：

gp_vmem_rq = ((SWAP + RAM) – (7.5GB + 0.05 * RAM)) / 1.7

此处的 SWAP 是主机上的Swap空间，以GB为单位，而RAM则是主机上安装的RAM，以GB为单位。当启用了基于资源队列的资源管理系统时，使用gp_vmem_rq来计算 vm.overcommit_ratio的数值，计算规则如下：

vm.overcommit_ratio = (RAM - 0.026 * gp_vmem_rq) / RAM

配置Greenplum数据库内存

Greenplum数据库内存指的是所有Greenplum数据库Segment实例可用的内存大小。

在你搭建Greenplum数据库集群时，你需要确认每个主机运行的主Segment数量，以及每个Segment消耗的内存大小。基于不同的CPU核心数、物理RAM大小以及负载特性，通常一台主机上会运行4到8个Segment。在启用了Segment镜像的情况下，内存必须按照该主机上可运行的最大主Segment数量来分配，以防出现系统故障。当你使用默认分组镜像的配置时，一台Segment主机故障将会加倍其镜像Segment所在的主机上的活跃主Segment数量。将每台主机上的镜像分散到其他主机上的镜像配置可以降低最大值，允许每台Segment分配到更多的可用内存。例如，如果你使用了区组（block）镜像配置，每个区组有4个主机，每个主机上有8个主Segment，单个主机的故障会导致区组中其他主机出现最多11个活跃主Segment，而使用默认组镜像配置的话则会产生最多16个。

在启用了基于资源组的资源管理系统下分配Segment内存

当启用了基于资源组的管理系统时，每个Segment主机上的每个Segment所分配到的内存等于Greenplum可用的内存乘以gp_resource_group_memory_limit服务器配置参数，然后除以主机上活跃的主Segment数量，以下方程式就是在启用了基于资源组的资源管理系统时计算Segment内存的方式。

rg_perseg_mem = ((RAM * (vm.overcommit_ratio / 100) + SWAP) * gp_resource_group_memory_limit) / num_active_primary_segments

资源组带来的额外配置参数使用户可以进一步控制和精炼查询行为所分配到的内存大小。

在启用了基于资源队列的资源管理系统下分配Segment内存

当启用了基于资源队列的资源管理系统时，gp_vmem_protect_limit服务器配置参数数值表示了每个Segment分配到的内存大小，该数值的预估值是通过计算所有Greenplum数据库进程可用的内存大小除以在发生故障时最大的主Segment数量得出，如果gp_vmem_protect_limit的数值设置得过高，则查询可能会失败，使用以下方程式来计算gp_vmem_protect_limit的安全值，其中gp_vmem_rq是你刚刚计算得出的数值。

gp_vmem_protect_limit = gp_vmem_rq / max_acting_primary_segments

其中 max_acting_primary_segments 是指在有主机或Segment发生故障时触发镜像Segment时的最大主Segment数量。

在使用基于资源组的Greenplum数据库资源管理系统时，gp_vmem_protect_limit是不会影响Segment内存大小的。

资源队列带来的额外配置参数使用户可以进一步控制和精炼查询行为所分配到的内存大小。

内存配置计算示例Example Memory Configuration Calculations

该小节将会展示以下配置的Greenplum数据库系统的资源队列和资源组的内存计算示例：

总RAM = 256GB
Swap = 64GB
一个区组（block）4个主机，每个主机8个主Segment和8个镜像Segment
发生故障时每个主机的最大活跃主Segment数量为11

资源组示例

当Greenplum数据库启用了基于资源组的资源管理系统时，一个主机上可用的内存由系统配置的RAM和Swap空间，以及vm.overcommit_ratio的系统参数设置决定：

total_node_usable_memory = RAM * (vm.overcommit_ratio / 100) + Swap
                         = 256GB * (50/100) + 64GB
                         = 192GB

假设默认的gp_resource_group_memory_limit数值(.7)，示例中的Greenplum数据库分配到的内存大小就是：

total_gp_memory = total_node_usable_memory * gp_resource_group_memory_limit
                = 192GB * .7
                = 134.4GB

在Greenplum数据库的Segment主机上的一个Segment可用的内存由主机上为Greenplum预留的内存和主机上活跃的主Segment数量组成，在集群启动时：

gp_seg_memory = total_gp_memory / number_of_active_primary_segments
              = 134.4GB / 8
              = 16.8GB

注意，当三个镜像Segment切换为主Segment时，每个Segment的内存仍然是16.8GB，Segment主机使用的总内存大小预计为：

total_gp_memory_with_primaries = 16.8GB * 11 = 184.8GB

资源队列示例

在启用了基于资源队列的资源管理系统下的Greenplum示例数据库中，vm.overcommit_ratio的计算遵循以下方程式：

gp_vmem_rq = ((SWAP + RAM) – (7.5GB + 0.05 * RAM)) / 1.7
        = ((64 + 256) - (7.5 + 0.05 * 256)) / 1.7
        = 176
vm.overcommit_ratio = (RAM - (0.026 * gp_vmem_rq)) / RAM
                    = (256 - (0.026 * 176)) / 256
                    = .982

你可以将示例系统中的vm.overcommit_ratio数值设置为98。

在启用了基于资源队列的资源管理系统下的Greenplum数据库中，gp_vmem_protect_limit的计算方式如下：

gp_vmem_protect_limit = gp_vmem_rq / maximum_acting_primary_segments
                      = 176 / 11
                      = 16GB
                      = 16384MB

你可以将示例系统中的gp_vmem_protect_limit服务器配置参数数值设置为16384.

Parent topic: 性能管理