背景

随着IT行业在更多的传统行业渗透，我们正逐步的在进入DT时代，让数据发挥价值是企业的真正需求，否则就是一堆废的并且还持续消耗企业人力，财力的数据。

传统企业可能并不像互联网企业一样，有大量的开发人员、有大量的技术储备，通常还是以购买IT软件，或者以外包的形式在存在。

数据的核心 - 数据库，很多传统的行业还在使用传统的数据库。

但是随着IT向更多行业的渗透，数据类型越来越丰富（诸如人像、X光片、声波、指纹、DNA、化学分子、图谱数据、GIS、三维、多维 等等…… ），数据越来越多，怎么处理好这些数据，怎么让数据发挥价值，已经变成了对IT行业，对数据库的挑战。

对于互联网行业来说，可能对传统行业的业务并不熟悉，或者说互联网那一套技术虽然在互联网中能很好的运转，但是到了传统行业可不一定，比如说用于科研、军工的GIS，和互联网常见的需求就完全不一样。

除了对数据库功能方面的挑战，还有一方面的挑战来自性能方面，随着数据的爆炸，分析型的需求越来越难以满足，主要体现在数据的处理速度方面，而常见的hadoop生态中的处理方式需要消耗大量的开发人员，同时并不能很好的支持品种繁多的数据类型，即使GIS可能也无法很好的支持，更别说诸如人像、X光片、声波、指纹、DNA、化学分子、图谱数据、GIS、三维、多维 等等。

那么我们有什么好的方法来应对这些用户的痛处呢？

且看ApsaraDB产品线的PostgreSQL与HybridDB如何来一招左右互搏，左手在线事务处理，右手数据分析挖掘，解决企业痛处。

传统的业务场景分析

以Oracle数据库为例，系统具备以下特点

1. 可靠性

通过REDO日志提供可靠保障。

支持同步和异步模式，同步模式可以做到已提交的事务不丢失。

异步模式不保证已提交的事务不丢失，不保证一致性。

2. 高可用

通过主备模式以及集群套件提供高可用支持

通过共享存储，RAC集群套件提供高可用支持, 注意应用连接设计时，不同的INSTANCE连接的应用应该访问不同的数据块，否则可能会因为GC锁带来性能严重下降。

通过共享存储，主机集群套件提供高可用支持

3. 容灾

通过存储层远程增量镜像提供异地容灾

通过主备模式以及增量复制提供异地容灾

4. 备份恢复

通过归档和基础备份提供在线备份以及时间点恢复功能

5. 性能诊断

AWR报告，通常包括

TOP SQL、wait event stats、io time、db time

6. 功能

PL/SQL编程，C嵌入式SQL，SQL:2013标准

数据库编程

支持PL/SQL开发语言

支持C嵌入式开发

SQL兼容性

SQL: 2013

GIS

多种索引支持

数据类型丰富

语法例子

with, connect by, with, grouping set, rollup, cube

many building functions, OP, aggs

SQL HINT、物化视图、RLS（行安全策略）

7. 扩展性

通过RAC和共享存储，扩展主机的方式扩展，支持CPU并行计算

注意应用连接设计时，不同的INSTANCE连接的应用应该访问不同的数据块，否则可能会因为GC锁带来性能严重下降。

8. 多租户隔离

比如Oracle 12C提出的PDB

9. 价格

通常按核收费，按特性收费，LICENSE 昂贵

用户痛点分析

随着用户数据量的增长，数据库的处理能力逐渐成为瓶颈。

1. 数据库的计算能力

以ORACLE为例，传统的非MPP架构数据库，在执行大数据量运算时，受制于硬件限制，对于OLAP场景显得很吃力。

2. 数据挖掘分析能力

以ORACLE为例，传统的数据库没有机器学习套件，即使有，也受制于它的架构，无法发挥应对数据挖掘分析需求。

3. 扩展能力

RAC的扩展能力受到共享存储的限制，存储容易成为瓶颈

RAC的模式下面，必须确保APP不会跨实例访问相同的数据块，否则GC锁冲突严重，性能比单节点下面明显。

4. 可编程能力

支持的服务端编程语言仅PL/SQL,C。

不支持高级的类型扩展，函数扩展，OP扩展，索引扩展。

不适合企业快速发展的IT需求。

价格

昂贵

DT时代企业对数据的处理需求

除了对数据库基本的增删改查需求，备份恢复容灾需求外。企业对数据处理的要求越来越高。

比如很多时候，用户可能要实时的对数据进行清洗、分析、或者根据数据触发事件。

随着更多的业务接入IT系统，用户需要存储越来越多的非结构化的数据、贴近实际需求的数据（比如人像、化学分子式、X光片、基因串、等等现实世界的数据属性），很多数据库在这种情况下显得力不从心，只能靠应用程序来处理，由于数据离计算单元越来越远，效率变得低下。

阿里云ApsaraDB OLTP+OLAP需求 解决方案剖析

1. 通过以下PostgreSQL特性，可以支持OLTP+ 本地的10TB量级OLAP需求。

1. LLVM、CPU并行计算

2. 聚合算子复用

3. BRIN索引接口

2. 通过插件支持更多的业务数据类型需求

比如JSONB、图片、人像、化学分子式、基因串、GIS、路由等。

3. 流式数据处理方法

使用pipelineDB可以与kafka, jstrom, PostgreSQL无缝结合，以及标准的SQL接口，兼容PostgreSQL.

4. PB级的分析、挖掘需求

HybridDB基于开源的MPP数据库GPDB打造，有许多特点

支持弹性的增加节点，扩容时按表分区粒度进行，因此不堵塞其他表分区的读写

支持SQL标准以及诸多OLAP特性，

支持行列混合存储、多级分区、块级压缩、多节点并行计算、多节点数据并行导入、

支持丰富的数据类型，包括JSON、GIS、全文检索、语感、以及常见的文本、数值类型。

支持MADLib机器学习库，有上百种常见的挖掘算法，通过SQL调用UDF训练数据集即可，结合MPP实现了多节点并行的挖掘需求

支持数据节点间透明的数据重分布，广播，在进行多表JOIN时，支持任意列的JOIN，

支持随机分布，或按列分布，支持多列哈希分布，

支持哈希分区表、范围分区表、多级分区

支持用户使用python \ java编写数据库端的UDF

支持使用r客户端通过pivotalR包连接数据库，并将R的分析请求自动转换为MADlib库或SQL请求，实现R的隐式并行分析，同时数据和计算在一起，大幅提升了性能

支持HLL等估算数据类型，

支持透明的访问阿里云高性能对象存储OSS，通过OSS EXT插件，可以透明的并行访问OSS的数据，

支持PostgreSQL生态，吸纳更多已有的PostgreSQL生态中的特性

5. 透明的冷热分离技术

一份数据，共享分析需求

在企业中，通常会有专门的分析师岗位，分析师在做建模前，需要经历很多次的试错，才能找到比较好的，可以固定的分析模型。

试错期间，根据分析师的想法，结合业务表现，分析师可能需要对数据反复的训练，这就对数据库有两种要求

1. 实时响应

2. 不干扰正常业务

实时响应对于MPP来说并不能，通常一个QUERY下去，毫秒级就可以响应，不需要等待任务调度。

而不干扰正常业务，这一点，可能就需要好好商榷了，因为一个QUERY可能把资源用光，当然，我们可以通过HybridDB的资源组来进行控制，比如给分析师的QUERY资源优先级降到最低，尽量减少对业务的干扰。

另外我们还有一种更加彻底的方法，数据共享，你可以把需要试错的数据集放到OSS中，然后启用一个空的PostgreSQL实例或者HybridDB实例，这些实例与生产实例完全无关，但是它可以去访问OSS的数据，建立外部表即可，分析师可以使用这些实例，对数据集进行分析，不会影响生产。

6. 多个数据库的衔接

通过rds_dbsync, dts, 或者云上BI、ETL厂商提供的ETL接口，几乎可以将任意数据源的数据实时的同步到HybridDB进行分析。

通过 OSS 高速并行导入导出

高速 OSS 并行导入导出

dbsync 项目

HybridDB最佳实践——实现OLAP和OLTP一体化打造

7. PostgreSQL,HybridDB 数据库可靠性分析

原理与Oracle类似，同时支持用户自由选择同步或异步模式，异步模式牺牲了数据可靠性，提升性能，同时不影响一致性。

8. 多副本

用户可以根据事务对可靠性的要求，选择副本数。

比如涉及用户账户的事务，至少要求2个副本。

而对于与用户无关的日志事务，1个副本，甚至异步都可以。

给用户设计应用时，提供了最大的灵活度。

9. 高可用方案

PostgreSQL高可用

PostgreSQL的高可用的方案与Oracle类似，支持共享存储的方案，同时还支持流式复制的多副本方案，可以做到数据的0丢失。

HybridDB高可用

HybridDB的高可用方案，为mirror的方式，同步复制，数据0丢失。

master的fts负责数据节点的failover和failback。

master节点的ha则交由上层的集群应用来解决。

10. 容灾

对于多机房容灾，PostgreSQL和HybridDB在数据库层面支持流式的复制解决方案。

同时还支持传统的存储或文件系统层面的镜像容灾。

11. PostgreSQL备份与恢复

对于存储在OSS对象存储中的数据，备份的只是DDL，即外部表的建表语句。

而对于存储在数据库中的数据，使用的备份方法与Oracle类似，支持REDO的增量备份，也支持数据块级别的增量备份(具体见我写过的块级增量备份文档)。

12. HybridDB备份与恢复

每个节点并行的进行。

13. 性能诊断和资源控制

与Oracle类似，支持常见的指标TOP SQL、wait event stats、io time、db time

同时支持对long query进行监控，包括long query的执行计划翻转，执行树中每个节点耗费的时间，对BUFFER产生的操作，物理读等

对于HybridDB，使用resource queue控制不同用户对资源的使用

14. 数据库功能(PostgreSQL)

数据库功能方面，PostgreSQL超越了传统数据库所能COVER的数据类型、检索、和数据的运算。

1. 数据库编程

服务端支持PLpgSQL、python、java、R、javascript、perl、tcl 等开发语言

支持C嵌入式开发

plpgsql与Oracle PL/SQL功能不相上下

2. SQL兼容性

SQL: 2013

3. 语法例子

with, connect by(用WITH支持), with, grouping set, rollup, cube

many building functions, OP, aggs

PostGIS、JSONB

SQL PLAN HINT、物化视图、RLS（行安全策略）

多种索引支持(btree, hash, brin, gin, gist, sp-gist, rum, bloom)

支持全文检索、模糊查询、正则匹配（走索引）

数据类型丰富（常用类型、数组、范围、估值类型、分词、几何、序列、地球、GIS、网络、大对象、比特串、字节流、UUID、XML、JSONB、复合、枚举…… ）

4. 支持ORACLE兼容包插件

5. 支持插件、支持FDW(透明访问外部数据)、支持LANGUAGE扩展

6. 支持多个聚合函数共用SFUNC，提升性能

7. 扩展能力

支持用户自定义数据类型、操作符、索引、UDF、窗口、聚合

15. 数据库功能(HybridDB)

1. 数据库编程

服务端支持PLpgSQL、pljava等开发语言

plpgsql与Oracle PL/SQL功能不相上下

2. SQL兼容性

with, connect by(用WITH支持), with, grouping set, rollup, cube

内置丰富的函数、操作符、聚合、窗口查询

多种索引支持(btree)，支持函数索引，支持partial index

支持全文检索、字符串模糊查询（fuzzystrmatch）

数据类型丰富（数字、字符串、比特串、货币、字节流、时间、布尔、几何、网络地址、数组、GIS、XML、JSON、复合、枚举、。。。。。。）

支持ORACLE兼容包插件orafunc

3. 支持列存、行存、混合存储

4. 支持隐式并行计算

5. 支持机器学习库

6. 支持支持OSS_EXT(透明访问OSS对象数据)

7. 支持HLL数据评估插件

8. 扩展能力

支持用户自定义数据类型、操作符、索引、UDF、窗口、聚合

16. 数据库扩展能力(PostgreSQL)

17. 数据库扩展能力(HybridDB)

18. 多租户功能

如何解决传统用户对OLTP+OLAP需求的痛处

1. 计算能力

由于传统数据库，比如ORACLE并非MPP架构，在执行大数据量运算时，受制于硬件限制，对于10TB以上的OLAP场景很吃力。

1.1 解决办法

PostgreSQL 多CPU并行计算，解决TB级本地实时分析需求

PostgreSQL 数据通过REDO日志实时流式同步到HybridDB，解决PB级别OLAP场景需求。

2. 数据挖掘分析能力

由于传统数据库，比如ORACLE没有机器学习套件，即使有，也受制于它的架构，无法发挥应对数据挖掘分析需求。

2.1 解决办法

PostgreSQL和HybridDB都内置了MADLib机器学习库，支持几百种挖掘算法。

通过R,Python服务端编程，支持更多的挖掘需求。

3. 扩展能力

RAC的扩展能力受到共享存储的限制，存储容易成为瓶颈

RAC的模式下面，必须确保APP不会跨实例访问相同的数据块，否则GC锁冲突严重，性能比单节点下面明显。

3.1 解决办法

PostgreSQL fdw based sharding + multimaster，支持单元化和水平扩展需求

HybridDB MPP天然支持水平扩展

4. 可编程能力

支持的服务端编程语言仅PL/SQL,C。

不支持高级的类型扩展，函数扩展，OP扩展，索引扩展。

不适合企业快速发展的IT需求。

4.1 解决办法

PostgreSQL, HybridDB 支持plpgsql, C, python, java等多种语言的服务端编程。

支持数据类型、索引、函数、操作符、聚合、窗口函数等扩展。

一些不完全benchmark数据

一些不完全用户

方案小结

在DT时代，让数据发挥价值是企业的真正需求，否则就是一堆废的并且还持续消耗企业人力，财力的数据。

使用本方案，可以让企业更加轻松的驾驭暴增的数据，不管是什么数据类型，什么数据来源，是流式的还是在线或离线的数据分析需求，统统都能找到合理的方法来处置。

1. 高度兼容传统数据库，如Oracle

包括数据类型，过程语言，语法，内置函数，自定义函数，自定义数据类型

2. 解决了传统数据库如Oracle方案的痛点

3. 计算能力

PostgreSQL 多CPU并行计算，解决TB级本地实时分析需求

PostgreSQL 数据通过REDO日志实时流式同步到HybridDB，解决PB级别OLAP场景需求。

4. 数据挖掘分析能力

PostgreSQL和HybridDB都内置了MADLib机器学习库，支持几百种挖掘算法。

通过R,Python服务端编程，支持更多的挖掘需求。

5. 扩展能力

PostgreSQL fdw based sharding + multimaster，支持单元化和水平扩展需求

HybridDB MPP 天然支持水平扩展

6. 可编程能力

PostgreSQL, HybridDB 支持plpgsql, C, python, java等多种语言的服务端编程。

支持数据类型、索引、函数、操作符、聚合、窗口函数等扩展。

7. 支持估值类型

快速的输出PV,UV,COUNT(DISTINCT)等估值。

8. 共享一份数据，构建多个分析实例

通常在企业中有分析师的角色，分析师要对数据频繁的根据不同的分析框架进行分析，如果都发往主库，可能导致主库的计算压力变大。

用户可以将历史数据，或者维度数据存放到共用的存储（如OSS），通过FDW共享访问，一份数据可以给多个实例加载分析。可以为分析师配备独立的计算实例，数据则使用FDW从共享存储（如OSS）加载，与主库分离。

9. HybridDB优势

支持AO列存，块级压缩，机器学习，混合存储，MPP水平扩展，隐式并行，R，JAVA服务端编程语言支持，PB级别数据挖掘需求。