系统设计建议

选择QPS优先或时延优先

  • Nebula Graph 2.6.1 更擅长处理（互联网式的）有大量并发的小请求。也即：虽然全图很大（万亿点边），但是每个请求要访问到的子图本身并不大（几百万个点边）——单个请求时延不大；但这类请求的并发数量特别多——QPS大。

  • 但对于一些交互分析型的场景，并发请求的数量不多，而每个请求要访问的子图本身特别大（亿以上）。为降低时延，可以在应用程序中将一个大的请求，拆分为多个小请求，并发发送给多个graphd。这样可以降低单个大请求的时延，降低单个graphd的内存占用。另外，也可以使用图计算功能 Nebula Algorithm。

水平扩展或垂直扩展

Nebula Graph 2.6.1 支持水平扩展：

  • Storaged 的水平扩展：

    - 增加storaged的机器数量，可以大体线性增加集群的整体能力，包括增加整体QPS和降低时延。

    - 但由于 partition 数量在 CREATE SPACE 时已固定，因此单个 partition 的服务能力只由单服务器决定——例如：获取单个点的属性(FETCH)、单个点开始的广度优先遍历(GO)

  • Graphd 的水平扩展：

    - 来自客户端的每个请求，都由且仅由一个 graphd 处理，其他 graphd 不会参与处理该请求。

    - 因此增加 graphd 机器数量，可以增加集群整体QPS，但不能降低单个请求时延。

  • Metad 不支持水平扩展。

垂直扩展通常硬件成本更高，但运维操作相对简单。Nebula Graph 2.6.1 也可以垂直扩展。

数据传输与优化

  • 读写平衡。Nebula Graph 适合读写平衡性的在线场景，也即 OLTP 型的的“并发的发生写入与读取”；而非数仓 OLAP 型的“一次写入多次读取”。
  • 选择不同的写入方式。大批量的数据写入可以使用sst加载的方式；小批量的写入使用INSERT语句。
  • 选择合适的时间运行 COMPACTION 和 BALANCE，来分别优化数据格式和存储分布。
  • Nebula Graph 2.6.1 不支持关系型数据库意义上的事务和隔离性，更接近 NoSQL。

查询预热与数据预热

应用端进行预热：

  • Graphd 不支持预编译查询及相应生成查询计划，也不支持缓存之前的查询结果；
  • Storaged 不支持预热数据，只有 RocksDB 自身的 LSM-tree 和 BloomFilter 会启动时加载到内存中。
  • 点和边被访问过后，会各自缓存在 Storaged 的两种 (LRU) Cache 中。

最后更新: June 1, 2021