HugeGraph 配置

1 概述

配置文件的目录为 hugegraph-release/conf,所有关于服务和图本身的配置都在此目录下。

主要的配置文件包括:gremlin-server.yaml、rest-server.properties 和 hugegraph.properties

HugeGraphServer 内部集成了 GremlinServer 和 RestServer,而 gremlin-server.yaml 和 rest-server.properties 就是用来配置这两个Server的。

  • GremlinServer:GremlinServer接受用户的gremlin语句,解析后转而调用Core的代码。
  • RestServer:提供Restful API,根据不同的HTTP请求,调用对应的Core API,如果用户请求体是gremlin语句,则会转发给GremlinServer,实现对图数据的操作。

下面对这三个配置文件逐一介绍。

2 gremlin-server.yaml

gremlin-server.yaml 文件默认的内容如下:

  1. # host and port of gremlin server
  2. #host: 127.0.0.1
  3. #port: 8182
  4. # timeout in ms of gremlin query
  5. scriptEvaluationTimeout: 30000
  6. # If you want to start gremlin-server for gremlin-console(web-socket),
  7. # please change `HttpChannelizer` to `WebSocketChannelizer` or comment this line.
  8. channelizer: org.apache.tinkerpop.gremlin.server.channel.HttpChannelizer
  9. graphs: {
  10. hugegraph: conf/hugegraph.properties
  11. }
  12. scriptEngines: {
  13. gremlin-groovy: {
  14. plugins: {
  15. com.baidu.hugegraph.plugin.HugeGraphGremlinPlugin: {},
  16. org.apache.tinkerpop.gremlin.server.jsr223.GremlinServerGremlinPlugin: {},
  17. org.apache.tinkerpop.gremlin.jsr223.ImportGremlinPlugin: {
  18. classImports: [
  19. java.lang.Math,
  20. com.baidu.hugegraph.util.DateUtil,
  21. com.baidu.hugegraph.traversal.optimize.Text
  22. ],
  23. methodImports: [java.lang.Math#*]
  24. },
  25. org.apache.tinkerpop.gremlin.jsr223.ScriptFileGremlinPlugin: {
  26. files: [scripts/empty-sample.groovy]
  27. }
  28. }
  29. }
  30. }
  31. serializers:
  32. - { className: org.apache.tinkerpop.gremlin.driver.ser.GryoLiteMessageSerializerV1d0,
  33. config: {
  34. serializeResultToString: false,
  35. ioRegistries: [com.baidu.hugegraph.io.HugeGraphIoRegistry]
  36. }
  37. }
  38. - { className: org.apache.tinkerpop.gremlin.driver.ser.GraphBinaryMessageSerializerV1,
  39. config: {
  40. serializeResultToString: false,
  41. ioRegistries: [com.baidu.hugegraph.io.HugeGraphIoRegistry]
  42. }
  43. }
  44. - { className: org.apache.tinkerpop.gremlin.driver.ser.GraphSONMessageSerializerV1d0,
  45. config: {
  46. serializeResultToString: false,
  47. ioRegistries: [com.baidu.hugegraph.io.HugeGraphIoRegistry]
  48. }
  49. }
  50. - { className: org.apache.tinkerpop.gremlin.driver.ser.GraphSONMessageSerializerV2d0,
  51. config: {
  52. serializeResultToString: false,
  53. ioRegistries: [com.baidu.hugegraph.io.HugeGraphIoRegistry]
  54. }
  55. }
  56. - { className: org.apache.tinkerpop.gremlin.driver.ser.GraphSONMessageSerializerV3d0,
  57. config: {
  58. serializeResultToString: false,
  59. ioRegistries: [com.baidu.hugegraph.io.HugeGraphIoRegistry]
  60. }
  61. }
  62. metrics: {
  63. consoleReporter: {enabled: false, interval: 180000},
  64. csvReporter: {enabled: true, interval: 180000, fileName: /tmp/gremlin-server-metrics.csv},
  65. jmxReporter: {enabled: false},
  66. slf4jReporter: {enabled: false, interval: 180000},
  67. gangliaReporter: {enabled: false, interval: 180000, addressingMode: MULTICAST},
  68. graphiteReporter: {enabled: false, interval: 180000}
  69. }
  70. maxInitialLineLength: 4096
  71. maxHeaderSize: 8192
  72. maxChunkSize: 8192
  73. maxContentLength: 65536
  74. maxAccumulationBufferComponents: 1024
  75. resultIterationBatchSize: 64
  76. writeBufferLowWaterMark: 32768
  77. writeBufferHighWaterMark: 65536
  78. ssl: {
  79. enabled: false
  80. }

上面的配置项很多,但目前只需要关注如下几个配置项:channelizer 和 graphs。

  • graphs:GremlinServer 启动时需要打开的图,该项是一个 map 结构,key 是图的名字,value 是该图的配置文件路径;
  • channelizer:GremlinServer 与客户端有两种通信方式,分别是 WebSocket 和 HTTP(默认)。如果选择 WebSocket,用户可以通过 Gremlin-Console 快速体验 HugeGraph 的特性,但是不支持大规模数据导入,推荐使用 HTTP 的通信方式,HugeGraph 的外围组件都是基于 HTTP 实现的;

默认GremlinServer是服务在 localhost:8182,如果需要修改,配置 host、port 即可

  • host:部署 GremlinServer 机器的机器名或 IP,目前 HugeGraphServer 不支持分布式部署,且GremlinServer不直接暴露给用户;
  • port:部署 GremlinServer 机器的端口;

同时需要在 rest-server.properties 中增加对应的配置项 gremlinserver.url=http://host:port

3 rest-server.properties

rest-server.properties 文件的默认内容如下:

  1. restserver.url=http://127.0.0.1:8080
  2. graphs=[hugegraph:conf/hugegraph.properties]
  3. max_vertices_per_batch=500
  4. max_edges_per_batch=500
  • restserver.url:RestServer 提供服务的 url,根据实际环境修改;
  • graphs:RestServer 启动时也需要打开图,该项为 map 结构,key 是图的名字,value 是该图的配置文件路径;

注意:gremlin-server.yaml 和 rest-server.properties 都包含 graphs 配置项,而 init-store 命令是根据 gremlin-server.yaml 的 graphs 下的图进行初始化的。

配置项 gremlinserver.url 是 GremlinServer 为 RestServer 提供服务的 url,该配置项默认为 http://localhost:8182,如需修改,需要和 gremlin-server.yaml 中的 host 和 port 相匹配;

4 hugegraph.properties

hugegraph.properties 是一类文件,因为如果系统存在多个图,则会有多个相似的文件。该文件用来配置与图存储和查询相关的参数,文件的默认内容如下:

  1. # gremlin entrence to create graph
  2. gremlin.graph=com.baidu.hugegraph.HugeFactory
  3. # cache config
  4. #schema.cache_capacity=1048576
  5. #graph.cache_capacity=10485760
  6. #graph.cache_expire=600
  7. # schema illegal name template
  8. #schema.illegal_name_regex=\s+|~.*
  9. #vertex.default_label=vertex
  10. backend=cassandra
  11. serializer=cassandra
  12. store=hugegraph
  13. #store.schema=huge_schema
  14. #store.graph=huge_graph
  15. #store.index=huge_index
  16. # rocksdb backend config
  17. rocksdb.data_path=.
  18. rocksdb.wal_path=.
  19. # cassandra backend config
  20. cassandra.host=localhost
  21. cassandra.port=9042
  22. cassandra.username=
  23. cassandra.password=
  24. #cassandra.connect_timeout=5
  25. #cassandra.read_timeout=20
  26. #cassandra.keyspace.strategy=SimpleStrategy
  27. #cassandra.keyspace.replication=3
  28. # hugespark
  29. admin.token=162f7848-0b6d-4faf-b557-3a0797869c55

重点关注未注释的几项:

  • gremlin.graph:GremlinServer 的启动入口,用户不要修改此项;
  • backend:使用的后端存储,可选值有 memory、cassandra、scylladb 和 rocksdb;
  • serializer:主要为内部使用,用于将 schema、vertex 和 edge 序列化到后端,对应的可选值为 text、cassandra、scylladb 和 binary;
  • store:图存储到后端使用的数据库名,在 cassandra 和 scylladb 中就是 keyspace 名,此项的值与 GremlinServer 和 RestServer 中的图名并无关系,但是出于直观考虑,建议仍然使用相同的名字;
  • cassandra.host:backend 为 cassandra 或 scylladb 时此项才有意义,cassandra/scylladb 集群的 seeds;
  • cassandra.port:backend 为 cassandra 或 scylladb 时此项才有意义,cassandra/scylladb 集群的 native port;
  • rocksdb.data_path:backend 为 rocksdb 时此项才有意义,rocksdb 的数据目录
  • rocksdb.wal_path:backend 为 rocksdb 时此项才有意义,rocksdb 的日志目录
  • admin.token: 通过一个token来获取服务器的配置信息,例如:http://localhost:8080/graphs/hugegraph/conf?token=162f7848-0b6d-4faf-b557-3a0797869c55

5 多图配置

我们的系统是可以存在多个图的,并且各个图的后端可以不一样,比如图 hugegraph 和 hugegraph1,其中 hugegraph 以 cassandra 作为后端,hugegraph1 以 rocksdb作为后端。

配置方法也很简单:

修改 gremlin-server.yaml

在 gremlin-server.yaml 的 graphs 域中添加一个键值对,键为图的名字,值为图的配置文件路径,比如:

  1. graphs: {
  2. hugegraph: conf/hugegraph.properties,
  3. hugegraph1: conf/hugegraph1.properties
  4. }

修改 rest-server.properties

在 rest-server.properties 的 graphs 域中添加一个键值对,键为图的名字,值为图的配置文件路径,比如:

  1. graphs=[hugegraph:conf/hugegraph.properties, hugegraph1:conf/hugegraph1.properties]

添加 hugegraph1.properties

拷贝 hugegraph.properties,命名为 hugegraph1.properties,修改图对应的数据库名以及关于后端部分的参数,比如:

  1. store=hugegraph1
  2. ...
  3. backend=rocksdb
  4. serializer=binary

停止 Server,初始化执行 init-store.sh(为新的图创建数据库),重新启动 Server

  1. $ bin/stop-hugegraph.sh
  2. $ bin/init-store.sh
  3. $ bin/start-hugegraph.sh