安装部署

所有的安装文件都在 inlong-audit 目录下，如果使用 MySQL 存储审计数据，需要先通过sql/apache_inlong_audit.sql初始化数据库。

  1. # 初始化 database
  2. mysql -uDB_USER -pDB_PASSWD < sql/apache_inlong_audit.sql

如果使用 ClickHouse 存储审计数据，需要先通过sql/apache_inlong_audit_clickhouse.sql初始化数据库。

  1. # 初始化 database
  2. clickhouse client -u DB_USER --password DB_PASSWD < sql/apache_inlong_audit_clickhouse.sql

依赖

  • 如果后端连接 MySQL 数据库，请下载 mysql-connector-java-8.0.27.jar, 并将其放入 lib/ 目录。
  • 如果后端连接 PostgreSQL 数据库，不需要引入额外依赖。

Audit Proxy

配置消息队列

消息队列服务目前可以使用Apache Pulsar或者InLong TubeMQ：

  • 若使用Pulsar，配置文件 conf/audit-proxy-pulsar.conf，修改下列配置中的 Pulsar service 地址。
  1. agent1.sources.tcp-source.port = 10081
  2. agent1.sinks.pulsar-sink-msg1.pulsar_server_url= pulsar://localhost:6650
  3. agent1.sinks.pulsar-sink-msg1.topic = persistent://public/default/inlong-audit
  4. agent1.sinks.pulsar-sink-msg2.pulsar_server_url = pulsar://localhost:6650
  5. agent1.sinks.pulsar-sink-msg2.topic = persistent://public/default/inlong-audit
  • 若使用TubeMQ，配置文件 conf/audit-proxy-tube.conf，修改下列配置中的 TubeMQ master 地址。
  1. agent1.sources.tcp-source.port = 10081
  2. agent1.sinks.tube-sink-msg1.master-host-port-list = localhost:8715
  3. agent1.sinks.tube-sink-msg1.topic = inlong-audit
  4. agent1.sinks.tube-sink-msg2.master-host-port-list = localhost:8715
  5. agent1.sinks.tube-sink-msg2.topic = inlong-audit

启动

  1. # 默认使用 pulsar 作为消息队列，加载 audit-proxy-pulsar.conf 配置文件
  2. bash +x ./bin/proxy-start.sh [pulsar｜tube]

Audit Store

配置

配置文件 conf/application.properties

  1. # proxy.type: pulsar / tube
  2. audit.config.proxy.type=pulsar
  4. # store.server: mysql / elasticsearch 
  5. audit.config.store.mode=mysql
  7. # audit pulsar config (optional)，将PULSAR_BROKER_LIST替换为Pulsar集群的服务地址
  8. audit.pulsar.server.url=pulsar://PULSAR_BROKER_LIST
  9. audit.pulsar.topic=persistent://public/default/inlong-audit
  10. audit.pulsar.consumer.sub.name=sub-audit
  12. # audit tube config (optional)，将TUBE_LIST替换为TubeMQ集群的master地址
  13. audit.tube.masterlist=TUBE_LIST
  14. audit.tube.topic=inlong-audit
  15. audit.tube.consumer.group.name=inlong-audit-consumer
  17. # mysql config
  18. spring.datasource.druid.url=jdbc:mysql://127.0.0.1:3306/apache_inlong_audit?characterEncoding=utf8&useSSL=false&serverTimezone=GMT%2b8&rewriteBatchedStatements=true&allowMultiQueries=true&zeroDateTimeBehavior=CONVERT_TO_NULL
  19. spring.datasource.druid.username=root
  20. spring.datasource.druid.password=inlong
  22. # es config
  23. elasticsearch.host=127.0.0.1
  24. elasticsearch.port=9200
  25. elasticsearch.authEnable=false
  26. elasticsearch.username=elastic
  27. elasticsearch.password=inlong
  28. elasticsearch.shardsNum=5
  29. elasticsearch.replicaNum=1
  30. elasticsearch.indexDeleteDay=5
  31. elasticsearch.enableDocId=true
  32. elasticsearch.bulkInterval=10
  33. elasticsearch.bulkThreshold=5000
  34. elasticsearch.auditIdSet=1,2
  36. # clickhouse config
  37. clickhouse.driver=ru.yandex.clickhouse.ClickHouseDriver
  38. clickhouse.url=jdbc:clickhouse://127.0.0.1:8123/default
  39. clickhouse.username=default
  40. clickhouse.password=default
  41. clickhouse.batchIntervalMs=1000
  42. clickhouse.batchThreshold=500
  43. clickhouse.processIntervalMs=100

依赖

  • 如果后端连接 MySQL 数据库，请下载 mysql-connector-java-8.0.27.jar, 并将其放入 lib/ 目录。
  • 如果后端连接 PostgreSQL 数据库，不需要引入额外依赖。

启动

  1. bash +x ./bin/store-start.sh

Audit Proxy 默认监听端口为 10081。