Logstash 配置说明

本文讲解如何使用 Logstash 采集报警日志，并发送到 ElasticSearch 保存。

开始之前

在开始之前，你需要知道如下信息:

  • ElasticSearch 相关信息
    • 服务器地址和端口，这里是 192.168.154.200:9200
    • 要创建的索引名称，这里是 rasp-%{+YYYY.MM.dd}
    • 要使用的数据类型，这里是 attack
  • 报警日志的绝对路径，请参考 日志说明 - 存储路径 文档

配置示例

以某 tomcat 服务器为例，一个完整的 Logstash 配置示例如下:

  1. input {
  2.     file {
  3.         path => ["/home/tomcat/rasp/logs/alarm/*.log*"]
  4.         start_position => "beginning"
  5.     }
  6. }
  7. filter {
  8.     json {
  9.          source => "message"
  10.     }
  11. }
  12. output {
  13.     stdout {
  14.         codec => rubydebug
  15.     }
  16. }
  17. output {
  18.     elasticsearch {
  19.         hosts => ["192.168.154.200:9200"]
  20.         index => "rasp-%{+YYYY.MM.dd}"
  21.     }
  22. }

更多信息请求参考如下文档:

FAQ

1. Kibana 里看不到数据

首先，确认 Elasticsearch 里是否有数据

在命令行里，执行以下命令，

  1. curl '192.168.154.200:9200/rasp-*/_count'

如果返回 count 字段，则说明 Elasticsearch 存在数据。请检查 Kibana 是否配置了错误的 Elasticsearch 地址?

  1. {"count":420,"_shards":{"total":5,"successful":5,"failed":0}}

其他情况，比如返回 error 字段，e.g IndexMissingException，则说明 Elasticsearch 里没有数据，需要进一步查看原因。

  1. {"error":"IndexMissingException[[attack] missing]","status":404}

然后，检查 OpenRASP 是否工作正常

检查 <app_home>/rasp/logs/alarm/.log 是否有报警日志？如果没有，可以通过攻击测试用例，来产生一些报警日志。

最后，检查 Logstach 是否正常

如果要采集的路径存在日志，但是 Elasticsearch 里却没有数据，则说明 Logstash 工作不正常。

  • input 配置的日志路径是否正确？
  • <logstash_root>/logs 下面是否有 [ERROR] 类型的日志?