使用 Splunk 进行日志管理

使用 Splunk 服务器管理系统和应用程序日志

概述

您可以将系统和应用程序日志从 config.yaml 群集传输到现有 Splunk 服务器。本文档介绍如何配置 Splunk 通用转发器以将每个节点的输出发送到 Splunk 装置。本文档未介绍如何设置和配置 Splunk 服务器。

这些说明是基于 CentOS，可能极大地不同于与其他 Linux 系统分配。

重要信息：代理节点 Splunk 转发器配置要求任务将日志写入 stdout 和 stderr。某些 DC/OS 服务（包括 Cassandra 和 Kafka）不会将日志写入 stdout 和 stderr。如果要记录这些服务，您必须自定义代理节点 Splunk 转发器配置。

前提条件

  • 现有 Splunk 装置可以消化数据用于索引
  • 所有 DC/OS 节点必须能够通过 HTTP 或 HTTPS 连接到 Splunk 索引器
  • 开放文件的 ulimit 必须设置为 unlimited，供具有 Root 访问权限的用户使用。

步骤 1：所有节点

对于 DC/OS 群集中的所有节点：

  1. 安装 Splunk 的 通用转发器。
  2. 确保转发器具有将数据发送给索引器所需的凭据。
  3. 启动转发器。

步骤 2：管理节点

对于 DC/OS 群集中的每个管理节点：

  1. 创建一个脚本 $SPLUNK_HOME/bin/scripts/journald-master.sh，其含有来自 journald Mesos 管理节点的日志。此脚本可配合 DC/OS 和 DC/OS Enterprise 使用。不适用的日志条目将被忽略。 
    1.  #!/bin/sh
    3.  exec journalctl —since=now -f \
    4.  -u dcos-diagnostics.service        \
    5.  -u dcos-diagnostics.socket         \
    6.  -u dcos-adminrouter-reload.service \
    7.  -u dcos-adminrouter-reload.timer   \
    8.  -u dcos-adminrouter.service        \
    9.  -u dcos-bouncer.service            \
    10.  -u dcos-ca.service                 \
    11.  -u dcos-cfn-signal.service \
    12.  -u dcos-cosmos.service             \
    13.  -u dcos-download.service \
    14.  -u dcos-epmd.service               \
    15.  -u dcos-exhibitor.service \
    16.  -u dcos-gen-resolvconf.service \
    17.  -u dcos-gen-resolvconf.timer       \
    18.  -u dcos-history.service            \
    19.  -u dcos-link-env.service \
    20.  -u dcos-logrotate-master.timer \
    21.  -u dcos-marathon.service \
    22.  -u dcos-mesos-dns.service \
    23.  -u dcos-mesos-master.service \
    24.  -u dcos-metronome.service \
    25.  -u dcos-minuteman.service \
    26.  -u dcos-navstar.service            \
    27.  -u dcos-networking_api.service \
    28.  -u dcos-secrets.service            \
    29.  -u dcos-setup.service              \
    30.  -u dcos-signal.service             \
    31.  -u dcos-signal.timer               \
    32.  -u dcos-spartan-watchdog.service   \
    33.  -u dcos-spartan-watchdog.timer     \
    34.  -u dcos-spartan.service            \
    35.  -u dcos-vault.service              \
    36.  -u dcos-logrotate-master.service
  2. 使脚本可执行： 
    1.  chmod +x "$SPLUNK_HOME/bin/scripts/journald-master.sh"
  3. 将脚本添加为转发器的输入： 
    1.  "$SPLUNK_HOME/bin/splunk" add exec \
    2.      -source "$SPLUNK_HOME/bin/scripts/journald-master.sh" \
    3.      -interval 0

步骤 3：代理节点

对于 DC/OS 群集中的每个代理节点：

  1. 创建一个脚本 $SPLUNK_HOME/bin/scripts/journald-agent.sh，其含有来自 journald Mesos 代理节点的日志。此脚本可配合 DC/OS 和 DC/OS Enterprise 使用。不适用的日志条目将被忽略。 
    1.  #!/bin/sh
    3.      journalctl —since="now" -f              \
    4.      -u dcos-diagnostics.service              \
    5.      -u dcos-logrotate-agent.timer \
    6.      -u dcos-diagnostics.socket               \
    7.      -u dcos-mesos-slave.service              \
    8.      -u dcos-adminrouter-agent.service \
    9.      -u dcos-minuteman.service                \
    10.      -u dcos-adminrouter-reload.service \
    11.      -u dcos-navstar.service                  \
    12.      -u dcos-adminrouter-reload.timer \
    13.      -u dcos-rexray.service                   \
    14.      -u dcos-cfn-signal.service               \
    15.      -u dcos-setup.service                    \
    16.      -u dcos-download.service                 \
    17.      -u dcos-signal.timer                     \
    18.      -u dcos-epmd.service                     \
    19.      -u dcos-spartan-watchdog.service \
    20.      -u dcos-gen-resolvconf.service \
    21.      -u dcos-spartan-watchdog.timer \
    22.      -u dcos-gen-resolvconf.timer \
    23.      -u dcos-spartan.service                  \
    24.      -u dcos-link-env.service                 \
    25.      -u dcos-vol-discovery-priv-agent.service \
    26.      -u dcos-logrotate-agent.service
  2. 使脚本可执行： 
    1.  chmod +x "$SPLUNK_HOME/bin/scripts/journald-agent.sh"
  3. 将脚本添加为转发器的输入： 
    1.  "$SPLUNK_HOME/bin/splunk" add exec \
    2.      -source "$SPLUNK_HOME/bin/scripts/journald-agent.sh" \
    3.      -interval 0
  4. 将任务日志添加为转发器的输入： 
    1.  "$SPLUNK_HOME/bin/splunk" add monitor '/var/lib/mesos/slave' \
    2.      -whitelist '/stdout$|/stderr$'

后续步骤

有关如何使用 Splunk 筛选日志的详细信息，请参阅 使用 Splunk 筛选日志。