使用 logkit + 日志分析服务 + Grafana 10分钟搭建Nginx日志分析和实时监控系统。

在开始场景实践之前，请确保您已经完整体验了我们的快速开始下所有内容，对我们的产品有一个基础的了解。

1.下载并运行logkit

在 下载中心 下载logkit最新版本；

将下载的logkit解压后，在命令行中将路径指向logkit文件夹；

输入 ./logkit -f logkit.conf

!> 注意：如需修改端口或其他信息，请参考logkit产品详解。

在浏览器输入 127.0.0.1:3000 访问logkit主页。

Nginx日志分析 - 图1

2.配置logkit日志采集器

点击增加按钮，添加一个日志采集器；

第一步：填写下面的内容，然后点击下一步；

  1. 数据源类型：选择从文件读取（fileauto模式）
  2. 日志文件夹路径：填写您的nginx日志所在路径

Nginx日志分析 - 图2

第二步：按照下面的讲解填写内容，然后下一步；

在匹配日志的grok表达式(grok_patterns)中填写：%{NGINX_LOG}

在自定义 pattern (grok_custom_patterns)中填写：

  1. NGINX_LOG %{NOTSPACE:client_ip} %{USER:ident} %{USER:auth} \[%{HTTPDATE:ts:date}\] "(?:%{WORD:verb} %{NOTSPACE:request}(?: HTTP/%{NUMBER:http_version:float})?|%{DATA})" %{NUMBER:resp_code} (?:%{NUMBER:resp_bytes:long}|-) (?:%{NUMBER:resp_body_bytes:long}|-) "(?:%{NOTSPACE:referrer}|-)" %{QUOTEDSTRING:agent} %{QUOTEDSTRING:forward_for} %{NOTSPACE:upstream_addr} (%{HOSTNAME:host}|-) (%{NOTSPACE:reqid}) %{NUMBER:resp_time:float}

有关 grok & pattern 的介绍，请参见：https://github.com/qiniu/logkit/wiki/Grok-Parser

Nginx日志分析 - 图3

第三步：直接跳过，下一步；

第四步：按照下面的讲解填写内容，然后下一步；

默认只需要填写账户的公钥和私钥即可；

Nginx日志分析 - 图4

第五步：确认并提交

3.新建并配置Grafana监控图表

我们准备好了一个nginx监控的dashboard模板，点击右侧下载 json http://op26gaeek.bkt.clouddn.com/logdbgrafana.json

在七牛控制台首页的下方，打开Grafana；

Nginx日志分析 - 图5

新建一个Grafana应用，并在部署完成后点击访问进入；

Nginx日志分析 - 图6

进入Grafana之后，首先创建一个数据源；

Nginx日志分析 - 图7

在创建数据源时，请按照下图进行配置，注意User和Password填写账户的公钥和私钥，同时Index name中的中文替换成日志分析服务的仓库名称，若您所有配置都是根据本教程填写的，那么直接在框中填写 [my_work-]YYYY.MM.DD即可。

Nginx日志分析 - 图8

现在将我们刚刚下载的json文件导入即可；

Nginx日志分析 - 图9

导入完成后，即可看到我们的实时nginx监控图；

Nginx日志分析 - 图10

4.配置报警信息

配置好监控dashboard之后，我们可以配置报警信息，进入notification页面，进行报警配置；

Nginx日志分析 - 图11

以邮件报警为例，按下图进行配置即可；

Nginx日志分析 - 图12

配置好接警方式以及接警人后，我们对需要报警提示的图表进行报警设置，以下图为例，设置了响应时间大于1000ms的报警；

Nginx日志分析 - 图13

最终的报警内容如下图所示：

第一张是右键报警，第二张是slack报警。

Nginx日志分析 - 图14

Nginx日志分析 - 图15