如何使用日志记录

Flink中的日志记录是使用slf4j日志记录界面实现的。作为底层日志记录框架,使用log4j。我们还提供了logback配置文件,并将它们作为属性传递给JVM。愿意使用logback而不是log4j的用户可以只排除log4j(或从lib /文件夹中删除它)。

配置Log4j

使用属性文件控制Log4j。在Flink的情况下,通常会调用该文件log4j.properties我们使用-Dlog4j.configuration=参数将此文件的文件名和位置传递给JVM。

Flink附带以下默认属性文件:

  • log4j-cli.properties:由Flink命令行客户端(例如flink run)使用(不是在集群上执行的代码)
  • log4j-yarn-session.properties:启动YARN会话时由Flink命令行客户端使用(yarn-session.sh
  • log4j.properties:JobManager / Taskmanager日志(独立和YARN)

配置回溯

对于用户和开发人员来说,控制日志记录框架非常重要。日志框架的配置完全由配置文件完成。必须通过设置environment属性-Dlogback.configurationFile=<file>或通过放入logback.xml类路径来指定配置文件conf目录包含一个logback.xml可以修改文件,如果在IDE外部启动Flink并使用提供的启动脚本,则使用该文件。提供logback.xml的内容如下:

  1. <configuration>
  2. <appender name="file" class="ch.qos.logback.core.FileAppender">
  3. <file>${log.file}</file>
  4. <append>false</append>
  5. <encoder>
  6. <pattern>%d{HH:mm:ss.SSS} [%thread] %-5level %logger{60} %X{sourceThread} - %msg%n</pattern>
  7. </encoder>
  8. </appender>
  9. <root level="INFO">
  10. <appender-ref ref="file"/>
  11. </root>
  12. </configuration>

org.apache.flink.runtime.jobgraph.JobGraph例如,为了控制日志记录级别,必须将以下行添加到配置文件中。

  1. <logger name="org.apache.flink.runtime.jobgraph.JobGraph" level="DEBUG"/>

有关配置logback的更多信息,请参阅LOGback手册

开发人员的最佳实践

使用slf4j的记录器是通过调用创建的

  1. import org.slf4j.LoggerFactory
  2. import org.slf4j.Logger
  3. Logger LOG = LoggerFactory.getLogger(Foobar.class)

为了从slf4j中获益最多,建议使用其占位符机制。使用占位符可以避免不必要的字符串构造,以防日志记录级别设置得太高,以至于不会记录消息。占位符的语法如下:

  1. LOG.info("This message contains {} placeholders. {}", 2, "Yippie");

占位符也可以与应记录的异常一起使用。

  1. catch(Exception exception){
  2. LOG.error("An {} occurred.", "error", exception);
  3. }