Streaming Log

学习bRPC Streaming Log。

Name

streaming_log - Print log to std::ostreams

SYNOPSIS

  1. #include <butil/logging.h>
  2. LOG(FATAL) << "Fatal error occurred! contexts=" << ...;
  3. LOG(WARNING) << "Unusual thing happened ..." << ...;
  4. LOG(TRACE) << "Something just took place..." << ...;
  5. LOG(TRACE) << "Items:" << noflush;
  6. LOG_IF(NOTICE, n > 10) << "This log will only be printed when n > 10";
  7. PLOG(FATAL) << "Fail to call function setting errno";
  8. VLOG(1) << "verbose log tier 1";
  9. CHECK_GT(1, 2) << "1 can't be greater than 2";
  10. LOG_EVERY_SECOND(INFO) << "High-frequent logs";
  11. LOG_EVERY_N(ERROR, 10) << "High-frequent logs";
  12. LOG_FIRST_N(INFO, 20) << "Logs that prints for at most 20 times";
  13. LOG_ONCE(WARNING) << "Logs that only prints once";

DESCRIPTION

流式日志是打印复杂对象或模板对象的不二之选。大部分业务对象都很复杂,如果用printf形式的函数打印,你需要先把对象转成string,才能以%s输出。但string组合起来既不方便(比如没法append数字),还得分配大量的临时内存(string导致的)。C++中解决这个问题的方法便是“把日志流式地送入std::ostream对象”。比如为了打印对象A,那么我们得实现如下的函数:

  1. std::ostream& operator<<(std::ostream& os, const A& a);

这个函数的意思是把对象a打印入os,并返回os。之所以返回os,是因为operator«对应了二元操作 « (左结合),当我们写下os << a << b << c;时,它相当于operator<<(operator<<(operator<<(os, a), b), c); 很明显,operator«需要不断地返回os(的引用),才能完成这个过程。这个过程一般称为chaining。在不支持重载二元运算符的语言中,你可能会看到一些更繁琐的形式,比如os.print(a).print(b).print(c)

我们在operator«的实现中也使用chaining。事实上,流式打印一个复杂对象就像DFS一棵树一样:逐个调用儿子节点的operator«,儿子又逐个调用孙子节点的operator«,以此类推。比如对象A有两个成员变量B和C,打印A的过程就是把其中的B和C对象送入ostream中:

  1. struct A {
  2. B b;
  3. C c;
  4. };
  5. std::ostream& operator<<(std::ostream& os, const A& a) {
  6. return os << "A{b=" << a.b << ", c=" << a.c << "}";
  7. }

B和C的结构及打印函数分别如下:

  1. struct B {
  2. int value;
  3. };
  4. std::ostream& operator<<(std::ostream& os, const B& b) {
  5. return os << "B{value=" << b.value << "}";
  6. }
  7. struct C {
  8. string name;
  9. };
  10. std::ostream& operator<<(std::ostream& os, const C& c) {
  11. return os << "C{name=" << c.name << "}";
  12. }

那么打印某个A对象的结果可能是

  1. A{b=B{value=10}, c=C{name=tom}}

在打印过程中,我们不需要分配临时内存,因为对象都被直接送入了最终要送入的那个ostream对象。当然ostream对象自身的内存管理是另一会儿事了。

OK,我们通过ostream把对象的打印过程串联起来了,最常见的std::cout和std::cerr都继承了ostream,所以实现了上面函数的对象就可以输出到std::cout和std::cerr了。换句话说如果日志流也继承了ostream,那么那些对象也可以打入日志了。流式日志正是通过继承std::ostream,把对象打入日志的,在目前的实现中,送入日志流的日志被记录在thread-local的缓冲中,在完成一条日志后会被刷入屏幕或logging::LogSink,这个实现是线程安全的。

LOG

如果你用过glog,应该是不用学习的,因为宏名称和glog是一致的,如下打印一条FATAL。注意不需要加上std::endl。

  1. LOG(FATAL) << "Fatal error occurred! contexts=" << ...;
  2. LOG(WARNING) << "Unusual thing happened ..." << ...;
  3. LOG(TRACE) << "Something just took place..." << ...;

streaming log的日志等级与glog映射关系如下:

streaming logglog使用场景
FATALFATAL (coredump)致命错误。但由于百度内大部分FATAL实际上非致命,所以streaming log的FATAL默认不像glog那样直接coredump,除非打开了-crash_on_fatal_log
ERRORERROR不致命的错误。
WARNINGWARNING不常见的分支。
NOTICE-一般来说你不应该使用NOTICE,它用于打印重要的业务日志,若要使用务必和检索端同学确认。glog没有NOTICE。
INFO, TRACEINFO打印重要的副作用。比如打开关闭了某某资源之类的。
VLOG(n)INFO打印分层的详细日志。
DEBUGINFOVLOG(1) (NDEBUG)仅为代码兼容性,基本没有用。若要使日志仅在未定义NDEBUG时才打印,用DLOG/DPLOG/DVLOG等即可。

PLOG

PLOG和LOG的不同之处在于,它会在日志后加上错误码的信息,类似于printf中的%m。在posix系统中,错误码就是errno。

  1. int fd = open("foo.conf", O_RDONLY); // foo.conf does not exist, errno was set to ENOENT
  2. if (fd < 0) {
  3. PLOG(FATAL) << "Fail to open foo.conf"; // "Fail to open foo.conf: No such file or directory"
  4. return -1;
  5. }

noflush

如果你暂时不希望刷到屏幕,加上noflush。这一般会用在打印循环中:

  1. LOG(TRACE) << "Items:" << noflush;
  2. for (iterator it = items.begin(); it != items.end(); ++it) {
  3. LOG(TRACE) << ' ' << *it << noflush;
  4. }
  5. LOG(TRACE);

前两次TRACE日志都没有刷到屏幕,而是还记录在thread-local缓冲中,第三次TRACE日志则把缓冲都刷入了屏幕。如果items里面有三个元素,不加noflush的打印结果可能是这样的:

  1. TRACE: ... Items:
  2. TRACE: ... item1
  3. TRACE: ... item2
  4. TRACE: ... item3

加了是这样的:

  1. TRACE: ... Items: item1 item2 item3

noflush支持bthread,可以实现类似于UB的pushnotice的效果,即检索线程一路打印都暂不刷出(加上noflush),直到最后检索结束时再一次性刷出。注意,如果检索过程是异步的,就不应该使用noflush,因为异步显然会跨越bthread,使noflush仍然失效。

LOG_IF

LOG_IF(log_level, condition)只有当condition成立时才会打印,相当于if (condition) { LOG() « …; },但更加简短。比如:

  1. LOG_IF(NOTICE, n > 10) << "This log will only be printed when n > 10";

XXX_EVERY_SECOND

XXX可以是LOG,LOG_IF,PLOG,SYSLOG,VLOG,DLOG等。这类日志每秒最多打印一次,可放在频繁运行热点处探查运行状态。第一次必打印,比普通LOG增加调用一次gettimeofday(30ns左右)的开销。

  1. LOG_EVERY_SECOND(INFO) << "High-frequent logs";

XXX_EVERY_N

XXX可以是LOG,LOG_IF,PLOG,SYSLOG,VLOG,DLOG等。这类日志每触发N次才打印一次,可放在频繁运行热点处探查运行状态。第一次必打印,比普通LOG增加一次relaxed原子加的开销。这个宏是线程安全的,即不同线程同时运行这段代码时对N的限制也是准确的,glog中的不是。

  1. LOG_EVERY_N(ERROR, 10) << "High-frequent logs";

XXX_FIRST_N

XXX可以是LOG,LOG_IF,PLOG,SYSLOG,VLOG,DLOG等。这类日志最多打印N次。在N次前比普通LOG增加一次relaxed原子加的开销,N次后基本无开销。

  1. LOG_FIRST_N(ERROR, 20) << "Logs that prints for at most 20 times";

XXX_ONCE

XXX可以是LOG,LOG_IF,PLOG,SYSLOG,VLOG,DLOG等。这类日志最多打印1次。等价于XXX_FIRST_N(…, 1)

  1. LOG_ONCE(ERROR) << "Logs that only prints once";

VLOG

VLOG(verbose_level)是分层的详细日志,通过两个gflags:–verbose和*–verbose_module*控制需要打印的层(注意glog是–v和–vmodule)。只有当–verbose指定的值大于等于verbose_level时,对应的VLOG才会打印。比如

  1. VLOG(0) << "verbose log tier 0";
  2. VLOG(1) << "verbose log tier 1";
  3. VLOG(2) << "verbose log tier 2";

--verbose=1时,前两条会打印,最后一条不会。–verbose_module可以覆盖某个模块的级别,模块指去掉扩展名的文件名或文件路径。比如:

  1. --verbose=1 --verbose_module="channel=2,server=3" # 打印channel.cpp中<=2,server.cpp中<=3,其他文件<=1的VLOG
  2. --verbose=1 --verbose_module="src/brpc/channel=2,server=3" # 当不同目录下有同名文件时,可以加上路径

--verbose--verbose_module可以通过google::SetCommandLineOption动态设置。

VLOG有一个变种VLOG2让用户指定虚拟文件路径,比如:

  1. // public/foo/bar.cpp
  2. VLOG2("a/b/c", 2) << "being filtered by a/b/c rather than public/foo/bar";

VLOG和VLOG2也有相应的VLOG_IF和VLOG2_IF。

DLOG

所有的日志宏都有debug版本,以D开头,比如DLOG,DVLOG,当定义了NDEBUG后,这些日志不会打印。

千万别在D开头的日志流上有重要的副作用。

“不会打印”指的是连参数都不会评估。如果你的参数是有副作用的,那么当定义了NDEBUG后,这些副作用都不会发生。比如DLOG(FATAL) « foo(); 其中foo是一个函数,它修改一个字典,反正必不可少,但当定义了NDEBUG后,foo就运行不到了。

CHECK

日志另一个重要变种是CHECK(expression),当expression为false时,会打印一条FATAL日志。类似gtest中的ASSERT,也有CHECK_EQ, CHECK_GT等变种。当CHECK失败后,其后的日志流会被打印。

  1. CHECK_LT(1, 2) << "This is definitely true, this log will never be seen";
  2. CHECK_GT(1, 2) << "1 can't be greater than 2";

运行后你应该看到一条FATAL日志和调用处的call stack:

  1. FATAL: ... Check failed: 1 > 2 (1 vs 2). 1 can't be greater than 2
  2. #0 0x000000afaa23 butil::debug::StackTrace::StackTrace()
  3. #1 0x000000c29fec logging::LogStream::FlushWithoutReset()
  4. #2 0x000000c2b8e6 logging::LogStream::Flush()
  5. #3 0x000000c2bd63 logging::DestroyLogStream()
  6. #4 0x000000c2a52d logging::LogMessage::~LogMessage()
  7. #5 0x000000a716b2 (anonymous namespace)::StreamingLogTest_check_Test::TestBody()
  8. #6 0x000000d16d04 testing::internal::HandleSehExceptionsInMethodIfSupported<>()
  9. #7 0x000000d19e96 testing::internal::HandleExceptionsInMethodIfSupported<>()
  10. #8 0x000000d08cd4 testing::Test::Run()
  11. #9 0x000000d08dfe testing::TestInfo::Run()
  12. #10 0x000000d08ec4 testing::TestCase::Run()
  13. #11 0x000000d123c7 testing::internal::UnitTestImpl::RunAllTests()
  14. #12 0x000000d16d94 testing::internal::HandleSehExceptionsInMethodIfSupported<>()

callstack中的第二列是代码地址,你可以使用addr2line查看对应的文件行数:

  1. $ addr2line -e ./test_base 0x000000a716b2
  2. /home/gejun/latest_baidu_rpc/public/common/test/test_streaming_log.cpp:223

应该根据比较关系使用具体的CHECK_XX,这样当出现错误时,你可以看到更详细的信息,比如:

  1. int x = 1;
  2. int y = 2;
  3. CHECK_GT(x, y); // Check failed: x > y (1 vs 2).
  4. CHECK(x > y); // Check failed: x > y.

和DLOG类似,你不应该在DCHECK的日志流中包含重要的副作用。

LogSink

streaming log通过logging::SetLogSink修改日志刷入的目标,默认是屏幕。用户可以继承LogSink,实现自己的日志打印逻辑。我们默认提供了个LogSink实现:

StringSink

同时继承了LogSink和string,把日志内容存放在string中,主要用于单测,这个case说明了StringSink的典型用法:

  1. TEST_F(StreamingLogTest, log_at) {
  2. ::logging::StringSink log_str;
  3. ::logging::LogSink* old_sink = ::logging::SetLogSink(&log_str);
  4. LOG_AT(FATAL, "specified_file.cc", 12345) << "file/line is specified";
  5. // the file:line part should be using the argument given by us.
  6. ASSERT_NE(std::string::npos, log_str.find("specified_file.cc:12345"));
  7. // restore the old sink.
  8. ::logging::SetLogSink(old_sink);
  9. }

修改于 2024年10月7日: Oncall report (1b7065e)