统计与限流

通过一些额外的插件，我们可以为rpcx实现更多的功能和控制。本章就介绍两个有趣的插件。

MetricsPlugin

Metrics是一个Java性能统计包，非常的流行。而go-metrics是这个库的实现，rpcx利用这个库进行各种的统计，包括:

  • serviceCounter: 注册的服务的个数
  • clientMeter: 吞吐率
  • service_XXX_Read_Counter: 服务调用次数
  • service_XXX_Write_Counter: 服务返回次数
  • serice_XXX_CallTime: 服务调用时间

统计数据可以输出到控制台、syslog、graphite、influxdb、librato、stathat等

RateLimitingPlugin

限流是高并发的情况下保证服务质量常用的一种手段。一个服务器的能力有限的，超过这个限度，我们可以拒绝新的连接，保证服务器还能够正常的运行。

限流插件使用 https://github.com/juju/ratelimit 来实现的，它是基于令牌桶的方式获实现限流。

你需要指定多长时间往桶中放入一个令牌以及桶最大的容量。这个插件控制的是整个服务器的连接，而不是单一的某个服务的能力。

一个例子如下：

  1. func TestRateLimitingPlugin(t *testing.T) {
  2.  p := NewRateLimitingPlugin(time.Second, 1000)
  3.  time.Sleep(1 * time.Second)
  5.  total := 0 for i := 0; i < 2000; i++ {
  6.   if p.HandleConnAccept(nil) {
  7.     total++
  8.    }
  9.  }
  10.  if total > 1100 {
  11.     t.Errorf("rate limiting has not work. Handled: %d, Expected: about 1000", total)
  12.  }
  13. }

这个例子中初始化有1000个令牌，每秒增加一个令牌，在程序的运行过程中可能会增加几个令牌，但是这个短短的处理过程中也就1000多几个令牌，令牌的速度被限制住了。