go-zero链路追踪

序言

微服务架构中,调用链可能很漫长,从 httprpc ,又从 rpchttp 。而开发者想了解每个环节的调用情况及性能,最佳方案就是 全链路跟踪

追踪的方法就是在一个请求开始时生成一个自己的 spanID ,随着整个请求链路传下去。我们则通过这个 spanID 查看整个链路的情况和性能问题。

下面来看看 go-zero 的链路实现。

代码结构

  • spancontext :保存链路的上下文信息「traceid,spanid,或者是其他想要传递的内容」
  • span :链路中的一个操作,存储时间和某些信息
  • propagatortrace 传播下游的操作「抽取,注入」
  • noop :实现了空的 tracer 实现

链路追踪 - 图1

概念

SpanContext

在介绍 span 之前,先引入 context 。SpanContext 保存了分布式追踪的上下文信息,包括 Trace id,Span id 以及其它需要传递到下游的内容。OpenTracing 的实现需要将 SpanContext 通过某种协议 进行传递,以将不同进程中的 Span 关联到同一个 Trace 上。对于 HTTP 请求来说,SpanContext 一般是采用 HTTP header 进行传递的。

下面是 go-zero 默认实现的 spanContext

  1. type spanContext struct {
  2. traceId string // TraceID 表示tracer的全局唯一ID
  3. spanId string // SpanId 标示单个trace中某一个span的唯一ID,在trace中唯一
  4. }

同时开发者也可以实现 SpanContext 提供的接口方法,实现自己的上下文信息传递:

  1. type SpanContext interface {
  2. TraceId() string // get TraceId
  3. SpanId() string // get SpanId
  4. Visit(fn func(key, val string) bool) // 自定义操作TraceId,SpanId
  5. }

Span

一个 REST 调用或者数据库操作等,都可以作为一个 spanspan 是分布式追踪的最小跟踪单位,一个 Trace 由多段 Span 组成。追踪信息包含如下信息:

  1. type Span struct {
  2. ctx spanContext // 传递的上下文
  3. serviceName string // 服务名
  4. operationName string // 操作
  5. startTime time.Time // 开始时间戳
  6. flag string // 标记开启trace是 server 还是 client
  7. children int // 本 span fork出来的 childsnums
  8. }

span 的定义结构来看:在微服务中, 这就是一个完整的子调用过程,有调用开始 startTime ,有标记自己唯一属性的上下文结构 spanContext 以及 fork 的子节点数。

实例应用

go-zero 中http,rpc中已经作为内置中间件集成。我们以 httprpc 中,看看 tracing 是怎么使用的:

HTTP

  1. func TracingHandler(next http.Handler) http.Handler {
  2. return http.HandlerFunc(func(w http.ResponseWriter, r *http.Request) {
  3. // **1**
  4. carrier, err := trace.Extract(trace.HttpFormat, r.Header)
  5. // ErrInvalidCarrier means no trace id was set in http header
  6. if err != nil && err != trace.ErrInvalidCarrier {
  7. logx.Error(err)
  8. }
  9. // **2**
  10. ctx, span := trace.StartServerSpan(r.Context(), carrier, sysx.Hostname(), r.RequestURI)
  11. defer span.Finish()
  12. // **5**
  13. r = r.WithContext(ctx)
  14. next.ServeHTTP(w, r)
  15. })
  16. }
  17. func StartServerSpan(ctx context.Context, carrier Carrier, serviceName, operationName string) (
  18. context.Context, tracespec.Trace) {
  19. span := newServerSpan(carrier, serviceName, operationName)
  20. // **4**
  21. return context.WithValue(ctx, tracespec.TracingKey, span), span
  22. }
  23. func newServerSpan(carrier Carrier, serviceName, operationName string) tracespec.Trace {
  24. // **3**
  25. traceId := stringx.TakeWithPriority(func() string {
  26. if carrier != nil {
  27. return carrier.Get(traceIdKey)
  28. }
  29. return ""
  30. }, func() string {
  31. return stringx.RandId()
  32. })
  33. spanId := stringx.TakeWithPriority(func() string {
  34. if carrier != nil {
  35. return carrier.Get(spanIdKey)
  36. }
  37. return ""
  38. }, func() string {
  39. return initSpanId
  40. })
  41. return &Span{
  42. ctx: spanContext{
  43. traceId: traceId,
  44. spanId: spanId,
  45. },
  46. serviceName: serviceName,
  47. operationName: operationName,
  48. startTime: timex.Time(),
  49. // 标记为server
  50. flag: serverFlag,
  51. }
  52. }
  1. 将 header -> carrier,获取 header 中的traceId等信息
  2. 开启一个新的 span,并把「traceId,spanId」封装在context中
  3. 从上述的 carrier「也就是header」获取traceId,spanId
    • 看header中是否设置
    • 如果没有设置,则随机生成返回
  4. request 中产生新的ctx,并将相应的信息封装在 ctx 中,返回
  5. 从上述的 context,拷贝一份到当前的 request

链路追踪 - 图2

这样就实现了 span 的信息随着 request 传递到下游服务。

RPC

在 rpc 中存在 client, server ,所以从 tracing 上也有 clientTracing, serverTracingserveTracing 的逻辑基本与 http 的一致,来看看 clientTracing 是怎么使用的?

  1. func TracingInterceptor(ctx context.Context, method string, req, reply interface{},
  2. cc *grpc.ClientConn, invoker grpc.UnaryInvoker, opts ...grpc.CallOption) error {
  3. // open clientSpan
  4. ctx, span := trace.StartClientSpan(ctx, cc.Target(), method)
  5. defer span.Finish()
  6. var pairs []string
  7. span.Visit(func(key, val string) bool {
  8. pairs = append(pairs, key, val)
  9. return true
  10. })
  11. // **3** 将 pair 中的data以map的形式加入 ctx
  12. ctx = metadata.AppendToOutgoingContext(ctx, pairs...)
  13. return invoker(ctx, method, req, reply, cc, opts...)
  14. }
  15. func StartClientSpan(ctx context.Context, serviceName, operationName string) (context.Context, tracespec.Trace) {
  16. // **1**
  17. if span, ok := ctx.Value(tracespec.TracingKey).(*Span); ok {
  18. // **2**
  19. return span.Fork(ctx, serviceName, operationName)
  20. }
  21. return ctx, emptyNoopSpan
  22. }
  1. 获取上游带下来的 span 上下文信息
  2. 从获取的 span 中创建新的 ctx,span「继承父span的traceId」
  3. 将生成 span 的data加入ctx,传递到下一个中间件,流至下游

总结

go-zero 通过拦截请求获取链路traceID,然后在中间件函数入口会分配一个根Span,然后在后续操作中会分裂出子Span,每个span都有自己的具体的标识,Finsh之后就会汇集在链路追踪系统中。开发者可以通过 ELK 工具追踪 traceID ,看到整个调用链。

同时 go-zero 并没有提供整套 trace 链路方案,开发者可以封装 go-zero 已有的 span 结构,做自己的上报系统,接入 jaeger, zipkin 等链路追踪工具。

参考