隔离熔断容错
bizkeeper 模块集成了 Hystrix , 提供隔离、熔断和容错等服务故障保护能力。 Java Chassis 对 Hystrix 进行了封装, 只需要进行简单的配置即可启用这些功能。
在项目中引入如下 Handler 模块,
<dependency>
<groupId>org.apache.servicecomb</groupId>
<artifactId>handler-bizkeeper</artifactId>
</dependency>
并且增加 Handler 配置:
servicecomb:
handler:
chain:
Consumer:
default: bizkeeper-consumer
Provider:
default: bizkeeper-provider
注意事项:
在实际微服务运维实践中,发现 Hystrix 存在如下一些问题, 开发者可以结合实际业务情况,谨慎的使用这个模块。 Java Chassis 的 负载均衡 也提供了实例隔离和错误重试能力, 加上内置的线程池隔离, 能够 实现大部分 Hystrix 核心治理能力。
- 调用栈很深,在某些异常情况下,可能屏蔽底层异常,导致问题原因分析困难。
- 超时机制、重试机制和线程池隔离机制和 Java Chassis 的一些内部机制的协作存在一些不友好的情况,需要特别注意合理的开启超时和重试。 默认情况下是禁用的。Java Chassis 只能使用信号量隔离机制。
- Hystrix 的引入对性能影响很大, 会有 20% 以上的框架性能损失。
- Hystrix 项目目前已经停止维护。
概念阐述
服务故障保护指服务请求异常时,微服务所采用的异常处理策略, 根据处理机制和效果把它分解为三个技术概念:“隔离”、“熔断”、“容错”:
- “隔离”是一种异常检测机制,常用的检测方法是请求超时、流量过大等。一般的设置参数包括超时时间、同时并发请求个数等。
- “熔断”是一种异常反应机制,“熔断”依赖于“隔离”。熔断通常基于错误率来实现。一般的设置参数包括统计请求的个数、错误率等。
- “容错”是一种异常处理机制,“容错”依赖于“熔断”。熔断以后,会调用“容错”的方法。一般的设置参数包括调用容错方法的次数等。
当前 ServiceComb 提供两种容错方式,分别为返回 null 值和抛出异常。
注意 : 在不同的上下文,“隔离”、“熔断”、“容错”、“降级” 等概念可能存在不一样的含义,发现这里的定义和其他地方存在不一样的 的时候不用感到意外, 但是不用担心, 当服务出现故障的时候, 需要一定的措施进行应对, 对于措施和应对方式的理解胜于对于名词的理解。
配置说明
配置项支持对所有接口生效,或者对某个微服务的某个具体方法生效。
- 配置项生效范围
- 按照类型(type):配置项能够针对Provider, Consumer进行配置
- 按照范围(scope):配置项能够针对 MicroService 进行配置, 也可以针对
schemaId
和operationId
进行配置
本章节如果没有特殊说明,所有的配置项都支持按照下面的格式进行配置:
servicecomb.[namespace].[type].[scope].[property name]
type 指 Provider 或者 Consumser。 scope 指配置项生效范围, 针对特定的微服务的配置,需要增加 MicroServiceName, 针对接口配置的,需要指定接口名称,接口名 称由 schemaId
和 operationId
组成。
下面是一些配置示例:
servicecomb.isolation.Consumer.timeout.enabled
servicecomb.isolation.Consumer.DemoService.timeout.enabled
servicecomb.isolation.Consumer.DemoService.hello.sayHello.timeout.enabled
servicecomb.isolation.Provider.timeout.enabled
servicecomb.isolation.Provider.DemoService.timeout.enabled
servicecomb.isolation.Provider.DemoService.hello.sayHello.timeout.enabled
- 配置项列表
配置项 | 默认值 | 取值范围 | 是否必选 | 含义 | 注意 |
---|---|---|---|---|---|
servicecomb.isolation.[type].[scope].timeout.enabled | FALSE | - | 否 | 是否启用超时检测 | |
servicecomb.isolation.[type].[scope].timeoutInMilliseconds | 30000 | - | 否 | 超时时间阈值 | |
servicecomb.isolation.[type].[scope].maxConcurrentRequests | 10 | - | 否 | 最大并发数阈值 | |
servicecomb.circuitBreaker.[type].[scope].enabled | TRUE | - | 否 | 是否启用熔断措施 | |
servicecomb.circuitBreaker.[type].[scope].forceOpen | FALSE | - | 否 | 不管失败次数,都进行熔断 | |
servicecomb.circuitBreaker.[type].[scope].forceClosed | FALSE | - | 否 | 任何时候都不熔断 | 当与forceOpen同时配置时,forceOpen优先。 |
servicecomb.circuitBreaker.[type].[scope].sleepWindowInMilliseconds | 15000 | - | 否 | 熔断后,多长时间恢复 | 恢复后,会重新计算失败情况。注意:如果恢复后的调用立即失败,那么会立即重新进入熔断。 |
servicecomb.circuitBreaker.[type].[scope].requestVolumeThreshold | 20 | - | 否 | 10s内统计错误发生次数阈值,超过阈值则触发熔断 | 由于10秒还会被划分为10个1秒的统计周期,经过1s中后才会开始计算错误率,因此从调用开始至少经过1s,才会发生熔断。 |
servicecomb.circuitBreaker.[type].[scope].errorThresholdPercentage | 50 | - | 否 | 错误率阈值,达到阈值则触发熔断 | |
servicecomb.fallback.[type].[scope].enabled | TRUE | - | 否 | 是否启用出错后的故障处理措施 | |
servicecomb.fallback.[type].[scope].maxConcurrentRequests | 10 | - | 否 | 并发调用容错处理措施(servicecomb.fallbackpolicy.policy)的请求数,超过这个值则不再调用处理措施,直接返回异常 | |
servicecomb.fallbackpolicy.[type].[scope].policy | throwexception | returnull | throwexception | 否 | 出错后的处理策略 |
小心:谨慎使用 servicecomb.isolation.timeout.enabled=true
。因为系统处理链都是异步执行,中间处理链的返回,会导致 后面处理链的逻辑处理效果丢失。尽可能将 servicecomb.isolation.timeout.enabled
保持默认值false,并且正确设置网络层超时时 间 servicecomb.request.timeout=30000
。
- 示例代码
servicecomb:
handler:
chain:
Consumer:
default: bizkeeper-consumer
isolation:
Consumer:
timeout:
enabled: true
timeoutInMilliseconds: 30000
circuitBreaker:
Consumer:
enabled: true
sleepWindowInMilliseconds: 15000
requestVolumeThreshold: 20
fallback:
Consumer:
enabled: true
fallbackpolicy:
Consumer:
policy: throwexception
说明:
降级策略需要启用服务治理能力,对应的服务提供者的handler是bizkeeper-provider
,服务消费者的handler是bizkeeper-consumer
。