目录 Overview 基本使用 热点参数规则 示例 目录 Overview 基本使用 热点参数规则 示例 Overview 何为热点？热点即经常访问的数据。很多时候我们希望统计某个热点数据中访问频次最高的 Top K 数据，并对其访问进行限制。比如： 商品 ID 为参数，统计一段时间内最常购买的商品 ID 并进行限制 用...

统计与限流 MetricsPlugin RateLimitingPlugin 统计与限流 通过一些额外的插件，我们可以为rpcx实现更多的功能和控制。本章就介绍两个有趣的插件。 MetricsPlugin Metrics是一个Java性能统计包，非常的流行。而go-metrics 是这个库的实现，rpcx利用这个库进行各种的统计，包括: ...

自适应限流 使用场景 开启方法 原理 名词 Little’s Law 计算公式 估算noload_latency 减少重测时的流量损失 应对抖动 平滑处理 估算peak_qps 提高qps增长的速度 平滑处理 与netflix gradient算法的对比 自适应限流 服务的处理能力是有客观上限的。当请求速度超过服务的处理...

熔断与限流 熔断与限流 Envoy 可以作为 Sevice Mesh 微服务框架中的代理实现方案，Rainbond 内置的微服务框架同样基于 Envoy 实现。本章所描述的熔断实践基于 Rainbond 特有的插件机制实现。 📄️ 服务间熔断Envoy熔断限流实践，基于Rainbond插件实现熔断 📄️ 服务全局限流Envoy熔断限流实践，Rai...

熔断与限流 熔断与限流 Envoy 可以作为 Sevice Mesh 微服务框架中的代理实现方案，Rainbond 内置的微服务框架同样基于 Envoy 实现。本章所描述的熔断实践基于 Rainbond 特有的插件机制实现。 📄️ 服务间熔断Envoy熔断限流实践，基于Rainbond插件实现熔断 📄️ 服务全局限流Envoy熔断限流实践，Rai...

自适应限流 自适应限流 使用场景 开启方法 原理 名词 Little’s Law 计算公式 估算noload_latency 减少重测时的流量损失 应对抖动 平滑处理 估算peak_qps 提高qps增长的速度 平滑处理 与netflix gradient算法的对比 自适应限流 学习如何在bRPC中自适应限流。 自适应...

熔断与限流 熔断与限流 Envoy 可以作为 Sevice Mesh 微服务框架中的代理实现方案，Rainbond 内置的微服务框架同样基于 Envoy 实现。本章所描述的熔断实践基于 Rainbond 特有的插件机制实现。 📄️ 服务间熔断Envoy熔断限流实践，基于Rainbond插件实现熔断 📄️ 服务全局限流Envoy熔断限流实践，Rai...

限流(并发控制) 概述 准备工作 rest 服务 限流配置 示例 grpc 服务 参考文献 限流(并发控制) 概述 限流器是一种服务治理能力，用于限制服务的并发调用量，以保护服务的稳定性。在本次文档中仅介绍对 rest，grpc 服务的限流器的使用，不介绍限流算法。 限流一般有单节点限流、集群限流（将限流数值对集群节点数求平均值，其本...

如何设置本地限流 安装示例程序 对服务的所有入向请求进行限流 按条件对服务的入向请求进限流 同时设置按服务和按条件的限流规则 理解原理 如何设置本地限流 安装示例程序 如果你还没有安装示例程序，请参照 快速开始 安装 Aeraki，Istio 及示例程序。 安装完成后，可以看到集群中增加了下面两个 NS，这两个 NS 中分别安装了基于 ...

服务全局限流 Envoy 全局限速 构建全局限速服务 全局限速配置 引用全局限速服务 验证 总结 服务全局限流 Envoy 全局限速 尽管分布式熔断器在大多数情况下控制分布式系统中的吞吐量非常有效，但有时它的效果并不是很好，这时候便需要全局限速。最常见的情况是当大量主机转发到少量主机并且平均请求延迟很短时（例如，发送给数据库服务器的连接/...