自适应限流 自适应限流 使用场景 开启方法 原理 名词 Little’s Law 计算公式 估算noload_latency 减少重测时的流量损失 应对抖动 平滑处理 估算peak_qps 提高qps增长的速度 平滑处理 与netflix gradient算法的对比 自适应限流 学习如何在bRPC中自适应限流。 自适应...

Overview 基本使用 热点参数规则 示例 Overview 何为热点？热点即经常访问的数据。很多时候我们希望统计某个热点数据中访问频次最高的 Top K 数据，并对其访问进行限制。比如： 商品 ID 为参数，统计一段时间内最常购买的商品 ID 并进行限制 用户 ID 为参数，针对一段时间内频繁访问的用户 ID 进行限制 热点参数限流会...

AI Token 限流 功能说明 配置说明 配置示例 识别请求参数 apikey，进行区别限流 识别请求头 x-ca-key，进行区别限流 根据请求头 x-forwarded-for 获取对端 IP，进行区别限流 识别 consumer，进行区别限流 识别 cookie 中的键值对，进行区别限流 AI Token 限流 功能说明 ai...

熔断与限流 熔断与限流 Envoy 可以作为 Sevice Mesh 微服务框架中的代理实现方案，Rainbond 内置的微服务框架同样基于 Envoy 实现。本章所描述的熔断实践基于 Rainbond 特有的插件机制实现。 📄️ 服务间熔断Envoy熔断限流实践，基于Rainbond插件实现熔断 📄️ 服务全局限流Envoy熔断限流实践，Rai...

自适应限流 自适应限流 使用场景 开启方法 原理 名词 Little’s Law 计算公式 估算noload_latency 减少重测时的流量损失 应对抖动 平滑处理 估算peak_qps 提高qps增长的速度 平滑处理 与netflix gradient算法的对比 自适应限流 学习如何在bRPC中自适应限流。 自适应...

目录 Overview 基本使用 热点参数规则 示例 目录 Overview 基本使用 热点参数规则 示例 Overview 何为热点？热点即经常访问的数据。很多时候我们希望统计某个热点数据中访问频次最高的 Top K 数据，并对其访问进行限制。比如： 商品 ID 为参数，统计一段时间内最常购买的商品 ID 并进行限制 用...

统计与限流 MetricsPlugin RateLimitingPlugin 统计与限流 通过一些额外的插件，我们可以为rpcx实现更多的功能和控制。本章就介绍两个有趣的插件。 MetricsPlugin Metrics是一个Java性能统计包，非常的流行。而go-metrics 是这个库的实现，rpcx利用这个库进行各种的统计，包括: ...

熔断与限流 熔断与限流 Envoy 可以作为 Sevice Mesh 微服务框架中的代理实现方案，Rainbond 内置的微服务框架同样基于 Envoy 实现。本章所描述的熔断实践基于 Rainbond 特有的插件机制实现。 📄️ 服务间熔断Envoy熔断限流实践，基于Rainbond插件实现熔断 📄️ 服务全局限流Envoy熔断限流实践，Rai...

自适应限流 使用场景 开启方法 原理 名词 Little’s Law 计算公式 估算noload_latency 减少重测时的流量损失 应对抖动 平滑处理 估算peak_qps 提高qps增长的速度 平滑处理 与netflix gradient算法的对比 自适应限流 服务的处理能力是有客观上限的。当请求速度超过服务的处理...

自适应限流 使用场景 开启方法 原理 名词 Little's Law 计算公式 估算noload_latency 减少重测时的流量损失 应对抖动 平滑处理 估算peak_qps 提高qps增长的速度 平滑处理 与netflix gradient算法的对比 自适应限流 服务的处理能力是有客观上限的。当请求速度超过服务的处理速...