我的书签
添加书签
移除书签集群间分流
- 集群间分流是指BFE收到请求，基于收到消息内容进行路由，确定由产品线中哪一个集群来处理消息。
示例场景
对于一个产品线的流量，可能需要定义不同的集群来处理。例如，对产品线(demo)，可以定义3种服务集群，实现对不同类型的流量的处理：
- 静态集群(demo-static)：服务静态流量
- post集群(demo-post)：服务post流量
- main集群(demo-main)：服务其他流量
BFE支持根据配置的分流规则, 将流量转发到以上不同的集群。
分流的配置方式
- BFE基于请求内容进行条件判断，来决定分流
- 可以使用的信息包括：host，path， query，cookie，method等
- BFE提供了一个称为Condition的描述机制
对于上面的例子，我们可以demo这个产品线创建了3条分流规则
第一条：对于path以”/static”作为前缀的，都发往demo-static
第二条：请求方法为”POST”、并且path是以”/setting”为前缀的，都发往demo-post
第三条：如果以上两条规则没有命中，则凡是这个产品的流量、都发往demo-main
配置分流规则的注意事项
在配置一个产品线的分流规则时，需要注意以下事项：
多条分流规则之间是有序的
- 对于一个HTTP请求，会按照从上至下的顺序，逐条去尝试匹配分流条件
- 只要命中任何一个分流规则的条件，就会结束
必须存在一个”default规则”
- default规则永远处于规则列表的最后一条
- 如果其他分流规则都没有命中，则请求会发往default规则所指定的集群
集群内负载均衡
BFE可以配置一个集群中的子集群的流量分配比例。
该配置中可以包含一个虚拟的子集群，BLACKHOLE（黑洞）。分向黑洞的流量会被丢弃。它可以用来防止子集群过载。
示例场景
假设基本场景如下图所示：
共两个IDC：IDC1和IDC2
两个BFE集群：BFE1和BFE2
后端产品线的集群有两个子集群：子集群1和子集群2
BFE集群（BFE1和BFE2）可以根据子集群（外加Blackhole）分流比例的配置，分发流量。如：
BFE1集群的分流配置为：{子集群1:w11，子集群2:w12, Blackhole:w1B}
BFE2集群的分流配置为：{子集群1:w21，子集群2:w22, Blackhole:w2B}
BFE实例根据上述配置做WRR调度（加权轮询），向子集群转发请求。
- 例如，当BFE1的分流配置{w11，w12, w1B}为{45，45，10}时，该集群在BFE1转发给子集群1、子集群2、Blackhole的流量比例依次为：45%、45%、10%。
通过修改上述配置，可以将流量在不同的子集群之间切换，实现负载均衡、快速止损、过载保护等目的。
子集群内的负载均衡
- 在同一子集群内的多个实例间，BFE支持使用多种负载均衡算法：
- WRR: 加权轮询算法
- WLC: 加权最小连接数
- 如实例的处理能力不同，可以分配不同的权重。
其他功能
健康检查
对于BFE下游的每一个实例，BFE会维护一个状态机，包含2个状态：
- 正常状态：这个实例可以正常处理BFE转发的请求
- 健康检查状态：实例暂时不可用，BFE对这个实例启动健康检查，直到这个实例恢复正常为止
从正常状态切换到健康检查状态的条件：
建立连接或转发请求的连续失败次数超过一定的阈值
在健康检查状态：
- BFE会定期向实例发送健康检查请求
从健康检查状态切换到正常状态的条件：
- BFE从该实例收到健康检查请求的正确响应
失败重试机制
BFE在转发时，支持以下两种失败重试机制：
同子集群重试
- 在原目标子集群内进行重试
跨子集群重试
- 在原目标子集群之外、使用另外一个子集群进行重试
连接池
BFE和下游实例的连接支持两种方式：
短连接方式：每次BFE向下游实例转发请求，均需要建立新的TCP连接
连接池方式：
BFE为每个下游实例维护一个连接池
当BFE需要向某个下游实例转发请求时：
- 如果连接池中有idle连接，则复用这个连接
- 如果连接池中没有idle连接，则会建立一个新的TCP连接
当BFE处理完一个请求时
- 如果连接池中的idle连接数量小于连接池的大小，则将当前使用的连接放入连接池
- 如果连接池中的idle连接数量大于等于连接池的大小，则关闭当前使用的连接
会话保持
BFE向下游转发请求时，支持将相同来源请求，转发至固定的业务后端（某个子集群或某个实例）
请求来源标识：
- 基于请求来源IP
- 基于请求特定头部，例如请求Cookie等
会话保持级别：
- 子集群级别：相同来源请求，被转发至固定的业务子集群（注：子集群中的任意实例）
- 实例级别：相同来源请求，被转发至固定的业务实例
