Queue

最近更新于 Sep 27, 2020

定义

queue是容纳一组podgroup的队列，也是该组podgroup获取集群资源的划分依据

样例

  1. apiVersion: scheduling.volcano.sh/v1beta1
  2. kind: Queue
  3. metadata:
  4.   creationTimestamp: "2020-08-10T11:54:36Z"
  5.   generation: 1
  6.   name: default
  7.   resourceVersion: "559"
  8.   selfLink: /apis/scheduling.volcano.sh/v1beta1/queues/default
  9.   uid: 14082e4c-bef6-4248-a414-1e06d8352bf0
  10. spec:
  11.   reclaimable: true
  12.   weight: 1
  13.   capability:
  14.     cpu: "4"
  15.     memory: "4096Mi"
  16. status:
  17.   state: Open

关键字段

  • weight

weight表示该queue在集群资源划分中所占的相对比重，该queue应得资源总量为 (weight/total-weight) * total-resource。其中， total-weight表示所有的queue的weight总和，total-resource表示集群的资源总量。weight是一个软约束，取值范围为[1, 2^31-1]

  • capability

capability表示该queue内所有podgroup使用资源量之和的上限，它是一个硬约束

  • reclaimable

reclaimable表示该queue在资源使用量超过该queue所应得的资源份额时，是否允许其他queue回收该queue使用超额的资源，默认值为true

资源状态

  • Open

该queue当前处于可用状态，可接收新的podgroup

  • Closed

该queue当前处于不可用状态，不可接收新的podgroup

  • Closing

该Queue正在转化为不可用状态，不可接收新的podgroup

  • Unknown

该queue当前处于不可知状态，可能是网络或其他原因导致queue的状态暂时无法感知

使用场景

weight的资源划分-1

背景：

  • 集群CPU总量为4C
  • 已默认创建名为default的queue，weight为1
  • 集群中无任务运行

操作：

  1. 当前情况下，default queue可是使用全部集群资源，即4C
  2. 创建名为test的queue，weight为3。此时，default weight:test weight = 1:3,即default queue可使用1C，test queue可使用3C
  3. 创建名为p1和p2的podgroup，分别属于default queue和test queue
  4. 分别向p1和p2中投递job1和job2，资源申请量分别为1C和3C，2个job均能正常工作

weight的资源划分-2

背景：

  • 集群CPU总量为4C
  • 已默认创建名为default的queue，weight为1
  • 集群中无任务运行

操作：

  1. 当前情况下，default queue可是使用全部集群资源，即4C
  2. 创建名为p1的podgroup，属于default queue。
  3. 分别创建名为job1和job2的job，属于p1,资源申请量分别为1C和3C，job1和job2均能正常工作
  4. 创建名为test的queue，weight为3。此时，default weight:test weight = 1:3,即default queue可使用1C，test queue可使用3C。但由于test queue内此时无任务，job1和job2仍可正常工作
  5. 创建名为p2的podgroup，属于test queue。
  6. 创建名为job3的job，属于p2，资源申请量为3C。此时，job2将被驱逐，将资源归还给job3，即default queue将3C资源归还给test queue。

capability的使用

背景：

  • 集群CPU总量为4C
  • 已默认创建名为default的queue，weight为1
  • 集群中无任务运行

操作：

  1. 创建名为test的queue，capability设置cpu为2C，即test queue使用资源上限为2C
  2. 创建名为p1的podgroup，属于test queue
  3. 分别创建名为job1和job2的job，属于p1，资源申请量分别为1C和3C，依次下发。由于capability的限制，job1正常运行，job2处于pending状态

reclaimable的使用

背景：

  • 集群CPU总量为4C
  • 已默认创建名为default的queue，weight为1
  • 集群中无任务运行

操作：

  1. 创建名为test的queue，reclaimable设置为false，weight为1。此时，default weight:test weight = 1:1,即default queue和test queue均可使用2C。
  2. 创建名为p1、p2的podgroup，分别属于test queue和default queue
  3. 创建名为job1的job，属于p1，资源申请量3C，job1可正常运行。此时，由于default queue中尚无任务，test queue多占用1C
  4. 创建名为job2的job，属于p2，资源申请量2C，任务下发后处于pending状态，即test queue的reclaimable为false导致该queue不归还多占的资源

说明事项

default queue

volcano启动后，会默认创建名为default的queue，weight为1。后续下发的job，若未指定queue，默认属于default queue

weight的软约束

weight的软约束是指weight决定的queue应得资源的份额并不是不能超出使用的。当其他queue的资源未充分利用时，需要超出使用资源的queue可临时多占。但其 他queue后续若有任务下发需要用到这部分资源，将驱逐该queue多占资源的任务以达到weight规定的份额（前提是queue的reclaimable为true）。这种设计可以 保证集群资源的最大化利用。