inverse_time_decay

paddle.fluid.layers.inverse_time_decay(learning_rate, decay_steps, decay_rate, staircase=False)[源代码]

在初始学习率上运用逆时衰减。

训练模型时，最好在训练过程中降低学习率。通过执行该函数，将对初始学习率运用逆时衰减函数。

逆时衰减计算方式如下。

  1. if staircase == True:
  2.      decayed_learning_rate = learning_rate / (1 + decay_rate * floor(global_step / decay_step))
  3.  else:
  4.      decayed_learning_rate = learning_rate / (1 + decay_rate * global_step / decay_step)

参数

  • learning_rate (Variable|float) - 初始学习率，类型可以为学习率变量(Variable)或float型常量。
  • decay_steps (int) - 学习率衰减步长，见以上衰减运算。
  • decay_rate (float) - 学习率衰减率。见以上衰减运算。
  • staircase (bool) - 若为True，按离散区间衰减学习率，即每 decay_steps 步多衰减 decay_rate 倍。若为False，则按以上衰减运算持续衰减。默认False。

返回

Variable(Tensor) 随step衰减的学习率变量，维度为

inverse_time_decay - 图1

的1-D Tensor。

返回类型

变量(Variable)

代码示例

  1. import paddle.fluid as fluid
  2. base_lr = 0.1
  3. sgd_optimizer = fluid.optimizer.SGD(
  4.     learning_rate=fluid.layers.natural_exp_decay(
  5.         learning_rate=base_lr,
  6.         decay_steps=10000,
  7.         decay_rate=0.5,
  8.         staircase=True))