LarsMomentumOptimizer

  • class paddle.fluid.optimizer.LarsMomentumOptimizer(learning_rate, momentum, lars_coeff=0.001, lars_weight_decay=0.0005, regularization=None, name=None)[源代码]

该接口实现LARS支持的Momentum优化器

公式作如下更新：

LarsMomentumOptimizer - 图1

  • 参数：
    • learning_rate (float|Variable) - 学习率，用于参数更新。作为数据参数，可以是浮点型值或含有一个浮点型值的变量。
    • momentum (float) - 动量因子。
    • lars_coeff (float，可选) - 定义LARS本地学习率的权重，默认值0.001。
    • lars_weight_decay (float，可选) - 使用LARS进行衰减的权重衰减系数，默认值0.0005。
    • regularization - 正则化函数，例如 fluid.regularizer.L2DecayRegularizer。
    • name (str, 可选) - 可选的名称前缀，一般无需设置，默认值为None。

代码示例

  1. import paddle.fluid as fluid
  2.  
  3. np_inp = np.array([[1.0, 2.0], [3.0, 4.0]], dtype=np.float32)
  4. inp = fluid.layers.data(
  5.     name="inp", shape=[2, 2], append_batch_size=False)
  6. out = fluid.layers.fc(inp, size=3)
  7. out = fluid.layers.reduce_sum(out)
  8. optimizer = fluid.optimizer.LarsMomentumOptimizer(learning_rate=0.001, momentum=0.9)
  9. optimizer.minimize(out)
  10.  
  11. exe = fluid.Executor(fluid.CPUPlace())
  12. exe.run(fluid.default_startup_program())
  13. exe.run(
  14.     feed={"inp": np_inp},
  15.     fetch_list=[out.name])
  • minimize(loss, startup_program=None, parameter_list=None, no_grad_set=None, grad_clip=None)

通过更新parameter_list来添加操作，进而使损失最小化。

该算子相当于backward()和apply_gradients()功能的合体。

  • 参数：
    • loss (Variable) – 用于优化过程的损失值变量。
    • startup_program (Program) – 用于初始化在parameter_list中参数的startup_program。
    • parameter_list (list) – 待更新的Variables组成的列表。
    • no_grad_set (set|None) – 应该被无视的Variables集合。
    • grad_clip (GradClipBase|None) – 梯度裁剪的策略。

返回： (optimize_ops, params_grads)，数据类型为(list, list)，其中optimize_ops是minimize接口为网络添加的OP列表，params_grads是一个由(param, grad)变量对组成的列表，param是Parameter，grad是该Parameter对应的梯度值

返回类型： tuple