Layer

  • class paddle.fluid.dygraph.Layer(name_scope, dtype=core.VarDesc.VarType.FP32)[源代码]

基于OOD实现的动态图Layer,包含该Layer的参数、前序运行的结构等信息。

  • 参数:
    • name_scope (str) - 为Layer内部参数命名而采用的名称前缀。如果前缀为“my_model/layer_1”,在一个类名为MyLayer的Layer中,参数名为“my_model/layer_1/MyLayer/w_n”,其中w是参数的名称,n为自动生成的具有唯一性的后缀。
    • dtype (str|core.VarDesc.VarType, 可选) - Layer中参数数据类型。如果设置为str,则可以是“bool”,“float16”,“float32”,“float64”,“int8”,“int16”,“int32”,“int64”,“uint8”或“uint16”。默认值为 core.VarDesc.VarType.FP32

返回:无

  • full_name()

Layer的全名。组成方式为: name_scope + “/” + MyLayer.class.name

返回:Layer的全名

返回类型:str

  • create_parameter(attr, shape, dtype, is_bias=False, default_initializer=None)

为Layer创建参数。

  • 参数:
    • attr (ParamAttr) - 指定权重参数属性的对象。默认值为None,表示使用默认的权重参数属性。具体用法请参见 ParamAttr
    • shape (list) - 参数的形状。列表中的数据类型必须为int。
    • dtype (str|core.VarDesc.VarType, 可选) - Layer中参数数据类型。如果设置为str,则可以是“bool”,“float16”,“float32”,“float64”,“int8”,“int16”,“int32”,“int64”,“uint8”或“uint16”。默认值为 core.VarDesc.VarType.FP32
    • is_bias (bool, 可选) - 是否是偏置参数。默认值:False。
    • default_initializer (Initializer, 可选) - 默认的参数初始化方法。如果设置为None,则设置非bias参数的初始化方式为 XavierInitializer ,设置bias参数的初始化方式为 ConstantInitializer 。默认值:None。

返回:创建的参数变量

返回类型: Variable

  • create_variable(name=None, persistable=None, dtype=None, type=VarType.LOD_TENSOR)

为Layer创建变量。

  • 参数:
    • name (str, 可选) - 变量名。默认值:None。
    • persistable (bool, 可选) - 是否为持久性变量,后续会被移出。默认值:None。
    • dtype (str|core.VarDesc.VarType, 可选) - Layer中参数数据类型。如果设置为str,则可以是“bool”,“float16”,“float32”,“float64”,“int8”,“int16”,“int32”,“int64”,“uint8”或“uint16”。默认值为 core.VarDesc.VarType.FP32
    • type (core.VarDesc.VarType, 可选) - 变量类型,该参数不需要用户设置。默认值:core.VarDesc.VarType.LOD_TENSOR。

返回:创建的 Tensor

返回类型: Variable

  • parameters(include_sublayers=True)

返回一个由当前层及其子层的所有参数组成的列表。

  • 参数:
    • include_sublayers (bool, 可选) - 是否返回子层的参数。如果为True,返回的列表中包含子层的参数。默认值:True。

返回:一个由当前层及其子层的所有参数组成的列表,列表中的元素类型为Parameter(Variable)。

返回类型:list

  • sublayers(include_sublayers=True)

返回一个由所有子层组成的列表。

  • 参数:
    • include_sublayers (bool, 可选) - 是否返回子层中各个子层。如果为True,则包括子层中的各个子层。默认值:True。

返回: 一个由所有子层组成的列表,列表中的元素类型为Layer。

返回类型:list

  • forward(inputs, *kwargs)

定义每次调用时执行的计算。应该被所有子类覆盖。

  • 参数:
    • *inputs (tuple) - 解包后的tuple参数。
    • **kwargs (dict) - 解包后的dict参数。
  • add_sublayer(name, sublayer)

添加子层实例。可以通过self.name访问该sublayer。

  • 参数:
    • name (str) - 子层名。
    • sublayer (Layer) - Layer实例。

返回:添加的子层

返回类型:Layer

  • add_parameter(name, parameter)

添加参数实例。可以通过self.name访问该parameter。

  • 参数:
    • name (str) - 参数名。
    • parameter (Parameter) - Parameter实例。

返回:传入的参数实例

返回类型:Parameter( Variable )

  • state_dict(destination=None, include_sublayers=True)

获取当前层及其子层的所有参数。并将所有参数存放在dict结构中。

  • 参数:
    • destination (dict, 可选) - 如果提供 destination ,则所有参数都将存放在 destination 中。 默认值:None。
    • include_sublayers (bool, 可选) - 如果设置为True,则包括子层的参数。默认值:True。

返回:包含所有参数的dict

返回类型:dict

代码示例

  1. import paddle.fluid as fluid
  2. with fluid.dygraph.guard():
  3. emb = fluid.dygraph.Embedding("emb", [10, 10])
  4. state_dict = emb.state_dict()
  5. fluid.save_dygraph(state_dict, "paddle_dy")
  • set_dict(stat_dict, include_sublayers=True)

根据传入的 stat_dict 设置参数。 所有参数将由 stat_dict 中的 Tensor 设置。

  • 参数:
    • state_dict (dict) - 包含所有参数的dict。
    • include_sublayers (bool, 可选) - 如果设置为True,则还包括子层的参数。 默认值:True。

返回:None

代码示例

  1. import paddle.fluid as fluid
  2. with fluid.dygraph.guard():
  3. emb = fluid.dygraph.Embedding("emb", [10, 10])
  4. state_dict = emb.state_dict()
  5. fluid.save_dygraph(state_dict, "paddle_dy")
  6. para_state_dict, _ = fluid.load_dygraph("paddle_dy")
  7. emb.set_dict(para_state_dict)
  • load_dict(stat_dict, include_sublayers=True)

警告

该函数将被弃用。请使用set_dict函数。

根据传入的 stat_dict 设置参数。 所有参数将由 stat_dict 中的 Tensor 设置。

  • 参数:
    • state_dict (dict) - 包含所有参数的dict。
    • include_sublayers (bool, 可选) - 如果设置为True,则还包括子层的参数。 默认值:True。

返回:None

代码示例

  1. import paddle.fluid as fluid
  2. with fluid.dygraph.guard():
  3. emb = fluid.dygraph.Embedding("emb", [10, 10])
  4. state_dict = emb.state_dict()
  5. fluid.save_dygraph(state_dict, "paddle_dy")
  6. para_state_dict, _ = fluid.load_dygraph("paddle_dy")
  7. emb.load_dict(para_state_dict)