TracedLayer

class paddle.jit. TracedLayer ( program, parameters, feed_names, fetch_names ) [源代码]

TracedLayer用于将前向动态图模型转换为静态图模型，主要用于将动态图保存后做在线C++预测。除此以外，用户也可使用转换后的静态图模型在Python端做预测，通常比原先的动态图性能更好。

TracedLayer使用 Executor 和 CompiledProgram 运行静态图模型。转换后的静态图模型与原动态图模型共享参数。

所有的TracedLayer对象均不应通过构造函数创建，而应通过调用静态方法 TracedLayer.trace(layer, inputs) 创建。

TracedLayer只能用于将data independent的动态图模型转换为静态图模型，即待转换的动态图模型不应随tensor数据或维度的变化而变化。

static trace ( layer, inputs )

创建TracedLayer对象的唯一接口，该接口会调用 layer(*inputs) 方法运行动态图模型并将其转换为静态图模型。

参数:

  • layer (dygraph.Layer) - 待追踪的动态图layer对象。

  • inputs (list(Variable)) - 动态图layer对象的输入变量列表。

返回: 包含2个元素的tuple，其中第一个元素是 layer(*inputs) 的输出结果，第二个元素是转换后得到的TracedLayer对象。

返回类型: tuple

代码示例

  1. import paddle
  3. class ExampleLayer(paddle.nn.Layer):
  4.     def __init__(self):
  5.         super(ExampleLayer, self).__init__()
  6.         self._fc = paddle.nn.Linear(3, 10)
  8.     def forward(self, input):
  9.         return self._fc(input)
  11. layer = ExampleLayer()
  12. in_var = paddle.uniform(shape=[2, 3], dtype='float32')
  13. out_dygraph, static_layer = paddle.jit.TracedLayer.trace(layer, inputs=[in_var])
  15. # 内部使用Executor运行静态图模型
  16. out_static_graph = static_layer([in_var])
  17. print(len(out_static_graph)) # 1
  18. print(out_static_graph[0].shape) # (2, 10)
  20. # 将静态图模型保存为预测模型
  21. static_layer.save_inference_model(path='./saved_infer_model')

set_strategy ( build_strategy=None, exec_strategy=None )

设置构建和执行静态图模型的相关策略。

参数:

  • build_strategy (BuildStrategy, 可选) - TracedLayer内部 CompiledProgram 的构建策略。

  • exec_strategy (ExecutionStrategy, 可选) - TracedLayer内部 CompiledProgram 的执行策略。

返回: 无

代码示例

  1. import paddle
  3. class ExampleLayer(paddle.nn.Layer):
  4.     def __init__(self):
  5.         super(ExampleLayer, self).__init__()
  6.         self._fc = paddle.nn.Linear(3, 10)
  8.     def forward(self, input):
  9.         return self._fc(input)
  11. layer = ExampleLayer()
  12. in_var = paddle.uniform(shape=[2, 3], dtype='float32')
  14. out_dygraph, static_layer = paddle.jit.TracedLayer.trace(layer, inputs=[in_var])
  16. build_strategy = paddle.static.BuildStrategy()
  17. build_strategy.enable_inplace = True
  19. exec_strategy = paddle.static.ExecutionStrategy()
  20. exec_strategy.num_threads = 2
  22. static_layer.set_strategy(build_strategy=build_strategy, exec_strategy=exec_strategy)
  23. out_static_graph = static_layer([in_var])

save_inference_model ( path, feed=None, fetch=None )

将TracedLayer保存为用于预测部署的模型。保存的预测模型可被C++预测接口加载。

path 是存储目标的前缀，存储的模型结构 Program 文件的后缀为 .pdmodel,存储的持久参数变量文件的后缀为 .pdiparams.

参数:

  • path (str) - 存储模型的路径前缀。格式为 dirname/file_prefix 或者 file_prefix 。

  • feed (list(int), 可选) - 预测模型输入变量的索引。若为None，则TracedLayer的所有输入变量均会作为预测模型的输入。默认值为None。

  • fetch (list(int), 可选) - 预测模型输出变量的索引。若为None，则TracedLayer的所有输出变量均会作为预测模型的输出。默认值为None。

返回: 无

代码示例

  1. import numpy as np
  2. import paddle
  4. class ExampleLayer(paddle.nn.Layer):
  5.     def __init__(self):
  6.         super(ExampleLayer, self).__init__()
  7.         self._fc = paddle.nn.Linear(3, 10)
  9.     def forward(self, input):
  10.         return self._fc(input)
  12. save_dirname = './saved_infer_model'
  13. in_np = np.random.random([2, 3]).astype('float32')
  14. in_var = paddle.to_tensor(in_np)
  15. layer = ExampleLayer()
  16. out_dygraph, static_layer = paddle.jit.TracedLayer.trace(layer, inputs=[in_var])
  17. static_layer.save_inference_model(save_dirname, feed=[0], fetch=[0])
  19. paddle.enable_static()
  20. place = paddle.CPUPlace()
  21. exe = paddle.static.Executor(place)
  22. program, feed_vars, fetch_vars = paddle.static.load_inference_model(save_dirname,
  23.                                     exe)
  25. fetch, = exe.run(program, feed={feed_vars[0]: in_np}, fetch_list=fetch_vars)
  26. print(fetch.shape) # (2, 10)

使用本API的教程文档