load_inference_model

paddle.static. load_inference_model ( path_prefix, executor, **kwargs ) [源代码]

从指定文件路径中加载预测模型，包括模型结构和模型参数。

参数：

  • path_prefix (str) – 模型的存储目录 + 模型名称（不包含后缀）。如果是 None，表示从内存加载模型。

  • executor (Executor) – 运行模型的 executor ，详见 执行引擎 。

  • kwargs - 支持的 key 包括 ‘model_filename’, ‘params_filename’。(注意：kwargs 主要是用来做反向兼容的)。

    • model_filename (str) - 自定义 model_filename。

    • params_filename (str) - 自定义 params_filename。

返回：该接口返回一个包含三个元素的列表 [program，feed_target_names, fetch_targets]。它们的含义描述如下：

  • program （Program）– Program （详见 基础概念 ）类的实例。此处它被用于预测，因此可被称为Inference Program。

  • feed_target_names （list）– 字符串列表，包含着Inference Program预测时所需提供数据的所有变量名称（即所有输入变量的名称）。

  • fetch_targets （list）– Variable （详见 基础概念 ）类型列表，包含着模型的所有输出变量。通过这些输出变量即可得到模型的预测结果。

返回类型： 列表（list）

抛出异常：

  • ValueError – 如果 path_prefix.pdmodel 或 path_prefix.pdiparams 不存在，则抛出异常。

代码示例

  1. import paddle
  2. import numpy as np
  4. paddle.enable_static()
  6. # 构建模型
  7. startup_prog = paddle.static.default_startup_program()
  8. main_prog = paddle.static.default_main_program()
  9. with paddle.static.program_guard(main_prog, startup_prog):
  10.     image = paddle.static.data(name="img", shape=[64, 784])
  11.     w = paddle.create_parameter(shape=[784, 200], dtype='float32')
  12.     b = paddle.create_parameter(shape=[200], dtype='float32')
  13.     hidden_w = paddle.matmul(x=image, y=w)
  14.     hidden_b = paddle.add(hidden_w, b)
  15. exe = paddle.static.Executor(paddle.CPUPlace())
  16. exe.run(startup_prog)
  18. # 保存预测模型
  19. path_prefix = "./infer_model"
  20. paddle.static.save_inference_model(path_prefix, [image], [hidden_b], exe)
  22. [inference_program, feed_target_names, fetch_targets] = (
  23.     paddle.static.load_inference_model(path_prefix, exe))
  24. tensor_img = np.array(np.random.random((64, 784)), dtype=np.float32)
  25. results = exe.run(inference_program,
  26.               feed={feed_target_names[0]: tensor_img},
  27.               fetch_list=fetch_targets)
  29. # 在上述示例中，inference program 被保存在 "./infer_model.pdmodel" 文件中，
  30. # 参数被保存在 "./infer_model.pdiparams" 文件中。
  31. # 加载 inference program 后， executor可使用 fetch_targets 和 feed_target_names,
  32. # 执行Program，并得到预测结果。

使用本API的教程文档