CxxPredictor

  1. class CxxPredictor

CxxPredictor是Paddle-Lite的预测器，由create_paddle_predictor根据CxxConfig进行创建。用户可以根据CxxPredictor提供的接口设置输入数据、执行模型预测、获取输出以及获得当前使用lib的版本信息等。

示例：

  1. from paddlelite.lite import *
  2. import numpy as np
  3. import argparse
  5. # Command arguments
  6. parser = argparse.ArgumentParser()
  7. parser.add_argument(
  8.     "--model_file", default="", type=str, help="Model file")
  9. parser.add_argument(
  10.     "--param_file", default="", type=str, help="Combined model param file")
  11. parser.add_argument(
  12.     "--model_dir", default="", type=str, help="Non-combined Model dir path")
  13. args = parser.parse_args()
  15. # 1. 设置CxxConfig
  16. config = CxxConfig()
  17. if args.model_file != '' and args.param_file != '':
  18.     config.set_model_file(args.model_file)
  19.     config.set_param_file(args.param_file)
  20. else:
  21.     config.set_model_dir(args.model_dir)
  22. places = [Place(TargetType.X86, PrecisionType.FP32)]
  23. config.set_valid_places(places)
  25. # 2. 创建CxxPredictor
  26. predictor = create_paddle_predictor(config)
  28. # 3. 设置输入数据
  29. input_tensor = predictor.get_input(0)
  30. input_tensor.from_numpy(np.ones((1, 3, 224, 224)).astype("float32"))
  32. # 4. 运行模型
  33. predictor.run()
  35. # 5. 获取输出数据
  36. output_tensor = predictor.get_output(0)
  37. output_data = output_tensor.numpy()
  38. print(output_data)

get_input(index)

获取输入Tensor，用来设置模型的输入数据。

参数：

  • index(int) - 输入Tensor的索引

返回：第index个输入Tensor

返回类型：Tensor

get_output(index)

获取输出Tensor，用来获取模型的输出结果。

参数：

  • index(int) - 输出Tensor的索引

返回：第index个输出Tensor

返回类型：Tensor

run()

执行模型预测，需要在设置输入数据后调用。

参数：

  • None

返回：None

返回类型：None

get_version()

用于获取当前lib使用的代码版本。若代码有相应tag则返回tag信息，如v2.0-beta；否则返回代码的branch(commitid)，如develop(7e44619)。

参数：

  • None

返回：当前lib使用的代码版本信息

返回类型：str