iOS 工程示例

多种应用场景

我们提供Paddle-Lite示例工程Paddle-Lite-Demo,其中包含AndroidiOSArmlinux平台的示例工程。iOS demo涵盖图像分类目标检测2个应用场景。

1. 图像分类

图像分类是Paddle-Lite 提供的图像处理demo ,在移动端上提供了实时的物体识别能力,可以应用到生产线自动分拣或质检、识别医疗图像、辅助医生肉眼诊断等场景。在移动端预测的效果图如下:

iOS 工程示例 - 图1     iOS 工程示例 - 图2

2. 物体检测

物体检测是Paddle-Lite 提供的图像识别demo ,在移动端上提供了检测多个物体的位置、名称、位置及数量的能力。可以应用到视频监控(是否有违规物体或行为)、工业质检(微小瑕疵的数量和位置)、医疗诊断(细胞计数、中药识别)等场景。在移动端预测的效果图如下:

iOS 工程示例 - 图3     iOS 工程示例 - 图4

iOS demo部署方法

下面我们以**目标检测(object_detection_demo)**为例讲解如何部署iOS工程。

目的:将基于Paddle-Lite预测库的iOS APP部署到苹果手机,实现物体检测。

需要的环境:Mac 电脑上安装Xcode、苹果手机、下载到本地的Paddle-Lite-Demo工程

部署步骤

1、 目标检测的iOS示例位于 Paddle-Lite-Demo\PaddleLite-ios-demo\object_detection_demo

2、终端中执行 download_dependencies.sh脚本自动下载模型和Paddle-Lite预测库

  1. cd PaddleLite-ios-demo # 1. 终端中进入 Paddle-Lite-Demo\PaddleLite-ios-demo
  2. sh download_dependencies.sh # 2. 执行脚本下载依赖项 (需要联网)

下载完成后会出现提示: Extract done

3、用Xcode打开object_detection_demo/detection_demo.xcodeproj文件,修改工程配置。 依次修改 General/IdentitySigning&Capabilities属性,替换为自己的工程代号和团队名称。(必须修改,不然无法通过编译)

https://paddlelite-data.bj.bcebos.com/doc_images/Android_iOS_demo/iOS/Xcode1.pngXcode1

https://paddlelite-data.bj.bcebos.com/doc_images/Android_iOS_demo/iOS/Xcode2.pngXcode2

4、 IPhone手机连接电脑,在Xcode中连接自己的手机 (第一次连接IPhone到电脑时,需要在IPhone的设置->通用->设备管理中选择本电脑并信任)

iOS 工程示例 - 图7

5、按下左上角的 Run按钮,自动编译APP并安装到手机。在苹果手机中设置信任该APP(进入设置->通用->设备管理,选中新安装的APP并验证该应用

成功后效果如下,图一:APP安装到手机 图二: APP打开后的效果,会自动识别图片中的物体并标记

iOS 工程示例 - 图8     iOS 工程示例 - 图9

iOS demo结构讲解

iOS 示例的代码结构如下图所示:

iOS 工程示例 - 图10

1、 mobilenetv1-ssd: 模型文件 (opt 工具转化后Paddle-Lite模型)

  1. # 位置:
  2. ios-detection_demo/detection_demo/models/mobilenetv1-ssd

2、 libpaddle_api_light_bundled.a、paddle_api.h : Paddle-Lite C++ 预测库和头文件

  1. # 位置:
  2. # iOS预测库
  3. ios-detection_demo/detection_demo/lib/libpaddle_api_light_bundled.a
  4. # 预测库头文件
  5. ios-detection_demo/detection_demo/include/paddle_api.h
  6. ios-detection_demo/detection_demo/include/paddle_use_kernels.h
  7. ios-detection_demo/detection_demo/include/paddle_use_ops.h

3、 ViewController.mm:主要预测代码

  1. # 位置
  2. ios-detection_demo/detection_demo/ViewController.mm

代码讲解 (如何使用Paddle-Lite C++ API 执行预测)

IOS 示例基于C++ API 开发,调用Paddle-Lite C++ API包括以下五步。更详细的API 描述参考: Paddle-Lite C++ API

  1. #include <iostream>
  2. // 引入C++ API
  3. #include "paddle_lite/paddle_api.h"
  4. #include "paddle_lite/paddle_use_ops.h"
  5. #include "paddle_lite/paddle_use_kernels.h"
  6. // 1. 设置MobileConfig
  7. MobileConfig config;
  8. config.set_model_from_file(<modelPath>); // 设置NaiveBuffer格式模型路径
  9. config.set_power_mode(LITE_POWER_NO_BIND); // 设置CPU运行模式
  10. config.set_threads(4); // 设置工作线程数
  11. // 2. 创建PaddlePredictor
  12. std::shared_ptr<PaddlePredictor> predictor = CreatePaddlePredictor<MobileConfig>(config);
  13. // 3. 设置输入数据
  14. std::unique_ptr<Tensor> input_tensor(std::move(predictor->GetInput(0)));
  15. input_tensor->Resize({1, 3, 224, 224});
  16. auto* data = input_tensor->mutable_data<float>();
  17. for (int i = 0; i < ShapeProduction(input_tensor->shape()); ++i) {
  18. data[i] = 1;
  19. }
  20. // 4. 执行预测
  21. predictor->run();
  22. // 5. 获取输出数据
  23. std::unique_ptr<const Tensor> output_tensor(std::move(predictor->GetOutput(0)));
  24. std::cout << "Output shape " << output_tensor->shape()[1] << std::endl;
  25. for (int i = 0; i < ShapeProduction(output_tensor->shape()); i += 100) {
  26. std::cout << "Output[" << i << "]: " << output_tensor->data<float>()[i]
  27. << std::endl;
  28. }