PaddleLite使用OpenCL预测部署 1. 编译 1.1 编译环境 1.2 编译Paddle-Lite OpenCL库范例 针对 Lite 用户的编译命令(无单元测试,有编译产物,适用于benchmark) 针对 Lite 开发者的编译命令(有单元测试,编译产物) 1.3 编译产物说明 2. 运行示例 2.1 运行示例1: 编译产物dem...

调试工具 Profiler工具 开启方法 精度 Profiler 性能 Profiler Profiler 架构设计 Debug工具 编译方法: 工作流程: 注意事项: Diff信息输出： 其他选项： 调试工具 Profiler工具 Profiler 在 Lite 里分为性能 Profiler 和 精度 Profiler： ...

架构详解 设计及思考 重要模块介绍 OpLite OpParam Kernel 扩展须知 MIR Op Fusion TypeSystem KernelContext 扩展硬件后端 扩展现有的硬件后端 扩展全新硬件后端 架构详解 这篇文档会从开发者角度详细介绍开发 Paddle-Lite 需要的相关信息。 设计及思考 ...

预测部署 预测部署 服务器端部署 ：介绍了支持模型部署上线的Fluid C++ API 移动端部署 ：介绍了 PaddlePaddle组织下的嵌入式平台深度学习框架Paddle-Lite

新增Layout 1. lite/api/paddle_place.h 2. lite/api/paddle_place.cc 3. lite/api/python/pybind/pybind.cc 4. lite/core/op_registry.h 5. lite/core/op_registry.cc 新增Layout Paddle-...

Opt set_model_dir(model_dir) set_model_file(model_file) set_param_file(param_file) set_model_type(type) set_valid_places(valid_places) set_optimize_out(optimized_model_na...

模型量化-量化训练 1 简介 2 产出量化模型 3 使用Paddle-Lite运行量化模型推理 3.1 模型转换 3.2 量化模型预测 FAQ 模型量化-量化训练 首先我们介绍一下Paddle支持的模型量化方法，让大家有一个整体的认识。 Paddle模型量化包含三种量化方法，分别是动态离线量化方法、静态离线量化方法和量化训练方法。 下...

PaddleLite使用OpenCL预测部署 1. 编译 1.1 编译环境 1.2 编译Paddle-Lite OpenCL库范例 针对 Lite 用户的编译命令(无单元测试,有编译产物,适用于benchmark) 针对 Lite 开发者的编译命令(有单元测试,编译产物) 1.3 编译产物说明 2. 运行示例 2.1 运行示例1: 编译产物dem...

支持模型 支持模型 目前，Paddle-Lite已严格验证28个模型的精度和性能。对视觉类模型做到了充分的支持，覆盖分类、检测和定位，也包含了特色的OCR模型的支持。对NLP模型也做到了广泛支持，包含翻译、语义表达等等。 除了已严格验证的模型，Paddle-Lite对其他CV和NLP模型也可以做到大概率支持。 类别 类别细分 模型 支持平台 CV...