模型服务使用流程

使用流程

使用ModelService的流程如下,首先初始化Xiaomi Cloud-ML客户端环境。

  1. cloudml init

然后上传模型文件到FDS中,或者在TensorFlow代码中直接导出模型到FDS。

最后使用cloudml命令行工具提交创建模型服务即可,通过 -a 参数还可以实现同时加载多个模型版本等功能。

-u表示模型的fds路径,通过挂载fds bucket到/fds,再指定模型的路径。参考:Fdsfuse介绍

  1. cloudml models create -n linear -v v1 -u /fds/linear_path -a ""

模型启动后,可以直接查看模型创建的状态和日志等信息。

  1. cloudml models events linear v1
  2. cloudml models logs linear v1

注意,当前的模型服务均为公开可访问的。

参数介绍

  • -n 是必选参数,用户可以自行选择模型名称。
  • -v 是必选参数,用户可以自行选择模型版本,名称和版本共同标示ModelService实例。
  • -u 是必选参数,表示模型文件的路径。
  • -a 是可选参数,用户可在启动模型服务时传入任意的自定义参数。

    更多功能

模型服务还支持多副本、在线升级等功能,可继续阅读后面的文档。

原文: http://docs.api.xiaomi.com/cloud-ml/modelservice/01_use_model_service.html