使用GPU模型服务

简介

Xiaomi Cloud-ML模型服务也支持基于GPU的服务，用法与训练任务相同。

使用GPU模型服务

用户创建模型服务时加入GPU参数即可使用GPU资源。

  1. cloudml models create -n linear -v v1 -u fds://cloud-ml/linear -c 1 -M 1G -g 1

参数介绍

  • -g 参数表示使用的GPU数量，平台会选择资源充足的机器进行调度，除此之外启动的GPU容器镜像也不同于CPU容器镜像。

原文: http://docs.api.xiaomi.com/cloud-ml/modelservice/03_use_gpu.html