安装支持 GPU 的 Milvus
安装前提
系统要求
操作系统 | 建议版本 |
---|---|
CentOS | 7.5 或以上 |
Ubuntu LTS | 18.04 或以上 |
硬件要求
组件 | 建议配置 |
---|---|
CPU | Intel CPU Haswell 或以上 |
GPU | NVIDIA Pascal 或以上 |
内存 | 8 GB 或以上 (取决于具体向量数据规模) |
硬盘 | SATA 3.0 SSD 或以上 |
Milvus Docker 要求
- 在您的宿主机上 安装 Docker 19.03 或更高版本。
- 安装 NVIDIA driver 418 或更高版本。
- 安装 NVIDIA Docker。
第一步 确认 Docker 状态
确认 Docker daemon 正在运行:
$ docker info
如果无法正常打印 Docker 相关信息,请启动 Docker daemon.
提示:在 Linux 上,Docker 命令前面需加
sudo
。若要在没有sudo
情况下运行 Docker 命令,请创建docker
组并添加用户。更多详情,请参阅 Linux 安装后步骤。
第二步 拉取 Milvus 镜像
拉取支持 GPU 的镜像:
$ docker pull milvusdb/milvus:0.7.0-gpu-d031120-40c7e8
注意:如果您在拉取镜像时速度过慢或一直失败,请参考操作常见问题中提供的解决办法。
第三步 下载并修改配置文件
您可以使用以下方法下载配置文件:
# Create Milvus file
$ mkdir -p /home/$USER/milvus/conf
$ cd /home/$USER/milvus/conf
$ wget https://raw.githubusercontent.com/milvus-io/milvus/v0.7.0/core/conf/demo/server_config.yaml
$ wget https://raw.githubusercontent.com/milvus-io/milvus/v0.7.0/core/conf/demo/log_config.conf
注意:万一您遇到无法通过
wget
命令正常下载配置文件的情况,您也可以在/home/$USER/milvus/conf
路径下创建server_config.yaml
和log_config.conf
文件,然后复制粘贴 server config 文件 和 log config 文件的内容。
配置文件下载完成后,您需要将 server_config.yaml
中的 gpu_resource_config
部分的 enable
参数设置为 true
。
第四步 启动 Milvus Docker 容器
# Start Milvus
$ docker run -d --name milvus_gpu --gpus all \
-p 19530:19530 \
-p 19121:19121 \
-p 9091:9091 \
-v /home/$USER/milvus/db:/var/lib/milvus/db \
-v /home/$USER/milvus/conf:/var/lib/milvus/conf \
-v /home/$USER/milvus/logs:/var/lib/milvus/logs \
-v /home/$USER/milvus/wal:/var/lib/milvus/wal \
milvusdb/milvus:0.7.0-gpu-d031120-40c7e8
上述命令中用到的 docker run
参数定义如下:
-d
: 运行 container 到后台并打印 container id。--name
: 为 container 分配一个名字。--gpus
: 指定可用的 GPU。如未填写任何值,则所有 GPU 都可用。-p
: 暴露 container 端口到 host。-v
: 将路径挂载至 container。
最后,确认 Milvus 运行状态:
# Confirm Milvus status
$ docker ps
如果 Milvus 服务没有正常启动,您可以执行以下命令查询错误日志。
# Get id of the container running Milvus
$ docker ps -a
# Check docker logs
$ docker logs <milvus container id>
接下来您可以
如果您刚开始了解 Milvus:
如果您已准备好在生产环境中部署 Milvus:
- 创建 监控与报警系统 实时查看系统表现
- 设置 Milvus 参数
如果您想在仅有 CPU 的环境下使用 Milvus: