安装支持 GPU 的 Milvus

安装前提

系统要求

操作系统 建议版本
CentOS 7.5 或以上
Ubuntu LTS 18.04 或以上

硬件要求

组件 建议配置
CPU Intel CPU Sandy Bridge 或以上
CPU 指令集
  • SSE42
  • AVX
  • AVX2
  • AVX512
  • GPU NVIDIA Pascal 或以上
    内存 8 GB 或以上 (取决于具体向量数据规模)
    硬盘 SATA 3.0 SSD 或以上

    Milvus Docker 要求

    • 在你的宿主机上安装 Docker 19.03 或更高版本。
    • 安装 NVIDIA driver 418 或更高版本。
    • 安装 NVIDIA Docker

    第一步 确认 Docker 状态

    确认 Docker daemon 正在运行:

    1. $ docker info

    如果无法正常打印 Docker 相关信息,请启动 Docker daemon.

    提示:在 Linux 上,Docker 命令前面需加 sudo。若要在没有 sudo 情况下运行 Docker 命令,请创建 docker 组并添加用户。更多详情,请参阅 Linux 安装后步骤

    第二步 拉取 Milvus 镜像

    拉取支持 GPU 的镜像:

    1. $ docker pull milvusdb/milvus:0.9.1-gpu-d052920-e04ed5

    注意:如果你在拉取镜像时速度过慢或一直失败,请参考 操作常见问题 中提供的解决办法。

    第三步 下载并修改配置文件

    你可以使用以下方法下载配置文件:

    1. $ mkdir -p /home/$USER/milvus/conf
    2. $ cd /home/$USER/milvus/conf
    3. $ wget https://raw.githubusercontent.com/milvus-io/milvus/v0.9.1/core/conf/demo/server_config.yaml

    注意:万一你遇到无法通过 wget 命令正常下载配置文件的情况,你也可以在 /home/$USER/milvus/conf 路径下创建 server_config.yaml 文件,然后复制粘贴 server config 文件 的内容。

    配置文件下载完成后,你需要将 server_config.yaml 中的 gpu_resource_config 部分的 enable 参数设置为 true

    第四步 启动 Milvus Docker 容器

    1. $ docker run -d --name milvus_gpu_0.9.1 --gpus all \
    2. -p 19530:19530 \
    3. -p 19121:19121 \
    4. -v /home/$USER/milvus/db:/var/lib/milvus/db \
    5. -v /home/$USER/milvus/conf:/var/lib/milvus/conf \
    6. -v /home/$USER/milvus/logs:/var/lib/milvus/logs \
    7. -v /home/$USER/milvus/wal:/var/lib/milvus/wal \
    8. milvusdb/milvus:0.9.1-gpu-d052920-e04ed5

    上述命令中用到的 docker run 参数定义如下:

    • -d: 运行 container 到后台并打印 container id。
    • --name: 为 container 分配一个名字。
    • --gpus: 指定可用的 GPU。如未填写任何值,则所有 GPU 都可用。
    • -p: 暴露 container 端口到 host。
    • -v: 将路径挂载至 container。

    最后,确认 Milvus 运行状态:

    1. $ docker ps

    如果 Milvus 服务没有正常启动,你可以执行以下命令查询错误日志。

    1. # 获得运行 Milvus 的 container ID。
    2. $ docker ps -a
    3. # 检查 docker 日志。
    4. $ docker logs <milvus container id>

    接下来你可以