vLLM 镜像 Dockerfile

如果出现以下情况，我们推荐您自己构建镜像：

• 环境不匹配：平台提供的镜像不满足您特定的软件版本（如框架、库）组合。
• 访问受限：您访问外部 Docker Hub 等公共仓库不方便或受限。

说明

本文包含的 Dockerfile 可用于镜像中心基于 Dockerfile 构建镜像，或直接在开发机中构建镜像（使用 docker build/docker buildx build）。

• 基于 Ubuntu 24.04
• 安装 vLLM 0.11.0；如需安装其他版本，可更改版本号

Dockerfile

根据 vLLM 官方文档，vLLM 0.11.0 包含预编译的 C++ 和 CUDA (12.8) 二进制文件，因此在基础镜像中直接安装 vLLM 即可。

FROM cr.infini-ai.com/infini-ai/ubuntu:24.04

ENV UV_INDEX_URL=https://pypi.tuna.tsinghua.edu.cn/simple

RUN rm -f /usr/lib/python3.*/EXTERNALLY-MANAGED && \
    pip install --no-cache-dir uv && \
    uv pip install --system --verbose --no-cache "vllm==0.11.0" && \
    uv cache clean && \
    rm -rf ~/.cache/pip