Dockerfile#
查看 这里 以获取用于构建运行带有 vLLM 的 OpenAI 兼容服务器镜像的主 Dockerfile。更多关于使用 Docker 部署的信息可以在 这里 找到。
以下是多阶段 Dockerfile 的视觉表示。构建图包含以下节点:
所有构建阶段
默认构建目标(以灰色高亮显示)
外部图片(带虚线边框)
构建图的边缘表示:
从 … 依赖(用实线和实心箭头表示)
COPY –from=… 依赖项(带虚线和空箭头头)
RUN –mount=(.*)from=… 依赖项(带有点线和一个空菱形箭头头)
使用制作:patrickhoefler/dockerfilegraph
重新生成构建图的命令(确保从 vLLM 仓库 的 根目录 运行,其中包含 Dockerfile):
dockerfilegraph -o png --legend --dpi 200 --max-label-length 50 --filename Dockerfile
或者,如果你想直接使用docker镜像运行它:
docker run \ --rm \ --user "$(id -u):$(id -g)" \ --workdir /workspace \ --volume "$(pwd)":/workspace \ ghcr.io/patrickhoefler/dockerfilegraph:alpine \ --output png \ --dpi 200 \ --max-label-length 50 \ --filename Dockerfile \ --legend
(要为不同的文件运行它,您可以为标志 –filename 传递不同的参数。)