在 AIStudio 镜像中心使用 Dockerfile 自助构建最新版 vLLM 镜像在 AIStudio 镜像中心使用 Dockerfile 自助构建最新版 vLLM 镜像 ,无需访问 DockerHub立即构建
Skip to content

镜像

一站式 AI 平台(AIStudio)提供镜像服务,提供预置镜像,也可以方便地构建和管理自定义镜像。

预置镜像

平台预置了多种基础镜像。您可以直接使用这些预置镜像,也可基于预置镜像构建自定义镜像。

注意

当前租户已在平台上创建的自定义镜像,均会展示在自定义镜像标签页。详见构建镜像

自定义镜像

非预置镜像均称为自定义镜像。租户的自定义镜像均保存在租户私有镜像仓库

alt text

自定义镜像来源

  • 在镜像中心直接构建,可基于现有镜像、基于 dockerfile 创建镜像,或直接保存运行中的开发机为镜像。详见构建自定义镜像
  • 将外部镜像迁移到智算云平台的镜像中心,作为自定义镜像,外部镜像需要满足基础组件要求,才能在平台所有服务模块(开发机、任务、推理服务)中正常使用。详见迁移外部镜像

使用范围

自定义镜像可以用于平台所有服务模块(开发机、任务、推理服务),也可限制为仅用于部分服务模块。

镜像的「可用服务」配置可用于限制镜像的使用范围。自定义镜像和预置镜像均带有该属性。

alt text

每个镜像可能适用于一种或多种服务:

  • 开发机
  • 任务
  • 推理服务

注意

通过开发机自行上传的镜像默认适用于开发机、任务和推理服务。

租户镜像仓库

租户在可用区购买包年包月或弹性计算资源后,可从智算云平台的 Docker Registry 服务自动获得该可用区的私有租户镜像仓库服务,用于存放自定义镜像。

租户镜像仓库根路径

平台镜像服务以租户 ID 为 Docker Registry 上的命名空间,构建租户内网镜像仓库根路径(仅限同可用区内访问),格式为:

cr.infini-ai.com/<tenant_id>

示例:

cr.infini-ai.com/te-c7va2fg6uawxdzkf/

注意

使用该命名空间的镜像仓库仅供同可用区内开发机、推理、任务等平台服务使用。如需从公网迁入镜像,详见迁移外部镜像

镜像地址结构

一个完整的镜像地址由以下部分组成:

cr.infini-ai.com/<tenant_id>/<image_name>:<image_tag>

部分说明
cr.infini-ai.comRegistry (注册表)。平台镜像仓库服务器地址(同可用区内网访问专用)。
<tenant_id>Namespace (命名空间)。租户在平台 Docker Registry 上的专属隔离空间,与租户 ID 相同。
<image_name>通俗意义上的"镜像名称",例如具体的软件名称。
<image_tag>镜像的版本号。

示例:

cr.infini-ai.com/te-c7va2fg6uawxdzkf/vllm:latest

多可用区与镜像仓库地址

租户购买包年包月资源,或购买弹性资源(指创建按量付费开发机),平台会为租户在该可用区镜像服务中创建独立存储空间,用于存放自定义镜像。

例如,租户购买了「江苏 A」可用区的包年包月资源,同时使用「广东 B」可用区的弹性资源创建了按量付费型开发机,则平台会为租户在「江苏 A」和「广东 B」可用区各创建一个租户私有镜像存储空间。

注意:

  • 租户在各可用区享有独立的镜像存储空间,数据隔离,暂不支持自动同步。

  • 租户各可用区的镜像仓库存储空间额度与过期时间可能不同。

  • 租户镜像仓库根路径(cr.infini-ai.com/<tenant_id>)永远指向当前租户在当前可用区的镜像仓库,无法用于跨可用区访问镜像。

  • 要跨可用区迁移镜像,步骤与从公网推送镜像相同。先在当前可用区创建开发机,从镜像中心获取目标可用区的镜像服务的公网地址和登录凭证,然后推送本地镜像至目标可用区。详见迁移外部镜像

  • 租户新增自定义镜像时,只能且必须指定一个可用区。例如,在镜像中心快速构建镜像 中要求指定「镜像构建资源池」,该配置项即指定了可用区。

  • 在启用了「Docker 容器」功能的开发机上,请通过以下命令检查是否已存在镜像仓库登录凭证。如果已有登录凭证,说明无需再手动执行 docker login,即可直接使用镜像仓库。

    shell
    cat /tmp/docker-config/config.json

存储空间

租户在每个可用区的镜像服务使用独立存储空间。符合条件的租户可免费享受一定容量的自定义镜像存储容量。

  • 租户购买预付费资源(包年/包月/包日)后,可免费使用 200 GiB 的私有仓库存储空间。仅在租户资源所在可用区提供私有镜像仓库存储容量。
  • 租户使用弹性资源创建开发机,可免费使用 100GiB 的私有仓库存储空间。仅在弹性资源所在可用区提供私有镜像仓库存储容量。。
  • 租户私有镜像仓库存储空间不会叠加。例如,租户在可用区 A 购买了预付费资源(包两年/包年/包月/包日),又选择了同可用区的弹性资源创建开发机,则租户镜像仓库存储空间依然为 200 GiB。
  • 租户私有镜像仓库存储空间可自动升级。例如,租户选择了可用区 A 的弹性资源创建开发机,获得了 100GiB 的镜像仓库存储空间。随后在可用区 A 购买了预付费资源(包两年/包年/包月/包日),则租户镜像仓库存储空间升级为 200 GiB。
  • 租户私有镜像仓库存储空间不会降级。例如,租户在可用区 A 已获得 200 GiB 的镜像仓库存储空间。租户在可用区 A 的预付费资源(包两年/包年/包月/包日)到期后,只要租户使用了同可用区的弹性资源开发机,可保有 200 GiB 的镜像仓库存储空间,不会降级为 100GiB。
  • 租户在多个可用区均购买了计算资源,则平台将在每个可用区均享受独立的镜像仓库存储空间和免费容量。具体存储空间大小以上述规则为准。
  • 租户在不同可用区镜像仓库的数据、存储、网络均相互隔离,暂不支持镜像同步(即使共用同一个租户镜像仓库根路径)。例如,可用区 A 向 cr.infini-ai.com/te-b914754427352251 推送镜像,平台自动将镜像存入到可用区 A 的镜像仓库,可用区 B 无法使用该镜像。

回收策略

在一个可用区,如果仅使用弹性资源创建开发机,租户镜像仓库存储空间的回收策略如下:

在一个可用区,如果拥有包年包月资源,租户镜像仓库存储空间的回收策略如下:

在一个可用区,如果包年包月资源到期时,租户仍拥有使用弹性资源创建的开发机,租户镜像仓库存储空间的回收策略如下:

警告

私有镜像仓库存储空间回收后,使用该私有镜像仓库中的自定义镜像的开发机将无法再次启动。

注意

上面未涉及的其他情况,租户私有镜像仓库存储空间将按照以上规则中算出的最晚日期回收。

添加自定义镜像

  • 在镜像中心构建自定义镜像:通过网页操作,通过现有开发机、现有镜像、Dockerfile 构建自定义镜像,存储在租户镜像仓库中。
  • 迁移外部镜像:通过网页操作,直接通过 URL 拉取国内网络环境下公网可访问的镜像;或借助开发机的「Docker 功能」,获取外部镜像后,通过 docker push 导入到租户私有镜像仓库中。
  • 在开发机内构建自定义镜像:借助开发机的「Docker 功能」,使用 docker buildx build/docker build 在开发机构建自定义镜像,并推送至租户镜像仓库。

常见问题

如何查看当前可用区的租户私有仓库根路径?

「当前可用区」指当前实例(开发机、任务、推理服务等)所在的可用区。通过以下方式获取的地址仅可在智算云平台内网使用,不提供公网访问。

  • 方式一:自行拼接。平台镜像服务以租户 ID 为 Docker Registry 上的命名空间,构建租户内网镜像仓库根路径(仅限同可用区内访问),格式为:cr.infini-ai.com/<tenant_id>。该地址仅支持访问当前实例(开发机、任务、推理服务等)所属可用区的私有镜像服务,不提供公网访问。

  • 方式二:如果已存在自定义镜像,可访问镜像中心,查看现有的「自定义镜像」地址,从中获取命名空间。

  • 方式三:开发机开启了 「Docker 容器」功能后,登录时展示的 SSH banner 中自动展示私有仓库根路径,格式为:cr.infini-ai.com/<id>

    开启了 Docker 容器功能的开发机 SSH banner 示例:

    shell
    =============================INFINI-AI=============================
    欢迎使用一站式AI平台开发机服务!
    ═══════════════════════════════════
    PATH                类型    
    /                   系统盘(上限50G)
    /mnt/public         共享高性能存储
    ═══════════════════════════════════
    .....
    3. 使用 docker 容器 push 镜像的地址为:cr.infini-ai.com/te-b914754427352251
    ......
    ===================================================================
    root@is-c7wciqfqgrvurpwo-devmachine-0:~$

我想使用当前可用区的租户私有镜像仓库服务,如何登录?

请通过以下命令检查是否已存在 Registry 登录凭证。如果已有登录凭证,说明无需再手动执行 docker login,即可直接使用镜像仓库。

shell
cat /tmp/docker-config/config.json

如何获取公网可访问的镜像注册表 (Registry) 地址?

不同可用区有独立的 Docker Registry 服务器。通用域名 cr.infini-ai.com 永远指向当前实例(开发机、任务、推理服务等)所在可用区的 Docker Registry 服务器。

如果需要从公网向智算云平台的租户私有镜像仓库推送镜像,则需要使用与可用区对应的 Docker Registry 服务器地址。智算云平台为您提供详细 Registry 地址和登录验证方式。详见迁移外部镜像

可否通过远程仓库 URL 导入外部镜像?

支持。可以通过公网可访问的远程仓库 URL(支持账户密码验证) 导入外部镜像为租户自定义镜像。参考迁移外部镜像

可否直接上传本地镜像压缩包文件到镜像中心?

支持。在本地上传 tar 文件至开发机,导入后直接推送至镜像中心,参考迁移外部镜像

可否从公网推送到租户镜像仓库?

支持。可从公网推送本地镜像到租户镜像仓库。参考迁移外部镜像

可否将开发机直接保存为镜像?

支持。您可以在开发机内安装必要软件,并保持开发机在运行中状态。前往镜像中心,通过构建镜像,选择当前运行中的开发机保存为镜像。使用前请务必阅读文档,并了解限制和注意事项。