在 AIStudio 镜像中心使用 Dockerfile 自助构建最新版 vLLM 镜像在 AIStudio 镜像中心使用 Dockerfile 自助构建最新版 vLLM 镜像 ,无需访问 DockerHub立即构建
Skip to content

资源池管理

智算云平台采用了「可用区」和「资源池」的概念组合,帮助租户管理云上的计算资源。

本章节将介绍算力资源池管理的基本概念和操作。

重要

平台资源池管理为面向租户管理员的功能。默认情况下,仅管理员可以查看和配置资源池。如果非管理员用户需要查看租户的资源池,请为非管理员配置资源管理操作权限,并配置授权范围为「指定资源池」或「租户下所有」。详见身份与访问管理

可用区

可用区是智算云平台计算资源部署的区域,当前一个可用区对应一个独立计算资源集群。

可用区在「资源管理」页面中没有独立的视图。您可以访问资源池列表页,查看每个资源池的「可用区」属性,其中展示了资源池所属的可用区。

资源池

资源池是计算配额的容器,可包含一个或多个资源节点。

  • 资源池详情页面的「资源列表」标签页列出了资源规格(CPU、GPU、内存等配置)及其数量,代表当前资源池包含的总算力资源配额。
  • 资源池详情页面的「规则设置」标签页展示了为使用该资源池算力的负载的自动应用的规则。目前已支持以下规则:

资源池的类型

资源池分为包年包月、专属、共享、弹性、竞价几种类别。

  • 租户购买某个可用区的包年包月资源后,平台首先将资源移入租户在该可用区的包年包月资源池(即默认资源池)。
  • 租户可以自行创建专属资源池共享资源池;仅包年包月资源可移入这两类资源池。
  • 租户首次购买某个可用区的弹性计算资源后(弹性开发机),平台自动创建该对应可用区的弹性资源池,由平台在其中展示与已购买的弹性开发机负载规格对应的弹性资源,租户无法直接操作弹性资源池中的弹性资源。
  • 租户在可用区中购买竞价计算资源后,默认放入竞价资源池中。

包年包月资源池

「包年包月资源」指可按固定周期(包年/包月)预付费、长期租用的算力资源。租户从平台购买包年包月资源后,即获得了算力资源配额在所购时间周期内的独占使用权,适用于租户对算力有长期、稳定需求的场景。

租户成功购买包年包月资源后,可在「资源池列表」页看到对应可用区的包年包月资源池(由平台默认创建),例如「包年包月资源池-广东 B」。

进入包年包月资源池详情页,可见标题行带有默认标签,表示该资源池为租户在当前可用区的默认包年包月资源池。

资源池详情页的「资源列表」中的资源规格编码代表了一种资源节点规格。单个包年包月资源池中可包含多个不同资源规格的资源节点,资源节点是资源池中的计算资源配额的载体,每个资源节点通常配置 8 张 GPU 卡。

注意

在资源池列表页,筛选类别为包年包月的资源池,结果即为默认资源池。租户在单个可用区有且只有一个默认包年包月资源池。购买包年包月资源后,平台首先将资源移入租户在该可用区的默认资源池。删除专属资源池/共享资源池后,其中的包年包月资源自动回到默认包年包月资源池。

专属资源池

专属资源池是由租户创建的命名资源池,用于对单个可用区内的包年包月计算资源进行分类和精细管理。空闲的包年包月资源(未被任何负载占用)可被移动,例如移入专属资源池,移入包年包月资源池。详见使用专属/共享资源池

专属资源池的常见使用场景是配合用户组和授权范围配置,将部分包年包月算力资源划入独立的专属资源池,实现团队间算力资源隔离。详见快速配置团队权限

共享资源池

共享资源池是由租户创建的命名资源池,是一种专用于创建共享开发机的特殊资源池。共享资源池中的单个 8 卡资源节点,最多可用于创建 16 台 8 卡开发机,这些开发机共享同一个资源节点上的 8 个 GPU。空闲的包年包月资源(未被任何负载占用)可被移入共享资源池。

共享资源池的资源专用于创建共享开发机,详见使用共享资源创建开发机

弹性资源池

弹性资源池由平台自动创建,租户不可自行创建或删除。租户中任何用户首次购买弹性开发机后,平台自动创建对应可用区的弹性资源池。在该可用区有弹性资源被使用时(该可用区有任何弹性开发机进入部署中运行中状态),弹性资源池资源列表会展示与弹性开发机负载规格对应的弹性资源规格详情。

弹性资源池由平台管理,租户一般情况下无须关心。详见使用弹性资源创建开发机

注意

  • 租户无法直接操作弹性资源池中的弹性资源。
  • 暂时不支持通过用户组和授权范围配置,限制用户仅使用指定的弹性资源池。用户拥有「一站式AI平台-开发机」且授权范围为「我的」,即可在任何可用区购买并创建弹性开发机。

竞价资源池

竞价资源池由平台自动创建,租户不可自行创建或删除。租户在可用区中购买 Spot 计算资源后,默认放入竞价资源池中。

注意

  • 租户无法直接操作竞价资源池中的竞价(Spot)资源。
  • 平台默认不提供使用 Spot 计算资源创建负载的选项。

购买算力资源

您可以前往算力市场页面自助购买包年包月算力资源或弹性算力资源。如果您购买弹性资源,将直接创建开发机,并开始按量计费。

注意

您也可以直接联系商务或售后服务下单购买包年包月资源。

租户新购包年包月算力资源自动进入默认包年包月资源池。弹性资源将自动进入弹性资源池。您可以前往资源池页面查看。

注意

暂未开放购买竞价资源,敬请期待。

基本操作

智算云控制台的资源池页面提供了基本的增、删、查、移动等操作。

页面默认展示当前租户的资源池列表。名称和 ID 支持模糊搜索。其他字段支持筛选或排序操作。

  • 创建专属资源池:详细步骤参见使用专属资源池
  • 移入:在资源池列表右侧操作栏中。点击可将其他资源池中的资源移入当前资源池。仅包年包月资源池或其他专属资源池中的计算资源支持移入操作。详细步骤参见使用专属资源池
  • 详情:在资源池列表右侧操作栏中。点击进入详情页,查看资源池中计算资源 SKU 的详细配置(显卡配置、CPU 配置、训练网)和资源的过期时间。
  • 删除:在资源池列表右侧操作栏中。仅专属资源池支持删除。删除后,该资源池内的计算资源会回到包年包月资源池中。删除操作需二次确认。

    危险

    删除专属资源池会导致正在运行中的负载找不到可用资源,而直接失败。建议在删除资源池前,检查是否有运行中的负载使用该资源池。

资源池使用权限

包年包月资源池、共享资源池、专属资源池的使用权限受平台权限系统控制。

基本权限规则

  • 超级管理员:对所有资源池具有完全访问权限
  • 非管理员用户:未授权情况下,无法使用包年包月资源池、专属资源池、共享资源池创建任何负载

权限配置要点

超级管理员应为非超管用户(或用户组)配置权限策略并指定授权范围:

  1. 资源池使用权限(创建负载)

    • 在内置系统策略中(例如「一站式 AI 平台开发者」或租户自定义策略),资源管理服务的「授权范围」配置决定了用户是否可使用指定资源池中的计算资源创建自己的负载(开发机、任务、推理服务)
    • 授权范围选项:指定资源池(推荐用于团队隔离)或租户下所有
  2. 负载管理权限(管理他人负载)

    • 如果需要允许用户删、改、查他人创建的负载,可在策略中配置开发机任务推理服务等服务的授权范围为指定资源池指定资源、或租户下所有

关于为团队配置权限的完整流程,请参考 快速配置团队权限。如需快速为团队配置 AIStudio 相关权限,请移步 AIStudio 权限配置模板

资源池监控指标

在 AIStudio 工作台,您可以查看当前租户下各个资源池的资源分配和使用情况。

详见工作台

常见问题

资源规格和计算规格是什么关系?每个资源节点含 8 张 GPU 卡,能创建 1/2/4 卡的负载吗?

资源节点是资源池中的计算资源配额的载体,每个资源节点通常配置 8 张 GPU 卡,还会体现可用计费资源配额的 GPU 型号、CPU 数量和内存大小。

在创建负载时,平台将 8 卡 GPU 节点资源按 GPU 数量分为四种算力规格:1 卡、2 卡、4 卡和 8 卡,每种规格配备不同的 GPU 数量、CPU 数量和内存大小。算力规格是平台预定义的资源配置模板,是对节点资源的逻辑划分。平台仅支持使用预定义的算力规格来创建负载,这种设计简化了资源配置流程,确保资源分配的标准化和可管理性。

例如,上图资源池的资源列表中存在 1 个 资源节点,提供 8 x NVIDIA RTX4090 的资源配额,可以被用于创建 8 台 1 卡开发机、4 台 2 卡开发机、2 台 4 卡开发机,或 1 台 8 卡开发机。

为什么我有资源池,但无法使用?

如果在资源池列表中看到资源池,但无法使用,请核查以下几点:

  • 在创建负载时,如果选用包年包月资源共享资源,要求租户已经购买包年包月资源。请检查包年包月资源池、专属资源池、共享资源池中是否已存在包年包月资源。
  • 可能是因为您没有资源池使用权限。请联系租户管理员,超级管理员应为非超管用户或用户组配置资源管理服务的「授权范围」,该范围直接决定其可使用的资源池。请参考资源池使用权限

为什么在资源池列表中有弹性资源池?

如果您看到 「弹性资源池」 ,说明您在购买 AIStudio 中使用了按量付费型开发机。弹性资源池由平台自动创建,租户无法手动创建。

在创建任务、推理服务时,无法选择使用弹性资源池。

资源池的资源移入后就不能移出了吗?

平台不提供独立的"移出"按钮。若要将资源从当前资源池移至另一个资源池,请在目标资源池的详情页,点击右侧操作栏中的移入,选择当前资源池和待移出的资源。例如,要从专属资源池移出资源回到包年包月资源池,请进入包年包月资源池详情页,点击移入,选择该专属资源池。