我们以“释放无穹算力,让 AGI 触手可及”为使命,通过不断的技术创新实现普惠 AI,让算力成本实现万倍下降,如同水电煤一般为千行百业注入新质生产力。
智算云平台为开发者、企业提供算力服务,包括但不限于以下场景:
智算云平台(又称“控制台”)是智算云平台的主要操作界面和入口。要开始使用智算云平台,您必须首先在智算云平台注册。
智算云平台首页提供以下信息:
首页:查看您的租户和用户账号概况。 租户 ID、租户名、用户 ID 是为您自动生成的,不需要自行设置。
一站式 AI 平台:快捷访问一站式 AI 平台(AIStudio)的功能模块,包括开发机、任务、推理服务等。
大模型服务平台:快捷访问大模型服务平台(GenStudio)的功能模块,包括模型广场、体验中心、模型微调、模型服务等。
资源概览:查看租户的算力资源池,包括包年包月资源池、专属资源池、弹性资源池。
账户信息:快速查看租户现金余额,快速充值,或进入费用中心。
您还可以从智算云平台首页快速创建 AICoder、访问帮助文档中心等。
一站式 AI 平台(AIStudio)是面向机器学习开发者,提供开发机、任务等功能的企业级开发平台,支持从数据托管、代码开发、模型训练、模型部署的全生命周期工作流。
平台基于 Kubernetes 构建,专为 AI 开发者设计,提供高性价比的预付费计算资源、按量后付费计算资源和多种开发调试工具。
平台提供三大核心服务:
开发机:用户可以通过填写算力规格、容器镜像和存储等配置的表单,启动一个挂载 GPU 的 Linux 开发环境,可进行开发、调试、模型训练推理等。
任务服务:用户可以通过填写算力规格、代码路径和环境变量的表单,启动一批容器进行分布式训练任务。平台已预置分布式框架所需环境变量,方便用户使用。开启容错后,可在硬件故障时自动重启和恢复,保证任务的成功运行。
推理服务:用户可以通过填写算力规格、模型路径和代码路径的表单,启动一个或多个负载均衡的容器来运行推理服务。
此外,平台还提供镜像管理和数据上云等功能,旨在简化 AI 应用的开发和部署,为用户提供高效、便捷的解决方案。
智算云平台的租户是一个独立的组织单位,可以管理自己的用户、资源和设置。每个租户都有自己的独立环境,确保数据和操作的隔离性。
在智算云平台中,租户允许您将您组织的所有成员都添加到其中,进行统一管理,共享资源。
智算云平台还将租户作为计费单位。
智算云平台的算力资源分布在不同物理区域,我们使用多区域架构来提供无缝体验。
可以。智算云平台提供私有化部署支持。请联系商务销售团队了解详情。
我们致力于成为大模型时代首选的算力运营商,智算云平台为基于多元芯片算力底座的异构云平台,现在已经储备了丰富的算力资源。
智算云平台已经向不同领域的客户提供算力服务,包括但不限于以下场景:
您可以参考GPU 选型指南,了解不同 GPU 型号的计算能力和性能。
我们在行业实践中已经积累了丰富的经验,我们会为您推荐合适的算力方案。欢迎您随时联系我们 400-806-6058 进行咨询。
如果是单机多 GPU 训练:
如果需要支持多 GPU 分布式训练,您也可以通过任务服务提交训练任务。任务服务为大规模分布式训练场景提供更加方便的管理、监控、容错等能力。
一站式 AI 平台为分布式训练提供强大支持:
在一站式 AI 平台(AIStudio)上训练相比本地训练有以下优势:
一站式 AI 平台(AIStudio)提供了预配置的 Pytorch 环境(镜像)。用户可以选择预配置的环境,也可以自定义安装所需的框架和版本。
一站式 AI 平台(AIStudio)提供全面的任务管理和监控功能:
一站式 AI 平台(AIStudio)提供灵活的定价模式:
将本地训练工作流迁移到一站式 AI 平台(AIStudio)通常只需几个简单步骤:
scp
/sftp
/FileZilla
/ AICoder 等)传输代码和数据一站式 AI 平台(AIStudio)支持多种类型的 GPU,以满足不同的训练需求:
一站式 AI 平台(AIStudio)为长时间运行的训练任务提供以下支持:
大模型服务平台(GenStudio)为模型微调提供便捷的专门解决方案:
大模型服务平台(GenStudio)是一个模型即服务的平台(MaaS, Model as Service),允许用户与大型语言模型、图像和视频模型进行交互,如聊天、生成图像或视频等。用户还可以通过 API 使用内置或自上传的模型,将这些服务集成到自己的 AI 应用中。我们按使用的 Token 收费。
平台提供以下服务:
预置模型服务:用户可以通过 API 平台内置的大型语言模型、图像和视频模型进行交互,如聊天、生成图像等。平台亦提供交互界面,可以直接体验交互效果。
模型微调服务:用户可以通过填写表单,包括基础模型、SFT 或 LoRA 配置、输入数据路径、使用的芯片等,来启动模型微调任务。在此过程中,用户可以观察损失图等指标。该功能仅向授权用户开放。
模型部署服务:用户可以使用微调任务结果直接部署为 API 服务。也可上传自己的模型或 LoRA 适配器,快速启动一个模型服务,提供 API 服务。我们负责基础设施和负载均衡。该功能仅向授权用户开放。
大模型服务平台旨在为用户提供强大且灵活的 AI 解决方案,简化模型的使用、微调和部署过程。
您可以使用大模型服务平台(GenStudio)。GenStudio 是一个模型即服务 (MaaS, Model as a Service) 平台,您可以在体验中心与多种主流和先进的模型交互体验,包括大语言模型、图像模型、视频模型。
GenStudio 已支持用户上传自己的模型或 LoRA 适配器,并部署为专属的 API 服务。
除此之外,我们已通过 GenStudio 向众多客户交付了模型 API 服务,在行业实践中已经积累了丰富的经验,我们会为您的业务推荐合适的模型解决方案。欢迎您随时联系我们 400-806-6058 进行咨询。
我们这边没有限制。我们的 API 是 HTTP REST API,因此 可以从用任何语言或框架编写的服务中调用。要 找到特定语言的后端代码,请使用我们的 API 参考文档
不支持。目前,大模型服务平台(GenStudio)不支持在体验中心或大语言模型的 API 中发送文件。
无论是体验中心还是 API 服务,我们均不会存储用户与大语言模型的会话历史记录。
创建新租户有多种方式:
智算云平台的租户可以包含的用户数量默认为 1000。如需更大用户数量,请联系销售团队。
如果您确定要删除租户,请联系智算云平台。请注意,此操作不可逆,建议在删除前备份重要数据。
智算云平台采用严格的多租户架构,确保租户间的数据隔离。
超级管理员(或已被授权的其他类似管理员用户)可以邀请其他用户加入租户。 邀请用户加入租户的步骤:
用户账号@租户名称
。如需使用自有域名,请联系商务销售团队。我们将为您提供多种定制化方案。
管理租户内用户角色和权限的步骤:
智算云平台的部分产品服务开放 API 调用。
GenStudio 大模型服务平台提供多种类型的 LLM API 服务,包括但不限于:
ComfyUI 工作流平台(ComfyStack)支持托管工作流、模型,并以 API 服务的方式供您的应用集成和调用。
如果需要以 API 方式使用一站式 AI 平台(AIStudio)、AI 容器服务平台(KubeStudio),请联系商务销售团队咨询。联系智算云平台提交需求。
大模型服务平台(GenStudio)提供多种类型的 LLM API 服务,包括但不限于:
如果需要图像模型服务,您可以考虑 ComfyUI 工作流平台。该平台支持以托管工作流方式提供 API 服务。
如果您对一站式 AI 平台 API 服务有需求,请联系智算云平台提交需求。
您可以直接访问智算云平台官方网站的GenStudio API 服务概述,学习相关教程。
API 参考文档通常包括 API 端点描述、请求/响应示例、错误代码说明等。
是的,大模型服务平台(GenStudio)的 API 服务通常有一些使用限制,以确保公平使用和系统稳定:
企业用户可联系我们调整限制。您可以在智算云平台的「用量统计」页面查看您的当前使用情况。
大模型服务平台(GenStudio)采取多重措施保障 API 的安全性:
我们建议客户也实施良好的安全实践,如定期轮换 API 密钥,妥善保管凭证等。
获取智算云平台 API 密钥的步骤如下:
请注意,API 密钥代表您的身份,应当妥善保护,避免泄露。
大模型服务平台(GenStudio)暂未提供第一方 SDK。如果使用 OpenAI 兼容的 Chat Completions API,可使用多种第三方 SDK:
处理大模型服务平台(GenStudio)LLM API 错误和异常的最佳实践:
监控大模型服务平台(GenStudio)API 使用情况和性能的方法:
不提供。API 服务平台暂不提供基于 Webhook 的实时事件通知。
不提供。智算云平台不提供用于 API 测试的沙箱环境。
智算云平台提供多种渠道获取 API 技术支持:
支持。智算云平台针对企业用户提供灵活的 API 服务支持。
如果标准 API 无法满足您的需求,请联系我们讨论可能的定制解决方案。
企业面对多样化的应用场景,每个场景可能需要独特的 workflow 配置和优化,甚至需要频繁调整和部署工作流。这不仅增加了运维复杂度,还在计算资源受限时造成效率低下和成本上升。
为了解决以上痛点,智算云平台推出了 ComfyUI 工作流平台,提供 ComfyUI Workflow 托管服务,希望用户在本地开发工作流的同时,也能享受到云端全托管服务带来的高效体验。
兼容原生 ComfyUI 功能。您仅需要上传从本地 ComfyUI 环境导出的工作流 JSON 文件即可使用(也支持 API Format JSON)。
ComfyUI 工作流平台允许您通过几个 API 调用,无缝地使用原生 ComfyUI 功能,大大节省时间和精力,使用户能够更专注于核心业务而非工具的使用。得益于与原生 ComfyUI 的兼容性,还可以及时享受 ComfyUI 的更新和改进,确保工作流程始终保持最新。
迁移步骤如下:
如需总体了解云端全托管 ComfyUI 工作流的解决方案,请参考 ComfyUI 工作流平台文档。
是的,托管服务支持自定义节点:
通常情况下,托管服务会提供更好的性能:
ComfyUI 工作流平台采用严格的安全措施保护用户数据:
托管服务采用灵活的计费模式:
仅对实际运行时长收费。当前已提供标准版和加速版,标准版价格为每秒 0.004 元人民币,专业版价格为每秒 0.006 元人民币。
上传自定义模型资产的步骤如下:
scp
/sftp
命令或 FileZilla
客户端上传模型文件ComfyUI 工作流平台还支持直接从 HuggingFace、ModelScope、LibLib、CivitAI 等来源下载模型。操作说明请参考 ComfyUI 工作流平台文档。
ComfyUI 工作流平台目前支持以下 ComfyUI 模型系列:
您可以通过以下方式学习和使用 ComfyUI 托管工作流服务的 API:
提示
提交生图任务的 API 入参结构和具体参数与 ComfyUI Workflow 使用的节点有关,建议先参考 ComfyUI 托管工作流 API 使用教程 学习 API 调用流程。
ComfyUI 工作流平台对所有用户提供 ComfyUI 工作流托管服务。
由于合规要求,ComfyUI 工作流平台部分功能(例如创建私有环境)目前仅对企业级用户开放。
托管服务对于频繁修改非常友好:
ComfyUI 工作流平台特别适合以下场景:
智算云平台采用灵活的定价模式,包括:
具体定价取决于您的需求和使用情况。我们建议您联系销售团队,获取最适合您的定价方案。
为了给您提供更细致的回复,建议您细化问题,说明您需要了解哪方面的免费资源或服务,再利用文档搜索和 AI 问答服务进行回答。例如,您是想寻求大语言模型 API 的免费额度,还是想免费试用收费产品和服务,还是想了解是否有任务免费的 GPU 计算资源可用?
按量计费的服务一般整点出明细账单并扣费(稍有延迟)。按量计费服务包括:
您可以前往智算云平台的费用中心,点击进入左侧导航栏流水页面,筛选查看详细的扣费记录。
请确保您的支付方式(如绑定的银行卡或其他支付工具)在扣费时有足够的余额,以避免服务中断。
如果您对账单有任何疑问,可以随时联系智算云平台的客户支持团队获取帮助。
如果您使用大模型服务平台(GenStudio)预置大模型 API 服务,「批量推理」指的是 在 GenStudio 上使用 Batch API 进行离线推理任务。
Batch 任务有特定的定价,具体用法与价格请参考Batch API 教程。
如果需要开具电子发票、纸质发票、或有特殊发票要求,请联系我们开票 010-53680802
暂不支持线上自助开具发票。
智算云平台理解非营利组织和教育机构的特殊需求,通常会为这些机构提供优惠:
选择合适的定价方案需要考虑以下因素:
如果您购买了一站式 AI 平台(AIStudio) 的包年包月套餐,由于可能的合同限制,您无法主动更改定价方案。如有特殊需求,请联系智算云平台。
您可以通过费用中心了解账户使用情况和费用。
对于企业用户,具体取消政策可能因您的合同而异,建议查看服务条款或联系客户支持。
是的,智算云平台为大型企业和特殊需求客户提供定制化方案:
智算云平台的代金券是一种数字凭证,可以用于获得折扣或兑换我们平台上的商品和服务。它可以帮助您节省使用智算云平台服务的费用。
您可以通过多种方式获得智算云平台的代金券:
智算云平台代金券的有效期因不同类型而异。一般来说,代金券的有效期可能从 30 天到 1 年不等。您可以在代金券详情中查看具体的有效期限。请注意在有效期内使用您的代金券。
使用智算云平台代金券很简单。智算云平台在对帐单进行扣费时,系统会自动将代金券抵扣到您的订单中,无需手动操作。代金券自动抵扣的规则如下:
智算云平台的代金券是与您的租户绑定的,租户下的所有用户发生的消费均可使用租户代金券抵扣。
由于代金券不绑定具体用户,因此无法在用户之间转让。
如果您有特殊情况需要转让代金券,请联系我们的客户支持团队。
这取决于具体的促销规则。一些代金券可以与其他优惠叠加使用,而另一些可能不允许。在使用代金券时,系统会明确告知您是否可以与其他优惠同时使用。如有疑问,您可以查看代金券的使用条款或联系客户支持。
如果您的订单金额小于代金券金额,代金券剩余额度可继续使用。系统在每次结帐时均会优先扣减代金券内剩余额度。
智算云平台将作废代金券剩余额度。现金额度退款方式与具体活动有关,请联系我们的客户支持团队,我们会根据具体情况进行处理。
一旦代金券被使用并应用到订单中,通常是不能取消的。如果您在使用代金券后立即发现问题,请尽快联系客户支持,我们会尽力协助您解决问题。
如果帐单生成后才获取使用代金券,通常是无法在历史帐单中使用代金券的。我们会在您的下一个帐单中优先扣减代金券。
部分代金券可能设有最低使用金额限制。这些限制会在代金券的使用条款中明确说明。在使用代金券之前,请仔细阅读相关条款,确保您的订单满足使用条件。
您可以通过费用中心的代金券查看代金券余额和使用记录。
大多数代金券可以用于智算云平台的主要服务。然而,某些特定的代金券可能只适用于特定的服务或产品。使用前请仔细阅读代金券的使用说明和限制条件,以确保它适用于您想购买的服务。
可以。系统将在帐单扣费时自动使用代金券抵扣。如果存在多个代金券,优先使用代金券,代金券总剩余额度不足时才会扣减账户内现金余额。
如果您发现您的代金券被盗用,请立即采取以下步骤:
智算云平台不提供科学上网、魔法上网等服务。您可以自行寻找第三方 VPN 服务或其他解决方案。以下介绍一些常见的做法:
无法克隆 GitHub 上的项目,或无法从 HuggingFace,主要原因是由于中国大陆地区网络访问 GitHub/HuggingFace 等部分境外服务存在延迟或阻断问题,导致失败或超时。
镜像中心支持三种方式快速构建:
可以。网页构建无需本地 Docker 环境:
需要满足镜像可见性与权限要求,并使用正确的镜像仓库地址与镜像名:标签。
cat /tmp/docker-config/config.json
输出确认已登录到当前租户私有仓库,可直接拉取。https://cloud.infini-ai.com/maas/v1
如需查看 GenStudio LLM API 限额,可在控制台的「限额管理」页面可查看当前服务等级、API 限频与各模型单价,并可自助升级至更高服务等级(享受更高限频)。企业用户可联系支持定制配额与价格。
智算云平台提供多种 API 服务,主要包括:
API 端点即 API Endpoint, 是 API 的具体访问路径,通常基于 API Base URL 构建,用于执行特定操作。
例如,在智算云平台中,GenStudio 提供 OpenAI 兼容的 Chat Completions 端点 /chat/completions
。GenStudio Chat Completions 默认接口的完整地址为 https://cloud.infini-ai.com/maas/v1/chat/completions
。
API Base URL 是 API 的基础 URL,表示 API 服务器的根地址。它通常包含协议、域名和版本路径。例如,智算云平台的 GenStudio API Base URL 为 https://cloud.infini-ai.com/maas/v1
。
智算云平台提供多种 API 服务,因此有多个 API 端点(Endpoints)。在获取 API 端点、API Base URL 和使用方法时,请务必参考具体产品的 API 文档。