无问芯穹 (InfinigenceAI) 作为国内领先的AI基础设施企业,致力于成为大模型时代首选的算力运营商。依托“多元异构、软硬协同”的核心技术优势,打造了连接 “M 种模型”和“N 种芯片”的 “MxN” AI 基础设施新范式,实现多种大模型算法在多元芯片上的高效协同部署。无问芯穹 Infini-AI 异构云平台基于多元芯片算力底座,向大模型开发者提供极致性价比的高性能算力和原生工具链,为大模型从开发到部署的全生命流程降本增效。
无问芯穹以“释放无穹算力,让AGI触手可及”为使命,通过不断的技术创新实现普惠AI,让算力成本实现万倍下降,如同水电煤一般为千行百业注入新质生产力。
无问芯穹以“释放无穹算力,让 AGI 触手可及”为使命,通过不断的技术创新实现普惠 AI,让算力成本实现万倍下降,如同水电煤一般为千行百业注入新质生产力。
无问芯穹为开发者、企业提供算力服务,包括但不限于以下场景:
智算云平台(又称“控制台”)是无问芯穹产品服务的主要操作界面和入口。要开始使用无问芯穹,您必须首先在 智算云平台 注册。
智算云平台首页提供以下信息:
首页:查看您的租户和用户账号概况。 租户 ID、租户名、用户 ID 是为您自动生成的,不需要自行设置。
一站式 AI 平台:快捷访问一站式 AI 平台(AIStudio)的功能模块,包括开发机、任务、推理服务等。
大模型服务平台:快捷访问大模型服务平台(GenStudio)的功能模块,包括模型广场、体验中心、模型微调、模型服务等。
资源概览:查看租户的算力资源池,包括包年包月资源池、专属资源池、弹性资源池。
账户信息:快速查看租户现金余额,快速充值,或进入费用中心。
您还可以从智算云平台首页快速创建 AICoder、访问帮助文档中心等。
无问芯穹一站式 AI 平台 (AIStudio) 是一个基于 Kubernetes 的平台,专为 AI 开发者设计。用户可以创建容器化的 Linux 实例,这些实例已经挂载了 GPU,方便用户在其中开发 AI 应用。
平台提供三大核心服务:
开发机:用户可以通过填写算力规格、容器镜像和存储等配置的表单,启动一个挂载 GPU 的 Linux 开发环境,可进行开发、调试、模型训练推理等。
任务服务:用户可以通过填写算力规格、代码路径和环境变量的表单,启动一批容器进行分布式训练任务。平台已预置分布式框架所需环境变量,方便用户使用。开启容错后,可在硬件故障时自动重启和恢复,保证任务的成功运行。
推理服务:用户可以通过填写算力规格、模型路径和代码路径的表单,启动一个或多个负载均衡的容器来运行推理服务。
这个平台旨在简化 AI 应用的开发和部署,为用户提供高效、便捷的解决方案。
无问芯穹的租户是指智算云平台的租户。租户是一个独立的组织单位,可以管理自己的用户、资源和设置。每个租户都有自己的独立环境,确保数据和操作的隔离性。
在无问芯穹中,租户允许您将您组织的所有成员都添加到其中,进行统一管理,共享资源。
无问芯穹还将租户作为计费单位。
无问芯穹的算力资源分布在不同物理区域,我们使用多区域架构来提供无缝体验。
不可以。无问芯穹智算云平台完全由无问芯穹管理和托管。
无问芯穹致力于成为大模型时代首选的算力运营商,无问芯穹的智算云平台为基于多元芯片算力底座的异构云平台,现在已经储备了丰富的算力资源。
无问芯穹已经通过智算云平台向不同领域的客户提供算力服务,包括但不限于以下场景:
您可以参考GPU 选型指南,了解不同 GPU 型号的计算能力和性能。
无问芯穹在行业实践中已经积累了丰富的经验,我们会为您推荐合适的算力方案。欢迎您随时联系无问芯穹 400-806-6058 进行咨询。
如果是单机多 GPU 训练:
如果需要支持多 GPU 分布式训练,您也可以通过任务服务提交训练任务。任务服务为大规模分布式训练场景提供更加方便的管理、监控、容错等能力。
无问芯穹的一站式 AI 平台为分布式训练提供强大支持:
在无问芯穹平台上训练相比本地训练有以下优势:
无问芯穹平台提供了预配置的 Pytorch 环境(镜像)。用户可以选择预配置的环境,也可以自定义安装所需的框架和版本。
无问芯穹平台提供全面的任务管理和监控功能:
无问芯穹平台提供灵活的定价模式:
将本地训练工作流迁移到无问芯穹平台通常只需几个简单步骤:
scp
/sftp
/FileZilla
/ AICoder 等)传输代码和数据无问芯穹平台支持多种类型的 GPU,以满足不同的训练需求:
无问芯穹平台为长时间运行的训练任务提供以下支持:
无问芯穹大模型服务平台(GenStudio)为模型微调提供便捷的专门解决方案:
无问芯穹大模型服务平台(GenStudio)是一个模型即服务的平台(MaaS, Model as Service),允许用户与大型语言模型、图像和视频模型进行交互,如聊天、生成图像或视频等。用户还可以通过 API 使用内置或自上传的模型,将这些服务集成到自己的 AI 应用中。我们按使用的 Token 收费。
平台提供以下服务:
预置模型服务:用户可以通过 API 平台内置的大型语言模型、图像和视频模型进行交互,如聊天、生成图像等。平台亦提供交互界面,可以直接体验交互效果。
模型微调服务:用户可以通过填写表单,包括基础模型、SFT 或 LoRA 配置、输入数据路径、使用的芯片等,来启动模型微调任务。在此过程中,用户可以观察损失图等指标。
模型部署服务:用户可以使用微调任务结果直接部署为 API 服务。也可上传自己的模型或 LoRA 适配器,快速启动一个模型服务,提供 API 服务。我们负责基础设施和负载均衡。
ComfyUI 托管工作流服务:用户可以在我们的平台上托管他们的 ComfyUI 工作流。工作流作为 API 服务由平台提供。我们负责基础设施和负载均衡。此外,如果用户带自己的模型或 LoRA 适配器,可以上传到平台并在托管工作流 API 服务中使用。
大模型服务平台旨在为用户提供强大且灵活的 AI 解决方案,简化模型的使用、微调和部署过程。
您可以使用无问芯穹大模型服务平台(GenStudio)。GenStudio 是一个模型即服务 (MaaS, Model as a Service) 平台,您可以在体验中心与多种主流和先进的模型交互体验,包括大语言模型、图像模型、视频模型。
GenStudio 已支持用户上传自己的模型或 LoRA 适配器,并部署为专属的 API 服务。
除此之外,无问芯穹已通过 Genstudio 向众多客户交付了模型 API 服务,在行业实践中已经积累了丰富的经验,我们会为您的业务推荐合适的模型解决方案。欢迎您随时联系无问芯穹 400-806-6058 进行咨询。
我们这边没有限制。我们的 API 是 HTTP REST API,因此 可以从用任何语言或框架编写的服务中调用。要 找到特定语言的后端代码,请使用我们的 API 参考文档
不支持。目前,无问芯穹不支持在体验中心或大语言模型的 API 中发送文件。
无论是体验中心还是 API 服务,无问芯穹均不会存储用户与大语言模型的会话历史记录。
创建新租户有两种方式:
无问芯穹平台的租户可以包含的用户数量默认为 1000。如需更大用户数量,请联系销售团队。
如果您确定要删除租户,请联系无问芯穹。请注意,此操作不可逆,建议在删除前备份重要数据。
无问芯穹平台采用严格的多租户架构,确保租户间的数据隔离。
邀请用户加入租户的步骤:
用户账号@租户名称
。暂不支持。目前,无问芯穹平台不支持自定义域名。
管理租户内用户角色和权限的步骤:
无问芯穹的大模型服务平台(GenStudio)提供多种类型的 API 服务,包括但不限于:
如果您对一站式 AI 平台 API 服务有需求,请联系无问芯穹提交需求。
您可以直接访问无问芯穹官方网站的GenStudio API 服务概述,学习相关教程。
API 参考文档通常包括 API 端点描述、请求/响应示例、错误代码说明等。
是的,无问芯穹的 API 服务通常有一些使用限制,以确保公平使用和系统稳定:
企业用户可联系我们调整限制。您可以在智算云平台的「用量统计」页面查看您的当前使用情况。
无问芯穹采取多重措施保障 API 的安全性:
我们建议客户也实施良好的安全实践,如定期轮换 API 密钥,妥善保管凭证等。
获取无问芯穹API 密钥的步骤如下:
请注意,API 密钥代表您的身份,应当妥善保护,避免泄露。
无问芯穹暂未提供第一方 SDK。如果使用 OpenAI 兼容的 Chat Completions API,可使用 OpenAI 的 SDK。
处理无问芯穹API 错误和异常的最佳实践:
监控无问芯穹API 使用情况和性能的方法:
不提供。API 服务平台暂不提供基于 Webhook 的实时事件通知。
不提供。无问芯穹不提供用于 API 测试的沙箱环境。
无问芯穹提供多种渠道获取 API 技术支持:
支持。无问芯穹针对企业用户提供灵活的 API 服务支持。
如果标准 API 无法满足您的需求,请联系无问芯穹的技术支持团队,讨论可能的定制解决方案。
企业面对多样化的应用场景,每个场景可能需要独特的 workflow 配置和优化,甚至需要频繁调整和部署工作流。这不仅增加了运维复杂度,还在计算资源受限时造成效率低下和成本上升。
为了解决以上痛点,无问芯穹推出了 ComfyUI 工作流托管服务,希望用户在本地开发工作流的同时,也能享受到云端全托管服务带来的高效体验。
兼容原生 ComfyUI 功能。您仅需要上传从本地 ComfyUI 环境导出的工作流 JSON 文件即可使用(也支持 API Format JSON)。
ComfyUI 工作流托管服务允许您通过几个 API 调用,无缝地使用原生 ComfyUI 功能,大大节省时间和精力,使用户能够更专注于核心业务而非工具的使用。得益于与原生 ComfyUI 的兼容性,还可以及时享受 ComfyUI 的更新和改进,确保工作流程始终保持最新。
迁移步骤如下:
如需总体了解云端全托管 ComfyUI 工作流的解决方案,请参考迁移到云端全托管 ComfyUI 工作流。
是的,托管服务支持自定义节点:
通常情况下,托管服务会提供更好的性能:
GenStudio 采用严格的安全措施保护用户数据:
托管服务采用灵活的计费模式:
上传自定义模型资产的步骤如下:
scp
/sftp
命令或 FileZilla
客户端上传模型文件GenStudio 目前支持以下 ComfyUI 模型系列:
您可以通过以下方式学习和使用 ComfyUI 托管工作流服务的 API:
TIP
提交生图任务的 API 入参结构和具体参数与 ComfyUI Workflow 使用的节点有关,建议先参考 ComfyUI 托管工作流 API 使用教程 学习 API 调用流程。
由于合规要求,ComfyUI 工作流托管服务目前仅对企业级用户开放。我们欢迎符合条件的用户试用这项服务,并提供反馈以帮助我们不断改进。
托管服务对于频繁修改非常友好:
ComfyUI 工作流托管服务特别适合以下场景:
无问芯穹采用灵活的定价模式,包括:
具体定价取决于您的需求和使用情况。我们建议您联系销售团队,获取最适合您的定价方案。
是的,无问芯穹为用户提供免费试用。
无问芯穹的一站式 AI 平台(AIStudio)允许采用预付费模式(包两年/包月/包周/包天),也支持弹性算力租赁(按卡时)的后付费模式。预付费的客户大多采用灵活的月付模式,没有最低使用期限要求。但是,如果选择年付方案,通常可以获得更优惠的价格。
您可以在 AIStudio 定价页面查看刊例价格。企业级定制方案可能会有最低合同期限和优惠价格,具体请咨询我们的销售团队。
无问芯穹的大模型服务平台(GenStudio)目前可免费试用。如果您有企业级需要,请联系我们的销售团队。
选择合适的定价方案需要考虑以下因素:
无问芯穹努力保持价格的稳定性。如果有价格调整,我们会提前通知现有客户。通常,价格变动会影响新客户或升级用户,而现有用户可能会在一定时期内保持原价。我们也可能不定期推出新的价格方案以适应市场需求。
无问芯穹支持多种支付方式,包括:
如果您购买了一站式 AI 平台(AIStudio) 的包年包月套餐,由于可能的合同限制,您无法主动更改定价方案。如有特殊需求,请联系无问芯穹。
如果需要纸质发票或特殊发票要求,请联系我们开票 010-53680802
是的,无问芯穹为长期合同客户提供优惠:
无问芯穹理解非营利组织和教育机构的特殊需求,通常会为这些机构提供优惠:
您可以通过费用中心了解账户使用情况和费用。
对于企业用户,具体取消政策可能因您的合同而异,建议查看服务条款或联系客户支持。
是的,无问芯穹为大型企业和特殊需求客户提供定制化方案:
无问芯穹的显示价格通常已包含税费。发票上会清晰列出税费明细。
通过余额支付账单费用。
如租户账户内有代金券,优先扣减代金券。
无问芯穹的代金券是一种数字凭证,可以用于获得折扣或兑换我们平台上的商品和服务。它可以帮助您节省使用无问芯穹服务的费用。
您可以通过多种方式获得无问芯穹的代金券:
无问芯穹代金券的有效期因不同类型而异。一般来说,代金券的有效期可能从 30 天到 1 年不等。您可以在代金券详情中查看具体的有效期限。请注意在有效期内使用您的代金券。
使用无问芯穹代金券很简单。无问芯穹在对帐单进行扣费时,系统会自动将代金券抵扣到您的订单中,无需手动操作。代金券自动抵扣的规则如下:
无问芯穹的代金券是与您的租户绑定的,租户下的所有用户发生的消费均可使用租户代金券抵扣。
由于代金券不绑定具体用户,因此无法在用户之间转让。
如果您有特殊情况需要转让代金券,请联系我们的客户支持团队。
这取决于具体的促销规则。一些代金券可以与其他优惠叠加使用,而另一些可能不允许。在使用代金券时,系统会明确告知您是否可以与其他优惠同时使用。如有疑问,您可以查看代金券的使用条款或联系客户支持。
如果您的订单金额小于代金券金额,代金券剩余额度可继续使用。系统在每次结帐时均会优先扣减代金券内剩余额度。
无问芯穹将作废代金券剩余额度。现金额度退款方式与具体活动有关,请联系我们的客户支持团队,我们会根据具体情况进行处理。
一旦代金券被使用并应用到订单中,通常是不能取消的。如果您在使用代金券后立即发现问题,请尽快联系客户支持,我们会尽力协助您解决问题。
如果帐单生成后才获取使用代金券,通常是无法在历史帐单中使用代金券的。我们会在您的下一个帐单中优先扣减代金券。
部分代金券可能设有最低使用金额限制。这些限制会在代金券的使用条款中明确说明。在使用代金券之前,请仔细阅读相关条款,确保您的订单满足使用条件。
您可以通过费用中心的代金券查看代金券余额和使用记录。
大多数代金券可以用于无问芯穹的主要服务。然而,某些特定的代金券可能只适用于特定的服务或产品。使用前请仔细阅读代金券的使用说明和限制条件,以确保它适用于您想购买的服务。
可以。系统将在帐单扣费时自动使用代金券抵扣。如果存在多个代金券,优先使用代金券,代金券总剩余额度不足时才会扣减账户内现金余额。
如果您发现您的代金券被盗用,请立即采取以下步骤: