关键概念
这里介绍您在本平台中可能遇到的重要概念。不同产品模块可能使用不同的界面字段名称,但同一概念在平台中的含义应以本页为准。
弹性资源
弹性资源是按小时申请的临时算力资源,当前用于创建开发机。用户创建弹性开发机时直接选择 1、2、4 或 8 卡等算力规格。
平台会在下单时按当前库存判断是否能启动开发机。下单成功表示当前有匹配库存;开发机运行期间占用对应弹性资源;关机后资源释放。下一次启动时,平台会重新判断是否仍有匹配库存。
租户
租户是智算云平台中的组织隔离单元,代表一个独立的账户空间。每个租户拥有独立的资源配额、用户管理、计费和权限体系。
租户内的用户可根据被授予的权限策略和授权范围执行对应操作,例如管理用户、资源配额、API 密钥或访问特定资源。
更多内容请见 租户管理。
超级管理员
超级管理员是租户内权限最高的管理角色,通常拥有平台预置的全局管理权限。
超级管理员可用于完成租户级配置、权限管理、资源管理和高权限运维操作。为降低误操作风险,应仅将该角色授予确实需要全局管理权限的用户。
用户组
用户组是一种批量管理用户权限的机制。通过将用户加入用户组,可以统一授予该组内所有用户相同的资源访问权限。
- 一个用户可以属于多个用户组。
- 用户的最终权限为其个人权限与所属用户组权限的并集。
API 密钥
API 密钥(API Key)是用于访问 API 服务的身份凭证。
- 用于 GenStudio API 服务调用。
- 可在访问控制中创建、查看和管理。
更多内容请见 API 密钥管理。
权限策略
权限策略定义用户可以执行的操作。策略需要与授权范围配合使用,授权范围限定策略作用的资源。
- 系统策略:平台预置的权限策略,用于授予产品功能的常见访问权限。
- 自定义策略:具备权限管理权限的用户根据业务需求自定义的细粒度权限策略。
更多内容请见 理解策略和授权范围。
授权范围
授权范围用于限定权限策略作用的资源边界。权限策略定义用户可以执行哪些操作,授权范围定义这些操作可以作用于哪些资源。
配置用户或用户组权限时,管理员需要同时选择权限策略和授权范围,才能形成完整的访问控制规则。
更多内容请见 理解策略和授权范围。
按量付费
按量付费是一种按实际使用量结算费用的计费方式。用户无需提前购买长期资源,平台会根据资源运行时长、调用量、存储用量或其他计量维度产生费用。
文档中的“按量计费”与“按量付费”通常指同一类计费方式。实际费用以费用中心、订单、账单或产品页面展示的计费规则为准。
工作流
工作流是由多个步骤、节点或工具调用组成的自动化流程,用于把输入、处理逻辑和输出组织成可复用的执行链路。
在智能体和 ComfyUI 等场景中,用户通过工作流编排模型调用、工具调用、图像生成、数据处理或其他业务逻辑,并可通过页面或 API 发起运行。
大语言模型
大语言模型是面向自然语言理解、生成、推理和对话等任务的基础模型。文档中的“大模型”在多数上下文中也指这一类模型或以大语言模型为核心的模型服务。
在 GenStudio 中,用户可以通过体验中心、API、模型广场或微调服务使用大语言模型,并根据模型能力、上下文长度、价格和调用限制选择合适的模型。
模型广场
模型广场是 GenStudio 用于集中展示平台预置模型的产品页面。用户可以按模型类型、任务场景、上下文长度、兼容协议、模型提供方等条件筛选模型,并查看模型卡片和详情页。
模型广场中的模型卡片和详情页通常提供模型 ID、上下文长度、最大生成长度、输入输出模态、兼容协议、调用说明、价格或服务限制等信息。接入 GenStudio API 或编码套餐前,用户应以模型广场展示的当前能力和调用信息为准。
Token
Token 是大语言模型处理文本的基本计量单位。模型会把输入文本拆分为 Token,并按 Token 序列生成输出。
在 GenStudio 中,Token 常用于描述上下文长度、最大输出长度、API 频率限制、用量统计和计费。一次调用通常会分别统计输入 Token 和输出 Token。
上下文长度
上下文长度是模型一次请求中可处理的输入与输出 Token 总量上限。它决定模型能够同时接收多少历史消息、提示词、工具结果或其他文本内容。
选择模型时,用户应结合任务所需的上下文长度和最大输出长度评估模型是否适合当前业务场景。
API 频率限制
API 频率限制用于控制租户或 API Key 在固定时间窗口内可发起的请求量、Token 用量或其他调用量,避免单个调用方影响整体服务稳定性。
GenStudio LLM API 常见限制维度包括 RPM、RPD 和 TPM。触发频率限制后,请求可能返回限流错误,用户需要降低调用频率、缩短请求内容或升级服务等级。
包并发服务
包并发服务是一种预先购买并发处理能力的容量保障方式。用户购买并发槽位后,可在约定范围内获得更稳定的请求处理能力。
在 GenStudio LLM API 和 ComfyUI 工作流等场景中,包并发服务可用于降低高峰期与其他用户争用公共资源的风险,并提升实时业务的响应稳定性。