用量统计
大模型服务平台(GenStudio)的用量统计页面中可以查看模型调用的统计信息,和模型训练的 Token 消耗量。
TIP
用量统计页面的数据可见范围由当前登录用户身份决定。仅管理员可查看当前租户下所有用户的使用数据。
查看服务调用量统计
服务调用页面顶部展示用户的用量汇总,并随您选择的用户账号、API Key、调用模型、时间范围刷新。仅管理员可选择用户账号。非管理员用户固定选中当前用户账号。
数据区域顶部为汇总数据,包含以下项目:
- 已调用的模型总数
- 调用的服务总次数
- 内容拦截调用次数
- 所使用的 Token 数量
- 内容拦截调用次数
- 输入 Token 数量
- 输出 Token 数量
「用量趋势图」展示不同模型的调用量趋势。仅管理员身份可查看所有用户的数据,非管理员用户仅呈现当前用户的调用数据。
「用量分布图」展示了当前租户下所有用户在所选时间段内调用统计数据。仅管理员身份可查看所有用户的数据,非管理员无数据。
NOTE
数据统计非实时,数据统计周期为自然小时,用量统计看板数据整点零五分时更新,可能稍有延迟。
查看模型训练数据统计
模型训练页面展示了在 GenStudio 中使用微调服务的模型训练数据统计信息。
数据区域顶部为汇总数据,并随您选择的时间范围刷新。包含以下项目:
- 已用基础模型总数
- 已训练的 Token 数量
- 训练任务的总数
- 累计训练总时长
常见问题
在哪里可以查看模型调用量统计?
大模型服务平台(GenStudio)的用量统计页面中可以查看模型调用的统计信息。仅管理员身份可查看租户下所有用户的调用情况。普通用户只能查看自己的调用统计数据。
作为管理员,如何查看所有用户的调用情况?
管理员用户可以在用量统计页面查看租户下所有用户的调用情况:
- 支持按用户账号和 API Key 筛选查看不同用户的调用数据
- 可以查看按用户维度的调用量分布饼图
- 支持查看所有用户的累计调用指标
普通用户只能查看自己的调用统计数据。
支持查看哪些具体的统计指标?
模型服务提供以下详细统计指标:
- 调用模型总数
- 调用服务总次数
- 调用 Token 总数
- 内容拦截调用次数
- 输入 Token 数
- 输出 Token 数
- 各指标的时间趋势图
- 按用户和模型服务的分布统计
模型训练提供以下详细统计指标:
- 已用基础模型总数
- 已训练的 Token 数量
- 训练任务的总数
- 累计训练总时长
如何筛选特定时间段的统计数据?
模型服务的用量统计提供灵活的时间筛选选项:
- 支持快捷选择:近 2 小时、近 12 小时、近 1 天(默认)、近 3 天、近 7 天
- 支持自定义日期范围
- 时间筛选会同时作用于统计指标卡、趋势图和分布图
模型训练用量统计暂仅支持时间范围筛选。
如何查看单个模型服务的调用统计?
可以通过以下方式查看单个模型的详细统计:
- 在用量统计页面中选择「服务调用」标签
- 在「调用模型」下拉框中选择需要查看的模型服务
- 根据需求指定用户/API Key 等,筛选该模型的调用数据
可以区分平台预置模型和自部署模型的使用情况吗?
可以。系统支持按模型来源进行筛选:
- 可选择平台预置或用户自部署模型
- 支持在选定来源下进一步反选具体的模型服务
统计数据会保留多长时间?
系统会保留较长时间的历史调用数据(至少 30 天),以便于:
- 进行长期的使用趋势分析
- 支持与客户进行历史对账
- 查看已下线模型的历史调用记录
已删除的自部署模型服务的调用数据不会保留。
如何查看 Token 使用的详细分布?
模型服务的用量统计中提供了详细的 Token 使用统计:
- 区分输入 Token 和输出 Token 的使用量
- 展示Token使用的时间趋势变化
- 提供按用户维度的 Token 使用分布
- 支持查看单个模型服务的 Token 使用详情
模型训练的用量统计中也会展示微调服务消耗的 Token 数量。