2024-11-21 一站式 AI 平台生日大派对!2024-11-21 一站式 AI 平台生日大派对! 无问芯穹特别推出多项超值福利!立即参与
Skip to content

用量统计

大模型服务平台(GenStudio)的用量统计页面中可以查看模型调用的统计信息,和模型训练的 Token 消耗量。

TIP

用量统计页面的数据可见范围由当前登录用户身份决定。仅管理员可查看当前租户下所有用户的使用数据。

查看服务调用量统计

服务调用页面顶部展示用户的用量汇总,并随您选择的用户账号、API Key、调用模型、时间范围刷新。仅管理员可选择用户账号。非管理员用户固定选中当前用户账号。

alt text

alt text

数据区域顶部为汇总数据,包含以下项目:

  • 已调用的模型总数
  • 调用的服务总次数
  • 内容拦截调用次数
  • 所使用的 Token 数量
  • 内容拦截调用次数
  • 输入 Token 数量
  • 输出 Token 数量

「用量趋势图」展示不同模型的调用量趋势。仅管理员身份可查看所有用户的数据,非管理员用户仅呈现当前用户的调用数据。

「用量分布图」展示了当前租户下所有用户在所选时间段内调用统计数据。仅管理员身份可查看所有用户的数据,非管理员无数据。

NOTE

数据统计非实时,数据统计周期为自然小时,用量统计看板数据整点零五分时更新,可能稍有延迟。

查看模型训练数据统计

模型训练页面展示了在 GenStudio 中使用微调服务的模型训练数据统计信息。

数据区域顶部为汇总数据,并随您选择的时间范围刷新。包含以下项目:

  • 已用基础模型总数
  • 已训练的 Token 数量
  • 训练任务的总数
  • 累计训练总时长

alt text

常见问题

在哪里可以查看模型调用量统计?

大模型服务平台(GenStudio)的用量统计页面中可以查看模型调用的统计信息。仅管理员身份可查看租户下所有用户的调用情况。普通用户只能查看自己的调用统计数据。

作为管理员,如何查看所有用户的调用情况?

管理员用户可以在用量统计页面查看租户下所有用户的调用情况:

  • 支持按用户账号和 API Key 筛选查看不同用户的调用数据
  • 可以查看按用户维度的调用量分布饼图
  • 支持查看所有用户的累计调用指标

普通用户只能查看自己的调用统计数据。

支持查看哪些具体的统计指标?

模型服务提供以下详细统计指标:

  • 调用模型总数
  • 调用服务总次数
  • 调用 Token 总数
  • 内容拦截调用次数
  • 输入 Token 数
  • 输出 Token 数
  • 各指标的时间趋势图
  • 按用户和模型服务的分布统计

模型训练提供以下详细统计指标:

  • 已用基础模型总数
  • 已训练的 Token 数量
  • 训练任务的总数
  • 累计训练总时长

如何筛选特定时间段的统计数据?

模型服务的用量统计提供灵活的时间筛选选项:

  • 支持快捷选择:近 2 小时、近 12 小时、近 1 天(默认)、近 3 天、近 7 天
  • 支持自定义日期范围
  • 时间筛选会同时作用于统计指标卡、趋势图和分布图

模型训练用量统计暂仅支持时间范围筛选。

如何查看单个模型服务的调用统计?

可以通过以下方式查看单个模型的详细统计:

  1. 用量统计页面中选择「服务调用」标签
  2. 在「调用模型」下拉框中选择需要查看的模型服务
  3. 根据需求指定用户/API Key 等,筛选该模型的调用数据

可以区分平台预置模型和自部署模型的使用情况吗?

可以。系统支持按模型来源进行筛选:

  • 可选择平台预置用户自部署模型
  • 支持在选定来源下进一步反选具体的模型服务

统计数据会保留多长时间?

系统会保留较长时间的历史调用数据(至少 30 天),以便于:

  • 进行长期的使用趋势分析
  • 支持与客户进行历史对账
  • 查看已下线模型的历史调用记录

已删除的自部署模型服务的调用数据不会保留。

如何查看 Token 使用的详细分布?

模型服务的用量统计中提供了详细的 Token 使用统计:

  • 区分输入 Token 和输出 Token 的使用量
  • 展示Token使用的时间趋势变化
  • 提供按用户维度的 Token 使用分布
  • 支持查看单个模型服务的 Token 使用详情

模型训练的用量统计中也会展示微调服务消耗的 Token 数量。