文档中心
费用中心控制台

大语言模型 API 服务使用教程 ​

连接 AI 助手

本文将指导您如何通过常用工具调用 GenStudio 预置的大语言模型 API 服务。

前提条件 ​

登录智算云平台，前往密钥管理页面，申请 GenStudio API 密钥。

API 密钥管理

OpenAI API 兼容接口 ​

GenStudio 大语言模型 API 服务提供 OpenAI 兼容 Chat Completions 接口。

注意

关于 API 端点的路径、参数等细节，详见 大语言模型 API 参考文档。

📋 大模型服务平台 API 参考文档

使用 Curl ​

您可以通过调用示例中的 curl 命令直接发送 API 请求。以下请求示例发起一个单轮对话。请先设置 API_KEY 环境变量。以下 curl 命令适用于 bash/zsh 等 POSIX 风格 Shell（macOS/Linux、WSL、Git Bash）。PowerShell 或 CMD 用户需调整换行符、环境变量和引号语法。

  • API_KEY：GenStudio API key。请将 CURL 命令中的 $API_KEY 修改为您获取的 API 密钥。
language-shell
curl --request POST \
  --url "https://cloud.infini-ai.com/maas/v1/chat/completions" \
  --header "Accept: application/json, text/event-stream" \
  --header "Authorization: Bearer $API_KEY" \
  --header "Content-Type: application/json" \
  --data-raw '{
    "model": "glm-5.2",
    "messages": [
      { "role": "system", "content": "请以嘲讽语气回答" },
      { "role": "user", "content": "你是谁？" },
      { "role": "assistant", "content": "我是大模型回答助手" },
      { "role": "user", "content": "你能做什么？" }
    ]
  }'

注意

以上示例未指定 stream 参数为 true，因此 API 服务默认使用非流式响应方式。

使用 OpenAI 客户端 ​

GenStudio 大模型 API 服务支持通过 OpenAI 官方客户端进行调用。

  1. 初始化 OpenAI Python 客户端。示例默认从环境变量加载 API 密钥和 Base URL。请注意设置环境变量。

    • GENSTUDIO_API_KEY ：GenStudio API Key。
    • DEFAULT_BASE_URL：使用默认接口时，为 https://cloud.infini-ai.com/maas/v1
    language-python
    import os
from openai import OpenAI

try:
    # load environment variables from .env file (requires `python-dotenv`)
    from dotenv import load_dotenv

    load_dotenv()
except ImportError:
    pass

API_KEY = os.getenv("GENSTUDIO_API_KEY")
DEFAULT_BASE_URL = os.getenv("DEFAULT_BASE_URL")  

client = OpenAI(api_key=API_KEY, base_url=DEFAULT_BASE_URL)

  2. 发起对话请求。以下示例使用流式响应。请注意解析 reasoning_content 字段。

    language-python
    stream = client.chat.completions.create(
    model="glm-5.2",
    messages=[{"role": "user", "content": "根据中国古代圣人孔子的思想，人生的意义是什么？"}],
    stream=True,
    stream_options={"include_usage": True},
)

usage = None
for chunk in stream:
    if getattr(chunk, "usage", None):
        usage = chunk.usage

    if not (chunk.choices and chunk.choices[0].delta):
        continue

    delta = chunk.choices[0].delta

    # Handle reasoning content
    if getattr(delta, 'reasoning_content', None):
        print(delta.reasoning_content, end="")

    # Handle regular content
    if getattr(delta, 'content', None):
        print(delta.content, end="")

if usage:
    print(f"\nToken usage: {usage}")

    stream_options.include_usage 默认为 false。设置为 true 后，流结束前会额外返回一个 choices 为空、usage 为整个请求 Token 用量的汇总 chunk；普通内容 chunk 的 usage 为 null。如果流被中断或取消，最终汇总 chunk 可能不会到达，因此应用应允许本次用量统计缺失。

使用 Langchain 接入 ​

GenStudio 大模型 API 服务支持通过 Langchain 的 OpenAI 插件进行调用。

  1. 配置 Langchain 模型。以下示例从环境变量中加载了 API 路径和 API 密钥。

    • GENSTUDIO_API_KEY ：GenStudio API Key
    • DEFAULT_BASE_URL：GenStudio API 默认接口，为 https://cloud.infini-ai.com/maas/v1
    language-python
    import os

os.environ["OPENAI_API_KEY"] = os.environ.get("GENSTUDIO_API_KEY")
os.environ["OPENAI_BASE_URL"] = os.environ.get("DEFAULT_BASE_URL")

from langchain.chat_models import init_chat_model

model = init_chat_model("glm-5.2", model_provider="openai")

  2. 发起对话请求。以下示例使用非流式响应，未解析 reasoning_content 字段。

    language-python
    from langchain_core.messages import HumanMessage, SystemMessage

messages = [
    SystemMessage("Translate the following from English into Italian"),
    HumanMessage("hi!"),
]

model.invoke(messages)

Anthropic 兼容接口 ​

GenStudio 大语言模型 API 服务为部分模型提供 Anthropic 兼容 Messages 接口，可用于接入 Claude Code。

支持模型范围 ​

具体支持的模型，请以 GenStudio 模型广场「Claude 兼容」筛选结果为准。

模型广场

接入方式 ​

使用 Anthropic 兼容 Messages 接口接入 Claude Code 时，请在使用 Claude Code 集成 GenStudio API中查看 Base URL、环境变量和模型配置。