连接 AI 助手

Codex

本机 Codex · 需要 Codex CLI

安装后验证

开启新会话,运行 /mcp 检查文档连接。

请助手搜索并读取一篇本站文档,确认回答附带原文链接。

详细步骤与其他插件安装方式
备选:手动连接 MCP

没有插件入口时使用。已安装插件时,无需重复添加 MCP。

Skip to content

使用 Qwen 文本模型的 enable_thinking ​

AI 助手

本页说明 Qwen 文本模型请求形态中常见的 enable_thinking、thinking_budget 和 preserve_thinking 参数。这些参数是 Qwen 模型的原生推理参数。不同 Qwen 模型支持的控制范围可能不同,请以 GenStudio 模型广场中的参数说明为准。

选择推理参数 ​

Qwen 文本请求使用与 messages 同级的布尔参数 enable_thinking。根据目标模型的能力选择参数:

  • 模型支持切换思考模式时,true 表示开启思考,false 表示关闭思考。
  • 模型始终开启思考时,不要设置 enable_thinking: false。qwen3.8-max 设置为 false 后仍会输出思考内容。
  • 不同 Qwen 模型对 thinking_budget 和 preserve_thinking 的支持不同,适用的响应模式也可能不同。如不确定,请参考 Qwen 官方文档。
  • preserve_thinking 控制模型是否读取之前轮次的推理内容,默认值因模型而异,见在多轮对话中保留推理内容。

设置当前请求的 enable_thinking ​

开启推理时传 enable_thinking: true。如果目标模型支持限制思考长度,可以同时传 thinking_budget。以下 Python 示例使用 OpenAI SDK,并以 qwen3.6-27b 演示。

language-python
import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["API_KEY"],
    base_url="https://cloud.infini-ai.com/maas/v1",
)

response = client.chat.completions.create(
    model="qwen3.6-27b",
    messages=[{"role": "user", "content": "What is 2 + 2? Give only the final answer."}],
    max_tokens=256,
    extra_body={
        "enable_thinking": True,
        "thinking_budget": 50,
    },
)

关闭推理时只传:

language-python
extra_body = {"enable_thinking": False}

对于支持该参数的 Qwen 模型,设置为 true 后,如果模型输出思考过程,可以从 reasoning_content 读取;设置为 false 后,模型关闭思考并直接回答。

注意

兼容用法

Chat Completions 接口也兼容 thinking.type。enabled 表示开启思考,disabled 表示关闭思考,auto 表示由模型判断是否需要思考。Qwen 原生参数仍是 enable_thinking。

控制思考和回答的长度 ​

通过 GenStudio 调用 qwen3.8-max、qwen3.6-27b 和 qwen3.6-35b-a3b 时,以下三个参数限制的范围不同:

  • max_tokens:只限制最终回答的长度,不包含思考内容。即使把 max_tokens 设得很小,模型仍会先完成思考,思考内容的 Token 数不受该参数约束。
  • thinking_budget:限制思考内容的 Token 数。思考达到预算后,模型停止思考并开始回答。预算低于问题所需时,回答的准确性会下降。
  • max_completion_tokens:限制思考内容和回答的总长度。如果在思考阶段就达到上限,回答为空,finish_reason 为 length。

需要控制耗时和 Token 用量时,用 thinking_budget 限制思考长度,用 max_tokens 限制回答长度。thinking_budget 应高于任务通常需要的思考长度。可以先不设置该参数,发送几次典型请求,参考响应中 usage.completion_tokens_details.reasoning_tokens 的数值。

qwen3.8-max 不能同时设置 reasoning_effort 和 thinking_budget,同时设置时请求返回 400。

用 curl 验证 enable_thinking 请求体 ​

先用 curl 请求确认与 messages 同级的 enable_thinking 是否被接受,并观察响应中是否出现 reasoning_content 或流式响应中的 delta.reasoning_content。运行前先在当前终端设置 API_KEY 环境变量。以下 curl 命令适用于 bash/zsh 等 POSIX 风格 Shell(macOS/Linux、WSL、Git Bash)。如果使用 Windows PowerShell 或 CMD,请按对应 Shell 的语法调整命令。

language-shell
curl -N --request POST \
  --url "https://cloud.infini-ai.com/maas/v1/chat/completions" \
  --header "Accept: text/event-stream" \
  --header "Authorization: Bearer $API_KEY" \
  --header "Content-Type: application/json" \
  --data-raw '{
    "model": "qwen3.6-27b",
    "messages": [
      {
        "role": "user",
        "content": "What is 2 + 2? Give only the final answer."
      }
    ],
    "max_tokens": 256,
    "enable_thinking": true,
    "stream": true
  }'

如果目标 Qwen 模型不接受 thinking_budget,先移除该字段,只验证 enable_thinking。如果它不接受 enable_thinking,请省略该字段。

在视觉请求中使用 Qwen 推理参数 ​

如果目标 Qwen 模型同时支持图像输入,enable_thinking、thinking_budget 等参数仍放在与 messages 同级的位置。图像和文本放在同一条用户消息的 content 数组中,image_url.url 使用带前缀的 Base64 数据。

language-python
completion = client.chat.completions.create(
    model="qwen3.6-27b",
    messages=[
        {
            "role": "user",
            "content": [
                {
                    "type": "image_url",
                    "image_url": {
                        "url": f"data:image/png;base64,{base64_image}",
                    },
                },
                {"type": "text", "text": "Answer briefly: what is shown?"},
            ],
        }
    ],
    max_tokens=1536,
    stream=True,
    extra_body={
        "enable_thinking": True,
        "thinking_budget": 50,
    },
)

如果模型说明中列出了高分辨率图像参数,可以增加 vl_high_resolution_images: True。视觉请求建议优先使用流式响应;如果模型输出思考过程,可以从 delta.reasoning_content 读取。

读取响应中的推理内容 ​

非流式响应从 message.reasoning_content 读取推理内容,从 message.content 读取最终答案。reasoning_content 不存在时跳过即可。

language-python
message = response.choices[0].message
reasoning = getattr(message, "reasoning_content", None)

if reasoning:
    print(reasoning)
print(message.content)

流式响应按顺序拼接 delta.reasoning_content,最终答案从 delta.content 拼接。

在多轮对话中保留推理内容 ​

多轮对话和工具调用中,把模型返回的推理内容原样放回对应 assistant 消息的 reasoning_content 字段。模型是否读取这些推理内容,取决于它们所在的位置:

  • 最后一条用户消息之后的推理内容,即同一轮中工具调用之间的推理内容:qwen3.8-max、qwen3.6-27b 和 qwen3.6-35b-a3b 都会读取,与 preserve_thinking 的取值无关。
  • 更早轮次的推理内容:由 preserve_thinking 控制。qwen3.8-max 默认读取,设置为 false 后不再读取;qwen3.6-27b 和 qwen3.6-35b-a3b 默认不读取,设置为 true 后读取。

需要模型参考之前轮次的推理内容时,在 extra_body 中传入 preserve_thinking。以下示例同时开启思考:

language-python
extra_body = {"enable_thinking": True, "preserve_thinking": True}

被读取的历史推理内容计入输入 Token。需要确认之前轮次的推理内容是否被读取时,用同一组消息分别发送 preserve_thinking 为 true 和 false 的请求,比较响应中的 usage.prompt_tokens:读取了这些推理内容的请求,prompt_tokens 更大。

排查 enable_thinking 和 thinking_budget ​

排查时按请求形态逐步缩小范围。

  • 确认目标模型属于 Qwen 系列,并明确支持 Qwen 原生推理参数。
  • 对强制思考模型,不要用关闭思考作为健康检查。
  • 如果传入 thinking_budget 后返回 400,先检查是否同时设置了 reasoning_effort,qwen3.8-max 不允许同时设置这两个参数。仍然报错时,移除 thinking_budget,只验证 enable_thinking。
  • 如果把 max_tokens 设得很小后,请求耗时和 Token 用量仍然较高,用量主要来自思考内容。使用 thinking_budget 限制思考长度。
  • 使用 qwen3.6-27b 时,如果思考过程出现在 content 中、reasoning_content 为空,检查请求是否设置了 max_completion_tokens。去掉该参数,改用 max_tokens。
  • 如果视觉请求返回图片格式错误,确认 image_url.url 使用带 MIME 前缀的 Base64 数据;不要把远程 URL 当成通用输入格式。
  • 如果视觉请求返回图片宽高限制错误,请换用正常尺寸的测试图,不要用 1x1 像素图片作为健康检查。
  • 如果传入 vl_high_resolution_images 后返回 400,先移除该字段,只验证基础图像输入和 enable_thinking。
  • 如果响应没有 reasoning_content,检查 enable_thinking 是否开启,以及该模型是否只在流式响应中提供此字段。

需要手工确认请求时,构造和业务代码相同的 curl 请求,再对照服务端返回字段。