跳到主要内容

推理

要启用推理,请在 API 请求中指定 reasoning_effort 并使用支持的值之一。

注意事项

  • OpenAI 不会共享实际的推理 token。您不会在响应中看到它们。
  • Deepseek 推理模型会自动启用推理,您无需在请求中指定任何内容来启用它。
  • 响应中的推理内容将位于 'reasoning_content' 下。

通过 OneRoute 使用 Anthropic 时:

  • 如果客户端指定推理reasoning_effort字符串("low"/"medium"/"high"),OneRoute 会根据下面的转换表将其转换为预算。

转换表:

  • "low" -> 1024
  • "medium" -> 40968192
  • "high" -> 16384

通过 OneRoute 使用 Vertex AI 时:

  • 如果客户端指定推理reasoning_effort字符串("low"/"medium"/"high"/"none"),OneRoute 会根据下面的转换表将其转换为预算。

转换表:

  • "none" -> 0
  • "low" -> 1024
  • "medium" -> 4096
  • "high" -> 16384

推理代码示例

import openai

client = openai.OpenAI(
api_key="sk-37fbb5a2-989a-4364-ac81-e58281d31e13",
base_url="https://gw.1route.ai/v1",
)

response = client.chat.completions.create(
model="MiniMax-M2.1",
messages=[
{"role": "user", "content": "Hi, how are you?"}
],
reasoning_effort="low"
)

print(response.choices[0].message.content)