文本补全与 Responses

两条与对话补全并行的接口:旧式的 /v1/completions 与 OpenAI 的 /v1/responses。鉴权、模型名与计费规则都相同。

文本补全

POST /v1/completions 是旧式接口,prompt 为字符串或数组;多数对话模型也能用,但新项目建议直接用对话补全。

POST /v1/completions
curl https://inferstream.cn/v1/completions \
  -H "Authorization: Bearer $INFERSTREAM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-chat",
    "prompt": "杭州是",
    "max_tokens": 64
  }'

Responses

POST /v1/responses 与 OpenAI Responses API 同形(input、instructions、tools、stream)。上游不是 OpenAI 时由网关翻译成对话补全再转回,内置工具(web_search、file_search 等)以上游支持为准。models 多模型回退在这条接口同样可用。

POST /v1/responses
curl https://inferstream.cn/v1/responses \
  -H "Authorization: Bearer $INFERSTREAM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-chat",
    "input": "用一句话介绍杭州。"
  }'

费用查询用 response.id。注意 Vercel AI SDK 5 不带 .chat() 时默认走这条接口,见 SDK 接入。