概览

InferStream 提供一个 OpenAI 兼容接口,base URL 为 https://inferstream.cn/v1。已经在用 OpenAI SDK 的项目,只需改 base URL 与 Key,即可调用 OpenAI、Anthropic、Gemini 与百炼、DeepSeek、智谱等国内外主流模型。同时提供 Anthropic Messages 与 Gemini 两种原生协议的入口。

快速上手

  1. 开通账号并创建一把 Key

    开通账号(目前采用邀请制,注册页有申请方式)后进入控制台的 Key 页创建一把 Key,以 sk- 开头。在充值页充值后即可调用。过期时间、额度上限等约束见鉴权与 Key。

  2. 把 base URL 换成 InferStream

    OpenAI SDK 或任何允许改 base URL 的客户端,把地址改成 https://inferstream.cn/v1,Key 填到原来放 OpenAI Key 的位置。模型名用模型库里的裸名,如 deepseek-chat,不带供应商前缀。

  3. 发第一个请求

    按下面的例子调用 POST /v1/chat/completions。响应里的 usage 是这次的 token 用量,provider 是实际服务的供应商;用 id 可以到费用查询接口查这一次花了多少钱。

第一个请求

把 $INFERSTREAM_API_KEY 换成你的 Key。请求体是标准 OpenAI 参数,完整说明见对话补全;Python、Node.js 等语言的写法见 SDK 接入。

非流式请求
curl https://inferstream.cn/v1/chat/completions \
  -H "Authorization: Bearer $INFERSTREAM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-chat",
    "messages": [
      {"role": "system", "content": "你是一个简洁的助手。"},
      {"role": "user", "content": "用一句话介绍杭州。"}
    ]
  }'
响应
{
  "provider": "Deepseek",
  "id": "chatcmpl-…",
  "object": "chat.completion",
  "created": 1789000000,
  "model": "deepseek-chat",
  "choices": [{
    "index": 0,
    "message": { "role": "assistant", "content": "…" },
    "finish_reason": "stop"
  }],
  "usage": {
    "prompt_tokens": 32,
    "completion_tokens": 48,
    "total_tokens": 80,
    "prompt_tokens_details": { "cached_tokens": 0 },
    "completion_tokens_details": { "reasoning_tokens": 0 }
  }
}

Base URL 与路径

所有 OpenAI 兼容接口都在 https://inferstream.cn/v1 下,请求头用 Authorization: Bearer sk-... 携带 Key。Claude 与 Gemini 入口在同一域名下,各用自己的鉴权头。请求体上限 16 MB。当前开放的路径:

路径说明
POST /v1/chat/completions对话补全,支持流式与非流式
POST /v1/completions文本补全(旧式接口)
POST /v1/responsesResponses 接口
POST /v1/embeddings文本向量
POST /v1/images/generations图片生成,按次计费
POST /v1/images/edits图片编辑(multipart)
POST /v1/audio/speech语音合成,返回音频文件
POST /v1/audio/transcriptions语音识别(multipart)
POST /v1/audio/translations语音翻译成英文(multipart)
GET /v1/models当前 Key 可调用的模型列表;GET /v1/models/{model} 查单个
GET /api/v1/generation?id=按响应 id 查一次请求的用量与费用(Bearer Key)
POST /claude/v1/messagesClaude Messages 兼容接口(x-api-key 头)
GET /claude/v1/modelsClaude 格式的模型列表
POST /gemini/v1beta/models/{model}:generateContentGemini 兼容接口(x-goog-api-key 头),流式用 :streamGenerateContent
GET /gemini/v1beta/modelsGemini 格式的模型列表

未开放:/v1/images/variations、/v1/moderations、/v1/rerank、/v1/realtime、files / fine_tuning / assistants / batches。调用这些路径返回 404。

接下来

接口

指南

参考