SDK 接入
凡是允许改 base URL 的 OpenAI 兼容客户端都能直接用。下面是常见几种的最小示例,模型名换成模型库里的任意模型即可。models、reasoning 这类扩展字段通过各 SDK 的 extra_body 之类的透传参数传。
curl
POST /v1/chat/completions
流式与其他参数见对话补全。
Python(openai)
pip install openai
base_url / api_key 也可用环境变量 OPENAI_BASE_URL / OPENAI_API_KEY 提供。流式示例见对话补全。
Node.js(openai)
npm install openai
Anthropic SDK
走 Claude 兼容接口:base URL 指到 https://inferstream.cn/claude,模型名不限于 Claude 系列。
pip install anthropic
Google(google-genai)
走 Gemini 兼容接口:base URL 指到 https://inferstream.cn/gemini。
pip install google-genai(需自行验证)
注意
未逐版本验证:google-genai 的 http_options.base_url 写法未在本站逐版本验证,若 SDK 版本不同请对照其文档调整。
LangChain
pip install langchain-openai
ChatOpenAI 的 base_url / api_key 也可用环境变量 OPENAI_BASE_URL / OPENAI_API_KEY 提供。models、reasoning 这类扩展字段通过 extra_body 传。
Vercel AI SDK
npm install ai @ai-sdk/openai
用 .chat() 走 /v1/chat/completions;不带 .chat() 时 AI SDK 5 默认走 /v1/responses,两条接口都开放,区别见 Responses。