常见问题

接入与计费上最常被问到的几件事。没找到答案,通过关于页联系我们。

调用成功了,为什么余额没变?

余额按内部额度单位扣减,显示时折算成人民币并保留 4 位小数;一次几十 token 的请求可能不到 ¥0.0001,看起来像没扣。用费用查询看 cost_quota 最准确;用量页按天、按模型汇总也能对上。扣费在响应结束后写入,流式请求稍等一两秒。

收到 429 怎么办?

先看响应头 Retry-After,按它退避后重试,并把并发降下来;没有这个头的 429 是用户组默认限制或上游过载,指数退避(1s、2s、4s…)即可。持续需要更高配额,在用量页看当前生效的 RPM / TPM,然后通过关于页联系我们。三层限制的说明见错误码与限流。

流式请求中途出错,为什么不切换到下一个模型?

切换只发生在首字节之前。一旦 SSE 已经开始输出,网关不会再换渠道或换候选模型,否则你会收到两段拼接的内容。中途断开时按已生成的 token 计费,调用方应自行决定是否重发。

怎么知道这次请求走了哪家供应商?

看响应头 X-InferStream-Provider 与 X-InferStream-Model,或响应体 / 第一个 SSE chunk 顶层的 provider 字段。事后可拿响应 id 查费用查询接口,结果里也有 provider。

缓存命中怎么计费?

上游报告了缓存命中的那部分输入 token,按模型的「缓存输入」价计费,其余输入按正常输入价。模型库没有单列缓存价的模型,命中部分按输入价的 10% 计。响应里看 usage.prompt_tokens_details.cached_tokens(Claude 接口是 usage.cache_read_input_tokens),费用查询里是 tokens_cached。是否命中由上游决定,网关不做任何缓存。

组织 Key 和个人 Key 有什么区别?

个人 Key 从你的账户余额扣费;组织 Key 归组织所有、从组织钱包扣费,受管理员给你设的月度上限约束,成员离开后 Key 仍在。运营给组织设的折扣只对组织 Key 生效。调用方式完全一样,都是 sk- 开头的 Bearer Key。详见鉴权与 Key。

Key 泄露了怎么办?

立即到 Key 页禁用或删除这把 Key,再新建一把替换;禁用即时生效。然后到用量页按 Key 筛选,核对泄露期间的调用。日常建议给每个项目单独一把 Key,并设额度上限与过期时间。

如何开发票?

在控制台的发票页先添加抬头(企业抬头需名称与税号,专票还需地址、电话、开户行与账号),再提交开票申请;可开票金额是你实际支付、尚未开票的部分,赠送额度与兑换码不计入。提交后金额冻结,开具后邮件送达 PDF。组织的发票由所有者或管理员在组织上下文下申请。详见计费。