AI API Gateway Platform - 将 AI 订阅配额分发和管理
本版整合上游 v0.2.16,并改进使用记录、优先调度与故障诊断。区域网关新增同步、鉴权、共享并发和费用账本基础设施,但仍属于默认关闭的预览能力,尚不能承接生产区域模型流量。
使用记录与调度
- 使用记录支持显示单条请求的缓存率,可在设置中控制展示(PR #413)。
- 调度候选快照读取合并 Redis 往返,并复用进程内快照,减少重复读取;本版不宣称未经实测的延迟收益(PR #415)。
- 优先调度可配置延迟惩罚时长,为超时账号提供恢复分流,避免旧历史持续延长惩罚(PR #422)。
- 模型容量耗尽时提供更具体的原因和重试时间,便于区分容量不足与其他调度失败(PR #418)。
故障诊断与兼容修复
引入上游 v0.2.16
本 fork 按提交整合上游更新,并适配现有计费、并发和分组行为(PR #414):
- Gemini 支持显式上下文缓存、Agent Platform (Vertex) API Key 认证及模型列表同步,改进缓存存储计费、修改失败回滚和账号错误处理。
- 分组名称与描述支持多语言;补充 Claude Haiku 5.5 协议适配,更新 GPT-6.1 Sol 上下文默认值及订阅长上下文计费行为。
- 改进在途费用预留,降低并发请求重复使用余额的风险;修复 Responses 到 Chat 回退的语义保留及不安全重试问题。
- 更新账号临时不可调度规则的作用范围,并修复支付倒计时、输入法和运维时间范围等界面问题。
区域网关基础设施(预览,默认关闭)
PR #419–#421、#423–#428 增加加密全量快照同步、本地调度与 API Key 鉴权、共享账号并发槽位租约,以及精确定价、费用预留、幂等结算和账本恢复基础。
这些能力需显式配置对应的 RUNTIME_REGIONAL_*_FILE,普通部署不会自动开启。区域 gateway 配置本地调度或鉴权后,模型入口仍固定返回 503;健康检查和快照 ready 不代表已具备模型服务能力。完整多 Pod 真实请求、切换与账单对账验收尚未完成,不应仅凭升级本版导入区域生产流量。
升级注意
本版包含分组多语言、Gemini 缓存与区域账本等数据库迁移。升级前备份数据库;若已主动启用额度或槽位租约,回退二进制不能替代租约排空、结算和显式关闭,必须保留账本及 outbox。
延续既有 292 ticket、DeepSeek compaction 与 SSE 兼容能力。发布产物验收不代表生产部署或真实模型调用验收。
📥 Installation
Docker:
# GitHub Container Registry
docker pull ghcr.io/ranxi2001/sub2api:2.11.0One-line install (Linux):
curl -fsSL https://raw.githubusercontent.com/ranxi2001/sub2api/v2.11.0/deploy/install.sh | sudo bash -s -- install -v v2.11.0Manual download:
Download the appropriate archive for your platform from the assets below.
K3s gateway upgrade (on each existing single-node host):
curl -fsSL https://raw.githubusercontent.com/ranxi2001/sub2api/v2.11.0/deploy/upgrade-k3s.sh | sudo bash -s -- --version v2.11.0Defaults: namespace tosky-canary, Deployment tosky-nerd; override with --namespace NAME --deployment NAME.
Upgrade every instance sharing Redis to this release.