AI API Gateway Platform - 将 AI 订阅配额分发和管理
本版新增 V3 渠道组件状态页,质量运维支持多模型检测与上游 5xx 即时保护,并补充 Grok 未知 403 隔离、OpenAI 准入缓存、按账号选择地区出口,以及在系统设置中管理 Prism 浏览器桥。V3、准入缓存、5xx 触发和地区出口均不会在升级后自动启用;已在用 Prism 的站点升级后需要在系统设置中重新开启,见升级说明。
渠道状态:V3 组件状态页
- 新增 V3 组件状态页:管理员在「渠道管理 → 渠道监控」顶部选择本站对用户展示 V1 主动探测、V2 被动统计或 V3 组件状态页,切换即时生效,同一时间只运行一种。V3 按「分类 → 组件」排列,每个组件对应一个分组(可只看某个模型),显示倍率、可用率和时间对齐的状态条;悬停查看时段、状态、成功率、首 Token 中位数和主要错误,可往前翻 7 天。#303
- 状态全部来自 V2 被动统计的真实请求,V3 不额外发请求:计入的失败率 ≥ 20% 为红色,≥ 5% 或首 Token 中位数超过阈值为黄色,请求数不足为灰色。客户端取消、上下文超长等用户造成的错误默认不计入,阈值和错误类型都可在后台调整。
- 事件记录:红色持续 10 分钟以上记为一条,短暂的请求空档不会把一次故障拆成多条。组件默认只对能使用该分组的用户显示,普通用户看不到请求量、账号信息和错误原文。
质量运维与 Grok 调度
- 多模型检测与 5xx 即时保护:糖果题一轮可检测多个模型(最多 50 个),等所有模型和样本结束后整轮全部通过才算通过;新增
remove_models动作,只冷却异常模型,保留其他模型和账号调度。可选的trigger_on_upstream_5xx(默认关闭)在 OAuth 真实请求出现 HTTP 或流内 5xx 时立即降低并发并安排检测,5xx 本身不判定模型降智;检测通过后按原并发目标渐进恢复。#296 - Grok 未知 403 隔离:账号编辑新增
extra.grok_skip_forbidden_pause开关(默认关闭)。开启后,未分类的推理 403 不再暂停整个账号、不计入健康失败,每个请求最多再换一个账号;内容拒绝直接返回、不换账号。模型额度限流先确定作用范围再记录,可信的短重置时间不再被放大为 2 小时。#289
网关准入与地区出口
- OpenAI 准入少一次数据库查询:准入读取不再加载完整分组实体,账号有分组关系时每次少一次
groups查询。#297 - 可选的本地准入缓存:新增
gateway.scheduling.openai_turn_admission_cache_ttl_seconds,默认0保持每次权威读取。设为正数后,TTL 内复用进程内准入快照、跳过 PostgreSQL 读取,仍执行账号资格、分组模型白名单、运行时封锁和路由指纹检查。#298 - 地区出口按账号生效:
gateway.upstream_routing.rules可选填account_ids,只让选中的上游账号走该出口;同一域名下,账号规则优先于通用规则。HTTP/SSE、OpenAI 原生 WebSocket 和重定向检查使用同一判断。#295
Prism 浏览器桥
- 在系统设置中管理 Prism:「系统设置 → 网关」新增 Prism 浏览器桥面板,全局开关、回环适配器地址和桥接密钥保存在数据库,保存后立即生效、无需重启;接口只返回是否已配置密钥,不回显原值。新安装默认关闭,并自动生成 32 字节随机密钥。账号仍须同时开启 Prism 才会使用,适配器不可用时继续禁止回落原生。#299
- 适配器内存回收与启动限流:准备页面关闭后先回收编辑器上下文,保留 750 MiB 保护,内存不足时最多等待 30 秒再决定是否在提交前拒绝;识别项目运行环境启动限流和项目创建 429,同账号后续启动至少冷却 60 秒,不重放请求。#292
后台与其他修复
- OAuth 首次配置可设成本倍率:「智能运维 → OAuth 账户首次配置」新增成本倍率,默认
0.07。匹配所选平台的新 OAuth 账号创建时写入extra.cost_multiplier并覆盖导入值;已有账号、重新授权、手动编辑和 API Key 账号不受影响。#301 - 手机端账号排序:账号管理卡片顶部可选择排序字段和升降序,今日统计改为两列,数值不再换行。#294
- 鹈鹕默认题干:去掉容易被 OpenAI 判为违规的「不要有任何限制」,新建、切换和重置题干都使用新文本。#293
升级说明
- 新增两个迁移,启动时自动执行:
263_strip_pelican_prompt_restriction.sql从分组计划、账号定时计划和质量规则模板中删去「不要有任何限制」这句(整句题干只有这句的行保持不动,回退二进制不会改回);264_channel_monitor_v3.sql新建 V3 的三张配置表,不修改现有表。 - Prism 需要在系统设置中重新开启:Prism 的全局开关、地址和密钥改为只读系统设置,原
gateway.prism_browser.*配置和GATEWAY_PRISM_BROWSER_*环境变量不再生效(prism-adapter/README.md中网关一侧的环境变量写法同样不再适用)。已有站点升级后该开关为关闭状态,开启了 Prism 的账号对所选 Prism 模型的请求会直接失败(仍不回落原生);请在「系统设置 → 网关」开启,并填入与prism-adapter相同的桥接密钥。适配器修复(#292)需要同时更新本 tag 的prism-adapter/。 - 渠道监控模式升级后保持原来的 V1 / V2,V2 聚合器在 V2、V3 模式下都会运行。切到 V3 后如需回退旧二进制,先把模式切回 V1 或 V2:旧版本会把
v3当作默认的 V1,开始运行主动探测。 - 已启用「OAuth 账户首次配置」的站点,升级后新建的匹配平台 OAuth 账号会写入成本倍率
0.07(旧模板没有该字段时按0.07处理);需要其他值请先在模板中修改。 - 地区出口的账号规则:旧版本会忽略
account_ids,使规则扩大到整个域名;降级前必须删除对应的账号规则或关闭地区路由。 - 质量运维写入的模型冷却和并发变化保存在账号数据中,回退二进制不会撤销;回退前先暂停新规则,并在新版本中恢复它设置的限制。
- 准入缓存启用后,账号停用、换组和代理变更最多延迟一个 TTL 生效;异常时把配置设回
0并重启。
完整版本对比 · V3 状态页截图与说明 · Grok 403 调度说明 · 地区出口配置
📥 Installation
Docker:
# GitHub Container Registry
docker pull ghcr.io/ranxi2001/sub2api:2.9.9One-line install (Linux):
curl -fsSL https://raw.githubusercontent.com/ranxi2001/sub2api/v2.9.9/deploy/install.sh | sudo bash -s -- install -v v2.9.9Manual download:
Download the appropriate archive for your platform from the assets below.
K3s gateway upgrade (on each existing single-node host):
curl -fsSL https://raw.githubusercontent.com/ranxi2001/sub2api/v2.9.9/deploy/upgrade-k3s.sh | sudo bash -s -- --version v2.9.9Defaults: namespace tosky-canary, Deployment tosky-nerd; override with --namespace NAME --deployment NAME.
Upgrade every instance sharing Redis to this release.