一、操作场景
·成本控制：当高成本模型服务的 Token 配额即将用尽时，自动降级到低成本备用服务，避免超预算。
·配额共享：多消费者共享同一配额池时，配额耗尽后自动降级而非直接报错。
·分级服务：VIP 消费者使用高配额的服务，普通消费者配额不足时降级到基础服务。
·预算管理：按月度/季度预算控制模型调用量，防止超支。
注意：说明：
注意：配额感知降级是全局跨服务 Fallback 的增强特性，需在模型 API 的 Fallback 配置中开启。
二、前置条件
1. 已创建 AI 网关实例且处于运行中状态；
2. 已配置消费者，并已为其分配配额（如 Token 限额或请求限额）；
3. 已创建至少两个模型服务（主服务和备用服务）；
4. 已开启全局跨服务 Fallback 并配置备用服务链。
三、步骤 1：进入模型 API 配置页
1. 登录 微服务平台控制台 ，在左侧导航栏单击 AI 网关 > 实例列表；
2. 在实例列表页面，单击需要配置的网关实例的“ID”，进入该网关实例的基本信息页面；
3. 在左侧导航栏单击 模型管理，然后单击模型 API 页签；
4. 单击新建或编辑已有 API；
5. 完成基本信息配置后，进入 第二步：选择模型服务。
四、步骤 2：开启全局跨服务 Fallback
1. 在 全局跨服务 Fallback 区域，开启 全局跨服务 Fallback 开关
2. 配置备用服务链
五、步骤 3：配置配额不足触发条件
当 配额不足 触发条件启用后，需要配置具体的配额阈值：
配置参数说明：
| 参数 | 是否必填 | 说明 |
| 配额阈值 | 是 | 剩余配额低于此百分比时触发降级，默认 10%，建议10%-20% |
| 检查维度 | 是 | 支持两种：推荐策略：RPM 或 TPM 任一不足即触发严格策略：RPM 和 TPM 同时不足才触发 |
配额阈值建议值：
| 阈值 | 说明 | 适用场景 |
| 5% | 激进的降级触发时机，尽可能用完配额 | 成本敏感场景，希望最大化利用已购配额 |
| 10% | 推荐的降级触发时机 | 大多数场景的推荐值 |
| 20% | 保守的降级触发时机，提前准备 | 高可用优先场景，需要预留缓冲 |
| 50% | 非常保守的降级触发时机 | 关键业务，配额充足时即开始降级 |
六、步骤 4：保存配置
单击确定 保存模型 API 配置，配额感知降级规则立即生效。
七、查看 Fallback 记录
在模型 API 详情页的 Fallback 记录 Tab 中，可以查看所有 Fallback 事件，包括配额感知降级触发的记录。
八、注意事项
1. 配额预配置：配额感知降级依赖消费者或 API 的配额配置。如果未配置配额，配额感知降级不会触发。
2. 阈值设定：建议将配额阈值设置为 5%-20%，过低可能导致大量请求因配额用尽而失败，过高则可能太早切换到备用服务。
3. 降级与限流的区别：
·限流：超出配额直接拒绝请求（返回 429）。
·配额感知降级：配额即将用尽时，将请求迁移到备用服务（返回正常响应）。
4. 双重降级组合：配额感知降级可以与服务不可用、连接超时等触发条件组合使用，实现更完整的降级策略。
5. 成本控制：配额感知降级特别适合成本敏感场景，可在高成本服务配额用尽时自动切换到低成本服务，避免超预算。