云原生智能网关 服务标签筛选

基于标签路由通过为模型服务绑定标签(Key-Value 键值对),在模型 API 中按标签条件动态筛选可用的模型服务,实现灵活的服务选择。适用于以下场景。

相关产品
云原生智能网关 产品页,含版本规格、价格与购买入口。

一、操作场景

·按需筛选:从大批量模型中根据标签条件自动筛选符合条件的服务,无需手动逐个选择

·多云混合管理:为不同云服务商、不同地域的模型服务打上标签,按业务需求灵活组合

·灰度发布与版本管理:通过 version、env 等标签筛选特定版本或环境的服务

二、前置条件

1. 已创建 AI 网关实例且处于运行中状态

2. 已创建多个模型服务

3. 已在模型服务上配置了标签(Key-Value 对)

三、步骤一:为模型服务配置标签

标签需要在创建或编辑模型服务时配置,标签是后续路由筛选的基础。

四、创建或编辑模型服务时配置标签

1. 登录 微服务平台控制台,在左侧导航栏单击 AI 网关 > 实例列表;

2. 在实例列表页面,单击需要配置的网关实例的“ID”,进入该网关实例的基本信息页面;

3. 在左侧导航栏单击模型管理,然后单击模型服务页签;

4. 单击新建或编辑已有服务;

5. 在基本信息 > 高级配置的服务标签区域,配置标签键值对。

标签配置说明:

参数 说明 示例
标签键 分类标识,建议使用有业务含义的键名 region、provider、env、tier、team
标签值 对应键的值 singapore、openai、production、vip

6. 内置常用标签模板,可单击标签快速添加

五、步骤二:在模型 API 中配置标签筛选

完成模型服务的标签配置后,在创建或编辑模型 API 时通过标签条件筛选服务。

六、1. 进入模型 API 配置页

1.1 选择左侧导航栏 模型管理 > 模型 API

1.2 单击 新建模型 API 或编辑已有 API

1.3 完成基本信息配置后,进入 第二步:选择模型服务

七、2. 配置标签筛选条件

在 标签筛选 区域,配置筛选条件和匹配模式:

配置参数说明:

参数 是否必填 说明 示例
匹配模式 是 标签条件的组合逻辑 AND 或 OR
标签键 是 模型服务标签的键名 region
标签值 是 期望匹配的标签值 singapore
已匹配服务 自动 根据条件自动筛选出的服务列表 OpenAI-Singapore-Prod 等

八、3. 配置路由后续策略

标签筛选完成后,选中已匹配的服务,然后可选择后续的路由策略(如模型名称路由、权重路由等)对这些服务进行更细粒度的流量分配。

九、4. 保存配置

单击 确定 保存模型 API 配置,标签路由规则立即生效。

赞 (0)
上一篇 4天前
下一篇 4天前