云原生智能网关 模型访问组

模型访问组(MAG,Model Access Group)是预设的可访问模型集合。可以以为不同场景预先创建多个模型访问组,在为消费者(组)、消费者密钥授权模型 API 时直接引用,从而复用同一套模型范围配置。

相关产品
云原生智能网关 产品页,含版本规格、价格与购买入口。

一、操作场景

使用模型访问组可实现:

·一处维护、多处复用:同一个模型访问组可被多个消费者(组)、消费者密钥引用,无需为每个主体重复勾选指定可用模型。

·变更实时同步:修改模型访问组后,所有引用该模型访问组的主体的可用模型范围实时同步生效,无需逐一调整。

注意:说明:

注意:关于如何将模型访问组引用到消费者(组)、消费者密钥的授权中,请参见 配置可用模型。

二、前提条件

·已开通并使用 AI 网关。

·已创建模型服务(模型访问组中的模型均来自已创建的模型服务)。

三、步骤1:查看模型访问组列表

1. 登录 腾讯云控制台,左侧导航栏选择 AI 网关 > 实例管理,进入实例列表。

2. 在实例列表页面,单击需要配置的网关实例的“ID”,进入该网关实例的基本信息页面。

3. 单击左侧导航栏模型管理,切换到模型访问组页签。

4. 列表页展示已创建的模型访问组具体信息。支持通过模型名称或访问组名称搜索。

四、步骤2:新建模型访问组

1. 在模型访问组列表页,单击新建。

2. 在新建模型访问组弹窗中填写以下信息:

·名称:模型访问组名称(必填)。

·描述:模型访问组说明(选填)。

·选择模型:选择该访问组包含的模型(必填)。支持多选,支持按模型名称搜索。

注意:1. 若单个 MAG 中的模型属于不同模型 API,请在后续引用 MAG 时,先确认该组内的模型所属模型 API 均已授权给目标对象,否则即使 MAG 中有该模型,实际上仍然不可用。

注意:2. 若 MAG 中的模型后续在模型服务下线,相关模型将自动从 MAG 移除。

3. 单击提交,完成新建。

五、步骤3:编辑模型访问组

1. 在模型访问组列表页,找到目标模型访问组,单击编辑。

2. 支持修改名称、描述或可用模型。

3. 单击提交,所有引用该模型访问组的主体的可用模型范围随之同步更新。

六、步骤4:删除模型访问组

1. 在模型访问组列表页,找到目标模型访问组,单击删除。

2. 在弹出的确认对话框中,单击确定,完成删除。

注意:若该模型访问组正在被引用,则不允许删除,你需先在相关消费者(组)、消费者密钥中解除对该模型访问组的引用,再执行删除。

赞 (0)
上一篇 4天前
下一篇 4天前