一、操作场景
使用模型访问组可实现:
·一处维护、多处复用:同一个模型访问组可被多个消费者(组)、消费者密钥引用,无需为每个主体重复勾选指定可用模型。
·变更实时同步:修改模型访问组后,所有引用该模型访问组的主体的可用模型范围实时同步生效,无需逐一调整。
注意:说明:
注意:关于如何将模型访问组引用到消费者(组)、消费者密钥的授权中,请参见 配置可用模型。
二、前提条件
·已开通并使用 AI 网关。
·已创建模型服务(模型访问组中的模型均来自已创建的模型服务)。
三、步骤1:查看模型访问组列表
1. 登录 腾讯云控制台,左侧导航栏选择 AI 网关 > 实例管理,进入实例列表。
2. 在实例列表页面,单击需要配置的网关实例的“ID”,进入该网关实例的基本信息页面。
3. 单击左侧导航栏模型管理,切换到模型访问组页签。
4. 列表页展示已创建的模型访问组具体信息。支持通过模型名称或访问组名称搜索。
四、步骤2:新建模型访问组
1. 在模型访问组列表页,单击新建。
2. 在新建模型访问组弹窗中填写以下信息:
·名称:模型访问组名称(必填)。
·描述:模型访问组说明(选填)。
·选择模型:选择该访问组包含的模型(必填)。支持多选,支持按模型名称搜索。
注意:1. 若单个 MAG 中的模型属于不同模型 API,请在后续引用 MAG 时,先确认该组内的模型所属模型 API 均已授权给目标对象,否则即使 MAG 中有该模型,实际上仍然不可用。
注意:2. 若 MAG 中的模型后续在模型服务下线,相关模型将自动从 MAG 移除。
3. 单击提交,完成新建。
五、步骤3:编辑模型访问组
1. 在模型访问组列表页,找到目标模型访问组,单击编辑。
2. 支持修改名称、描述或可用模型。
3. 单击提交,所有引用该模型访问组的主体的可用模型范围随之同步更新。
六、步骤4:删除模型访问组
1. 在模型访问组列表页,找到目标模型访问组,单击删除。
2. 在弹出的确认对话框中,单击确定,完成删除。
注意:若该模型访问组正在被引用,则不允许删除,你需先在相关消费者(组)、消费者密钥中解除对该模型访问组的引用,再执行删除。