模型路由 配置积分预算

这篇档介绍在腾讯云模型路由控制台中配置积分预算的操作方法。通过配置积分预算,控制模型调用的消费额度,并将积分预算关联到指定实例或 API Key,实现精细化的成本管控。

相关产品
模型路由 产品页,含版本规格、价格与购买入口。

一、简介

模型路由积分预算支持配置最大积分额度和重置周期。可关联实例、用户组或 API Key 进行预算限制。

二、前提条件

1. 建议提前阅读 使用约束 与 支持模型 了解相关信息。

2. 已创建模型路由实例,详细操作指导请参见 创建模型路由实例。

3. 已创建模型路由访问密钥(API Key),详细操作指导请参见 创建模型路由访问密钥。

4. 已创建用户组,详细操作指导请参见 用户组介绍。

三、步骤1:新建积分预算

1. 登录 模型路由 控制台,在左侧导航栏选择积分管理。

2. 在积分预算页面,单击新建积分预算。

3. 在新建积分预算弹窗,按需选择或者填写相关参数,并单击下一步关联对象。

参数 说明
积分预算名称 自定义预算名称,用于标识不同预算用途。最多支持 255 个字符。
预算配置 包含最大积分额度和重置周期。最大积分额度:预算周期内允许消耗的最大积分数,关联对象消耗达到此额度时将被自动拦截。单位可选个、千、万、百万、亿。积分消耗 = 输入 Token(每百万) × 输入系数 + 输出 Token(每百万) × 输出系数。实际消耗取决于每次调用的 Token 数量和使用的模型(主要取决于模型配置的系数)。重置周期:积分额度自动重置的时间间隔,可选每日、每周、每月。
限速配置 可针对 TPM 和 RPM 进行配置。TPM:Token per minute,每分钟允许处理的最大 Token 数,单位:千/分钟。取值范围 :1-100000。RPM:Requests per minute,每分钟允许处理的最大请求次数,单位:次/分钟。取值范围 :1-10000。

4. 可选择关联实例、用户组或者 API Key,也可以暂时不选择关联对象,直接单击完成配置。

四、步骤2:编辑积分预算

1. 在积分预算页签的列表中,找到目标预算条目。

2. 在操作列单击编辑。

3. 按需修改积分预算名称、积分预算配置或限速配置等参数。

4. 单击确定保存修改。

五、步骤3:关联对象

1. 在积分预算页签的列表中,找到目标预算条目。

2. 在操作列单击关联对象。

3. 选择需要关联的实例、用户组或 API Key,单击确定。

注意:说明:

六、步骤1:解关联对象

1. 在积分预算页签的列表中,找到目标预算条目。

2. 在关联对象列单击关联对象的数量。

3. 在弹窗中勾选后单击批量解关联或者在指定目标的操作列,单击解关联。

4. 确认解关联对象信息,并单击确认,完成解除关联对象操作。

七、步骤2:删除积分预算

1. 在积分预算页签的列表中,勾选目标预算条目。

2. 单击列表上方的删除,或在操作列单击删除。

3. 在确认弹窗中单击确定。

注意:说明:

注意:无法删除已有关联对象的积分预算,请先解除绑定对象,再执行删除操作。

赞 (0)
上一篇 4天前
下一篇 4天前