模型路由 配置模型系数

这篇说说在腾讯云模型路由控制台配置积分管理模型系数的方法,支持按模型或按BYOK设置系数,并涵盖阶梯分档、时段策略配置及用量详情查看,修改后立即生效且删除模型时系数一并删除。 配置模型系数:支持阶梯分档和时段策略,分别适用于文本、图片、视频生成及峰谷计费。 配置BYOK系数:展开模型列表后,可针对不同BYOK单独设置更细粒度系数。 查看用量详情:通过图标查看模型相关用量指标,便于监控消耗。

相关产品
模型路由 产品页,含版本规格、价格与购买入口。

这篇档介绍在腾讯云模型路由控制台中配置积分管理模型系数的操作方法。

一、简介

在实际使用场景中,同一个模型可能来自不同的 BYOK。产品支持按照模型(不考虑 BYOK 来源)设置模型系数,同时也支持按照不同的 BYOK 对模型设置更细粒度的系数。

二、前提条件

1. 建议提前阅读 使用约束 与 支持模型 了解相关信息。

2. 已创建模型路由实例,详细操作指导请参见 创建模型路由实例。

3. 已创建 BYOK 实例,详细操作指导请参见 创建 BYOK 实例。

三、步骤1 :配置模型系数

1. 登录 模型路由 控制台,在左侧导航栏选择积分管理。

2. 在模型系数页面,找到目标模型,在操作列单击编辑模型系数。

3. 在编辑模型系数弹窗,可选择是否开启阶梯分档或时段策略。配置对应系数,并单击确定完成配置。

4. 文本生成、图片生成和视频生成支持阶梯分档,开启后可按照对应档位配置系数。

5. 文本生成支持时段策略,可配置后匹配上游模型的峰谷计费策略。

6. 也可在目标模型的系数列,通过单击编辑图标,单独配置。(可选)

四、步骤2 :配置 BYOK 系数

1. 单击模型名称左侧的图标展开 BYOK 列表。

2. 在目标 BYOK 行的操作列,单击编辑 BYOK 系数,配置系数,并单击确定完成配置。

3. 也可在目标 BYOK 行的系数列,通过单击编辑图标,单独配置系数。(可选)

五、步骤3:查看用量详情

单击目标模型用量详情列的图标,可查看模型的相关用量指标。

六、注意事项

·模型系数修改后,立即生效。请根据实际业务需求合理配置系数。

·模型系数的修改可能影响积分的消耗速度,建议提前评估影响。

·当模型删除时,与模型有关的模型系数将会一并删除。

赞 (0)
上一篇 4天前
下一篇 4天前