一、适用场景
·资源隔离:需要专属推理资源、不与其他用户共享资源的业务。
·稳定专属资源:需要长期稳定的专属资源,并希望由平台托管运维的生产业务。
二、计费说明
模型单元采用预付费模式,按月购买。价格请参见 模型单元价格。
三、如何使用
注意:模型单元需联系你的商务经理开通后方可使用。
1. 登录 TokenHub 控制台,在左侧导航选择推理服务 > 在线推理。
2. 单击创建自定义推理服务。
3. 在模型列表中选择需要使用的模型。
4. 在计费方式中选择按模型单元计费。
5. 按需配置资源规格、模型单元数量与购买时长。
6. 确认费用预估并同意相关服务协议后提交订单,完成创建。
四、注意事项
·暂不支持变配。
·暂不支持自助退费。如需申请退费,请 提交工单,退费规则请参见 预付费云资源退款规则说明,按订单剩余价值退款,具体退费金额以工单审核结果和订单约定为准。
更多权益边界(是否独享资源、是否承诺固定吞吐、适用模型/地域、超额或超出保障额度后的处理、是否支持变配/续费/退费等)请参见 推理模式介绍。
五、相关文档
·推理模式介绍
·TPM 预留
·计费方式