云服务器特惠 99/年起
  1. 腾讯云优惠网首页
  2. 腾讯云产品

腾讯云大模型训推平台TI-ONE 大模型推理所需资源指南

• 腾讯云产品

这篇旨在介绍 TI-ONE 平台进行大模型推理时，可保障模型正常运行的配置资源，仅供你参考。

相关产品
腾讯云大模型训推平台TI-ONE 产品页，含版本规格、价格与购买入口。

内置大模型的推理资源指南

注意：1. 各机型库存及价格请前往 CVM 控制台 查看，可参考 CVM-实例创建指引。其中 PNV6/HCCPNV6 机型需联系你所对接的腾讯云销售进行开通和购买。

注意：2. 在部署 DeepSeek V3 或 R1 模型时，如仅需低并发体验，可使用单节点部署；如果你对推理性能以及上下文长度有较高要求，且算力资源充足，推荐使用至少2节点部署。

注意：3. 下表的推理资源配置略小于 CVM 实例配置，是因为 TI-ONE 平台管理 CVM 机器时将占用少量资源。例如：某 CVM 实例规格包含128核，添加至资源组后的可用资源为125.6核。

内置大模型 模型清单 推理资源推荐 
  机器来源：从 CVM 机器中选择（包年包月） 机器来源：从 TI-ONE 平台购买（按量计费）
Hunyuan-Large Hunyuan-Large-chat 部署方式：标准部署（开 nf4 量化）【推荐配置1】CVM 实例规格：PNV6.96XLARGE2304CVM 实例配置：384C2304GB 8卡推理资源配置：380C2214GB 8卡【推荐配置2】CVM 实例规格：HCCPNV4h.48XLARGE1024CVM 实例配置：192核1024GB 8卡A100推理资源配置： 189核980GB 8卡A100 –
Hunyuan-A13B Hunyuan-A13B-Instruct 部署方式：标准部署CVM 实例规格：PNV6.16XLARGE640CVM 实例配置：64C640GB 4卡推理资源配置：60C600GB 4卡 部署方式：标准部署算力规格：64C640GB GPU*4（PNV6.16XLARGE640）
DeepSeek 系列模型 DeepSeek-V3.1-Terminus 【最低配置】部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡【推荐配置】部署方式：多机分布式部署CVM 实例规格：HCCPNV6.96XLARGE2304CVM 实例配置：384C2304GB 8卡推理资源配置：380C2214GB 8卡 * 2个实例 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
 DeepSeek-V3.1 【最低配置】部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡【推荐配置】部署方式：多机分布式部署CVM 实例规格：HCCPNV6.96XLARGE2304CVM 实例配置：384C2304GB 8卡推理资源配置：380C2214GB 8卡 * 2个实例 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
 DeepSeek-R1-0528-AngelACC 部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
 DeepSeek-R1-0528-AngelACC-PD 【最低配置】部署方式：多机分布式部署CVM 实例规格：HCCPNV6.96XLARGE2304CVM 实例配置：384C2304GB 8卡推理资源配置：380C2214GB 8卡 * 2个实例说明：此模型采用 PD 分离部署，2个实例为1p1d配置，3个实例为2p1d配置，4个实例为2p2d配置，5个实例为3p2d配置，依次类推 –
 DeepSeek-R1-0528 部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡部署方式：多机分布式部署CVM 实例规格：HCCPNV6.96XLARGE2304CVM 实例配置：384C2304GB 8卡推理资源配置：380C2214GB 8卡 * 2个实例 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
 DeepSeek-R1-AngelACC 部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
 DeepSeek-R1-AngelACC-PD 【最低配置】部署方式：多机分布式部署CVM 实例规格：HCCPNV6.96XLARGE2304CVM 实例配置：384C2304GB 8卡推理资源配置：380C2214GB 8卡 * 2个实例说明：此模型采用 PD 分离部署，2个实例为1p1d配置，3个实例为2p1d配置，4个实例为2p2d配置，5个实例为3p2d配置，依次类推 –
 DeepSeek-R1 部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡部署方式：多机分布式部署CVM 实例规格：HCCPNV6.96XLARGE2304CVM 实例配置：384C2304GB 8卡部署方式：多机分布式部署节点数量：2个推理资源配置（每节点）：380C2214GB 8卡 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
 DeepSeek-V3-0324-AngelACC 部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
 DeepSeek-V3-0324-AngelACC-PD 【最低配置】部署方式：多机分布式部署CVM 实例规格：HCCPNV6.96XLARGE2304CVM 实例配置：384C2304GB 8卡推理资源配置：380C2214GB 8卡 * 2个实例说明：此模型采用 PD 分离部署，2个实例为1p1d配置，3个实例为2p1d配置，4个实例为2p2d配置，5个实例为3p2d配置，依次类推 –
 DeepSeek-V3-0324 部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡【推荐配置】部署方式：多机分布式部署CVM 实例规格：HCCPNV6.96XLARGE2304CVM 实例配置：384C2304GB 8卡推理资源配置：380C2214GB 8卡 * 2个实例 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
 DeepSeek-V3-AngelACC 部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
 DeepSeek-V3 部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡部署方式：多机分布式部署CVM 实例规格：HCCPNV6.96XLARGE2304CVM 实例配置：384C2304GB 8卡节点数量：2个推理资源配置（每节点）：380C2214GB 8卡 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
 DeepSeek-Prover-V2-7B 部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡【推荐配置】部署方式：多机分布式部署CVM 实例规格：HCCPNV6.96XLARGE2304CVM 实例配置：384C2304GB 8卡推理资源配置：380C2214GB 8卡 * 2个实例 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
 DeepSeek-Prover-V2-671B 部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡【推荐配置】部署方式：多机分布式部署CVM 实例规格：HCCPNV6.96XLARGE2304CVM 实例配置：384C2304GB 8卡推理资源配置：380C2214GB 8卡 * 2个实例 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
 DeepSeek-R1-Distill-Qwen-1.5B 部署方式：标准部署CVM 实例规格：GNV4.3XLARGE44CVM 实例配置：12C44GB 1卡A10推理资源配置：11C35GB 1卡A10 部署方式：标准部署算力规格：12C44GB 1卡A10
 DeepSeek-R1-Distill-Qwen-7B 部署方式：标准部署CVM 实例规格：GNV4.3XLARGE44CVM 实例配置：12C44GB 1卡A10推理资源配置：11C35GB 1卡A10 部署方式：标准部署算力规格：12C44GB 1卡A10
 DeepSeek-R1-Distill-Qwen-14B 【推荐配置1】部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡GPU推理资源配置：15C144GB 1卡GPU【推荐配置2】部署方式：标准部署CVM 实例规格：PNV5b.8XLARGE96CVM 实例配置：32C96GB 1卡PNV5b推理资源配置： 30C80GB 1卡PNV5b 【推荐配置1】部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）【推荐配置2】部署方式：标准部署算力规格：32C96GB 1卡PNV5b
 DeepSeek-R1-Distill-Qwen-32B-AngelACC 部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
 DeepSeek-R1-Distill-Qwen-32B 【推荐配置1】部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡【推荐配置2】部署方式：标准部署CVM 实例规格：PNV5b.16XLARGE192CVM 实例配置：64C192GB 2卡PNV5b推理资源配置：62C172GB 2卡PNV5b 【推荐配置1】部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）【推荐配置2】部署方式：标准部署算力规格：64C192GB 2卡PNV5b
gpt-oss gpt-oss-120b 部署方式：标准部署CVM 实例规格：PNV6.8XLARGE320CVM 实例配置：32C320GB 2卡推理资源配置：30C288GB 2卡 部署方式：标准部署算力规格：32C320GB GPU*2（PNV6.8XLARGE320）
 gpt-oss-20b 部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
Kimi-K2 Kimi-K2-Instruct 部署方式：多机分布式部署CVM 实例规格：HCCPNV6.96XLARGE2304CVM 实例配置：384C2304GB 8卡推理资源配置：380C2214GB 8卡 * 2个实例 –
 Kimi-K2-Instruct-0905 部署方式：多机分布式部署CVM 实例规格：HCCPNV6.96XLARGE2304CVM 实例配置：384C2304GB 8卡推理资源配置：380C2214GB 8卡 * 2个实例 –
Cosmos-Reason1 Cosmos-Reason1 部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
Qwen3 系列模型 Qwen3-0.6B 部署方式：标准部署CVM 实例规格：GNV4.3XLARGE44CVM 实例配置：12C44GB 1卡A10推理资源配置：11C35GB 1卡A10 部署方式：标准部署算力规格：12C44GB 1卡A10
 Qwen3-1.7B 部署方式：标准部署CVM 实例规格：GNV4.3XLARGE44CVM 实例配置：12C44GB 1卡A10推理资源配置：11C35GB 1卡A10 部署方式：标准部署算力规格：12C44GB 1卡A10
 Qwen3-4B 部署方式：标准部署CVM 实例规格：GNV4.3XLARGE44CVM 实例配置：12C44GB 1卡A10推理资源配置：11C35GB 1卡A10 部署方式：标准部署算力规格：12C44GB 1卡A10
 Qwen3-8B 部署方式：标准部署CVM 实例规格：PNV6 / HCCPNV6 系列推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
 Qwen3-14B 部署方式：标准部署CVM 实例规格：PNV6 / HCCPNV6 系列推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
 Qwen3-30B-A3B 部署方式：标准部署CVM 实例规格：PNV6 / HCCPNV6 系列推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
 Qwen3-32B 部署方式：标准部署CVM 实例规格：PNV6 / HCCPNV6 系列推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
 Qwen3-235B-A22B 部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
 Qwen3-235B-A22B-Instruct-2507 部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
 Qwen3-235B-A22B-Thinking-2507 部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
 Qwen3-0.6B-FP8 部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
 Qwen3-1.7B-FP8 部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
 Qwen3-4B-FP8 部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
 Qwen3-8B-FP8 部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
 Qwen3-14B-FP8 部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
 Qwen3-30B-A3B-FP8 部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
 Qwen3-32B-FP8 部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
 Qwen3-235B-A22B-FP8 部署方式：标准部署CVM 实例规格：PNV6.16XLARGE640CVM 实例配置：64C640GB 4卡推理资源配置：60C600GB 4卡 部署方式：标准部署算力规格：64C640GB GPU*4（PNV6.16XLARGE640）
 Qwen3-235B-A22B-Instruct-2507-FP8 部署方式：标准部署CVM 实例规格：PNV6.16XLARGE640CVM 实例配置：64C640GB 4卡推理资源配置：60C600GB 4卡 部署方式：标准部署算力规格：64C640GB GPU*4（PNV6.16XLARGE640）
 Qwen3-235B-A22B-Thinking-2507-FP8 部署方式：标准部署CVM 实例规格：PNV6.16XLARGE640CVM 实例配置：64C640GB 4卡推理资源配置：60C600GB 4卡 部署方式：标准部署算力规格：64C640GB GPU*4（PNV6.16XLARGE640）
Qwen3-Coder 系列模型 Qwen3-Coder-480B-A35B-Instruct 部署方式：多机分布式部署CVM 实例规格：HCCPNV6.96XLARGE2304CVM 实例配置：384C2304GB 8卡推理资源配置：380C2214GB 8卡 * 2个实例 –
 Qwen3-Coder-480B-A35B-Instruct-FP8 部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
QwQ 系列模型 qwq_32b 部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
Qwen 系列模型 qwen-14b-base CVM 实例规格：PNV5b.8XLARGE96CVM 实例配置：32C96GB 1卡PNV5b推理资源配置： 30C80GB 1卡PNV5b部署方式：标准部署 部署方式：标准部署算力规格：32C96GB 1卡PNV5b
 qwen-14b-chat CVM 实例规格：PNV5b.8XLARGE96CVM 实例配置：32C96GB 1卡PNV5b推理资源配置： 30C80GB 1卡PNV5b部署方式：标准部署 部署方式：标准部署算力规格：32C96GB 1卡PNV5b
Qwen3-VL系列模型 Qwen3-VL-235B-A22B-Instruct 部署方式：标准部署CVM 实例规格：PNV6.32XLARGE1280CVM 实例配置：128C1280GB 8卡推理资源配置：125C1207GB 8卡 部署方式：标准部署算力规格：128C1280GB GPU*8（PNV6.32XLARGE1280）
Qwen2.5-VL 系列模型 Qwen2.5-VL-32B-Instruct 部署方式：标准部署CVM 实例规格：PNV6.8XLARGE320CVM 实例配置：32C320GB 2卡推理资源配置：30C288GB 2卡 部署方式：标准部署算力规格：32C320GB GPU*2（PNV6.8XLARGE320）
 Qwen2.5-VL-72B-Instruct 部署方式：标准部署CVM 实例规格：PNV6.16XLARGE640CVM 实例配置：64C640GB 4卡推理资源配置：60C600GB 4卡 部署方式：标准部署算力规格：64C640GB GPU*4（PNV6.16XLARGE640）
 Qwen2.5-VL-72B-Instruct-AWQ 部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
Qwen3-Embedding 系列模型 Qwen3-Embedding-8B 部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
Baichuan2 系列模型 baichuan2-7b-base CVM 实例规格：PNV4.7XLARGE116CVM 实例配置：28C116GB 1卡A10部署方式：标准部署推理资源配置：24C96GB 1卡A10 部署方式：标准部署算力规格：28核116GB 1卡A10
 baichuan2-7b-chat CVM 实例规格：PNV4.7XLARGE116CVM 实例配置：28C116GB 1卡A10部署方式：标准部署推理资源配置：24C96GB 1卡A10 部署方式：标准部署算力规格：28核116GB 1卡A10
 baichuan2-13b-base CVM 实例规格：PNV5b.8XLARGE96CVM 实例配置：32C96GB 1卡PNV5b推理资源配置： 30C80GB 1卡PNV5b部署方式：标准部署 部署方式：标准部署算力规格：32C96GB 1卡PNV5b
 baichuan2-13b-chat CVM 实例规格：PNV5b.8XLARGE96CVM 实例配置：32C96GB 1卡PNV5b推理资源配置： 30C80GB 1卡PNV5b部署方式：标准部署 部署方式：标准部署算力规格：32C96GB 1卡PNV5b
Gemma 3系列模型 gemma-3-27b-it 部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
 gemma-3-12b-it 部署方式：标准部署CVM 实例规格：PNV6.4XLARGE160CVM 实例配置：16C160GB 1卡推理资源配置：15C144GB 1卡 部署方式：标准部署算力规格：16C160GB GPU*1（PNV6.4XLARGE160）
GLM-4.5V系列模型 GLM-4.5V 部署方式：标准部署CVM 实例规格：PNV6.16XLARGE640CVM 实例配置：64C640GB 4卡推理资源配置：60C600GB 4卡 部署方式：标准部署算力规格：64C640GB GPU*4（PNV6.16XLARGE640）

相关内容：

  1. 腾讯云大模型训推平台TI-ONE 快速部署和体验 DeepSeek 系列模型 这篇说说如何通过腾讯云TI-ONE平台部署DeepSeek系列模型（V3、R1及蒸馏版），涵盖模型列表、资源价格、部署步骤、API调用及大小模型效果对比，核心结论是TI-ONE已上架全系模型并支持一键部署。 模型部署：支持单节点（64K上下文）和多节点（128K上下文）部署V3/R1，蒸馏版（1.5B-70B）仅需单节点。 API调用：兼容OpenAI接口规范，可通过平台内置工具、命令行或第三方应用（如Cherry 。...
  2. 腾讯云大模型训推平台TI-ONE 大模型训练所需资源指南 这篇旨在介绍 TI-ONE 平台进行大模型训练时，可保障模型正常运行的配置资源，仅供你参考。...
  3. 腾讯云大模型训推平台TI-ONE 内置推理镜像列表 TI-ONE 平台在线服务模块为用户内置了数十种业界主流推理框架，按场景划分为四大类。...
  4. 腾讯云大模型训推平台TI-ONE 计费概述 节点机器决定了用于节点机器的主机硬件配置（包括 CPU、内存、GPU），每一个节点类型提供不同的计算能力，可以以基于需要选择节点的计算能力。TI-ONE 目前提供了丰富的节点规格，按量付费各规格及对应价格如下表。...
  5. 腾讯云大模型训推平台TI-ONE 内置训练镜像列表 TI-ONE 内置了主流的 TensorFlow、PyTorch、PySpark 等深度学习和机器学习框架，同时推出了自研训练加速框架 Angel，其中 tilearn-llm 是为大模型定制的训练加速组件，已内置在平台内置镜像中，同时支持开发机和任务式建模；此外 TI-ONE 也内置了自驾行业镜像和具身智能行业镜像，相关行业用户可以快速使用内置镜像构建所需模型。...
  6. 腾讯云大模型训推平台TI-ONE 大模型广场 大模型广场 是 TI-ONE 平台 的内置大模型库，预置多种预训练大模型及指令微调大模型，覆盖各类下游任务，如多轮对话、逻辑推理、内容创作等。...
  7. 腾讯云大模型训推平台TI-ONE 大模型推理参数指南 腾讯云大模型训推平台TI-ONE 的大模型推理参数指南。...
  8. 腾讯云大模型训推平台TI-ONE GPU 虚拟化 TI-ONE 平台提供 GPU 虚拟化功能，可将同一张 GPU 卡的算力分配给不同训练任务和推理服务使用，提升资源分配灵活性和使用效率。...
赞 (0)
上一篇 4天前
下一篇 4天前