腾讯云大模型训推平台TI-ONE 模型评测

为了实现算力资源的灵活调配,开发机提供了远程 Worker 节点动态拉起能力。可以以配置一台小规格的 CPU 开发机进行日常代码开发,当需要进行 GPU 调试时,通过命令行工具按需拉起 GPU Worker 节点。调试完成后可即时销毁该节点。整个过程无需新建开发机或切换开发环境。远程 Worker 节点将复用当前开发机的镜像和共享存储,并支持 SSH 免密登录。

相关产品
腾讯云大模型训推平台TI-ONE 产品页,含版本规格、价格与购买入口。

一、步骤1:创建开发机打开远程 Worker 节点

创建开发机时(参考 创建开发机),你需要在高级设置中启用远程 Worker 节点,启用后你可以通过命令行工具 TICLI 动态挂载/卸载 Worker 节点以提高开发效率。

二、步骤2:使用 TICLI 管理 Worker 节点

TICLI 是内置在开发机内的命令行工具,用于管理开发机 Worker 节点的生命周期,包括 launch、list / status、stop、remove 等操作。主要命令如下:

三、launch 启动 Worker

ticli worker launch –cpu <核> –gpu <卡> –gpu-type <型号> –mem <GiB> [–mount …]

举例:

ticli worker launch \\ –cpu 8 –gpu 1 –gpu-type V100 –mem 32 \\ –mount type=cfs,id=cfs-xxx,path=/,mapping=/home/tione/cfs

参数 必填 说明
–cpu ✅ CPU 核数
–mem ✅ 内存 GiB
–gpu ✅ GPU 卡数(0 表示纯 CPU)
–gpu-type 选择 GPU 时必填 V100 A100 A800 H800 T4 / P4
–mount 否 额外挂载,可多次指定。支持 cfs cfs_turbo goosefsx goosefs cos cosfs dataset

注意:当前版本 Worker 节点的资源组暂时无法指定,默认配置为开发机所在的资源组。

四、list / status 查询

ticli worker list # 当前开发机下所有 Workerticli worker status –id <worker-id>

五、stop / remove 停止与删除

ticli worker stop –id nw-001,nw-002 # 支持多 ID,逗号或重复 –idticli worker remove –id nw-001 # remove 前需先 stop

以上命令均为异步受理,真实状态请用 list / status 查询。

六、免密 SSH 登录

ssh -i ~/.ssh/ssh_worker_rsa_key -p 2222 root@<WORKER_IP>

七、保存 Worker 镜像

Worker 本质上是一个 GPU 容器。当你在 Worker 中完成类库安装、环境调试后,可通过 save-image 命令将当前容器环境打包成镜像并上传至镜像仓库,便于后续复用。

ticli worker save-image –worker-id <worker-id> –repo-type <tcr|ccr> –image-url <完整镜像地址> [–registry-id <实例ID>] [–registry-region <地域>] [–entrypoint <脚本路径>] [–workdir <工作目录>]

参数 必填 说明
–worker-id ✅ 待保存的 Worker 节点 ID,以 nw- 开头,可通过 ticli worker list 获取
–repo-type ✅ 镜像仓库类型,仅支持 tcr(腾讯云容器镜像服务企业版)或 ccr(个人版)
–image-url ✅ 完整镜像地址,格式为 host/namespace/repo:tag,必须包含域名与 tag
–registry-id TCR 必填 TCR 镜像仓库实例 ID,以 tcr- 开头;CCR 无需填写
–registry-region 否 镜像仓库所在地域(如 ap-shanghai),留空则使用当前地域
–entrypoint 否 镜像启动脚本路径
–workdir 否 镜像工作目录,需为绝对路径

保存到 TCR 镜像仓库示例

ticli worker save-image \\ –worker-id nw-xxxxxxxxxxxx \\ –repo-type tcr \\ –image-url example-ns.tencentcloudcr.com/my-ns/my-image:v20260101120000 \\ –registry-id tcr-xxxxxx \\ –registry-region ap-shanghai

保存到 CCR 镜像仓库示例

ticli worker save-image \\ –worker-id nw-xxxxxxxxxxxx \\ –repo-type ccr \\ –image-url ccr.ccs.tencentyun.com/my-ns/my-image:v20260101120000 \\ –registry-region ap-shanghai

注意:说明:

注意:该命令为异步受理,受理成功返回 success。镜像保存为后台任务,请稍后在镜像仓库中查看上传结果。同一 Worker 在上一个镜像保存任务完成前,无法重复提交。

八、Worker 节点闲置回收

开发机内拉起的 Worker 节点亦受到开发机整体闲置回收策略管控,具体的逻辑如下:

·若主开发机因触发闲置回收而停止,则 Worker 节点也会自动被回收

·若主开发机没有触发闲置回收,但是 Worker 节点触发了闲置回收的条件,则 Worker 节点单独被回收

·若主开发机被列为排除策略对象,Worker 节点不受影响,还是会被单独回收

注意:说明:

注意:该功能当前处于 Beta 公测阶段,我们正在持续优化稳定性和性能表现,欢迎你试用并反馈问题。

赞 (0)
上一篇 4天前
下一篇 4天前