yun

  • 腾讯云大模型训推平台TI-ONE 基于内置 Angel-vLLM 镜像进行推理加速

    这篇以 qwen2-7b-instruct 为例,展示如何使用 TI-ONE 平台部署并推理加速自定义大模型,最后通过测试脚本给出加速量化性能测试使用方法;你也可以基于这篇相关脚本,测试通过 TI-ONE 平台内置推理镜像 Angel-vLLM 推理加速的效果。

    腾讯云产品 2026年11月9日
  • 腾讯云大模型训推平台TI-ONE 任务事件告警配置指引

    训练任务过程中产生的重要事件信息已经接入了腾讯云可观测平台事件总线,用户可以在事件总线配置事件规则进行相关事件的告警推送。目前已经支持的事件为任务进入排队(taskScheduling)、任务进入运行(taskRunning)、排队运行完成(taskCompleted)、任务执行失败(taskExecuteFailed)、任务自动重启(taskRestarted)、任务被抢占(taskPreempted)、任务已停止。

    腾讯云产品 2026年11月9日
  • 腾讯云大模型训推平台TI-ONE 快速部署和体验 DeepSeek 系列模型

    这篇说说如何通过腾讯云TI-ONE平台部署DeepSeek系列模型(V3、R1及蒸馏版),涵盖模型列表、资源价格、部署步骤、API调用及大小模型效果对比,核心结论是TI-ONE已上架全系模型并支持一键部署。 模型部署:支持单节点(64K上下文)和多节点(128K上下文)部署V3/R1,蒸馏版(1.5B-70B)仅需单节点。 API调用:兼容OpenAI接口规范,可通过平台内置工具、命令行或第三方应用(如Cherry 。

    腾讯云产品 2026年11月9日
  • 腾讯云大模型训推平台TI-ONE 使用 DeepSeek-R1 蒸馏其他模型的全流程实践

    DeepSeek-R1提供了卓越的推理能力,但是其超大的模型尺寸(671B)会消耗较大的模型推理资源。为此我们可以通过模型蒸馏的方式将 DeepSeek-R1 的推理能力迁移到开源小尺寸模型(例如Llama-3.2-3B)上,从而在保证效果的同时降低推理消耗成本。

    腾讯云产品 2026年11月9日
  • 腾讯云大模型训推平台TI-ONE 精调满血版 DeepSeek-R1 全流程实践

    TI-ONE 平台已内置了全系列 DeepSeek 模型,包含满血版 V3 和 R1 模型,以及基于 DeepSeek-R1 蒸馏后的六个小模型。可以以在平台 任务式建模 模块单击新建任务,在训练镜像中选择内置大模型,即可一键发起全系列 DeepSeek 模型精调。

    腾讯云产品 2026年11月9日
  • 大模型服务平台 TokenHub CC Switch

    CC Switch 是 Claude Code、Claude Desktop、Codex、Gemini CLI、Grok Build、OpenCode、OpenClaw 和 Hermes Agent 的全方位桌面管理工具,提供可视化界面来统一管理多个 AI 编程工具的供应商配置、API 密钥、MCP 服务器和 Skills,支持一键切换供应商。这里说明如何在 CC Switch 中配置与使用腾讯云大模型 Token 。

    腾讯云产品 2026年11月9日
  • 大模型服务平台 TokenHub DeepSeek Harness(接入 AI 工具)

    DeepSeek Harness 是 DeepSeek AI 开发的一套用来构建、运行和扩展智能体的应用框架,采用“一切皆插件”的架构。这篇以 Hy3 模型为例演示如何将模型接入到 DeepSeek Harness 中使用。

    腾讯云产品 2026年11月9日
  • 大模型服务平台 TokenHub TokenHub CLI 使用指南

    TokenHub CLI(命令行工具,命令名 thcli / th)是大模型服务平台 TokenHub 面向终端开发者与 AI Agent 提供的命令行接入方式。

    腾讯云产品 2026年11月9日
  • 大模型服务平台 TokenHub 安全治理

    企业使用大模型时,通常需要解决几类安全问题:调用凭证是否受控、输入输出是否存在风险、敏感数据如何保护,以及调用流量是否经过公网。TokenHub 从基础安全、内容安全、数据安全和网络安全四个维度提供能力,帮助企业建立访问有边界、内容有防护、推理数据受保护、网络路径可管理的模型使用环境。

    腾讯云产品 2026年11月9日
  • CodeBuddy 产品简介

    CodeBuddy 同时支持插件、IDE 和 CLI 三种编程形态,覆盖从专业开发者到零基础用户的全场景需求。

    腾讯云产品 2026年11月9日