腾讯云产品
-
容器服务 基于云原生 API 网关监控指标的水平伸缩
云原生 API 网关 是腾讯云上基于 Kong 托管的网关产品,提供丰富的七层流量管理功能,也支持将请求转发到 TKE 集群上的服务。云原生网关提供了丰富的 Prometheus 监控指标,这篇将以指定服务的 QPS 指标为例,介绍如何在 TKE 上利用 KEDA 实现基于云原生 API 网关监控指标的水平伸缩。
-
容器服务 在 TKE 上部署 AI 大模型
如何在 TKE 上部署 AI 大模型,以 DeepSeek-R1 为例。使用 Ollama、vLLM 或 SGLang 等工具运行大模型并对外暴露 API,同时结合 OpenWebUI 提供交互界面。
-
容器服务 节点池概述
为了帮助你高效管理 Kubernetes 集群中的节点,腾讯云容器服务 TKE 引入了节点池的概念。节点池是一组具有相似属性的节点的逻辑集合,一个集群中可以创建多个不同配置和类型的节点池。节点池的配置包含节点的资源属性和 Kubernetes 属性,如计费模式、规格、可用区、标签、污点等。通过节点池的基本功能,可以以方便快捷地创建、管理和销毁节点,从而实现更灵活和高效的资源管理。
-
容器服务 节点资源预留算法(新)
TKE 需要占用节点的一部分资源来运行相关组件(例如:kubelet、kube-proxy、Runtime 等),因此节点的总资源与集群中可分配的资源之间会存在差异。这里说明 TKE 集群中 Kubernetes 版本在1.30及以上节点的新资源预留算法,帮助用户在部署应用时合理设置 Pod 的请求资源量和限制资源量。
-
容器服务 在 TKE 上部署满血版 DeepSeek-R1 (SGLang)
DeepSeek-R1 满血版模型参数是 671B(6710 亿参数),为了充分发挥其性能,推荐使用 SGLang 进行部署。SGLang 是性能强悍的 AI 大模型部署工具,与 DeepSeek 合作并专门针对 DeepSeek 进行了深度优化,也是 DeepSeek 推荐的部署工具。
-
云原生智能网关 云原生网关常见问题
这篇汇总云原生网关的常见问题,涵盖产品定义、购买计费、使用配置、性能规格、弹性伸缩及迁移实践。云原生网关基于Kong提供高性能高可用网关服务,支持南北向与东西向流量治理,并集成安全防护与可观测性。 购买与计费:支持按节点规格和数量购买,目前仅微服务场景支持新购。 使用配置:支持K8s、注册中心、CVM等多种服务来源及TCP、HTTP等协议,通过多可用区部署保障高可用。 迁移实践:提供自建Kong和Spring Clo。
-
容器服务 服务升级指南
如何将集群中的普通节点通过“服务升级”功能切换至原生节点,以便在不更换 CVM 机器资源的情况下享受成本优化服务。
-
容器服务 JVM 接入
在使用 Java 作为开发语言时,需要监控 JVM 的性能。Prometheus 监控服务通过采集应用暴露出来的 JVM 监控数据,并提供了开箱即用的 Grafana 监控大盘。
-
云原生智能网关 全局配置(操作指南)
全局配置用于集中维护 AI 网关所依赖的外部中间件连接信息。其核心工作原理是:你在此创建一条全局配置并填写连接地址、端口、凭证等信息,网关下的策略配置通过下拉选择的方式引用该配置,无需在每个模型 API 中重复填写;当连接信息需要变更时,只需修改全局配置一次,所有引用方同步生效。
-
容器服务 容器集群网络规划
在 TKE 中创建集群时,需要根据具体的业务情况进行集群、VPC、子网以及节点可用区的规划,这篇将介绍 VPC 环境下集群内各个地址的作用,以及如何进行集群网络规划。