yun
-
云原生智能网关 流量镜像
流量镜像允许你在不影响线上用户的前提下,将模型 API 的部分生产请求异步复制到镜像模型服务,后台采集镜像模型的性能元数据(TTFT、TPOT、Token 数量、预估成本等),并与主模型进行并排对比。适用于以下场景。
-
云原生智能网关 多模态模型
AI 网关在原有文本生成、向量化能力基础上,扩展支持文生图(Text-to-Image)与文生视频(Text-to-Video)两大场景。通过该功能,可以以。
-
云原生智能网关 路由规则
默认情况下,一个 MCP 服务对外只有一个固定访问入口,所有请求统一转发到同一后端,无法按请求来源做差异化分发。通过 MCP 服务路由,你可以在同一个 MCP 服务下配置多条路由规则,基于 Path、HTTP 方法和 Header(含 Host)条件匹配入站请求,实现多租户隔离、多环境并行、灰度分流等场景。
-
容器服务 预留券定价
这篇列出了腾讯云容器服务中CPU通用、AMD及多种GPU(V100/T4/A10)预留券在不同地域的定价,其中CPU通用预留券在主流地域为每核49元/月、内存22元/GiB/月,AMD预留券更优惠,GPU预留券按卡计费。 CPU通用预留券:上海/北京等主流地域CPU 49元/核/月,内存22元/GiB/月。 AMD预留券:上海/北京CPU 36元/核/月,内存17元/GiB/月,价格更低。 GPU预留券:V100每卡。
-
容器服务 TKE 集群混部 Spark 任务实践
Spark on Kubernetes 结合了 Spark 强大的数据处理能力与 Kubernetes 卓越的容器编排能力,实现了资源的统一调度和弹性扩展。这不仅显著提升了集群的利用率,还简化了运维管理,为企业提供高效、低成本的大数据云原生解决方案。
-
容器服务 节点多可用区调整
这篇说说在腾讯云控制台为etcd集群调整节点多可用区的操作,包括查看可用区分布、添加子网及根据节点数和可用区数选择扩容或缩容方法,节点缩容可能触发选主需在低峰期操作。 – 查看分布:在节点管理页面查看当前节点可用区分布。 – 添加子网:在基本信息页添加不同可用区子网,高可用部署需至少三个可用区。 – 调整方法:根据集群节点数(1/3/5)和可用区数,通过新增子网、扩容或缩容实现多可用区。
-
容器服务 MCP Server 应用
这篇档介绍如何在 TKE 上部署基于 Streamable HTTP 传输的 MCP Server。
-
云原生智能网关 请求优先级调度
当模型 API 触发并发数限流并开启请求排队时,默认所有请求按到达顺序(FIFO)排队等待,高价值业务请求与普通请求的等待时间无差异。请求优先级调度用于解决上述问题:开启后,当触发并发数排队时,网关按 Consumer(消费者)优先级决定出队顺序,高优请求优先处理。该能力适用于对客实时交互业务与批处理任务并存、需要对 VIP 用户做差异化保障的场景。
-
云原生智能网关 模型广场
模型广场是 AI 网关提供的大模型统一聚合视图,集中展示所有已发布到模型广场的模型服务。通过模型广场,可以以浏览、搜索、筛选模型,查看每个模型的能力、版本、价格、来源等完整信息,快速定位并选用合适的模型。
-
云原生智能网关 日志投递至 CLS
如需要日志持久化存储,用于排障、审计等场景,建议开启 CLS 日志服务,将网关日志投递到 CLS。开启前请先确认你已开通 CLS 日志服务。日志服务由 CLS 日志服务 提供,会产生费用,具体计费项查看 费用详情。