yun
-
云原生智能网关 为消费者组指定可访问模型
AI 网关支持对消费者、消费者组、消费者密钥三类主体授权模型 API。在此基础上,模型调用权限管控功能可将授权粒度从 API 级进一步细化到模型级:可以以在为消费者(组)、消费者密钥授权某个模型 API 的同时,指定该主体在此 API 下可调用的模型范围。
-
容器服务 节点多可用区调整
这篇说说在腾讯云控制台为etcd集群调整节点多可用区的操作,包括查看可用区分布、添加子网及根据节点数和可用区数选择扩容或缩容方法,节点缩容可能触发选主需在低峰期操作。 – 查看分布:在节点管理页面查看当前节点可用区分布。 – 添加子网:在基本信息页添加不同可用区子网,高可用部署需至少三个可用区。 – 调整方法:根据集群节点数(1/3/5)和可用区数,通过新增子网、扩容或缩容实现多可用区。
-
容器服务 删除集群(云原生 etcd)
云原生 etcd 集群禁止级联删除:在删除集群之前,请确保已移除集群中的所有存储数据。集群删除是不可逆操作,请谨慎操作!
-
容器服务 快照失败
如果你已经开启了快照策略,但快照备份文件没有按照预期生成,可能是由于你修改了 etcd 密码引起的。可以以通过 提交工单 的方式咨询并解决快照失败问题。
-
容器服务 数据量异常
在你的 etcd 集群中,出现了数据量异常的情况。可能是 Key 的数量或 Lease 的数量与预期不符,导致运营风险增加。
-
云原生智能网关 前缀缓存路由
前缀缓存路由根据请求 Prompt 的前缀相似度,将具有相同或相似前缀的推理请求稳定路由到同一推理实例,使该实例上已生成的 KV Cache 能被持续命中,从而跳过 prefill 阶段、降低首 Token 延时(TTFT)。
-
云原生智能网关 MCP 包体采集
MCP 网关默认记录访问日志,但不包含工具调用的请求与响应内容。当需要对工具调用做审计留痕、故障定位或效果回放时,可开启包体(Body)采集,将 MCP 调用的请求入参与响应结果写入日志。
-
容器服务 预留券定价
这篇列出了腾讯云容器服务中CPU通用、AMD及多种GPU(V100/T4/A10)预留券在不同地域的定价,其中CPU通用预留券在主流地域为每核49元/月、内存22元/GiB/月,AMD预留券更优惠,GPU预留券按卡计费。 CPU通用预留券:上海/北京等主流地域CPU 49元/核/月,内存22元/GiB/月。 AMD预留券:上海/北京CPU 36元/核/月,内存17元/GiB/月,价格更低。 GPU预留券:V100每卡。
-
容器服务 MCP Server 应用
这篇档介绍如何在 TKE 上部署基于 Streamable HTTP 传输的 MCP Server。
-
容器服务 TKE 集群混部 Spark 任务实践
Spark on Kubernetes 结合了 Spark 强大的数据处理能力与 Kubernetes 卓越的容器编排能力,实现了资源的统一调度和弹性扩展。这不仅显著提升了集群的利用率,还简化了运维管理,为企业提供高效、低成本的大数据云原生解决方案。