腾讯云产品

用户组用于对模型路由访问密钥（API Key）进行分组管理。可以以按照团队、业务线、项目或环境创建用户组，并统一配置组内 API Key 可访问的模型、意图路由规则和资源限制。

本章节介绍终端连接接受设置的管理操作。终端节点服务在创建时可选择是、否自动接受终端节点发起的连接请求，如需更改设置，可执行该操作。

全球加速支持通过设置访问控制策略，对加速实例进行外网访问权限控制，提高网络访问的安全性。可通过来源 IP、协议、端口对流量进行访问限制。

NCCL 插件是一款针对腾讯云智能高性能网络 IHN 产品中一个加速通信能力。主要功能是依托 IHN 网络架构，为 AI 大模型训练提供更高效的网络通信性能，同时具备网络故障快速感知与自愈的智能运维能力。

可以以针对以下资源类型，在 CAM 中对 ALB 的相关接口进行授权。同一接口可能涉及多个资源，下面按资源类型分组列出，并给出该资源对应的六段式格式。

你收到 Edge 设备并安装完成后，还需要将设备的 SN 与 Edge 实例绑定，形成设备与实例的对应的关系。

当 GWLB 后端服务解绑或者后端服务健康探测异常时，新的流量会转发到其他正常的后端服务器。存量的流量会继续转发至已解绑或者异常的后端服务上，这样可能会导致数据包丢失。此时，可以打开重新调度配置。开启后，当解绑后端服务或后端服务健康探测异常时，到达指定时间后可主动断开存量连接，从而将存量连接重新调度到其他正常的后端服务器。若不开启，相同五元组的存量连接将不会主动中断，直到长连接超时。

如何在模型路由实例中创建用户组，并配置用户组限制、关联 API Key 及模型访问范围。

终端节点服务在创建时需要关联部署了业务的后端实例，如需更改关联的后端实例，可执行该操作。

针对中国大陆用户在访问 Gemini、Claude 等海外模型时，常因公网链路长、网络抖动导致的连接中断及 Token 无效消耗等痛点，腾讯云推出”一键开启 Agent 加速器”功能。通过构建专属加速网络，我们致力于消除延迟焦虑，保障 AI Token 生成过程丝滑顺畅，打造更好的推理体验。