这篇说说如何查看可观测。接入可观测后支持链路追踪、会话分析与监控告警等。
一、简介
使用 Agent 可观测将依托 CLS 日志服务,提供故障排查、安全审计、用量分析与监控告警等多项服务。
注意:CLS 日志服务为腾讯云独立计费产品,使用后 CLS 侧将按照资费标准收费,计费标准请参见 CLS 计费概述。
模型路由接入 Agent 可观测 后,你将获得以下能力:
·故障排查:通过检索链路,快速定位请求失败、超时等问题。
·安全审计:记录所有模型调用请求,满足审计和合规要求。
·用量分析:统计模型调用量、Token 消耗、响应延迟等指标,辅助容量规划和成本优化。
·监控告警:基于 CLS 的告警能力,对异常访问模式、错误率上升等指标设置告警规则。
二、前提条件
1. 已开通 日志服务 CLS。
2. 已创建模型路由实例,详细操作指导请参见 创建模型路由实例。
三、步骤1:开启可观测投递
1. 登录 模型路由 控制台,在实例管理页面,单击目标实例 ID,进入目标实例的实例基本信息页面。
2. 切换至可观测页签,单击立即启用。
3. 在开启可观测投递弹窗中,选择已有观测应用和日志集,然后单击立即开启完成配置。推荐你记录输入输出内容,记录后可实现 Trace 追踪。
注意:说明:
注意:日志从投递到可检索存在约1 – 3分钟的延迟。日志投递开启后,你可以在 CLS 控制台的检索分析页面实时查看日志内容。如果检索不到日志,请检查索引配置是否正确。
四、步骤2:查看观测数据
1. 在模型路由实例的可观测页签,单击查看观测。
2. 在调用链可查看 Trace 信息。
3. 单击仪表盘和会话等可查看对应信息。
五、步骤3:关闭可观测投递
1. 在模型路由实例的可观测页签,单击关闭投递。
2. 在关闭模型路由可观测弹窗,勾选确认关闭后,单击确认。
注意:关闭后,将无法继续记录模型路由的访问情况,请谨慎操作。
六、相关文档
·Agent 可观测介绍