这张卡讲遥测在 AI 系统里与传统软件的关键差别:要采集的对象变了。
核心拆解:遥测是从运行系统采集指标、日志与追踪数据的机制,是可观测性的数据来源。AI 系统的新难点:除了接口耗时与错误率,还要采每步模型决策、工具调用参数与 token 消耗,否则智能体出错时无法复盘是哪一步歪的。最常见的疏漏是没定采样与留存策略——全量采集成本失控,全不采则事故后无据可查。
增量判断:国内交付的合规分量更重:日志里常含业务数据,采集前要过脱敏与授权,私有化环境还要在合同里写明数据出口与留存期限。FDE 的增量视角是把遥测方案写进交付文档,作为运维交接的一部分。
行动建议:检查你的系统是否记录了每次模型调用的输入摘要、输出摘要、token 数与耗时,缺哪项补哪项。遥测字段清单要随版本迭代同步更新,新功能上线而观测没跟上,是最常见的观测债。
—— FDEChina编辑部 · 架构师视角
定义
遥测(Telemetry)指从运行中的系统自动采集指标、日志与追踪数据的机制,是可观测性体系的数据来源,回答「系统现在究竟在发生什么」。
展开
AI 系统的遥测对象比传统服务多一层:除了接口耗时、错误率、队列深度,还要覆盖每次模型调用的输入摘要、输出摘要、token 消耗、每次工具调用的参数与返回状态、以及智能体的步骤序列——不采这些,智能体出错时无法复盘是哪一步的决策歪了。工程上要先定采样与留存策略:全量采集成本随流量线性增长,多数场景按错误样本全采、正常样本抽样即可。合规红线要前置:日志与追踪里常夹带真实业务数据,采集前过脱敏与授权流程;私有化环境下遥测数据出不出客户机房、留存多久、谁能访问,都要写进合同与运维协议。与可观测性的辨析:遥测负责采,可观测性负责让采集来的数据能回答问题、定位故障,后者还依赖呈现与关联能力。遥测方案应作为运维交接物写进交付文档,缺失的遥测在事故时刻无法补录。