构建可靠的智能体系统

智能体系统的可靠性，通常被当作模型的属性来讨论：更好的模型会更少幻觉、规划得更好、恢复得更优雅。但在实践中，每天真正在跑的系统，往往并不是模型最好的那些，而是接缝最清楚的那些。

三条要紧的接缝

记忆。 一个记不住自己昨天做过什么决定的智能体，今天会重新推导一遍，而且推出不一样的结论。记忆必须是一个存储决策，而不是一种涌现现象。

工具。 一个静默失败的工具，会教会模型继续往下走。我们上线的每一个工具都大声失败，并且给出模型可以据此行动的信息。

评测。 如果你无法度量一次退化，你就一定会上线一次退化。评测在部署之前跑，跑在固定的集合上，而不是跑在上一次演示用的那批数据上。

不太舒服的部分

大部分工作不是建模，而是 schema 设计、重试语义，以及决定这个系统应该拒绝做什么。这些工作演示效果很差，却是任何东西能在真实使用中活下来的唯一原因。