设计保持可控的智能体工作流

自主性需要状态机

自行发明计划的自由形态智能体在演示中令人兴奋，在生产中脆弱。优先采用显式工作流：收集上下文、提出动作、必要时请求审批、执行工具、验证结果并停止。模型可在该机器内填充灵活步骤；它不应拥有这台机器。

状态机使超时、重试与审计成为可能。它们也使产品承诺可强制执行：除非工作流到达已批准状态，智能体不能退款、删除数据或向客户发消息。

工具是带契约的能力

每个工具应暴露窄能力，具有类型化输入、授权检查、幂等性与清晰副作用。可通过 shell 或原始数据库做任何事的宽工具，会招致不可逆错误。

返回工作流可验证的结构化结果。模糊的工具失败不应变成虚构的成功。若支付 API 超时，智能体必须查询状态，而非假定完成。

• 对不可逆副作用要求确认
• 用步骤与成本上限约束循环
• 持久化计划与工具交互记录
• 为每个工具使用最小权限凭证

把人放在正确的位置

人工审批不是失败的自白。它是对法律、财务或声誉影响动作的产品控制。设计能在数秒内展示拟议动作、证据与备选方案的审阅界面，而非原始思维链倾倒。

随着时间推移，将反复获批的模式提升为带监控的自动化路径。当组织学会哪些决策可安全加速时，可控性会提升。

像软件一样恢复，而不是像魔法

智能体会卡住、循环或部分完成工作。提供补偿动作、死信状态，以及供运维恢复或回退的工具。底层操作未解决时，绝不能告诉用户系统已完成。

获胜的智能体系统感觉平静。它们在精心拥有的软件边界内，用模型做判断。