想象客服 AI 忙了半天，查订单、读政策、建工单，最后告诉顾客“问题已解决”；可快递异常仍未处理，工单却被错误关闭。生产环境里，最危险的往往不是明显报错，而是 Agent 顺利执行工具、语气笃定，却留下了错误结果。
Microsoft 与 Hugging Face 联合博客介绍的 ThinkingBox，专门测量这种落差。它让 Agent 在隔离的 MCP 工具会话中处理业务任务——MCP 是连接数据库和外部工具的统一接口——随后不听 Agent 自报成绩，而是回到数据库检查最终字段和附带影响。比如上述案例只需核对一个字段：工单本应保持 hold，实际却成了 solved。
作者称，在覆盖 12 个模型、121,680 次有效运行的共同任务实验中，79,853 次未通过可执行检查；其中 67.24% 仍正常结束、调用过会改变状态的工具，且没有最终工具报错。说白了，调用成功不等于任务完成。ThinkingBox 的提醒很直接：验收 Agent，必须用真实系统状态做闭环校验，而不是相信它最后那句“已完成”。