你让本地 AI 整理一批文件，它如果只会聊天，最多告诉你操作步骤；要真正动手，还得另装一套执行框架。KoboldCpp 现在试图省掉这层折腾：据开发者 Concedo 公告，这款本地推理工具已内置 KoboldCpp Agent Harness，用户可以直接开启工具调用。不过，目前全部功能与配置细节都来自开发者单一信源，尚无独立验证。
从回答问题，到调用工具
KoboldCpp 原本是一种本地推理运行时——负责在个人电脑上加载量化模型、管理内存并生成回答，不依赖云端模型服务。新加入的 Agent harness，则是包在模型外面的执行框架：它反复组织任务，让模型决定下一步，再调用程序完成动作，并把结果交回模型继续判断。
这一区别很关键。普通聊天模型像一位隔着桌子给建议的人；工具调用让它能够按规定格式提出操作请求，例如读写文件或运行命令。后者才是模型从“会说”走向“能办事”的关键一步。
按照开发者的介绍，用户可在图形界面的 Admin 标签页勾选启用 Agent，也可用 --agent 参数启动。它随附 9 个工具，但公告没有逐项列出名称与权限。包含全部工具定义的系统提示词约占 2k tokens——token 是模型处理文字时使用的基本计量单位。开发者将这套设计定位为面向基础任务的轻量方案，但“轻量”及实际效果目前没有对照测试支撑。
不只服务于本机模型
这套 Agent 也能连接第三方后端，或任何兼容 OpenAI Chat Completions 格式的接口。换句话说，KoboldCpp 不只想做模型加载器，也开始承担统一操作入口的角色。
用户还可以加载 mcp.json 增加 MCP 工具。MCP 是一套让模型接入外部工具的通用连接方式。这里有个需要留意的边界：据开发者说明，MCP 工具在 KoboldCpp 服务端执行，内置 Agent 工具则在 Agent 客户端执行。任务看似都由同一个模型发起，真正执行动作的位置却可能不同，这会直接影响文件权限、网络访问和安全判断。
因此，Agent 提供 on、auto、off 三种工具调用审批模式。公告没有进一步解释每种模式的完整行为，只明确提醒用户谨慎批准工具调用。它还支持 AGENTS.md——用于向 Agent 提供项目规则的说明文件——以及上下文压缩，即在对话变长时浓缩旧信息，为后续步骤腾出空间。
为什么这一步值得看
重点不在于 KoboldCpp 又多了一个功能，而在于 Agent 能力正在从外接框架下沉到本地运行时。过去，用户需要分别处理模型、推理服务、Agent 框架和工具连接；现在，成熟的本地模型工具开始把任务循环和工具调用直接装进发行版。启用门槛从“搭一套系统”缩短成一个勾选框，可能改变普通用户接触本地 Agent 的方式。
这也意味着，运行时不再只负责“模型怎样回答”，还要处理“模型可以做什么、动作在哪里执行、何时需要确认”。便利和权限控制由此变成同一个产品问题。
局限与未知
- 开发者称有效运行至少需要 28k context 和 8k generation，并建议配备至少 12GB VRAM。context 是模型一次能参考的信息量，generation 是单次可生成的长度，VRAM 则是显卡显存。这些是作者建议，不是经过验证的普适最低门槛，实际需求还会随模型、量化方式和任务变化。
- 公告没有给出 9 个内置工具的完整清单，也没有提供成功率、安全测试或与其他 Agent 框架的系统比较。
- 材料无法可靠确认 Agent 是否由 v1.122 首次引入，因此不把具体版本号写成确定的发布节点。