调 GPU 性能,过去很像修一台只能看仪表盘猜故障的机器:工程师打开复杂时间线,找出哪里在等待或搬数据,改一个参数,再跑一遍。开源项目 Graphsignal 想把这套反复劳动交给 AI Agent——能自主读取信息、修改设置并重试的软件助手。
它以 sidecar(边车,即随主程序运行的独立辅助组件)包裹 vLLM、SGLang 和 llama.cpp 等大模型推理工具,无需改代码或导入软件包。用户通过一条 CLI(终端文字命令)启动原有程序,分析器便把各项测量结果汇成一份 JSON:包括 GPU 每个计算任务、数据搬运和同步的耗时,以及显存、功耗、时钟、限速和错误等状态。Agent 可以据此完成“运行、读取、调参数、再运行”的循环;遇到 CUDA Graph 把多个计算任务藏在一次回放里的情况,工具也提供选项拆出具体名称。
据项目作者在 Reddit 的介绍,该工具支持 CUDA 与 ROCm 程序,默认只监听本机地址,未提供 API key 时不会上传数据,也不需要 root 权限。不过材料没有给出实测提速幅度或诊断准确率,它目前最值得关注的是接口思路:GPU 性能分析器不再只画图给人看,也开始提供 Agent 能直接处理的数据。