让 AI 智能体连续工作，就像请人边查资料边写报告：对话历史、文档和工具结果越积越多，真正昂贵的可能不只是“写答案”，还有每次重新读完厚厚一摞材料。这项研究把一次模型调用拆成预填充（Prefill，先读完全部输入并建立内部状态）和解码（Decode，逐个生成 Token，也就是文字小块），分别估算耗时与能耗。
作者以 Mistral-Small-2603 为对象，把输入长度扩展到约 20 万 Token，并独立改变输入与输出长度。拟合结果显示，解码的耗时和能耗随输出长度线性增长；预填充则同时呈现线性与二次增长。换句话说，长上下文的成本不能只按生成了多少字来算，输入越长，“读材料”这笔账可能增长得更快。
更实用的一点是，商业 API 不公开服务器和耗电数据，但响应耗时可以观察。作者用广义线性模型——从测量数据归纳输入、输出与成本关系的统计方法——匹配本地硬件上相近的耗时曲线，再借本地实测能耗推估 API 用电。作者称少量测量即可取得准确预测；具体结果仍依赖所匹配的硬件、软件和功率假设。