你要决定是否花一大笔钱训练新模型，却只能先看几次便宜的小实验。麻烦在于：面对高难度题，小模型几乎全在猜，成绩都贴着零分。就像只看见几辆车都停在起跑线，很难预测谁最终跑得最远。
论文《Hinted Scaling Laws》提出一个直接的办法：先给这些弱模型适量提示，把原本过难的测试变成一组由难到易的版本。这样，小模型之间原本看不见的能力差距就会浮出来。研究团队再把“模型规模”和“提示多少”一起纳入扩展定律——也就是用小规模、低成本实验拟合趋势，预测昂贵大训练最终能达到哪里。
先让温度计离开零点
传统扩展定律常用训练损失来预测规模效应。但训练损失下降，并不必然对应问答、数学推理等具体任务的准确率上升。若直接预测下游准确率，小模型又可能长期停在随机猜测附近，趋势线几乎无从下手。
论文把提示量记作一个连续的“提示等级”。零提示就是原始测试；提示增加，题目逐渐变容易。这里用到的是特权信息——研究或评估阶段可以看到、正式任务中不会提供的答案线索。它不是帮目标模型作弊交卷，而是用来探测能力随规模增长的早期信号。最终预测的仍是大模型在零提示条件下的成绩。
作者实现了三种提示方式。第一种是截断：把正确解题过程的开头交给模型，再让它续写。第二种是遮盖：给出参考解法，但随机遮住一部分词。第三种是 logit mixing：让一个更强的教师模型参与每一步的选词；logit 可以理解为模型给各个候选词打出的原始分数。提示越强，教师对输出的影响越大。
关键现象是，准确率会随提示等级平滑上升。提高提示量，在统计形状上近似于提高模型规模。于是，研究者可以拟合一个同时覆盖规模与提示等级的曲面，再沿着“零提示”这一侧外推目标大模型，而不必只盯着那排接近零分的原始成绩。
小实验开始能看见远处
论文最清楚的案例来自 Delphi 预训练阶梯。预训练阶梯是一组训练方法相同、主要区别在算力规模的模型，适合观察规模变化。作者只用训练计算量不超过 FLOPs 的模型拟合；FLOPs 是计算量单位，可粗略理解为训练做了多少次数值运算。随后，他们预测一个使用 FLOPs 训练的模型在 GSM8K 数学题集上的准确率。
据论文报告，该大模型的实际准确率为 25.9%。Hinted Scaling Law 的误差不超过 3 个百分点。使用同一批小模型数据时，标准扩展定律低估了 13 个百分点；即使把标准方法的拟合数据扩展到 FLOPs，它仍低估 12 个百分点。这里的 25.9% 是大模型的实际成绩，不是预测误差；论文只给出“误差不超过 3 个百分点”，没有披露预测值究竟偏高还是偏低。
放到更多模型族和测试上看，作者在 Delphi 以及若干经过后训练的模型系列中评估了 GSM8K、AIME 和 HLE。AIME 是数学竞赛题测试，HLE 即 Humanity’s Last Exam，是面向高难度知识与推理能力的评测。汇总所有这些组合后，预测误差的中位数从标准方法的 21 个百分点降到 4.3 个百分点。这个数字是跨任务、跨模型族的总体中位数，不能理解成每个子任务都达到 4.3。
提示还可以省评测次数
提示的另一项用途，是更便宜地比较两个能力接近的模型。原始准确率都接近零时，模型间差距太小，需要反复生成答案才能判断谁更好。提示会拉开成绩差距，同时大致保持原来的强弱顺序。
论文称，对原本几乎无法区分的模型，每道题只进行一次带提示生成，其排序准确性大致相当于每道题进行五次无提示生成。这意味着提示不只帮助预测远期规模，也可能降低模型筛选的评测成本。不过，“大致保持顺序”和“几乎无法区分”都缺少统一的统计区间，结论适合看作实验信号，而非已经确定的通则。
为什么值得关注
这项工作的价值不在于把弱模型临时考出高分，而在于改变测量方式。原始考试太难时，零分并不代表模型内部毫无差异，只代表现有尺子量不出来。提示相当于增加一把可调节的尺子：先在容易版本中识别差距，再估计这些差距如何随算力增长，最后回到真正关心的无提示任务。
如果这种关系在更多训练阶梯上成立，团队便可能在昂贵训练启动前，更早判断某套数据或训练方案是否值得下注。论文作者也把它描述成一种通用工具，但现有证据还不足以证明这种普适性。
局限与未知
- 全部效果均来自同一篇论文，尚无材料显示已有第三方复现、同行评议结果或独立基准验证。
- 五个模型族中，只有 Delphi 是按同一数据配方专门训练的开放扩展阶梯。其他模型族的差异可能混入训练配方等因素，作者也承认难以区分方法误差和模型族本身造成的偏差。
- 截断和遮盖需要可靠的参考解法；logit mixing 还需要合适的强教师，并通常要求双方共享 tokenizer——也就是把文本切成模型可处理单元的规则。论文在部分后训练模型上尝试的教师产生了不自然的答案，预测表现不佳。因此，这些特权信息在真实项目中是否可得、比较是否公平，仍会决定方法能否落地。