Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.033 — 2026-08-06
PAPER 约 1 分钟

推理早退开始按层动态决策

BLADE让模型边推理边判断是否“想够了”,并按不同隐藏层动态早退,减少重复验算。

一道题已经算对,AI 却还在反复验算、改写,既费算力,也可能把正确答案改错。BLADE 想让模型及时收笔:它在句子、段落和“等等,我再想想”这类自我怀疑表达的边界检查推理轨迹——也就是模型给出答案前写下的中间步骤——判断现有内容是否足以支持正确答案。

它的关键不只在“何时检查”,还在“从哪一层看”。语言模型由多层逐步加工信息,不同推理状态的有效信号未必出现在同一层。BLADE 用小型探针读取内部表示,并自动挑选少量信息较强的隐藏层。为防止过早停下,它遇到自我怀疑边界时可立即早退;在更密集、也更不可靠的普通句子边界,则要求连续两次确认。作者报告,在五个数学推理基准和两款 Qwen3 模型上,该方法基本保持原有准确率,同时让 Qwen3-8B 和 Qwen3-4B 的生成 token 分别减少 24.8% 和 15.8%。这些效果目前来自论文作者的实验。


供稿材料 SOURCES — 1

← 返回 2026-08-06 · 学术板块