Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.096 — 2026-10-08
PAPER 约 1 分钟

动态模型路由可能一直在选错

六种商业路由器均未胜过同成本随机分配,动态选模型可能没有想象中可靠。

像餐厅按菜的难度分配厨师:简单菜交给便宜人手,难菜才请主厨。动态 LLM 路由器也是这个思路——它根据每次提问临时挑选语言模型,希望少花推理成本,也就是模型生成答案所消耗的计算与费用,同时不牺牲质量。

但这项研究评测六种商业路由器、14 种设置,并在涵盖八类任务的 800 道评测题上统一计算成本与准确率。作者发现,没有一种路由器胜过“在两个选得好的模型之间随机分配”的简单方案;比较时双方成本相当,部分路由器的准确率还低了超过 10 个百分点。

反直觉之处在于,常用评分方式可能正鼓励路由器“选错”:最难的问题往往连强模型也答不好,升级模型带来的分数收益有限;短答案升级起来更便宜,于是系统反而偏爱把更强模型派给答案短、未必更难的问题。作者还发现,两三个模型已能接近大模型名单的最佳准确率。换句话说,模型选得合适后,留给动态调度发挥的空间可能本来就很小;这些结论来自论文作者的统一评测。


供稿材料 SOURCES — 1
01
Dynamic LLM Routers are Often Misguided arXiv (cs.AI+cs.LG+cs.CL+cs.CV+stat.ML) · PAPER
原文 ↗

← 返回 2026-10-08 · 学术板块