Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.090 — 2026-10-02
NEWS 约 1 分钟

Qwen裁掉44%专家仍能写代码

Victoria裁掉Qwen近半专家后再用4-bit训练,作者称终端任务得分反而升至70%。

给本地跑模型的人,一个现实难题是:模型越能干,往往越占存储和显存。Victoria尝试给Qwen3.8-Flash-Next“瘦身”:它从每层512个专家子网络中裁掉224个,只留下288个,裁剪比例约44%。所谓专家,是混合专家模型里分工处理不同输入的小模块;删掉贡献较少的一部分,有机会缩小模型,但参数少了多少,并不代表计算量或能力也会同比下降。

裁剪后,作者又用NVFP4做了4-bit训练——用约4比特的低精度格式重新适应模型,而不是训练结束后才压缩。作者报告,Victoria在Terminal-Bench 2.1上三次运行平均达到70.0%,高于其上一版NVFP4模型的62.5%;这项基准测试AI在终端里完成实际任务的能力。模型权重为48.0 GiB,另有一份不计入其中的95.4 GiB n-gram表。这个结果说明“少专家”未必等于“少能力”,但目前数据来自发布者自测;Terminal-Bench的分数也只有在版本、超时和运行条件一致时才适合横向比较。


供稿材料 SOURCES — 1

← 返回 2026-10-02 · 开源板块