你想把一个巨型 AI 搬到自己的电脑上，就像想把整间图书馆塞进书包：压得越小越好，但不能压完只剩书名。ISTA 新发布的 DeepSeek-V4.1-Flash-1017 量化版，把“每参数 1 比特”写进标题；紧接着，竞争方 Unsloth 用另一组真实任务成绩质疑它的质量。于是，这不再只是一次模型瘦身，而成了一场关于量化榜单如何取信于人的争论。需要先说明：核心发布数据主要来自 ISTA 自述，反驳数据主要来自 Unsloth，自称领先的双方都还缺少充分的独立复现。
“1比特”是怎么算出来的？
量化，就是用更少的二进制位近似保存模型权重——也就是 AI 从训练中学到的大量数值。位数越低，文件通常越小，但近似造成的误差也可能越大。
ISTA 处理的是一个 763.2B 参数模型，其中 transformer——负责主要语言计算的网络部分——占 551.9B 参数。它采用 GSQ，一种训练后标量量化方法，学习如何给权重分配离散数值和缩放比例；同时采用 RCO，通过带硬约束的优化来控制每层保留多少专家。
这里的“专家”不是人，而是混合专家模型中的子网络。原模型每层有 384 个 routed experts，即按输入动态调用的专家；每个 token——模型处理文字时切分出的基本单位——只激活其中 6 个。ISTA 直接裁掉一半，每层保留 192 个。专家裁剪与单纯降低精度不同：前者会删除部分能力组件，后者则保留结构、压缩其中的数值。
裁剪后留下 280.1B 参数，transformer 权重文件为 72.1 GB。ISTA 用这 72.12 GB 除以原始的 551.9B transformer 参数，得到平均 1.05 bits/parameter，并取整宣传为“每参数 1 比特”。
这个口径没有造假，却很容易被标题遮住关键条件：被删除的专家按 0 bit 计算；真正保留下来的参数平均占用 2.06 bit，而且没有任何单个权重以低于 1 bit 存储。模型还需要共享的 110.6 GB Engram 文件，因此 72.1 GB 也不是完整下载或运行体积。
本刊 10 月 26 日曾报道，同一个 763B 模型被压到平均 1.75—2.25 bit，当时已经提醒完整文件仍然庞大，成绩也主要来自发布方。这次数字进一步降到“1”，但降幅部分来自删掉专家，不能与只做权重量化的方案直接画等号。
压得小，还得看它会不会做事
ISTA 报告，这个 GSQ-RCO Coder 版本在 LiveCodeBench v6——用于测试代码生成能力的基准——得到 88.57 分。其 RCO 会让每一层严格保留相同数量的专家，因为 GGUF 文件格式只记录一个全模型统一的专家数量；如果各层保留数不同，就要填充，可能抵消裁剪节省的空间。
但 Unsloth 随后称，自家的 DeepSeek UD v3.1 GGUF 在 512K context——模型单次可处理的上下文长度——下，于 DeepSWE、Terminal Bench、Automation Bench、HLE 和 SciCode 等任务领先 GSQ-RCO 超过 10%至20%。GGUF 是 llama.cpp 等本地推理工具常用的模型文件格式，方便在个人电脑上加载模型。
Unsloth 还强调，新评测共处理 35.1B tokens，是此前 1.3B 的 27 倍；AIME 2025 重复运行 64 次，DeepSWE 与 Terminal Bench 各运行 3 次。这些数字说明它试图用更长上下文、更多任务和重复采样降低偶然性。不过，两边的模型版本、量化格式、上下文长度、任务、评分器和采样次数可能不同，因此“领先”并不是严格同条件横评。
榜单为什么越测越乱？
争议很快从谁的分数高，转向评测本身是否一致。
Unsloth 复测后称，GSQ-RCO IQ1_M 的“恢复率”只有 97.24%，95%区间为 96.23%至98.21%，低于其转述的 ISTA 结果 98.7%；IQ2_XXS 测得 98.38%，也低于其转述的 99.80%。但 IQ2_XS 测得的 98.38%与所谓 100%在统计上仍可能相容。这里的恢复率，是量化版相对高精度基线保留了多少表现。由于 ISTA 原始主张的载体未出现在现有材料中，这组对照只能视为竞争方的转述与复测，不能当成定论。
更麻烦的是，Unsloth 更新后的 LiveCodeBench 图里，IQ1_S、IQ1_M、IQ2_XXS、Q2_K_XL，连 Q8 高精度基线都比首版同步提高约 2至3个百分点。独立分析者指出，首版每个模型对应 525 次输出，更新版对应 2,100 次；在把各次输出和各模型波动简化为相互独立等假设下，多模型同步上涨的联合概率约为 至 。
这个计算提示评测流程值得核对，却不能直接证明数据有问题。作者也承认，模型和题目之间存在相关性，而其计算依赖旧样本被新版包含、模型间独立等简化假设。事实上，Unsloth 此前发布 DeepSeek-V3.1 量化版时，就曾在官方 Reddit 社区表示，llama.cpp 转换过程覆盖了部分分层量化设置，团队因此重新生成并上传模型。这个前例说明，最终成绩不只由量化算法决定，中间工具的一项行为也可能改变文件和表现。
真正该卷的是可比性
这场争论最值得关注的，不是谁暂时排在第一，而是本地推理榜单需要更严格的共同口径。基线版本、提示设置、上下文长度、任务集合、评分器和重复次数只要有一项不同，排名就可能失去解释力。若连高精度基线也同步移动，更应先检查流程，再谈量化方案胜负。
现有材料也未见 ISTA 自行公开各量化版本的 KLD 对比。KLD，即 KL divergence，是衡量量化模型输出分布与原模型相差多远的指标；ISTA 表示 RCO 正是以缩小这种差异为目标。但社区关于“没有公开”的观察并非系统检索结果，只能作为待补信息。
局限与未知
- GSQ-RCO 的参数、体积、LiveCodeBench 88.57 及技术效果都来自 ISTA，尚不能视为独立复现。
- Unsloth 的领先幅度、27 倍评测量及恢复率复测同样来自竞争方，且评测条件未必一致。
- 目前没有多个独立信源就两套方案的排名形成一致结论。现在宣布任何一方赢得“量化榜单”，都还太早。