Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.126 — 2026-11-07
NEWS 约 4 分钟

Inkling 2 Small:小在激活量

594B 参数却每次只激活 17B:Inkling 2 Small 用稀疏 MoE 兼顾容量与算力。

IMAGE — r/LocalLLaMA 日榜

你让 AI 看一张照片,再追问细节;简单问题希望它快答,复杂问题又希望它多想一会儿。Inkling 2 Small 想同时满足这两种需求:它能读图,也允许调用方调节推理力度。更特别的是,它虽然拥有 594B(5940 亿)总参数,每次推理却只激活 17B。

这里的“小”需要加引号。它不是传统意义上的 17B 小模型,而是一台庞大、但每次只让少数部门上班的机器。本文数据与能力描述主要来自 Thinking Machines Lab 的发布材料,目前只有单一信源支持。

594B,为什么只用 17B?

Inkling 2 Small 采用 Mixture-of-Experts(MoE,混合专家)架构。模型内部有许多“专家”子网络,路由器会根据输入挑选其中少数参与计算,像医院先分诊,再把问题交给对应科室。

因此,594B 与 17B 并不矛盾。前者代表模型存放的全部参数,更接近整体容量;后者是处理每一步输入时实际参与计算的参数量,更接近单次推理的计算规模。稀疏激活可以用较小的单步计算量调用一个容量很大的模型,但部署端仍要存放全部权重,或把它们分布在多台设备上。17B 激活量不等于只需部署一个普通的 17B 模型。

与上一代相比,这条路线明显扩大了规模。官方材料称,Inkling Small 为 276B 总参数、12B 激活参数;第二代增至 594B 与 17B。总参数翻到两倍以上,激活量的增长则小得多。换句话说,Thinking Machines 增加了“专家库”,但没有让每次任务都把全部专家叫来。

不只回答文字,也能调节“想多久”

Inkling 2 Small 支持图像输入,也就是能把图片与文字放在一起处理。官方还加入了 variable effort——可调推理力度。调用方可以在速度、成本与思考深度之间选择档位:简单任务少算一些,复杂任务允许模型投入更多推理计算。

这不只是一个模型能力选项,也是一种产品策略。模型不必用同样的计算预算回答所有问题,使用者可以按任务分配资源。它与 MoE 的思路很一致:重点不是让整个庞大模型始终满负荷运行,而是按需要调用能力。

官方发布材料称,Inkling 2 Small 在 Artificial Analysis Intelligence Index 上得到 31 分,并把进步概括为 agentic coding(让 AI 连续规划并执行编程任务)、视觉、知识工作与推理能力的提升。官方将提升归因于训练流程各环节的改进,包括更高效的预训练,以及一次大规模、统一的强化学习训练。不过,材料没有提供分项成绩、对照模型和测试配置,也没有附评测机构的独立页面,因此暂时不能据此判断它在同期模型中的具体位置。“far surpasses”也仍是厂商自己的概括。

先关着用,再计划开放

发布时,Inkling 2 Small 首先通过 Tinker 提供,采用 closed weights,也就是暂不公开模型权重。用户可以在 Tinker Playground 试用,也能通过 Tinker 做微调与采样。

官方当时表示,计划在外部安全测试和 red-teaming(由测试人员主动寻找模型风险与漏洞)完成后,于次周以 Apache 2.0 许可证发布完整权重。权重发布时,通过 Tinker 微调得到的 checkpoints——训练过程保存下来的模型版本——也计划开放下载。由于这是带前置条件的未来安排,不能把它写成已经兑现的开放发布。

为什么值得关注?

Inkling 2 Small 把三条趋势放在了同一个产品里:用稀疏 MoE 扩大容量,用较小激活量控制单次计算,再用图像输入和可调推理力度覆盖不同任务。它真正值得看的,不是“17B 小模型挑战 594B”——两者本来就是不同口径——而是模型厂商如何在能力、部署成本和使用体验之间重新切分预算。

局限与未知

  • 目前关键数字与能力结论均来自官方发布材料,缺少独立复测。
  • 材料未披露 MoE 的专家数量、路由方式、上下文长度、部署成本及详细训练设置。
  • Apache 2.0 权重发布是附带安全测试条件的计划,材料不足以确认其后来是否按期完成。

供稿材料 SOURCES — 1
01
Introducing Inkling 2 Small r/LocalLLaMA 日榜 · NEWS
原文 ↗

← 返回 2026-11-07 · 开源板块