Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.121 — 2026-11-02
NEWS 约 1 分钟

Qwen权重里的CPU又跑起了LLM

QwenPU把虚拟NPU编进Qwen权重,并在其中运行一个小型语言模型。

IMAGE — r/LocalLLaMA 日榜

像在一台电脑里再模拟一台电脑,QwenPU这次把一个小型语言模型放进了另一个大模型的权重里运行。继此前将32位RISC-V处理器规则编码进Qwen3.5-4B后,开发者又把NPU——专门处理神经网络运算的处理器结构——编入同一模型的权重,让它执行Karpathy的stories260K。

这里并没有一块真实芯片藏在模型中。所谓NPU,是由神经网络运算构造出的虚拟处理器。作者称,它能逐比特一致地完成矩阵乘法、softmax和Attention;后两者分别负责把数值转换为概率,以及判断序列中不同位置的关联。stories260K本身是C程序,其模型权重也放在Qwen自己的内存中,不依赖外部工具。

这让“权重里的计算机”从运行普通程序,走到了执行另一个语言模型。不过完整技术文章仍在撰写,速度优化和体积缩减也尚未完成,因此目前更适合看作概念演示,而非成熟方案。


供稿材料 SOURCES — 1

← 返回 2026-11-02 · 开源板块