深度专题 FEATURES — 3
FreeToken:桌面挑战数据中心推理
FreeToken 想让游戏 PC 跑 290B+ MoE 模型,但性能仍待独立验证。
Opera想给浏览器本地AI定标准
Opera想让网站统一调用浏览器里的本地模型,隐私与成本可期,但“标准”身份仍待坐实。
Betelgeuse:16GB内存跑4比特Qwen
Betelgeuse让百GB级4比特Qwen在16GB内存电脑上跑到24 tok/s,关键不只在显卡,也在内存带宽。
速览 BRIEFS — 8
NEWS
Qwen权重里的CPU又跑起了LLM
QwenPU把虚拟NPU编进Qwen权重,并在其中运行一个小型语言模型。
NEWS
微软用4B模型接手混合电脑操作
微软让4B小模型跨应用操作电脑,在线强化学习后还更省调用
NEWS
Nemotron把4B模型瞄准设备Agent
Nemotron把多轮对话和工具调用压进约4GB模型,瞄准设备端Agent。
REPO
Paperclip两天热榜:Agent也要上班管家
把一群 AI Agent 放进同一间“办公室”,统一派活、审批、控预算。
REPO
OpenMontage把视频生产拆成700项技能
OpenMontage用12条流水线和700多份技能文件,把编码助手变成视频制作系统。
NEWS
FineDNA放出3000亿Token生物数据
FineDNA公开3020亿Token生物数据,打通DNA模型从领域学习到问答与强化训练的数据链。
NEWS
终端一句话定位视频片段
用一句自然语言搜画面,终端直接返回视频与时间戳,Agent 也能调用。
NEWS
Ternary Bonsai终于跑通原生CUDA卸载
三值 Bonsai 2 补齐本地部署:ik_llama.cpp 已支持原生 CUDA 卸载