深度专题 FEATURES — 1
audio.cpp:本地语音栈再扩两大家族
audio.cpp 新增两大 TTS 家族并统一 GGUF 加载,本地语音部署离开箱即用又近一步。
速览 BRIEFS — 9
REPO
Rapid-MLX冲刺苹果本地推理速度
Rapid-MLX让Mac本地模型响应更快,还能复用重复输入,但性能优势有待复测。
NEWS
旧款4090也能跑V4 Flash专用内核
开发者用 Triton 移植专用内核,让两张 Ada 架构 4090D 跑出约 105 tok/s。
NEWS
35B MoE塞进小米手机
12GB 小米手机跑起 35B MoE,代价是不断从存储调取专家权重
NEWS
纯C BitNet引擎挑战官方实现
纯 C CPU 引擎 Project Zero 自称在至强上快于 bitnet.cpp,并支持 Qwen Bonsai-27B
REPO
Serena给编码Agent补上语义IDE
Serena把代码导航与重构能力交给编码Agent,减少在大型仓库里靠关键词摸索。
REPO
阿里开源混合式代码审查工具
阿里开源代码审查 CLI:用固定流水线约束 LLM Agent,评论落到具体代码行。
NEWS
M5的INT8算力还没被吃满
M5 已支持 8 位激活,但主流后端仍用 16 位,实测预填充提速 1.4 倍
NEWS
AntLing 3.0 Flash免费上线
面向生产 Agent 的混合推理 MoE 上线 OpenRouter,可免费试用至 8 月 3 日。
REPO
离线语法检查器Harper走红
Harper 用 Rust 把英文语法检查留在本机,单日新增 624 星。