深度专题 FEATURES — 2
DFlash并入llama.cpp:长上下文快4.44倍
DFlash并入llama.cpp;单次自测中,Qwen 3.6长上下文推理提速4.44倍。
腾讯开源Agent四级本地记忆
腾讯开源 Agent 记忆系统:长期信息分四层整理,兼顾省 Token、可追溯与隐私部署。
速览 BRIEFS — 8
NEWS
mistral.rs 0.9:CPU解码叫板llama.cpp
mistral.rs 0.9 宣称 CPU 解码最高快 1.8 倍,本地推理多了一个值得实测的选择。
NEWS
Gepard:0.6B模型把开口延迟压到50毫秒
Gepard 用约 5.55 亿参数边收文字边发声,作者称首段音频约 50 毫秒可达。
NEWS
VisionBridge给纯文本模型临时装上眼睛
VisionBridge 用轻量代理把文本模型和视觉模型接起来,不换模型栈也能看图。
NEWS
GLM-5.2的8×B200部署账该怎么算
8张B200别只开一个大实例:分析称两组TP=4副本吞吐或接近翻倍
NEWS
Antidoom专治推理模型的死循环
Antidoom用偏好训练压低重复倾向,让推理模型自己跳出“死循环”。
NEWS
Nemotron Audex用3B激活参数统一音频与文本
英伟达把听、说与文字推理装进同一模型,单次仅激活3B参数。
REPO
Git开始单独追踪AI生成的代码
git-ai把AI代码的逐行来源写进版本历史,让审查和归责有据可查。
REPO
20MB数据库客户端覆盖十余种引擎
约20MB装下多数据库管理,还能把连接交给AI助手调用。