深度专题 FEATURES — 1
把知识冻进KV缓存,命中率升至90%
把知识存进模型的“草稿纸”:无需重训,复用时还能逐字节还原计算结果。
速览 BRIEFS — 9
REPO
Wigolo让Agent零成本查网页
把搜索、抓取、爬取装进本地MCP,Agent查网页无需密钥,也不按次收费。
REPO
4GB显存也能推理70B模型
AirLLM逐层搬运模型权重,让单张4GB显卡也能运行70B模型,代价是速度。
REPO
AgentOS用轻量虚机隔离编码Agent
把编码 Agent 装进进程内轻量虚机,几毫秒启动,并按需限制权限。
NEWS
openPangu Flash亮出92B稀疏架构
92B总参数每步仅激活6B,但本地适配仍未兑现稀疏计算红利
NEWS
矿卡解锁显存、性能与PCIe
开源驱动补丁尝试解锁 CMP 170HX 的显存、算力与 PCIe,让低价矿卡多一条本地 AI 改造路线。
NEWS
Mac Studio单机托管一队122B会话
96GB Mac Studio借助磁盘缓存,稳定托管三路Qwen 122B会话
REPO
LiteParse用Rust重做文档解析
LiteParse以Rust重做本地文档解析,为RAG与Agent提供轻量数据入口。
NEWS
SigLIP 2文本嵌入搬上CPU
用CPU即时处理文字查询,让GPU专心批量消化机器人图像与视频。
NEWS
专用Q8让Radeon推理快12.5%
为Radeon R9700量身定做Q8格式,解码快约5.8%,但端到端仅快2.21%。