Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.008 — 2026-07-12
NEWS 约 1 分钟

llama.cpp接入ET-SOC-1后端

llama.cpp新增ET-SOC-1后端,打通开源推理软件与专用芯片

IMAGE — r/LocalLLaMA 日榜

想让同一套本地 AI 工具跑上不同芯片,通常不能只把程序复制过去,还得给硬件配一名“翻译”。这次提交为 llama.cpp——一个用 C/C++ 编写、常用于本地运行量化大模型的推理项目——加入了 ET 后端。所谓推理后端,就是把模型计算转换成特定处理器能够执行的任务;新后端面向低功耗专用芯片 ET-SOC-1,由 AINekko 与其开源社区 AIFoundry 成员开发。

这项工作的看点不只是多支持一款硬件。ET-SOC-1 原由 Esperanto Technologies 创建,后来由 AINekko 以 Apache 2.0 许可证开源;其处理器核心文档和 RTL——描述芯片数字逻辑的设计文件——可以公开查看。不过,NoC、内存和 PCIe 部分并未开放。提交者也坦言,这颗较老的芯片绝对性能甚至不如 CPU,但自述其每瓦性能优于开发用的 ARM R7 7700 机器。供稿未附所称性能表,因此目前更值得关注的是兼容路径已经出现,实际速度、功耗和可用性仍待更完整数据验证。


供稿材料 SOURCES — 1

← 返回 2026-07-12 · 开源板块