Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.125 — 2026-11-06
NEWS 约 1 分钟

LFM3-Omni在手机跑到80词元每秒

LFM3-Omni-2B移上iPhone,全离线生成约80 tok/s

IMAGE — r/LocalLLaMA 日榜

让手机里的语音 AI 不联网也能工作,意味着对话不用把声音传到服务器,断网时照样可用。此前,LFM3-Omni-2B——一个可处理多种信息形式的模型——已在 M4 Max 的浏览器中跑通本地语音到语音链路,作者展示的速度约为 280 token/s;token 是模型生成文字时使用的基本单位。本次变化不在模型更大,而在设备从桌面电脑缩到了随身手机。

据 AGI Hunt 对公开帖文的转述,开发者已把 LFM3-Omni-2B 移植进 React Native 应用,并在 iPhone 18 Pro Max 上实现全离线运行,生成速度约为 80 tok/s。React Native 是用 JavaScript/React 开发手机应用的跨平台框架;WebGPU 则让应用调用手机 GPU 做模型计算。这里还使用了定制计算内核,也就是专门安排 GPU 如何并行干活的小程序。

80 tok/s 低于此前桌面端展示的约 280 token/s,但更值得注意的是运行形态:模型权重和计算都留在手机里,WebGPU 部署由浏览器演示走向了随身应用。现有材料只有帖文标题及转述,尚未披露测试口径、功耗、持续运行表现和语音交互质量。


供稿材料 SOURCES — 1

← 返回 2026-11-06 · 开源板块