Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.120 — 2026-11-01
NEWS 约 1 分钟

浏览器本地跑通端到端全模态模型

LFM3-Omni-2B把语音到语音全链路搬进浏览器,本地演示约达280 token/s。

IMAGE — r/LocalLLaMA 日榜

你对着网页说句话,AI 不必把录音上传云端,也不用先后调用语音识别、语言模型和语音合成,就能直接开口回答。LFM3-Omni-2B 的新演示把这条链路完整搬进浏览器:端到端全模态,意思是同一个模型接收文字、图像或声音,并直接生成交错的文字与语音。据 Hugging Face 页面介绍,模型通过 WebGPU——网页调用设备 GPU 的标准接口——在用户电脑上本地运行。

演示作者称,他们为模型编写了定制 WebGPU 计算内核,也就是针对特定运算优化的 GPU 小程序;在 M4 Max 上,生成速度约为 280 token/s,首个 token 等待约 90 毫秒,首段音频约 140 毫秒。速度和延迟均来自作者展示,尚无独立测试;但它值得注意之处很明确:此前仍依赖专门客户端的语音到语音全链路,如今已能直接装进一个网页。


供稿材料 SOURCES — 1

← 返回 2026-11-01 · 开源板块