现在用AI,很多任务仍要把数据送到云端。微软与英伟达想换一种做法:让高端Windows电脑直接运行大模型。这样既能降低等待时间和云端费用,也能让敏感数据留在本机。
据Microsoft介绍,新发布的Surface Laptop Ultra和桌面式Surface RTX Spark Dev Box都基于RTX Spark——英伟达面向高性能个人电脑的计算平台。笔记本最高配备20核Grace CPU、6144核Blackwell RTX GPU和128GB统一内存。统一内存指CPU和GPU共用一片内存,模型无需在两者之间反复搬运数据,也更容易完整装进设备。微软称,最高配置约有1 petaflop AI性能,可在本地运行超过1200亿参数的模型;这里主要指推理,也就是让训练好的模型实际生成内容或执行任务,并非在笔记本上从零训练前沿模型。
微软把这套思路称为“混合智能”:合适的实验和推理留在本机,超出设备能力时再调用云端。据Axios报道,Surface Laptop Ultra起售价2599美元。这不是让云计算消失,而是把AI算力竞争进一步推到个人设备。