让AI从几个方案里选一个,未必需要它先写出一段话。大语言模型(LLM)靠逐字预测生成内容,擅长开放式问答;但面对“通过还是拒绝”“哪个选项最好”这类固定任务,生成过程可能更慢、更贵。TypeSafe AI在9月中旬推出的Jev,正是为这类小判断设计:它不生成长文,而是直接返回选择、评分或概率。
据Bloomberg报道,Jev问世约三周便出现模仿项目,并在硅谷引发对LLM替代路线的讨论。不过,TypeSafe AI没有公开模型权重和完整训练方法,外部项目主要复制其接口或任务形式,不能算对原模型的验证性复现。Jev也不是要全面取代LLM:据Tom’s Hardware报道,TypeSafe AI承认开放式任务仍更适合LLM。它真正提出的问题是,软件里大量高频、边界清楚的小决策,是否还需要动用一个通用生成模型。