让 AI 连续查网页、读文件、调用工具,它常会在任务还没做完时忘掉早先的指令和错误。Solar Open 2 瞄准的正是这种长程 Agent 任务:模型要在许多步骤中持续记住目标,并根据中途结果调整计划。它把上下文窗口——一次能读入并参考的信息上限——扩展到 100 万词元,试图容纳完整的行动轨迹。
模型采用 MoE(混合专家)架构,共有 2500 亿参数,但处理每个词元时只激活约 150 亿,像从大型专家库中临时请一小组会诊。更关键的是,它在 48 层中安排 36 层线性注意力和 12 层 Softmax 注意力:前者把历史压成固定大小的状态,降低长文本成本;后者保留精细回看能力。作者称,这套组合处理百万词元时,内存与计算量约为全 Softmax 架构的四分之一。值得关注的不是单纯“读得更长”,而是开放模型开始把完整 Agent 轨迹直接纳入架构目标;不过现有性能结论仍主要来自团队自报的基准测试。