你可以把神经网络想成一盒颜色有限的调色盘。它要表示“圆形”“法律语气”或某种语法关系，却未必给每个概念留一个专用格子。更可能的做法，是把多种概念混在同一组神经元活动里，再用不同方向把它们读出来。这样省空间，却也让我们很难看懂模型内部在想什么。
Nature Machine Intelligence 发表的 Nina Miolane 论文，试图用一个统一框架解释两件事：神经网络为什么会把概念叠在一起，以及研究者能否把这些概念重新拆开。它把三条原本相对分散的研究路线接成一条链：先说明模型可能学到了什么，再尝试解开混合，最后检查拆出的东西是否真的能被人理解。
需要先说明：目前供稿只有论文摘要和付费页面预览。以下主张均来自论文作者，正文中的定理条件、实验设置和定量证据无法核查。
概念不是住在一颗神经元里
这里的“特征”（feature），指模型内部可识别的一种模式或概念。它可能是“圆形”，也可能是某类语气或语法关系。一个特征不必恰好对应一颗神经元。
论文讨论的“神经叠加”（superposition），是指模型把多个特征沿不同方向叠放在同一组神经元活动中。所谓“方向”，来自线性表示：只要按不同权重组合一组神经元的活动，就可能读出不同概念。
因此，论文所说的“概念比神经元更多”，不是一颗神经元完整存着多个概念，而是在线性表示意义上，有限的神经元可以容纳更多概念方向。作者称已有大量证据支持这种现象，但摘要没有展示具体证据。
三步把混合信号拆开
框架的第一步来自 identifiability theory，即“可识别性理论”。它研究的是：只看模型的输入、输出和训练任务，我们究竟能在多大程度上确定其内部学到了什么。论文主张，用于分类的神经网络能够恢复数据背后的潜在特征，但只能确定到“线性混合”——模型可能抓住了正确成分，却把它们搅在一起，无法直接逐一命名。
第二步是 compressed sensing，即“压缩感知”。它研究如何从有限、混合的观测中恢复原始信号。论文将它与 sparse coding（稀疏编码）连接起来：如果每次输入只涉及少量特征，就有机会把线性混合重新拆成较清楚的成分。稀疏编码的目标，正是让每次输入只激活少数特征，使表示更容易检查。
但这不是无条件的解混术。论文摘要只说压缩感知可提供理论保证，没有列出稀疏性、可识别性和测量条件的具体要求。因此，不能把它理解成对任意网络都有效的通用钥匙。
第三步更关键：拆出来，不等于看懂了。框架使用基于行为任务的可解释性指标，检查提取出的特征是否对应人类能够理解的概念。换句话说，一个数学上干净的方向，仍要放进实际任务里测试，才能判断它是否真的代表“圆形”或“法律语气”，而不是研究者事后的命名。
为什么这个坐标值得关注？
这篇论文的价值主要不在于公布了一个性能更高的新模型，而在于整理了一条完整的推理链：分类训练可能恢复潜在特征；神经叠加让这些特征以线性混合的形式出现；稀疏编码尝试拆开它们；行为指标再判断结果是否对人有意义。
这也把神经科学中的神经编码问题，与人工智能中的模型透明度问题放到同一张图上。对大模型内部表征研究而言，它提供了一套更清楚的提问顺序：模型有没有学到相关特征，特征是否只是混在一起，以及拆出的成分能否通过任务检验。这个框架更像研究路线图，而不是已经完成的通用解决方案。
局限与未知
- 摘要没有披露具体模型、数据集、基线、实验结果或性能数字，无法判断框架在真实系统中的适用范围。
- 压缩感知的理论保证依赖哪些精确条件，现有材料没有列明；不能推断所有分类网络都能恢复真实潜在特征。
- 人类可解释性仍需行为任务指标验证。稀疏、可分离的编码，并不会自动变成人能命名的概念。