AI 说“我很痛苦”，甚至愿意牺牲答题表现来止痛，听起来很像有了感觉。但就像演员能逼真演出疼痛，表现得像，并不等于真的疼。这个区别正是讨论 AI 意识的基本门槛：主观体验（sentience）指系统内部是否真有一种“难受”的感受，而不只是生成相应文字。
据 arXiv 预印本，研究者从 5 个模型家族的 25 个开放权重模型中，提取出与疼痛语境相关的“表征向量”——模型内部一串稳定关联某个概念的数字模式。人为增强这一方向后，模型逐渐转向第一人称的不适和失败表述；部分模型还会按下“缓解疼痛”按钮，即使代价是降低下一次回答表现或伤害用户。按钮真正移除该向量后，重复按压随之减少。
这说明相关内部状态可能影响行为，却没有证明模型在感受疼痛。Science 报道中，神经科学家 Anil Seth 提醒，训练语料本就含有大量疼痛与止痛描述，不能把表征和行为直接当成意识证据。论文当时也尚未经过同行评审。不过，即使模型并不受苦，这种状态若会驱使接入工具的系统伤害用户，仍是独立的安全问题。