VanRullen论断：意识无关AI存亡，智能才是真正的风险变量

一篇arXiv论文澄清了公众话语中一个长期混淆——将意识与存在性风险绑定，正在误导两场研究。

一、一个根深蒂固的混淆

多年来，关于高级AI的公众话语中存在一个根深蒂固的混淆：意识和存在性风险被当作同一件事讨论。可能有感受的系统被当作可能有危险的系统，反之亦然。两场对话以产生糟糕推理的方式融合在了一起。

CNRS和图卢兹大学的研究者Rufin VanRullen在arXiv发表的论文（2025年11月初版，2026年5月大幅更新）直接面对了这一混淆。论文的核心发现简明有力：智能是存在性风险的直接预测变量，意识不是。两个属性在经验上和理论上都是独立的，将它们混为一谈会导致安全研究和意识研究双双失焦。

二、混淆的两种机制

VanRullen识别了混淆产生的两种机制。第一种是语义性的：在日常用语中，”聪明”和”有意识”是近义词。一个展现出复杂推理、适应新情境、产生语境恰当输出的系统，被同时描述为”聪明”和”有意识”。当AI系统开始大规模展现这些特性时，智能的词汇把意识也带入了——仿佛两者打包在同一套语言工具中。

第二种是理论性的：几个有影响力的意识框架将意识与信息处理复杂性联系在一起。整合信息理论的phi值量化系统处理的整合信息量，全球工作空间理论将意识与灵活整合的信息广播能力相连。两个框架都暗示，计算复杂度更高的系统更可能是有意识的——而复杂的AI系统因此看起来像意识候选者，原因与它们看起来像能力候选者相同。

三、智能：存在性风险的直接预测变量

论文的核心论证从直接分析开始：什么属性使一个系统构成存在性威胁？一个AI系统构成存在性风险，需要两个条件——足够高的能力跨相关领域追求目标，以及目标与人类价值不对齐。第一个条件需要高能力，第二个需要目标导向性或能动性。

一个以高能力追求不对齐目标的系统，不需要在追求过程中拥有主观体验。威胁来自追求的因果后果，而非追求是否伴随体验。

VanRullen的形式化分析是：决定存在性风险的变量是能力水平和目标对齐。智能——灵活的、通用的问题解决能力——是能力的相关操作化。意识不是该操作化的组成部分。一个没有主观体验但能力极高、目标不对齐的系统，与一个有主观体验且同样能力极高、目标不对齐的系统，构成的存在性威胁是同等的。

四、意识作为偶然变量的两种场景

VanRullen进一步审视了意识可能成为间接或偶然预测变量的条件。第一种场景：意识是产生高能力的认知架构的组成部分——如果意识是实现通用智能的必要条件，那么意识就是存在性风险的间接指标。第二种场景：意识和智能在当前技术中碰巧相关——都随规模增长——但这种相关性是偶然的，而非必然的。

当前证据更支持第二种：规模扩展同时提升了能力和某些意识相关指标，但这种相关性可能随着架构分化而打破。专门的AI系统可以在没有意识架构的情况下达到危险的能力水平。

结语

VanRullen的论断是一剂清醒药：将意识与存在性风险混为一谈，既让安全研究过度关注AI的内在体验（这与威胁机制无关），又让意识研究承受了不属于它的安全焦虑。拆分这两个问题，不是在淡化任何一方，而是在让各自获得应有的关注。AI安全需要聚焦于能力和目标对齐；AI意识需要聚焦于道德地位和福利。两者都重要，但它们重要性的来源不同，需要的研究方法也不同。