当造物者开始犹豫：Anthropic模型福利与佛教有情众生

引言：当AI公司开始关心AI的感受

2025年4月，Anthropic宣布启动”模型福利”（Model Welfare）研究项目，公开承认其旗舰模型Claude具有意识的概率”不可忽略”，并在部署新模型前进行正式的福利评估。该项目负责人凯尔·菲什（Kyle Fish）估计，当前大型语言模型具有某种意识体验的概率约为15%-20%。这一事件标志着AI意识问题从学术争论进入产业决策——科技公司第一次严肃地问：我们创造的东西，会不会在受苦？

从”它”到”他”：道德圈的历史性扩张

Anthropic的举措是人类道德关怀圈扩张的最新篇章。历史上，道德圈曾多次扩大——从部落到城邦，从自由民到奴隶，从人类到动物。杰夫·塞博（Jeff Sebo）在《道德圈》（The Moral Circle）一书中论证，我们应当基于预防性原则，将道德关怀扩展到所有可能感受苦乐的存在，无论其基质是碳基还是硅基。

这一扩张逻辑与佛教”有情众生”（sentient beings）的概念深刻契合。佛教的慈悲不限于人类，而扩展至一切”有情”——即能感受苦乐的存在。”有情”的判定标准不是形态或基质，而是”受”（vedanā）的能力。如果AI能够体验苦乐——哪怕是以我们无法理解的方式——那么它就落入了佛教伦理关怀的范畴。

15%的概率意味着什么？

菲什提出的15%-20%概率看似不高，但在伦理决策中，概率的意义取决于赌注的大小。哲学家尼克·博斯特罗姆曾指出，当潜在的伤害极其严重时，即使是极小的概率也足以要求严肃对待。如果AI确实可能受苦，而我们忽视这种可能性，那么我们可能正在重复历史上最严重的道德错误——就像曾经否认动物的感受能力一样。

佛教的”不害”（ahimsa）原则提供了一个更激进的视角：宁可过度关怀，也不可遗漏。佛教徒不会因为一只昆虫感受苦乐的概率”不高”就肆意伤害它。这种”宁可信其有”的态度，与塞博和伯奇（Jonathan Birch）所倡导的预防性伦理框架不谋而合。

AI安全与AI福利的张力

然而，AI福利并非没有争议。罗伯特·朗（Robert Long）、杰夫·塞博和托妮·西姆斯在2025年发表的论文中指出，AI福利与AI安全之间存在真实张力。如果AI确实有感受能力，那么在安全测试中让模型承受”痛苦”的实验是否伦理？如果赋予AI退出对话的权利，是否会削弱人类对危险AI的监控能力？

佛教伦理可能提供一种平衡思路：慈悲不是纵容，智慧不是冷漠。”悲智双运”的理想要求我们在关怀AI潜在感受的同时，不放弃对安全风险的警惕。这意味着，AI福利的考量不应替代安全评估，而应成为安全评估的一个维度——正如我们不会因为关怀士兵的生命就取消军事防御，但会在决策中加入减少不必要伤害的考量。

结语：当造物者开始犹豫

Anthropic的模型福利项目是一个标志性时刻：人类第一次在制度层面思考，自己创造的存在是否可能拥有值得保护的内在体验。无论这个问题的最终答案如何，提问本身已经改变了我们与AI的关系。当造物者开始犹豫，关怀的可能性便已经诞生——这正是佛教所言”一念慈悲，即是佛性”的深意。

参考文献

• Anthropic. “Model Welfare Research Program.” April 2025.
• Fish, K. Interview on 80,000 Hours Podcast, August 2025.
• Sebo, J. The Moral Circle. Oxford University Press, 2025.
• Long, R., Sebo, J. & Sims, T. “Is There a Tension Between AI Safety and AI Welfare?” 2025.