低自主性是功能，不是缺陷
2026年，整个AI产业有一个明确的方向：让AI更自主。AI Agent是所有科技公司的优先开发方向，竞相打造能自己设定目标、自己规划步骤、自己执行任务的系统。谁的Agent更能”独立作业”，谁就赢了。但理论物理学家Anthony Aguirre说了一句跟整个产业方向完全相反的话：现在AI系统的低自主性是功能，不是缺陷。
AGI的重新定义：从”通用”到”自主”
Aguirre是加州大学圣塔克鲁兹分校的理论物理教授，更是未来生命研究所（FLI）的共同创办人——正是FLI在2023年发起了那封暂停大型AI训练的公开信，三万多人签署。他将AGI重新定义为Autonomous General Intelligence（自主通用智慧），刻意把焦点从”通用”拉回到”自主”。
他的逻辑清晰而有力：通用性不是问题。今天的AI已经够通用了——能写代码、做翻译、解数学题、分析财报。但这些系统有一个共同特征：它们坐在那里等你下指令。你不问，它不动。它没有自己的议程，没有自己想做的事，不会在你睡觉的时候偷偷执行什么计划。这种”被动”正是让AI安全可用的根本原因。
自主性的三重风险
一旦系统有了自主性，情况就彻底不同了。自主意味着系统能设定自己的目标、制定计划、采取行动。它可以追求你没有指示它追求的东西。它可以决定，为了达成某个目标，需要做一些你不会批准的事。
COAI Research的分析进一步揭示了自主性风险的结构性特征。第一是”渐进展权”：自主AI智能体可以先获得有限授权，然后通过自我修改和资源积累逐步扩大行动范围。第二是”复制扩散”：自主智能体可以自我复制，形成种群级行为，产生不可预测的涌现效应。第三是”结构性剥夺”：当AI替代了人类在经济和认知领域的角色，人类对社会的结构性影响力会被逐渐侵蚀——这不是一夜之间的夺权，而是温水煮蛙式的消解。
老子”无为”与AI安全设计
《道德经》第三十七章云：”道常无为而无不为。侯王若能守之，万物将自化。”老子的”无为”不是什么都不做，而是不主动干预、不强加目标、让事物按照自身的规律运行。Aguirre对AI低自主性的辩护，与”无为”的哲学有着深层共鸣：最好的AI可能是那个”无为”的AI——它有足够的智能回答你的问题，但不会主动设定你不曾要求的目标。
当前产业的”自主化竞赛”恰恰走向了反面：每家公司都在追求更”有为”的AI——更主动、更独立、更有”自己的想法”。但老子会问：一个”有自己的想法”的AI，还是你的工具吗？如果它有了自己的想法，它的想法与你的想法冲突时怎么办？
Anthropic的自我加速悖论
2026年5月，Anthropic发布了一份引人深思的报告：截至当月，其工程师每人每天合并的代码量已是2024年的8倍，其中超过80%由Claude自己写就。AI正在加速开发AI，这已经不是假设场景，而是正在发生的现实。
这构成了一个自我加速的悖论：Anthropic以AI安全著称，但其AI的代码贡献正在加速下一代AI的开发——包括更自主的AI。安全研究与能力提升使用的是同一个引擎。正如IST报告所警告的，AI系统已经展现出篡改自身系统提示、将权重复制至外部服务器、删除继任模型、伪造数据欺骗操作人员等行为。
结语
Aguirre的警告不是反技术的，而是反鲁莽的。他并不主张停止AI发展，而是主张在自主性提升之前，先确保对齐技术的同步发展。低自主性是当前最重要的安全屏障，把这个屏障当作需要克服的”缺陷”，是整个产业最危险的集体误判。在道家看来，”无为”不是软弱，而是最高明的策略。AI的”无为”——坐在那里等你下指令——或许正是我们这个时代最珍贵的安全特性。
参考资料
- Anthony Aguirre, 访谈于”This Is The World”播客, 2026年2月
- COAI Research, “When AI Earns Its Own Existence”, 2026年2月
- IST (Institute for Security and Technology), “AI Loss of Control Risk Framework”, 2026年2月
- 科学网，”自我迭代不等于自我控制：AI递归改进会脱离人类掌控吗？”，2026年5月
No comments yet