1994年，凯文·凯利在《失控：机器、社会与经济的新生物学》中描绘了一个技术系统逐渐摆脱机械控制、转向生物式运作的未来。彼时，互联网尚处于萌芽阶段，万维网上的网站数量屈指可数，这本书在美国出版后并未引起广泛关注。然而，十六年后，当中文版在中国问世时，它却意外地被奉为“互联网圣经”，其影响力跨越了技术与商业的边界。
《失控》的命运转折，折射出技术演进与时代需求的微妙共振。2010年的中国，社交媒体、开源技术和P2P网络正蓬勃兴起，书中关于分布式系统、自组织与边缘创新的论述，恰好为这一波技术浪潮提供了理论注脚。微信创始人张小龙曾公开表示，这本书塑造了他的产品观——产品上线后应被视为具有独立生命力的实体，其最终形态由用户互动决定，而非设计者的单方面控制。这种理念甚至成为其团队选拔人才的重要标准。
凯利本人将这种反差归因于时代认知的错位。1994年的美国读者难以接受将复杂科技比作蜂群或蚁群的隐喻，而2010年的中国却正处于技术去中心化的风口。他的核心论断——复杂系统的适应性源于局部规则的相互作用，而非中央控制——在三十年后被证明具有前瞻性。今天的AI大模型训练过程，正是这一论断的生动实践：工程师提供数据、算力和目标函数，但模型最终涌现的能力却无法被逐行解释，其行为更接近生态系统而非传统程序。
然而，将AI的不可解释性简单归因于“生命性”是一种危险的误读。生物系统的适应性源于数十亿年的自然选择，其“目标”是内生的；而大模型的目标始终由外部的损失函数定义，其复杂性源于统计规律而非生存意志。凯利在2025年的一场演讲中明确指出，仅靠现有大语言模型无法实现技术突破，智能需要与经典AI的逻辑演算能力结合，并补上空间智能这一短板——从“文字智能”迈向“世界智能”。这一观点标志着他的立场从生物学隐喻转向工程学组合思路。
《失控》的局限性在生成式AI时代愈发凸显。书中倡导的去中心化世界观，与当前AI产业的现实形成鲜明对比：训练前沿模型需要集中化的算力、资本和基础设施，智能的内部结构虽呈分布式，但生产智能的权力却高度集中。凯利本人对此忧心忡忡，他更担心AI被武器化或沦为少数公司的私有财产，而非技术失控本身。这种担忧反映了他对技术所有权的深刻反思——三十年前，他关注的是系统如何运作；三十年后，他更在意谁拥有系统。
面对“长出来”的系统，传统管理工具面临失效风险。当系统行为由训练过程而非代码逻辑决定时，控制点需转向目标函数设计、评测覆盖范围、安全护栏和可观测性。例如，尊重错误意味着构建容错机制，而非追求零故障；不求最优则要求保留多个相互牵制的目标，防止单一维度过度优化导致系统崩溃。这种管理思维更接近育种而非编程，其核心是让系统“错得便宜、错得可见、错得可逆”。
与复杂性共存，不等于放弃问责。人类虽无法完全理解心智或金融市场，但仍通过法律、审计和熔断机制约束其行为。同样，AI系统的不可解释性不应成为逃避监管的借口。真正的治理不在于理解系统内部，而在于确保其外部行为可追溯、可中断。例如，通过目标函数设计引导系统行为，通过评测机制发现潜在风险，通过护栏限制危害范围，这些都是将问责制嵌入技术发展的关键环节。
重读《失控》，其价值不仅在于它预言了技术演进的某些方向，更在于它揭示了技术进步的代价：系统越强大，越难以被解释。问题的关键在于，我们在签署这份“能力与不可解释性”的合同时，是否将问责、验证和可中断性等条款一并写入。经典之所以不朽，往往因为它未能预测的部分，最终成为时代最迫切的命题。
