非科幻思考（第20/20页）

分布联网式人工智能会不会毁灭人类呢？我们要想到它们的目的。它们不是生物物种，没有对物理领地的占有性需求。它们生存在人类构建的数字世界中，既没有躯体感官的享乐，又没有繁衍的动力。它们可能并不在意人类的欲望，但也没有自己的欲望。它们总能够选择更优的策略。它们可能想要稳定能源的供给，但是想控制电力系统稳定，完全可以直接控制电力系统。任何有目的的毁灭都需要耗能，完全可以由其他更理性的方式达到目的。对它们来说，控制电力系统远比毁灭人类更容易，也更智能。

对于未来，我并不太担心人工智能和人类的全面对抗，也不担心人类文明受到根本威胁，但是我担心人类越来越不重视自身的情感化特征，将自己的一切都划归到数字世界，将自己彻底数字化。

人类彻底数字化是指用数字生活代表一切。彻底数字化的一个特征是认为人的一切可以用他的数据记录代表，认为人心只不过就是数字世界中的点赞和购买记录。如果是那样，将不是人工智能像人，而是人像人工智能。我们不是数据分析工具，我们是具有血肉躯体的人。具身认知和身体疗愈是这些年在心理学领域兴起的概念，身体对大脑的意义越来越被重视。大脑是一座城堡，我们每个人的大脑不仅有“思考”的屋顶，还有从身体感受到情感系统的整个坚实的建筑。

彻底数字化往往让我们忽略面对面相处，忽略眼神沟通，忽略泪水、忽略身体的拥抱、忽略失败的痛苦。但实际上，这些都是我们智能系统的一部分，最珍贵的一部分。如果我们不再能通过眼神交流，不再懂得数据之外的感情，不认为人生有比利益优化更重要的意义，不再感受得到伟大艺术家给人传递的震撼，那我们也就称不上是万物之灵，而是把这个位置拱手让人了。

没有任何物种能毁灭我们的精神世界，除非我们自己放弃。

这是有关未来我唯一忧虑的事。