等到谷歌、脸谱网和其他算法成为无所不知的先知之后，很有可能就会进一步演化成代理人，最后成为君主。为了解释这个过程，让我们以Waze为例。这是一个GPS（全球定位系统）导航应用程序，许多司机现在都在使用。Waze绝不只是地图，靠着数百万用户的不断更新，它能得知各种堵车、事故和警车位置的信息。因此，Waze知道怎样让你躲过繁忙的路段，让你以最快速度到达目的地。你到了某个路口，直觉要你往右，但Waze要你往左，用户迟早都会明白，最好相信Waze，而不要相信自己的直觉。

乍看之下，Waze算法应该只是先知的等级。你问问题，先知给你答复，但最后还是由你决定。然而，如果先知开始赢得你的信任，合理的下一个步骤就是让它成为你的代理人。你只是向算法指定一个最终目标，它就会在没有你监督的情况下，自行达成目标。以Waze为例，就是你将Waze连接到自动驾驶的汽车上，并告诉Waze“走最近的路回家”或是“走风景最漂亮的路线”，又或是“走污染最小的路线”。由你来发号施令，交给Waze来执行。

最后，Waze可能就会成为君主。它手中握有大权，所知又远超于你，就可能开始操纵你和其他驾车人，塑造你们的欲望，让你们做出顾全大局的决定。例如，假设因为Waze实在太好用，所有驾车人都开始使用。再假设今天一号公路大堵车，而备选的二号公路车流相对顺畅。如果Waze只是让大家都知道二号公路顺畅，所有驾车人就会一窝蜂开向二号公路，最后又全堵在一起。在所有人都找到同一位先知，而且每个人也都相信这位先知的时候，先知就摇身一变，成为君主。这时的Waze必须为大局着想。或许它只会告诉一半驾车人二号公路顺畅，而不透露给另一半。这样一来，一号公路的堵车压力能够减轻，而二号公路也不至于无法消化车流。

微软正在开发一套更复杂的系统，名为Cortana。名称出自微软热门游戏《光晕》（Halo）当中的一个人工智能角色，现在则是一款人工智能个人助理。微软希望Cortana能够成为未来Windows操作系统的内嵌功能，并鼓励用户允许Cortana存取计算机内的所有文件、电子邮件和应用程序，好让Cortana更了解用户，进而提供对许多事务的建议，并成为能够代表用户兴趣的虚拟代理人。Cortana可以提醒你给太太买生日礼物，帮你挑礼物，预订餐厅，还会在晚餐前一小时告诉你该先吃药。也可以警告你，再不放下手上的书，一个重要的商务会议你就要迟到了。而就在你开会之前，Cortana还会警告你，现在你的血压太高、多巴胺分泌量又太低，根据过去的统计，这种时候你的商业判断常常会出大错，所以最好一切先别下定论，别许下什么承诺或是签署任何合同。

一旦Cortana从神使发展成代理人，就可能会直接代表主人进行对谈。一开始可能一切都十分单纯，我的Cortana联络你的Cortana，敲定适当的开会时间和地点之类。另外就是在求职时，雇主说不用麻烦寄简历了，只要允许他的Cortana问我的Cortana各种问题就行。又或者，一个潜在交往对象的Cortana跑来找我的Cortana，互相比较一下过往的记录，看看这两人合不合得来，但这一切可能完全没让人类主人知道。

随着Cortana得到越来越多授权，就可能开始互相钩心斗角，好为主人谋求更多的利益。于是，你在就业市场的表现也可能越来越依赖你的Cortana质量如何。有钱人买得起最新的Cortana，在对穷人和他们的旧版Cortana上拥有绝对优势。

然而这里最难解的问题在于，Cortana的主人身份究竟为何？我们已经提过，人类并非不可分割的个体，也没有单一整合的自我。这样一来，Cortana该迎合的是谁的利益？假设我的叙事自我在新年下定决心，要控制饮食，每天去健身房。但一周后到了该去健身房的时间，体验自我却告诉Cortana开电视、订比萨。Cortana该怎么办？是要听从体验自我的命令，还是一周前叙事自我做的决定？

你可能会想，Cortana不就像个闹钟吗？叙事自我在晚上定了闹钟，好在早上把体验自我叫醒去上班。然而，Cortana拥有的权力会远大于闹钟。体验自我只要按个钮，就能让闹钟安静下来。但相较之下，反而是Cortana太了解我，知道只要按下我的某个内部按钮，就能让我听它的“建议”。

在这场竞赛中，不仅仅有微软的Cortana参赛。谷歌即时资讯（Google Now）和苹果的Siri也朝着同样的方向前进。亚马逊同样会用算法研究你，再用累积的知识来向你推荐产品。逛实体书店的时候，我是自己在书架间浏览，凭着自己的感觉挑出想看的书。但浏览亚马逊网上书店的时候，则是有算法立刻跳出来告诉我：“我知道你先前喜欢哪些书，而与你品位相似的人，也会喜欢这本或那本新书。”

这还只是开始。今天在美国，读电子书的人数已超过读纸质书的人数。比如亚马逊的Kindle等电子书，就能在用户阅读时收集数据。举例来说，你的Kindle会知道你在哪些地方读得快、哪里读得慢，在哪一页你休息了一会儿，又是在哪一行你放弃了这本书，再也没读过（最好赶快告诉作者，让他重写那一部分）。如果Kindle再升级，装上面部辨识和生物统计传感器，就能知道你读的每个句子如何影响你的心跳和血压。它能知道什么会让你笑、什么让你哭、什么让你生气。不久之后，在你读书的时候，书也在读你。你很快就会忘了大部分读过的内容，但亚马逊却什么都不会忘。有了这样的数据，亚马逊就能更精准地帮你选书，也会让亚马逊清楚了解你是怎样的人，如何让你激动或平静。

最后可能是我们一分一秒都无法与这个全知的网络断开。断开，就等于死亡。假设医疗理想得以实现，未来的人类将会在体内植入许多生物计量装置、仿生器官和纳米机器人，以监测人体健康状况，并避免感染、疾病和伤害。但这些装置需要24小时全天上线，才能时时追踪最新的医疗发展，以及抵抗网络空间暴发的新瘟疫。一如家庭计算机会不断受到病毒、蠕虫和特洛伊木马的攻击，以后的心律调节器、助听器和纳米科技免疫系统也无法幸免。如果不去定期更新身体中的防病毒程序，可能某天早上醒来我们就会发现血管中的几百万个纳米机器人都被操纵在某个黑客的手中。

因此，21世纪的新科技可能会彻底扭转人文主义革命，让人类交出权威，送到非人类的算法手中。如果你觉得这个方向实在太骇人，该怪的并不是那些计算机怪才，这其实是生物学家的责任。我们必须意识到，推动这个趋势的主要力量来自生物学的洞察，而非计算机科学。生命科学认为，生物就是各种算法。如果生物的功能真的和算法大有不同，就算计算机在其他领域大展神威，仍然不可能了解人类、引导人类的生命，更不可能与人合而为一。一旦生物学家判断生物也是算法，就等于拆除了有机和无机之间的那堵墙，让计算机革命从单纯的机械事务转变为生物的灾难，也将权威从个人转移到了算法网络。

确实有些人对这种发展感到恐惧，但事实上，也有数百万人再乐意不过。今天许多人已经放弃了自己的隐私和个性，把许多生命点滴全放到网络上，每个行动都记录下来，与网络的连接一中断，就算只是几分钟，也会让他们歇斯底里。就在我们身边，处处都有由算法代替人类权威的情形，不是因为什么重大的政府决策，而是由于狂潮般的个人日常选择。

如果再不小心，结果可能就会是奥威尔笔下的那种警察国家，而且持续监测的还不只是我们外在的各种举止，甚至也包括我们身体内、大脑中的活动。可以想想，如果生物统计传感器无所不在，斯大林可能会用它来做什么？普京又可能想做什么？然而，虽然有许多捍卫人类个性的人担心20世纪的噩梦重现，竭力抵抗这个似曾相识的奥威尔式敌人，但人类的个性其实还受到另一方向更大的威胁。在21世纪，与其说个人会被外界力量残忍碾碎，还不如说会先从内部缓缓崩解。

今天，大多数企业和政府都会尊重每个人的个性，承诺依据每个人的需求和愿望提供医药、教育和娱乐活动。但为了达到这个目的，企业和政府就得将个人解构为许多生化上的实体，用无所不在的传感器监测这些实体，并用强大的算法加以解读。在这个过程中，我们会发现所谓不可分割的个体只是一个宗教幻想。现实中，每个实体都是许多生化和电子算法的混合体，没有清晰的边界，也没有自我中心。