AI 走向感官操控，人类还会思考么？微软中国CTO韦青谈尼克·博斯特罗姆新作《未来之地》

本文为微软（中国）CTO 韦青为《未来之地：超级智能时代人类的目的和意义》一书撰写的导读文章，内容有删减。

在这个机器智能飞速发展的时代,，人机关系概念混淆的时代，人之“何以为人”目的性缺失的时代，以这种原则读这本书，可能是获得更大收获的一种有效途径。

首先要强调的是，对被称为“瑞典超级大脑”的作者而言，《未来之地》和《超级智能》所论述的主题是他自青少年时就开始思考的“人生大事”。他是一名集哲学、理论物理学、计算神经科学、逻辑学和人工智能理论功底于一身的综合性学者与思想家，我们需要以综合性的知识与视野来理解与参考这本书的内容，边看边思索，不要急于断言，这大概不是一本看一遍就能看懂的书。

对我而言，这本书的题眼在第六天讲课的结尾。

整本书中有太多的观点值得深思，这就是这本书的意义。如同作者开篇就阐明的“我的讲座系列不是什么”那一段，他说：“它不是试图为某件事或某个观点‘辩护’。相反，它是一种探索。

在探索像我们面前这样深刻而困难的话题时，我们希望考虑多种因素，追寻各种思路，接触互为竞争的不同评估概念，以期带着尽可能多的敏锐和共情，去体验每一种思想观念每一个选择倾向。不要过早地否定一种自然的（或原发的）观点，即使最终我们会摒弃这种观点。”

这种探索的精神、开放的胸怀与实事求是的态度，正是这本书要传达的理念。的确，探讨人生的目的与意义，尤其是探讨人类实现了对人工智能的所有追求之后的人生的目的与意义，不仅是一个困难的话题，更是一个“不可能完成任务”的话题。

闭卷考试有满分，也意味着有绝对的对错；但是真实的人生与社会是开卷的，不是非黑即白的二分法世界，二分法太简单了，“正—反—合”方是应对良方。

人工智能这种对人类文明可以产生巨大推动或破坏作用的机器能力，简单地使用二分法判断对错的方法未免过于草率。支持发展人工智能的人，要有能力提出不支持它的理由；同样地，不支持发展人工智能的人，也需要有能力提出支持它的理由，这是科学的证伪精神，也是“一阴一阳谓之道”的智慧。在具体应用的决策阶段，不仅要考虑对机会的把握，也需要考虑对风险的预防；同样地，对风险的预防，不意味放弃机遇。“反者道之动，弱者道之用”，世界本来就是在矛盾统一中向前发展的，我们要做的，是“执其两端，用其中于民”。

我想这也是为什么作者在整本书中长篇累牍地分享了那么多深刻有趣的假设、观点和主张，到了最后关头，留下了开放式的结尾。这个问题本就不是一个能够纯粹靠科学思想与技术手段解决的问题，它有关人类的信仰，有关人类的文明追求，有关人的世界观、人生观和价值观。

▍沉默的主角

以我的理解，这本书未明确道出的，恰恰是除了科学与技术以外的另外两名沉默的主角，那就哲学和神学。

就像人类攀登珠穆朗玛峰，有南坡、北坡之分，在当前这个人类文明发展关口，我们同样有可能面临攀登人类文明高峰过程中的不同的路径选择。与攀登珠穆朗玛峰选择南坡、北坡路径不同的是，人类如果能够摒弃非黑即白的二分法，采用“正—反—合”的方式，借鉴各自的长处，避开各自的短处，科学、哲学和神学思想的互相指导与批判，或许能够为人类物质文明和精神文明的下一步发展探索出一条更加圆融的发展道路。

当前人类面临的有关人工智能的问题，明显超出了科学与技术能够解决的范畴，那么科学、技术、哲学与神学在互帮互助下，是否可以更加高效地推动科学的发展，共同为科学指出一些科学本身看不到的发展方向，让科学具备更强大的推动技术进步的能力，进而使科学方法具备更强大的观察与测量宇宙真相的能力？

或许随着人工智能的突破，人类文明的真正突破在于以物质文明为基础的认知能力与精神文明的提升，从而使人类开创出一个以现在的科学知识与技术能力完全无法想象的未来文明高度。

由于当前人工智能的技术本质导致它是一种基于人类以语言形式记录的知识和以电子信号记录的行为而学习到的人类知识与行为的概率抽象，因此人工智能可以基于这种概率抽象，如同毕加索的名画《公牛图》那样，由具体到抽象、再由抽象到具体，生成各种表征现实现象的符号。

当下人类在人工智能发展过程中所面临的挑战，远远不是简单的技术能力问题，而是对人类精神文明的拷问。如同在互联网技术与相应的产品和服务日益成熟时，人们开始发出疑问：“答应我的星辰大海，怎么变成了150 个字符？”现在人工智能的发展也面临同样的挑战。要知道，人工智能的能力远超生成供感官享受的文字、图像和视频的范畴。依现在的发展方向，终有一天，人们也会发出质疑：“答应我的星辰大海，怎么变成了一堆诱人像素？”

AI4S，是下一个人工智能应用皇冠上的宝石。但是，AI4S 可以是AI For Stimuli（满足感官刺激的人工智能），也可以是AI For Science（助力科学探索的人工智能）。我们如何能够不仅仅满足于AI For Stimuli，更加能够把地球上有限的自然能量和人类有限的认知能力，用在扩展我们的认知边界、扩展我们探索世界的能力边界上？能否将有限的资源和精力用于AI For Science，将影响或决定未来地球人类文明的走向和高度。

在当前各种技术观点甚嚣尘上的信息时代，人类的未来，到底是通过每一个活生生的人的积极参与而把握在自己手上，还是因媒体传播的乐观论或者悲观论而随波逐流，也就是作为主体的人类，是充当技术作为客体的主导者、引领者、参与者、利用者，还是被异化为技术的崇拜者、仰慕者、追随者、受控者、恐惧者？在我看来，这才是真正的问题，而且是被大众媒体有意或无意忽略的问题。你想要一个什么样的将来？

▍怎么办？

世界是复杂的，而所有对于真相的信息表征都是不同程度的概括，因此人类的所有想法（包括行动）都是不精确的，任何活着的有机体都需要一个可学习的“复杂适应性系统”，对于这个系统的正常运行，输入、处理、输出、反馈缺一不可。以工程师的风格，我不会只停留在知道某种道理的层面，要行动。了解大道理不容易，根据实际情况选择下一步更难。

“未来是不可预测的，只可能被创造”，如果让我们抛开对确定性未来的执念，理解我们自身的想法和行动会改变不确定的未来，那么根据“想—能—应—可/已—正—将”的方法，再借助“反者道之动”的智慧，我们可以先减轻妨碍我们到达下一步的阻力，这可能是对绝大多数读者而言更为现实的方案。照这个思路，我总结了5项当前就可以完成的任务，它们属于必要条件，不属于充分条件或者充分必要条件，也就是不做不行，做了不一定行的事情。

充分条件与充分必要条件的思维模型有关确定性，譬如闭卷考试，总相信存在一个正确答案，找到了，答对了，就可以得到100 分并万事大吉了；必要条件的逻辑，“先为不可胜，而后求胜”，不求一击必中，只求不断削减方案空间内不适用的内容，不断缩小搜索范围，不断使下一步成功的概率增加。

这两类思维逻辑，无关对错，只是基于人们对世界本质的认识到底是确定性的，还是不确定的，是注定会怎样的，还是随着内外部条件的变化而变化的。当然，在一线摸爬滚打惯了，我不太相信有所谓的一定会怎样，总是在不可能处寻得可能，相信自己，相信“相信”的力量，这是主观能动性的真实体现，这大概也算是被社会捶打久了之后养成的习惯吧。

在机器通过学习人类知识表现出能动性的时刻，如何区别主观能动性与能动性，成为能否在这个机器备受吹捧的社会氛围中保持人性的必要条件。以下就是我总结的重要任务。

▍任务一：机器祛魅

正是因为人工智能极其重要，人类更需要成为这种机器能力的主人。但是，智能机器的一个核心特点就是通过学习符号而生成符号。人并不是一种擅长区分符号与对象的物种，几千年的文明史，也是几千年“能所之辨”的历史。

“智能时代，能所之辨；如影随形，虽有非实”，这是我对智能时代可能陷入符号陷阱给出的自我提醒。就像《楞严经》中记载的智慧所说：“如人以手指月示人，彼人因指当应看月；若复观指以为月体，此人岂唯亡失月轮，亦亡其指。”能指符号与所指实体各司其职，各安本位，那么符号（语言、画像、音频、视频等）就是帮助人类探索与改造世界的利器；一旦混淆，人类就会丧失对这个世界的理性认知。

当前，人类对于能够学习的机器所表现出来的能力，或者神化之，或者妖魔化之，或者拟人化之，很少有人有能力以工具化的观点对待机器。以人类“能所之辨”能力的薄弱，这的确是一个严峻的挑战。但是就像希腊传说所记载的，潘多拉打开那个盒子后再关上，就只能把人类仅存的希望关在盒子中。因此，这是一个逆水行舟、不进则退的过程。其中一个入手的路径就是被称为“新中国扫盲运动”的人类现代化知识启蒙的过程。

有一种说法是，所有突然流行的新技术应用都是之前没有被用好的老技术。当前人工智能的算法原理，并没有超出已经存在上百年甚至几百年历史的线性代数、微积分、概率论，目前最为火爆的人工智能计算加速卡，其核心算子也仅仅是与实现GEMM 矩阵相乘有关的乘法和加法计算。当然，说起来轻松，为了实现人工智能能力的突破，无数优秀的科学家和工程师就是在这个前人铸就的技术地基上勇于创新，造就了当前人工智能技术领域的突破与繁荣，这也是“集成即创新”说法的由来。但是，明白了这种道理，确实对于大众对机器能力祛魅极有帮助。

为了成为当前智能技术的主人，最基本的要求就是不能被这种魔术般的机器能力表现所魅惑，这要求人们掌握线性代数、微积分、概率论、优化算法和基于这些知识而实现的基本深度神经网络算法。为了能够掌握基本的“能所之辨”能力，拥有一定的语言学与认知神经科学和心理学基础知识也是必要的。细心的读者可能已经发现，这些知识恰恰位于作者的学术领域，可能也就明白了基于什么样的学术背景，可以形成什么样的人工智能能力认知。只不过，作者的所有理论局限于将人类的意识能力停留在基于眼、耳、鼻、舌、身这类感觉器官的信息输入下形成的意识能力，这就需要完成下一项任务。

▍任务二：智慧升华

人类对智能机器表现出来的超人能力产生不解或恐慌的另一个原因是，人类发展至今仍被局限于知识层面的竞争。根据与智能研究密切相关的DIKW（数据—信息—知识—智慧）信息金字塔研究框架，智能机器可以取代从数据、信息到知识的所有工作，人类真正的精神家园在智慧与其之上的人生目的和意义，也就是这本书探讨的唯一对象。因此，智能机器本质上是知识机器，能否上升至智慧领域恰恰仍是一个众说纷纭的未解之谜。

这有关之前“任务一”中的符号学与认知科学理论，也就是“看起来是”与“是”是否等价。首先要说明的是，目前人类对这个问题远未达到形成共识的阶段，人类现在连对感觉、知觉、认知、记忆等整个意识链路都尚未完全理解，对于诸如心脑关系、肠脑关系、自由意志等有关意识真相的基础知识也还在探索之中。当人类在嘲笑智能机器的符号输出会产生幻觉时，殊不知人类自己的意识能力也可能是“受控的幻觉”，当人类希望一台概率机器实现确定性的计算结果时，却忽略了如果机器是工具，那么人类的智慧应表现为善于利用不同特长的机器处理不同特长最适合处理的问题，将“确定性的计算任务交给确定性的算法”，以及将“思索性的计算任务交给概率性的算法”。这本应是计算工具的使用常识，但似乎这种工具理性在当前的智能机器热潮中未得到应有的尊重。

除了需要具备这种理性的工具观外，真正的突破可能来自经过智能机器加持的认知科学的进步。在这个科学探索过程中，哲学领域的现象学和神学领域的唯识学，可能都会给人类在认知与意识领域的探索带来新的思路与方向。需要阐明的是，所有对新工具能力边界的尝试都是必要的，也是重要的。只是人工智能业界人士，包括负责任的大众媒体，应该本着“知之为知之，不知为不知”的原则，尊重人类节制的美德，大胆假设，小心求证，不应也不必将尚在实验中的尝试宣称为技术的突破，徒然在未经21 世纪知识扫盲的大众的心中增添没有必要的疑惑与恐慌。当然，这是人类智慧升华后的要求，可能与“鸡生蛋还是蛋生鸡”的困境类似。

▍任务三：人机相乘

这是个很有趣的任务，有关如何最大化地发挥技术的效用，也有关语言对人类思想的塑造。这个任务源于流行的有关技术落地的用语习惯，比如“××+”或“+××”。

让我们先以基本的数学概念做一个思想实验，分别使用加号或乘号来表征智能机器的应用对人类个体产生的影响，再尝试理解语言的力量。

假设有三个人即将因获得强大的智能机器能力而提升自己的核心竞争实力，三个人的能力分别为A、A’和A”，其中A=0.5，A’=1，A”=2。

再假设有三种级别的智能机器能力即将为以上三人所掌握，这三种智能机器能力分别为x、y 和z，智能机器能力比人类能力大两个数量级。由于技术领域的竞争激烈，三者能力之差别限制在大约30% 以内，假设分别是x=70，y=100，z=130。

如果分别以“×× 加”和“×× 乘”的形式表现经智能机器能力加持后人类的能力，并分别以加法和乘法的实际运算表示加持后的结果，那么具体如下：

大家可以看到，加法的概念是技术决定论的，即使人类依靠主观能动性提升自己的能力，也改变不了技术差距带来的影响，企业也是如此；而乘法的概念是主观能动性决定论的，即人类可以通过自己的努力，弥补一定程度下技术条件的不足。

比如A’=1 和A”=2，在人机相乘的默认关系下，都能通过自己的努力，以最低技术能力值x=70 获得比上一级人类能力经过高至z=130 的技术能力加持后还要好的结果，即得到A’x（70）>Az（65）和A”x（140）>A’z（130）的结果。以我在一线的实践，再强大的技术能力，也需要一个有能力驾驭技术的人来发扬光大，相乘的人机关系比相加的人机关系更能体现出实际的人机关系结果。这个道理对于企业同样适用，其实哪怕大至一个民族或者一个国家，也是同样的道理。

语言的不同应用会对人类的思想产生显意识和潜意识的影响。在人工智能能力越来越成熟的时代，技术的代差逐渐减少，应用技术能力的影响愈加显著。恰当的语言，能够帮助我们更为客观地区分技术的差异与技术应用效果的差异，能

够更为有效地找到提升能力的路径。而貌似恰当的语言，有可能造成完全相反的

结果。毕竟如马克·吐温所说：“正确运用的语言与貌似正确运用的语言之间的

差别，就像闪电与萤火虫之间的差别。”

▍任务四：坚守人性

机器越先进，人性越珍贵。人类对智能机器表现出来的超人能力产生不解或恐慌的一个更为核心的原因，就是经过工业文明异化后的人类，把自己活成了机器。

人类才是机器人，智能机器只是工具。结果是一个活成机器样的人类被一台通过向人类学习而开始具备一定人类特征的机器吓到了。人一活成机器，就没有人情味了，人类所特有的伟大情感，比如善良、勇敢、同情、友爱、好奇、尝新等将逐渐消失。智能机器给人类带来的不安，甚至恐惧，会不会使人类忘记了何以为人？

以下是我在新年伊始看到人工智能的火爆所写下的感想，算是与作者的观点产生一些共鸣：

1. 在技术的浪潮中，不要忽略沉默而饱受影响的普罗大众。

2. 当狂欢于机器代替人和黑灯工厂时，不要忘记“人”才是目的。

3. 当言必谈机器人、硅基生命时，不要忘记机器不是人，硅基也没有生命。

4. 当AI 成为热词时，不要忘记它是机器学习。

5. 当机器持续学习时，不要忘记人类本是一个因终身学习而生存下来的物种。

6. 当热议AGI 时，不要忘记人类对于自己如何产生意识还众说纷纭。

7. 当担心自己的工作会被机器代替时，不要忘记问问自己到底喜欢做什么事情。

8. 当徜徉于数字媒介时，不要忘记问问什么样的消息才能被你看到以及它是否代表真相。

9. 当摄取海量信息而心安理得时，不要忘记问问自己能否消化、记住和应用这么多信息。

10. 当机器学习到人类知识时，不要忘记问问自己真正需要的是知识还是应用知识的智慧。

▍任务五：少安毋躁

这个任务只是看起来简单，做起来可谓难上加难。它无关技术，是人的精神境界。能不能做到“此心安处是吾乡”，靠的是前四项任务的执行结果。所幸这本书内容庞杂，足够读者闲暇时细细品味。如能有清茗一杯，茶果若干，该吃吃，该喝喝，那是最好。

人们常常问错了问题，要知道，由于智能机器通过符号向人类学习而产生了看似人类智能的能力，因此再厉害也是人类的一面镜子。人类高尚，机器就高尚；人类下流，机器就下流；人类友善，机器就友善；人类残酷，机器就残酷；人类让渡自己的主权，机器就接受人类的主权；人类主动驾驭机器，机器就服从人类的驾驭。

人类真正要警惕的永远是人类自己！真正不要忘记的是机器的知识都是从人类那里学到的。

终极而言，那些丧失了热乎乎的人生信仰、追求和人性的“机器人”没有未来，那些动辄将人类等同为机器、动辄混淆“能指/ 所指”的人没有未来。

“勇踏前人未至之境！”人之初心，本就是机器的主人。在机器的辅助下，人类本就应该坚守人性，互帮互助，秉持“无限游戏”的原则，生生不息，上下求索而不止。

不是人类没有未来，是活成了机器的人类、甘心将机器等同为人类的人类、丧失终身学习能力的人类和将人生的决定让渡给机器的人类没有未来。

在技术进步和经济不断发展的当下，越来越多的人开始思考这些问题：当机器人能够顺畅地处理大部分工作时，是否会导致人类大量失业？在大量失业的情况下，人们该如何获得收入，是否会因此感到人生毫无意义，丧失获得快乐的能力？

假设人类安全地开发出了超级智能，对它进行了良好的管理，并很好地利用了这项技术所能释放的巨大经济潜力和神奇的变革力量。在这个世界中，人工智能可以做我们能做的一切，而且可以做得更好、更快，成本更低。那么，人类还能扮演什么角色呢？

这本书前瞻性地探索了科技高度发达的“未来之地”，并预测了超级智能时代的人类命运，它探讨的是一个后技术时代的新问题：一旦到达梦想中的技术之巅，人类要如何培养意义和目的？如果不再需要工作，我们将如何生活？

作者在书中部分采用了对话体的形式，创造性地虚构了一个为期一周的哲学系列讲座的场景，由博斯特罗姆教授本人主讲。此外，作者还构建了一个动物世界寻找乌托邦的寓言场景，以此映射人类世界，新颖有趣，有助于读者快速进入作者的哲学场域。

✦ 精选内容 ✦