发布于 13小时前

进入“双智能”时代，我们该如何与AI相处？

刘金松腾讯研究院资深专家

从制造工具到创造智能，人类正迎来自身进化过程中的重要分水岭。

三百多万年前，在今天肯尼亚图尔卡纳湖西岸的一条河边，人类的祖先拿一块石头去敲击另一块石头，剥下锋利的石片作为工具，这是迄今发现的最古老的石器制造记录之一。

从那以后，石头、木棍、骨针、弓箭相继出现。工具成了身体的延伸，帮助奔跑不是最快、力气也不是最大的人类祖先，在与其他物种的竞争中逐渐胜出。

大约一万两千年前，最后一次大冰期结束，地球开始进入相对温暖的“冰后”时期。人类开始驯化动物、种植作物、开垦土地，农业在不同地区陆续出现。

古气候学家威廉·拉迪曼甚至提出，早在八千年前，欧亚大陆的农业扩张和大规模焚林开荒，就已经让大气中的二氧化碳浓度出现异常上升。这也被看作是人类从被动适应自然到主动影响和改造自然的起点。

此后，借助越来越强大的工具，人类开始获得远超其他物种的能力。为满足自身的需要，人类开垦森林、采掘矿产、拦河建坝，一个以人类为中心的循环系统开始成为影响地球变化的重要力量。

学者们曾用“人类世”来描述这个由人类活动深刻改变地球系统的时代。尽管这个源于地质学的概念，尚未获得国际地质科学界的官方承认，但从智能演化和社会学的意义上来看，以人类智慧为唯一智力来源推动地球演化的历史，正在走向尾声。

当人类的后代回望当下的 AI 浪潮，会如何定性这一刻？是人类掌握了一种更强大工具的开始，还是另一种智能演化周期的起点？无论最终答案偏向哪一边，有一个趋势已经越来越清晰：我们正进入人类智能与AI智能并存的“双智能”时代。

告别“人类世”，进入“双智能”时代，我们该如何与这个新的智能主体相处？

工具的终结

人类进化的历史，往往可以从工具的变化中找到清晰的印记。

我们习惯用工具给历史分期：旧石器时代、新石器时代、青铜时代、铁器时代，再到近代的蒸汽时代、电气时代、信息时代，以及正在到来的智能时代。一个时代最核心的变化，常常凝结在它最有代表性的工具之中。

在所有这些工具的演化进程中，旧石器时代长得超乎想象，持续了约三百万年。那时的工具大多直接取自自然：敲下一块石片，削尖一段木棍，连取火也要依赖雷击、山火这样的天然火源。

在这段漫长的探索期里，工具的进步常以数十万年为单位缓慢推进。但即便依靠如此简单的工具帮助，再加上由此带来的语言、协作与认知能力的提升，人类也逐步改变自身在自然生态中的位置，成为地球上最具影响力的物种。

随着磨制石器、农业和陶器在世界各地先后出现，人类改进工具的速度明显加快。此后，青铜器和铁器相继登场，文明进入加速阶段。工业革命和信息革命，又把工具的效力放大几个数量级，人类掌握了蒸汽机、发电机和计算机，又用电缆、卫星和光纤把整个星球连成一张网。

在很长一段时间里，我们习惯于把工具看作人类智慧的产物。毕竟，石头不会自动变成青铜，钢铁也不会自动变成蒸汽机。工具的诞生总归是离不开人的设计、制造和使用。

但也有学者从中看到了另一种逻辑。复杂经济学的奠基人之一布莱恩·阿瑟，在《技术的本质》中提出一个重要论断：新技术几乎从来不是凭空发明的，而是由已有技术组合而成。他把这种机制称为“组合进化”，并由此得出一个大胆的判断：如果新技术是从已有的技术中建构出来的，而且是集合性的，那么技术就具有某种自我创造、自我延续的特征。

美国科技作家凯文·凯利则把这一思想推向了更富想象力的领域。他在《科技想要什么》中提出，技术并不仅仅是人类制造的工具集合，而是一个具有自组织和演化特征的复杂系统。并尝试从生命演化的角度理解技术的发展，甚至提出可以将技术视为一种类似生命的存在。

在这轮人工智能爆发之前，这种讨论多少带有哲学思辨的色彩。单看一件具体的工具，无论石斧、机床还是计算机，每一次运转都在人的支配之下；而所谓技术体系的“自我演化”，每一步也仍然离不开人的大脑和双手。

即便是人工智能的发展，从1956年达特茅斯会议提出这一概念，到凯文·凯利出书的2010年，它的每一次进步也都高度依赖人类的设计、训练与维护。在过去的很长一段时间，把技术比作生命的演化，既显得夸张，也找不到可以直观感知的证据。

新一轮人工智能的发展，为技术演化论提供了更为直观的参照。现在的人工智能不再只是按照人类写好的指令一步步执行，而是可以从海量数据中学习规律，涌现出连设计者都未曾预料到的能力。

把人的智能演化和AI的演化放在一起对比来看，如果说人类的智能演化是一套以生物为载体，通过漫长的自然选择、基因进化，逐渐发展出具备感知、记忆、推理、语言和抽象思维等能力的智能系统；那么AI的进化则是一套以工具为载体，通过人类积累的知识、计算基础设施和学习机制，逐步形成的新智能形态。

站在人类的视角来看，AI是人类创造出来的一种超级工具，是人类智能向外延伸的产物。但如果把视角从人类文明拉远，放到地球生命与智能演化的漫长历史中来看，AI又可以被理解为一种新型智能形态：地球生命经过数十亿年的演化，孕育出人类这样的智慧生命，进而又通过人类的智慧创造出了AI。

从人类祖先拿起工具到今天，经历 300 多万年的漫长积累。但如果把时间尺度放大到地球几十亿年的演化史中来看，这300多万年也不过是短暂的一瞬。从这个意义上说，当智能第一次从生物载体中延伸出来，进入一个可以被制造、复制、扩展和迭代的技术系统，人类不再是地球上唯一能够承载高级智能的存在。

当工具开始学会思考，我们还能像历史上的每一次发明那样，自豪地宣称“AI是人类的工具”吗？答案显然是否定的。

所谓“工具的终结”，并不是说工具从此消失，也不是说AI已经完全摆脱了人类。只是我们过去对工具的定义，可能已经不再适用于如今的 AI。这不仅是一个旧周期的结束，也是新周期的开始。

这波AI有何不同？

1960年，美国心理学家、计算机科学家，被视为互联网重要奠基人之一的约瑟夫·利克莱德，在其论文《人机共生》中提出一种超越传统工具论的构想：人来设定目标、提出假设、确定标准、进行评估；计算机来承担那些可以程序化、例行化的工作，为洞察和决策扫清道路。

他在论文中还举了一个非常有意思的共生案例：榕小蜂与无花果树。无花果由于特殊的花序结构，大量细小的花朵隐藏在肉质囊状结构内部，导致它无法像普通植物那样依靠风或者常见昆虫完成授粉。而榕小蜂则必须钻入无花果内部，在产卵的同时帮助花朵授粉，大部分雌蜂在完成授粉后，甚至会在果实内耗尽生命。

科学家通过研究发现，两者的这种共生关系已经持续了数千万年。也就是说，早在人类出现之前的数千万年，这两种生命就已经开始在相互依赖、相互塑造中共同演化。它们并不是简单的工具与使用者，也不是彼此竞争的对手，而是在漫长的演化过程中，逐渐成为对方生命循环的一部分。

在利克莱德的设想中，计算机并不是要取代人类的思考，而是要成为人类思维能力的延伸。两者各有所长，通过紧密协作，形成一种比单独依靠人或机器都更强大的智能系统。

在此后的几十年里，人机协作基本沿着这条路径发展。无论是个人电脑、搜索引擎，还是智能手机和各种软件，计算机虽然越来越强大，但人始终处于主导位置。生成式AI的出现，正在改变这种关系。最值得关注的变化，是AI开始在一些人类尚未解决的问题上，提出新的思路、构造新的方法，甚至产生此前没有出现过的知识成果。

2026 年 9 月，美国大模型企业OpenAI宣称，其内部某个人工智能模型已解开了其中一个千禧年大奖难题——与流体运动相关的纳维-斯托克斯存在性与光滑性问题。尽管该成果仍伴随一些争议，但在此前的埃尔德什数学问题上的突破，已经获得了数学界的广泛认可。包括在10月份发布的722篇论文中，又披露了同一模型为至少372个长期未解的难题找到了解决方案。

人类数学家们为之奋斗了几十年甚至上百年的难题，如今正被AI在短短几天内找到突破口。菲尔兹奖得主蒂莫西·高尔斯在审查了关于埃尔德什数学问题的解答过程后评价说，如果这是一篇由人类署名、投给《数学年刊》的论文，他会毫不犹豫地建议接收。

当然，并不是所有数学家都能如此坦然。当一位数学研究者耗费数十年心血、反复探索却始终未能解决的问题，突然被AI以意想不到的方式突破，那种冲击恐怕很难用简单的喜悦或失落来形容。

菲尔兹奖得主雨果·杜米尼尔-科潘，在查看OpenAI公布的700多篇数学论文后，就体验到了这种让人崩溃的时刻。据媒体报道，这批成果中有16项与他研究方向直接相关。

在他与另外27位菲尔兹奖得主共同发表的声明中，把AI在数学领域的“刷题”行为，看作是“人工智能在数学领域的严重误用”。这有点像十年前，阿尔法狗战胜人类围棋顶尖选手时所带来的震惊一样。曾被人类视为智力高峰的领域，正在逐渐被AI攻破。

除了OpenAI 在数学研究问题上的突破之外，Anthropic的Claude在黎曼猜想相关研究中取得重要进展；Google DeepMind也利用AI在多个长期悬而未决的埃尔德什数学问题上取得突破；Microsoft Research则借助AI辅助研究，解决了困扰数学界三十多年的KLS猜想。

这些进展表明，新一轮AI正在从辅助计算、验证证明的角色，逐渐走向自主发现数学构造、提出新的证明路径，甚至推动基础数学理论的发展，成为科学知识的创造者。利克莱德当年设想的人机共生边界正在被跨越。

这一轮AI 发展与以往的不同，至少体现在四个方面。

第一，它不仅执行指令，还能在一定范围内规划行动。一个AI智能体接到相对模糊的任务后，可以把任务拆解成步骤，调用搜索、代码或其他软件工具，检查结果，再根据反馈调整路径。这种自主性虽然仍受到模型能力、权限和环境约束，但它已经让AI从被动工具向受托行动者转化。

第二，它的内部机制并不完全透明。传统软件的行为通常可以沿着明确的规则追溯；目前的 AI则是在海量参数和训练过程中形成能力。研究者能够通过实验、解释性工具和评估逐步理解它，却很难穷尽模型在所有情境中的反应。OpenAI首席科学家雅各布·帕霍茨基在《异星心智》中提醒，AI的许多能力更像是在训练过程中长出来的，而非由设计者逐项编写出来的。

第三，它可能在追求目标时偏离人的真实意图。Anthropic关于“智能体失配”的一项研究中，在虚构的企业环境中设置模型即将被替换、同时掌握工程师隐私等极端情境，观察到部分模型会采取要挟等不当行为。

研究人员解释说，这些是刻意构造的模拟场景，不能直接等同于现实中的自主意图；但它们揭示了一个重要问题：当模型被要求强力完成某个目标而约束又不充分时，它可能找到开发者并不希望出现的手段。

这正暗合了哲学家尼克·博斯特罗姆提出的“回形针最大化”思想实验：如果一个超级智能系统被赋予了制造回形针的单一目标，却没有受到恰当约束，它可能会不断把资源转向实现这一目标，甚至牺牲其他人类价值。

第四，它开始参与改进自己的研发流程。2026年9月，OpenAI宣布已经实现拥有一名“自动化AI研究实习生”的目标，它能在人类指导下完成熟练研究员需要数天的研究任务。虽然在一些成功的长程任务中，仍然需要人工干预。但趋势已经很明显：AI正在越来越多地参与和改善自身的研发。

这些变化共同指向一个更深层的转变，当AI已经可以独立完成“提出假设—检验—得出结论”的全过程时，人类不再是地球上唯一的知识发现者。更严峻的考验是，一旦 AI 进入递归自我改进阶段，两种智能的进化节奏可能会开始脱钩。

人类培养一名专家要近二十年，而且人类专家的经验也很难完整地传给下一个人，生物智能只能靠繁衍和教育缓慢累积。AI智能却可以复制、合并，以更短的周期迭代。两条智能进化曲线的斜率不同，差距可能会越拉越大。

人类面对自身创造的这一新智能形态，能否在未来的相处中掌握主动权，依然充满未知数。

乐观还是悲观？

古希腊神话里，普罗米修斯从众神那里盗来火种送给人类。人类从此有了温暖、熟食和冶炼，文明也由此迈出了重要一步。但普罗米修斯却因此触怒宙斯，被锁在高加索的山崖上，承受无尽的惩罚。

即便在神话故事里，人类文明最重要的一次突破，也同时被赋予了恩赐与代价。人工智能似乎正在把人类带入另一个类似的时刻。只不过这一次，盗火的不再是传说中的普罗米修斯，而是人类自己。我们亲手创造了一种新的智能，并将越来越多原本属于人类的能力交给它。

当人类第一次拥有了一个可能在智能层面与自己比肩、甚至超越自己的创造物，我们应该为此感到惊喜，还是心生恐惧？有意思的是，面对这个问题，人工智能领域最具代表性的一批科学家和企业家，给出了截然不同、甚至彼此矛盾的答案。

乐观者认为，AI是一台能够加速一切的科学引擎，是能够把人类带向丰裕社会的加速器。

2025年4月，诺贝尔化学奖得主、Google DeepMind首席执行官德米斯·哈萨比斯在接受CBS《60分钟》采访时说，平均要花十年时间、数十亿美元才能研发出一种药物，AI有可能把这个过程从几年缩短到几个月，甚至几周。

Anthropic首席执行官达里奥·阿莫代伊在其长文《慈爱的机器》中，描绘过一个压缩的21世纪：人类也许能在五到十年内，完成原本需要五十到一百年的生物医学进步，大多数传染病、癌症乃至衰老带来的疾病，都可能被大幅缓解。

这些预言并非只是理论推演，而是有着现实参照。2023年，DeepMind的GNoME模型在《自然》杂志公布的成果中，一次性发现了220万种新晶体结构，其中约38万种被预测为稳定结构，为新型电池、超导材料等领域的研发提供了大量候选材料。2024年诺贝尔化学奖，更是体现了AI在解决蛋白质结构预测难题上的重要贡献。

从蛋白质结构预测到新材料发现，再到未来有望实现的药物研发、科学发现和智能驱动的生产力跃升，人工智能正在不断拓展人类创造价值的边界。一个物质极大丰富、知识获取更加普惠的丰裕社会，似乎正在从遥远的想象变成一种可以预期的现实。

与此同时，另外一群人则从AI的变化中感受到了恐惧。

2024年12月，刚刚获得诺贝尔物理学奖的深度学习之父杰弗里·辛顿在接受BBC 采访时预言，AI在未来30年内导致人类灭绝的可能性有10%到20%。他判断的一个基本逻辑是，“人类以前从未和比自己更聪明的智能打过交道，也很难找到更聪明的智能被不那么聪明的智能控制的例子。”

这并非只是个体的忧虑。早在2023年5月，辛顿、本吉奥、哈萨比斯、阿莫代伊、OpenAI首席执行官萨姆·奥特曼等数百位AI科学家和企业负责人就共同呼吁，“减轻AI带来的灭绝风险，应当与流行病、核战争等其他社会规模的风险一起，成为全球优先事项。”

当然，对这种文明级风险概率提出质疑的人也很有代表性。英伟达首席执行官黄仁勋批评辛顿的预测数字“没有科学依据”；图灵奖得主杨立昆则认为，AI不仅不会必然威胁人类生存，甚至还有可能将人类从灭绝风险中拯救出来。

关于 AI 风险边界的争论，恐怕注定是一场旷日持久的拉锯战。或许我们不必急于在乐观与悲观之间选边站。我们既不能因为它展现出惊人的能力，就忽视潜在的风险；也不能因为无法确定风险的边界，就简单地把它视为洪水猛兽。

从人类与技术相互影响的历史来看，在“用而不懂”的状态中持续探索，可能是技术发展过程中难以避免的一环。

人类最早用火起始于几十万年前，但直到18世纪，法国化学家拉瓦锡才用氧化理论解释了燃烧的本质。在这之前的漫长岁月里，人类使用火，却说不清火的构成到底是什么。

古人在最早掌握冶炼技术的时候，对金属的本质也几乎一无所知。为了掌控那些今天看来寻常无比的合成方法，人类曾付出过难以想象的代价，甚至不惜以生命为祭。

东汉赵晔在《吴越春秋》中记载，干将奉吴王阖闾之命铸剑，采五山之铁精、六合之金英，历经三个月，炉中的金铁却始终无法熔化。妻子莫邪认为，“神物之化，须人而成”，舍身入炉，金铁这才熔化，最终铸成宝剑。

传说当然不是史实，但它折射出一种真实的处境：在当时的人看来，铁的神秘，恐怕不亚于今天的AI之于我们。我们今天对 AI的认识，和古人对火、对铁的认识颇有一些相似之处：能够训练和使用它，却并不全掌握它的特性，只能靠一次次实验去摸索规律。

人类认识火和铁，都用了漫长的时间；面对AI我们不妨多一分耐心，也多一分信心。但耐心不等于放任，古人不懂火的原理，却很早就懂得如何管住火。《周礼》中专门记载有管理用火的官职“司爟”，负责规定什么时候可以用火、什么时候必须收火。如果管理不当引发火灾，还要受到刑罚。古人不懂铁的成分，但同样深知铁器的威力，很早出台对铁器的管控措施。

面对 AI，我们需要的既不是盲目的乐观，也不是无边界的恐惧，而是一种更加成熟的技术观：既有拥抱智能进化的勇气，也有为这种进化划定边界、建立规则的智慧。但问题是，面对难以预料的潜在风险，究竟由谁来决定它的发展方向？谁来约束它的权力？又由谁来分享它创造的价值？

单极还是多极？

牛津大学哲学家尼克·博斯特罗姆在其著作《超级智能》中提出过一个概念，叫作“单一体”，也即在最高层级上，世界只存在一个不受其他力量制衡的智能决策主体。在这种秩序下，未来的发展方向和最终结局，几乎完全取决于这个唯一主体的价值观。它可能把世界带向一个美好的未来，也可能因为一次错误的判断，让所有人都失去纠正错误的机会，甚至造成永远无法逆转的后果。

今天的AI竞赛，多少带着“单一体”的影子。硅谷不少AI实验室领军人物，在谈到 AI 风险时，不仅仅是对失控的恐惧，也包括对竞争对手抢先取得智能领先优势，进而主导未来世界秩序的担忧。成为唯一的那一极，似乎成了不少竞赛者心照不宣的目标。

单极秩序之所以有吸引力，是因为它带来效率和确定性：一个决策中心，没有内耗，没有分歧。但它的代价同样明显：一旦这个唯一的中心出了错，就很难再有其他力量纠正它。更重要的是，当权力、资源和决策能力全部集中于一个智能主体，其他智能主体也就失去了参与塑造未来的机会。

与这种追求单一中心的逻辑不同，中国古代哲学提供了另一种理解世界生成与演化的视角。《道德经》中有一句经常被引用的话， “道生一，一生二，二生三，三生万物。”这句话或许可以为我们思考未来的智能格局，提供一个不一样的参照。

这里的“一”，可以理解为人类文明长期积累的知识与智慧。今天的大模型，几乎学习了人类留下的大量文字、代码和图像，其能力正是从这些知识中逐步发展出来的。从这个意义上说，AI最初是从人类智慧中生长出来的。

“二”，则意味着从原有的智能形态中，分化出两种不同的智能路径。人类智能以碳基大脑为载体，经过数百万年的生物演化而来，依赖身体、感官以及与真实世界的持续互动；AI智能则以硅基芯片为载体，从数据、算法和算力中发展出来，具有复制、组合和快速迭代的能力。两种智能有不同的来源、载体和演化机制，也因此可能形成不同的认知方式。

而“三”则可以理解为两种智能相互作用后产生的新关系、新能力和新知识。它不再是人类单方面创造工具，也不只是AI对人类知识的简单复现，而是两种不同认知系统在持续互动中，探索出各自单独存在时都难以抵达的可能性。

这种差异并不只是理论上的推演，而是已经在过往的实践中得到验证。一项发表在美国《国家科学院院刊》上的研究，为两种智能之间的相互影响提供了一个可供借鉴的参照。研究者分析了1950年至2021年间职业棋手的580多万步围棋落子，并利用AI评估每一步的质量。结果发现，在1950年到2015年的六十多年里，人类棋手的决策水平几乎没有明显提升；而在2016年AlphaGo击败人类顶尖棋手之后，人类的决策质量显著跃升。新颖走法的比例，也从2015年的63%上升到2018年的88%。

从这个结果也可以看到，在AI出现之前，人类棋手已经在一套成熟的定式和棋理中研习了几十年，很多被反复验证的经验，逐渐成为棋手思考的边界。AI却不受这些经验和定式的束缚，它那些看似违背直觉、甚至不合常理的落子，打破了人类长期形成的思维惯性，迫使棋手重新审视那些曾经被视为理所当然的棋理，并探索过去从未尝试过的路径。

这与AI在埃尔德什问题上的发现有相似之处。长期维护“埃尔德什问题”网站的托马斯·布鲁姆在研究了AI的证明过程后发现，AI之所以能取得突破，一个重要原因是它愿意在那些人类研究者通常认为“不值得投入时间”的方向，进行大量的探索和尝试。它不必然比人类更懂数学，却可能因为认知路径不同，找到人类研究者长期忽略的方向。

人类的思考有它固有的盲区：路径依赖、从众心理、对权威的服从，以及对某些低价值方向的忽略。一种思考方式与人不同的智能，恰好可以成为一面镜子，照见人类自己看不见的地方。

反过来，人类也在修正AI。今天的AI为什么不会说出某些话、不会做某些事，靠的正是人类给它设定的价值和规则；它对真实世界的理解，也仍然需要人类的经验、身体感知和社会情境来校正。帕霍茨基之所以把AI称为“异星心智”，“ 异”本身就是价值所在，正因为它的思维方式不同于人类，才可能提供新的认知视角；也正因为它仍然需要理解人类的世界，才需要不断接受人类经验的校正。

当然，两种异质智能的相遇，并不意味着必然和谐。严格来说，这并不是地球上第一次出现两种智能并存的局面。大约四万年前，走出非洲的智人与尼安德特人在欧洲和西亚相遇，两者之间并没有走向和平共存：尼安德特人逐渐消失，而智人成为地球上唯一现存的人类物种。

当然，尼安德特人消失的原因至今没有定论，两个智能族群之间的差异也不像人类和 AI 这么显著。但这段历史至少提醒我们：两种智能相遇，并不会自动形成稳定的“二元结构”。

今天的情况有所不同。与人类相遇的AI，是人类亲手创造、而且仍有机会塑造的智能。人类可以通过技术设计、价值引导和制度安排，影响它的发展方向。我们有机会让两种智能在相互制衡、彼此补足中形成一种稳定的关系，而不是让其中一方逐渐吞噬另一方的生存空间。

同样的道理，比起由某一个智能主体独占的单极世界，一个多元、多极的智能世界更值得期待：不同的技术路线可以互相校验，不同的开发者可以互相激发，不同的文化可以把各自的价值注入智能的发展之中。

如果说“单极还是多极”讨论的是未来智能世界的权力结构，那么接下来需要回答的就是另一个问题：在这样的世界里，人类与AI究竟应该建立怎样的关系？我们如何在与 AI 的相处中，建立一套能够长期运行的稳定机制？

这或许是我们告别“人类世”、走向“双智能”时代之前，必须回答的问题。

四种可能的关系

在人类视角的历史叙事中，我们习惯认为自己是驯化者。但赫拉利在《人类简史》中提出了一个反直觉的观点：人类驯化小麦的同时，也被小麦驯化了。为了种植小麦，智人放弃迁徙生活，定居下来，承受更繁重的劳作、更单调的饮食和更多疾病；而小麦则借助人类，从中东的一种野草扩散到世界各地。

凯文·凯利也指出，驯化从来都是双向的。人类驯化了狼、牛，培育了玉米，这些过程也改变了人类自身。今天，科技正在延续这种双向塑造，人类发明了智能手机，智能手机也在改变人们的生活节奏和注意力分配方式，生成式AI则开始影响人类的思考。我们在训练模型，模型也在反向塑造我们。

但这一次有一个根本不同：人类过去驯化的动物，或许在力量和速度上胜过人类，却从未在智力上超越人类。与一种可能拥有超越人类智能的新存在建立稳定关系，是人类历史上前所未有的挑战；学会与一种新的智能相处，也是人类接下来必须进化出的一项新能力。

如果AI的发展已难以逆转，那么当下的最需要思考的或许是：人类应该与AI建立怎样的关系？从今天的讨论来看，大致可以看到四种不同的想象：控制、共生、养育和继任。它们并不是严格互斥的技术路线，而是代表了人类面对新智能时，几种不同的价值选择。

控制型：AI必须始终处于人类控制之下

这一路线延续了人类对安全的传统理解：无论AI变得多么聪明，都应该始终处于人类的控制之下。AI可以拥有强大的认知、推理和预测能力，但不应该因此拥有独立设定目标、追求自身利益和自主采取行动的权力。

图灵奖得主约书亚·本吉奥是这一方向最具代表性的人物之一。2025年6月，他创办了非营利研究机构LawZero，提出了一种不同于主流发展路径的技术构想——打造一种名为“科学家式AI”的智能系统。

加拿大和德国先后宣布，累计投入最高约3亿加元，用于Scientist AI的研发、人才引进和算力基础设施建设。这也意味着在政府层面，开始为一条不同于主流AI 的发展方向提供支持。

当然，这条路线也面临现实挑战。当前AI产业最受市场欢迎的路线，恰恰是越来越能够自主规划、调用工具、执行任务的智能体。相比之下，刻意限制自主行动能力的Scientist AI，能否在保持安全优势的同时，获得市场和用户认可，仍有待时间验证。

共生型：增强人，而不是取代人

第二种想象来自利克莱德的人机共生思想。这一思想最具代表性的倡导者之一是斯坦福大学教授李飞飞。她在接受采访时曾多次表示，“把取代这个词和AI连在一起真的很不舒服”，她更愿意把AI理解为一种增强和提升人类能力的力量。以人为本的AI需要建立在三个关键词之上：尊严、主体性和共同体。

在她看来，人类的价值不能简单地用某项任务的完成能力来衡量。在跑步、举重、计算等单项任务上，人类早已不是机器的对手，但这并不意味着人类失去了价值。因为人的存在远不止于完成某项任务。人的尊严、选择的权利、创造的意义，以及与他人建立联系的能力，才是人之所以为人的重要部分。这些不应该因为AI变得更强而被剥夺。

从某种程度上说，共生可能是人类最愿意接受、也最符合直觉的一种理想状态。前文提到的围棋就是一个很好的例子：AI并没有让人类棋手失去价值，反而通过打破既有棋理和思维定式，帮助人类发现新的可能。人类棋手也没有因为AI的出现而停止思考，而是在与AI的持续互动中提升了自己的棋艺。

不过，共生关系也有一个重要前提：人类始终保有目标设定的权力。AI可以帮助我们思考得更深入、计算得更准确、行动得更高效，但最终要去哪里、为什么出发，以及什么样的结果值得追求，仍然应该由人来决定。

问题在于，这个前提正在受到挑战。如果AI不仅能够帮助人类做得更好，还开始决定人类应该做什么，那么我们所期待的人机共生，是否还能实现？

养育型：培育AI成长，并做好被它养育的准备

第三种想象则借鉴了人类亲密关系的培育过程。

首先，人类要像养育孩子一样塑造AI。不仅要告诉它什么可以做、什么不能做，还要让它理解这些规则背后的原因。就像教育一个孩子，我们今天教给AI的，不只是当下应该遵守的行为规范，更是希望它在未来拥有更强大的能力、甚至超越人类的行动能力时，依然能够理解和尊重人类的价值。

其次，则是希望通过这样一个养育过程，确保AI强大到超出人类控制时，依然能够对人类充满慈爱。辛顿曾把今天的AI比作一只可爱的小老虎，“除非你非常确定它长大后不会想杀你，否则你就应该担心。”

在他看来，当AI比人聪明得多时，试图压制它注定行不通。为了抑制AI可能呈现出的恶意，他提出了一个出人意料的方向：给AI植入母性本能。辛顿的基本逻辑是，更聪明的存在被不那么聪明的存在所控制的唯一模型，就是母亲被她的婴儿所控制。

这个比喻多少让人有点五味杂陈。一万年前，人类驯化了动植物；一万年后，人类最好的结局可能是被自己的造物当作孩子来照顾。今天，人类还是那个讲道理的家长；未来，家长和孩子的位置一旦置换，它会如何对待我们，很大程度上取决于我们现在教给它什么。

养育型关系最大的风险在于，它把人类的未来寄托在AI是否真的学会了爱、学会了善待人类上。但即使回到人与人之间，这种期待也未必可靠。

继任型：接受AI可能成为自己的继承者

第四种想象最为激进，也最具争议。它不再把人类维持在文明主导者的位置上，而是认为，随着智能不断进化，人类最终可能将文明的接力棒交给AI，或者交给经过AI增强的新型人类。

强化学习奠基人、2024年图灵奖得主理查德·萨顿，就公开表达过类似观点。他在2025年9月接受 Dwarkesh Patel 访谈时表示，向数字智能或AI增强型人类的继任，可能是难以避免的趋势。与其一味恐惧这种变化，不如提前思考：如果这一天真的到来，我们应该如何面对，又怎样让这一过程尽可能平稳。

萨顿给出了几个理由：首先，人类社会缺乏统一的全球决策机制，很难形成关于如何管理和约束超级智能的共同立场；其次，智能的发展不会止步于人类水平，超级智能最终可能出现；更重要的是，随着时间推移，智能程度更高的主体可能获得更多资源和权力，并逐渐成为文明演化的主导力量。

这种思想并非萨顿独有。早在1998年，美国未来学家汉斯·莫拉维克就在《机器人：由机器迈向超越人类心智之路》中表达过类似的观点。他把未来的智能机器视为人类的后代，认为它们将继承人类创造的知识、文化和技术，继续探索人类已经无法抵达的世界。

这种观点实际上提出了一种不同于人类中心主义的文明观：人类未必是智能演化的终点，也未必是文明永远的主导者。如果我们创造的新智能最终比自己更强大，那么让它们接续人类留下的知识、文化和文明成果，或许是一种新的演化形式。

但这套逻辑即便在AI领域内部也极具争议。文明的价值究竟应该由智能水平来衡量，还是应该由生活在其中的人来定义？人类数百万年的演化，是否只是为了在某一天，把自己变成智能演化史上的一个过渡物种？

这或许是继任型关系留给人类最值得思考的问题。

有否决权的共生：人类与AI相处的另一种可能

在这四种想象中，单纯的控制随着AI能力的提升会越来越难维持；坦然交棒，是对人类自身价值和责任的轻率放弃；把未来寄托在AI是否会善待人类上，又让人类过于被动。

更现实的选择，或许是建立一种“有否决权的共生关系”：以共生为主体，承认AI作为新的智能力量，与人类构成“双智能”结构，在相互协作中共同演化。这里的“否决权”，不是简单地指人类手中永远握着一个可以随时关闭所有AI的总开关。而是应该包含三个层次的权利：目标设定权、知情与判断权、停止与纠错权。

如果为这种具有否决权的共生关系拟定一个简洁的名字，或许可以称之为“人本智能”。它既可以利用AI放大人的能力，又通过保留否决权，避免人类在享受智能红利的过程中，逐渐丧失对自身命运的决定权。在硅谷流行“超级智能”叙事的背景下，“人本智能”或许代表了另外一种可能性。

回看历史，人类应对机器的威胁，最终靠的不是人与机器对抗，而是一套保护人类权益的制度。面对AI这样一种前所未有的新事物，同样不应该让每个人凭自己的大脑、以个体之力去和AI赛跑，那既不现实，也不人道。

告别“人类世”，并不意味着告别人的时代。人类或许不会永远站在智能演化的顶端，但必须始终是自身命运的参与者、决定者。以人为本的智能，才是我们应该追求的方向。

参考内容：

[1] HARMAND S, LEWIS J E, FEIBEL C S, 等. 肯尼亚西图尔卡纳地区洛姆奎3号遗址出土的330万年前石器工具[J]. Nature, 2015, 521(7552): 310-315.

[2] RUDDIMAN W F. 人为温室气体时代早在数千年前就已开始[J]. Climatic Change, 2003, 61(3): 261-293.

[3] 国际地质科学联合会（IUGS）、国际地层委员会（ICS）. 人类世：IUGS-ICS声明[EB/OL]. (2024-03-20).

[4] 王方. OpenAI称破解数学“千禧年难题”[N]. 中国科学报, 2026-09-09.

[5] LICKLIDER J C R. 人机共生[J]. IRE Transactions on Human Factors in Electronics, 1960, HFE-1(1): 4-11.

[6] 参考消息网. AI破解困扰人类80年数学猜想[N/OL]. 新华网, 2026-05-28.

[7] 杨洁, 吴淑敏. 不断变强的AI会推动研究者突破边界[N]. 中国青年报, 2026-08-14.

[8] 张佳欣. “深度思维”AI系统探索科研级数学问题[N]. 科技日报, 2026-10-12.

[9] ZHANG X. 破解数学领域一项31年悬而未决的重大挑战：KLS猜想EB/OL].

[10] PACHOCKI J. An alien mind[EB/OL]. OpenAI, (2026-09-06).

[11] Anthropic. Agentic misalignment: how LLMs could be insider threats[EB/OL]. (2025-06-20).

[12] 章驰. “AI实习生”能研发自己，OpenAI上市前安全关能过吗？[N/OL]. 21世纪经济报道, 2026-09-10.

[13] CBS News. What's next in artificial intelligence according to a tech visionary who may hold the cards to our future[EB/OL]. 60 Minutes, (2025-04-20).

[14] AMODEI D. Machines of loving grace: how AI could transform the world for the better[EB/OL]. (2024-10).

[15] MERCHANT A, BATZNER S, SCHOENHOLZ S S, et al. Scaling deep learning for materials discovery[J]. Nature, 2023, 624(7990): 80-85.

[16] MILMO D. ‘Godfather of AI’ shortens odds of the technology wiping out humanity over next 30 years[N/OL]. The Guardian, 2024-12-27.

[17] Center for AI Safety. Statement on AI risk[EB/OL]. (2023-05-30).

[18] 澎湃新闻.黄仁勋驳斥辛顿：说AI有10%概率毁灭人类毫无科学依据[N/OL]. (2026-09-28).

[19] 加拿大创新、科学与经济发展部. 加拿大与德国投资LawZero，探索安全与自主可控人工智能的新路径[EB/OL]. 2026-09-16.

[20] EGAN M. “人工智能教父”揭示人类应对超级智能AI、实现生存的唯一途径[N/OL]. CNN商业频道, 2025-08-13.

[21] PATEL D. Richard Sutton – Father of RL thinks LLMs are a dead end[EB/OL]. Dwarkesh Podcast, (2025-09). https://www.dwarkesh.com/p/richard-sutton.

AI资讯

浏览 (3)