来源 | 《财经》杂志　文 | 《财经》记者 江玮　编辑 | 苏琦

在赫拉利看来，AI有着巨大的积极潜力，可以在很多方面帮助人类，比如发明新的药物、避免气候变化带来灾难性结果，但AI同时也带来很多挑战和威胁

什么是AI（人工智能）？AI的危险是什么？人类在AI时代怎么样繁荣发展？3月24日，英国剑桥大学特聘研究员、《人类简史》作者尤瓦尔·赫拉利在出席中国发展高层论坛2025年年会期间就关于人工智能（AI）的三个问题发表主题演讲。

赫拉利表示，尽管目前有许多关于AI的炒作，但AI并不只是自动化，它意味着一种主体性和主动性。“AI并不是我们手里的工具，AI是一个智能体。要成为一个AI，仅仅让机器自动化还不够，它还必须有能力去自己学习、自己改变、自己做出决定，而且还要发明新的想法。”他说。

尤瓦尔举例说，如果通过人类操作咖啡机的按钮，机器自动准备好了一杯咖啡，由于机器有设定的程序，它没有学到，也没有创造任何新东西，所以这不是AI。但如果人类还没有按下按钮，咖啡机基于对人类的监控和了解，预估对方会想要一杯浓缩或者是美式咖啡，这才是AI，因为它能够学习和创造新的东西。

“所以从主体性的角度而言，它其实是一个异质的、非有机的智能体。它的智能不是人类的智能，甚至不是有机体的智能，它能够做决策、创造想法，可能不是人类所能想到的。”赫拉利说。

在赫拉利看来，AI有着巨大的积极潜力，可以在很多方面帮助人类，比如发明新的药物、避免气候变化带来灾难性结果，但AI同时也带来很多挑战和威胁。

对于AI带来的危险，赫拉利表示，一个基本的问题在于它是异质性的智能体，因此AI是不可信也是不可预测的。“在发展AI的过程中，一个核心问题是信任的悖论。人类要相互信任很不容易，但却觉得可以或者应该相信AI。”赫拉利说。

在遇到AI行业的领导者时，赫拉利总会问他们两个问题：为什么AI发展得这么快，虽然存在那么多风险？可以相信你们正在开发的超智能AI吗？对于第一个问题的答案，对方通常回答称，发展AI确实有危险，最好能够小心谨慎地往前走，但他们同时担心，如果自己放慢脚步而竞争对手没有放慢速度的话，对方就会赢得这场比赛。

面对第二个问题，对方给出的答案是，他们不相信人类竞争者，但相信超级智能的AI。“这真是一个悖论。”赫拉利指出。他进一步解释，人类打交道已经有几千年的历史，我们对人类的心理和生理很了解，对于人类对权力的渴望以及控制这种权力欲望的力量也很了解。已经有许多方式在人类之间建立信任，网络可以把全世界80亿人连接在一起，这些完全陌生的人一起生产食物、发明药物来保护人类。“虽然我们远没有解决人类之间的信任问题，但至少知道挑战是什么。”

与此形成鲜明对比的是，人们缺乏与人工智能打交道的经验。现在人类已经知道AI会撒谎，会出现一些偏离，这是人类事先可能没有预料到的。赫拉利表示，人类发明了AI，可以通过设计使它们对人类是安全的，但由于AI能够学习和自己改变自己，因此存在以不可预测方式改变的可能。

对于“人类如何在AI时代实现繁荣”这个问题，赫拉利认为答案很简单：人类团结在一起可以控制AI；如果人类相互斗争，AI就会控制我们。他因此提出，在开发超级智能的AI之前，应该在人类之间建立更多信任。不幸的是，人类之间的信任正在崩塌。太多国家认为，强大意味着不要相信任何人，与他人彻底隔绝，但彻底的分离是不可能的，不合作是不可能生存的。

赫拉利说，几千年来，中国为世界做出了很多贡献，从儒家思想到茶、围棋、火药、印刷术；也从外部世界接收了很多东西，从佛教到咖啡、足球、火车、电脑。如果只接受来自自己国家的东西，人类的生活将非常贫乏，甚至难以维系。赫拉利表示，在AI时代，如果人类忘记共同的遗产，不信任他人，将使我们成为失控AI的猎物。人们从历史书中读到了很多过去的战争、暴行和不公正，他们看着周围其他国家和人，可能剩下的只有焦虑。但对痛苦的恐惧对于生存是非常重要的，有些时候它会保护我们远离危险。

为什么地球是被人类控制，而不是被大猩猩或者大象等其他动物所控制？赫拉利表示，这并不是因为人类更聪明，而是因为我们比动物更知道如何和陌生人建立信任与合作。几千年来，人类发展出了这样的能力，这种能力在AI时代更加重要。他在最后指出，想要在AI时代生存和繁荣，相比信任AI，我们更要信任人类。