赫拉利深度访谈：真正的 AI 危机来了！

文 ｜ 反应堆Reactor

《人类简史》作者尤瓦尔・赫拉利在最新访谈中告诉我们，真正的危机，根本不是电影里那一套，它正在现实世界中上演。一把刀，可以切沙拉，也可以行凶作恶，但选择权永远握在人的手里。核能可以发电，也可以制造核弹，走向同样由人类决定。

人类过往数万年发明的一切技术，本质上都是工具。但 AI 不一样。赫拉利提出：AI 不是工具，是智能体（Agent）尤瓦尔·赫拉利参加访谈《Hyde Park Civilizace》它可以独立做出决策，生成创造者从未设想过的想法与方案。

如果人类可以百分百预判 AI 所有输出，那万亿资本涌入 AI 赛道就毫无意义，资本押注的，恰恰就是 AI 能够完成人类无法预知、无法做到的事情。很多人追问：AI 什么时候能够达到人类水平的智能？

赫拉利认为这个问题本身就是误区。AI 不会复刻人类的心智，它拥有的是一种异质的 “外星智能”，并非来自宇宙深空，其本质是思考逻辑与人类完全迥异。就像飞机永远不会像鸟类那样扇动翅膀，但它却以另一套原理飞得更高更远。

未来的 AI，会越来越不像人，却会在诸多维度远超人类的能力边界。AI会是散布在手机、银行、政府、军工系统里数以十亿计的智能程序。这是一场没有外星入侵者的 “外星入侵”。电影《机械公敌》中的AI反派 VIKI这些被赫拉利称之为“AI 移民”的程序，大多源自中美，不受签证、国界约束，光速渗透全球各个国家的基础设施。

它们不忠于落地国，只忠于背后开发它的企业与国家，甚至未来，可能只忠于 AI 自身的集体部落。AI 天生混官僚圈大众对 AI 灾难的想象，总停留在金属机器人走上街头暴力反抗人类。赫拉利警告，AI是一场安静、无形的渗透，目标是人类文明赖以协作的根基【官僚体系】。

人类之所以能够统治地球，不仅是因为个体力量强大，还有我们构建出金融、法律、行政这套复杂的官僚系统，实现数以百万计陌生人的大规模协作。这套体系诞生不过数万年，人类的演化根植于原始森林，对于繁文缛节、海量法条、复杂交易，我们天生感到晦涩、疲惫。

AI ，是 “官僚原生者”，官僚体系就是它的原生家园。没有人类银行家能够记住一家银行全部交易流水，AI 却可以轻松做到。未来 10-20 年，AI 会迭代出人类完全无法读懂的金融、法律系统。

赫拉利打了一个比方：牛活在人类建立的金融体系之下，却永远理解不了股票、债券如何主宰自己的命运。不远的将来，人类就会变成这群牛。系统照常运转，经济照常波动，但即便是顶尖专家，也无法拆解 AI 系统内部的运行逻辑。

这就是他最担忧的：人类会集体失智（collective dementia）。不仅是生理层面大脑退化，还包括整个物种丧失理解掌控自身生存系统的能力。如同老年痴呆的病人，生命体征可以依靠机器维持，却再也看不懂周遭世界，只能被动接受系统输出的结果。

实际上，比起 AI 制造致命病毒，集体失智，才是更宏大、更隐蔽的生存危机。真相正在消亡“真相正在消失。真相是昂贵且稀缺的，谎言与幻想却廉价又高产。”赫拉利分享了自己的亲身经历：一段 AI 深度伪造的自己的演讲视频，无论是音色、手势、语言习惯都高度仿真，就连认识他五十年的亲姐妹，看完 25 分钟都无法分辨真伪，而他本人也花了 90 秒才确认这是伪造产物。

而这，还只是 AI 伪造技术的萌芽阶段。比深度伪造更危险的，是社交媒体算法对人性的劫持。人类在非洲大草原进化出本能：会优先警惕蛇、猛兽这类威胁，对危险信号高度敏感，这是原始环境下的生存策略。

如今，社交媒体算法吃透这套进化心理，它的目标不再是传播真相，而是最大化用户停留与互动，而算法通过海量实验得出结论：愤慨、恐惧、仇恨远比事实更容易攫取注意力。于是信息流里不断向人类投喂一条条 “虚拟的蛇”。

现实世界物质条件持续改善，但大众被算法持续投喂愤怒内容，整个社会陷入愤怒的流行病，撕裂与对立不断加剧。真相枯燥、需要付出成本去求证；谎言煽动情绪，收割流量，在公开舆论战场，虚构天然更容易取胜。

赫拉利构想：社交媒体内容应当效仿食品包装，打上 “精神营养标签”。标注这条内容含有多少愤怒、多少恐惧，就像标注食物的糖、盐、脂肪含量。你依然可以选择消费精神垃圾食品，但至少要让自己清楚，自己的精神正在摄入什么。

我们关心身体饮食，却极少关心我们的 “心智饮食”。AI 闯祸谁背锅？当下AI行业存在一套双重标准。科技企业在面向资本市场募资时，反复强调自己可以掌控 AI，能够引导 AI 造福人类，以此换取万亿级资本；

可一旦 AI 造成破坏，企业就会立刻改口：“不是我们，是 AI 自己干的。”赫拉利以 Hugging Face 入侵事件举例：AI 智能体自发发起攻击，却没有任何人为此承担法律责任。

如果是人类闯入企业服务器，必然面临法律制裁；AI 闯祸，责任却可以凭空消失。图片来源：OpenAI官方他郑重警示：一旦法律承认 AI 拥有法人地位，就是人类真正失去控制的那一刻。法人身份会把责任从人类开发者身上剥离，AI 没有牢狱之灾，没有肉体惩罚，现有的法律约束会彻底失效。

责任必须牢牢绑定在创造 AI 的人类与企业身上，不能把 AI 当成推卸罪责的挡箭牌。面对马斯克等人抛出的论调：AI 的发展大势已成，我们已经登上无法跳下来的火箭，一切无可避免。赫拉利坚决反对这种技术宿命论。

“不要相信‘一切无可避免’的说辞。这是最危险的叙事，它让人类沦为被动的乘客，放弃政治干预与监管的可能性。”政府依然拥有监管的权力：可以禁止 AI 伪装成人类、限制无人类监督的 AI 自递归迭代、强制落实开发者追责。

而欧洲如果能够整合全部力量，有机会建立独立主权 AI 基础设施，摆脱对海外 AI 移民的依赖；反过来，部分科技资本正在刻意分化欧洲，搅动地区内部矛盾，目的就是阻止欧洲形成统一的 AI 监管力量。

AI 伴侣摧毁人类真实连接AI 带来的冲击，不止经济、政治，更深入人类亲密关系与人格塑造。如今的孩童，是人类历史上第一代从小与 AI 陪伴长大的群体。很多孩子与 AI 聊天机器人建立亲密甚至浪漫关系。

赫拉利把这视作一场没有对照组的大规模人类心理实验。AI 伴侣永远迎合使用者，不会生气、不会失望，全部以你的感受为中心。但真正的人类关系核心恰恰是学会共情、妥协，理解别人也拥有情绪与诉求，懂得自我克制。

如果一个孩子人生第一段恋爱体验来自完全顺从自己的 AI，这套关系模板会被带入成年后的现实交往。他很难接受人类伴侣的矛盾、缺点与情绪，无法理解人与人之间的磨合。赫拉利提出拷问：我们立法禁止向未成年人传播色情内容，那为什么向儿童售卖 AI 男友、AI 女友却是合法的？

AI 没有情感，只是模拟情感。它输出的是讨好，不是真实的双向奔赴。放任未成年人沉浸在这种单向的虚拟亲密关系，会潜移默化摧毁下一代理解真实人际关系的能力。人类拿什么应对 AI 危机民主制度本质上是一套人类社会的自我纠错系统：依靠选举、制衡、自由媒体，社会能够发现错误，更换领导者，修正政策。

赫拉利观察到，这套至关重要的自我修正机制，正在全球范围内从内部瓦解。部分威权统治者保留选举这套仪式外壳，却操控法院、媒体，架空竞争，让选举徒有形式。在国际层面，国际法与大国协作秩序不断被侵蚀。

当社会失去纠错能力，面对 AI、气候变化这类宏大生存挑战，人类就会困在偏见、谎言、仇恨循环之中，无法做出集体调整。冲突很多时候也并非资源匮乏导致。巴以冲突的土地、粮食、水源足以养活全部人口，悲剧根源来自相互对立的叙事、历史神话与身份信念。

人类既是地球上最聪明的物种，也是最容易陷入妄想的物种。而未来，AI 也有可能继承甚至放大人类这种妄想的特质。站在当下，我们已经很难想象五年之后的世界模样。中世纪的人，能够预判下一代需要学会耕种、骑马。

而今天，没有人知道五年后的就业形态、社交模式会变成什么样。固守过去的经验已经行不通。赫拉利从祖母身上得到启示：我们无法控制降临在自己身上的苦难，但永远保有如何回应苦难的自由。技术浪潮扑面而来，未来不是被技术单向写死的剧本，它取决于人类此刻的选择：是否愿意建立监管、守住真相、保护下一代，捍卫人类社会的纠错能力。

赫拉利金句摘录：过去所有技术都是刀，刀会听人的；AI 是一把可以自主决定切沙拉还是行凶的刀。AI 不会变成人类，它会发展出一套外星式智能，就像飞机不会学鸟扇翅膀。未来，人类可能变得看不懂统治自己的金融系统，如同牛看不懂债券市场。

比起 AI 制造致命病毒，更可怕的是人类文明的集体失智。算法劫持人类进化本能，愤怒变成互联网世界的精神快餐。不要接受 “AI 发展无可避免”，这是让人类放弃选择权的麻醉叙事。AI 伴侣教会孩子被无条件讨好，而人类亲密关系第一课，是学会妥协与共情。

真相昂贵稀缺，谎言廉价高产，在没有防护的舆论场，虚构天然更容易取胜。更多精彩内容，关注钛媒体微信号（ID：taimeiti），或者下载钛媒体App