Monday, 12 October 2026

人性论

 1739年1月,伦敦的书店里悄悄上架了一部两卷本的匿名著作,书名页长得像一份学术宣言,《人性论:把实验推理方法引入道德学科的尝试》,没有作者署名。作者时一位位二十七岁的苏格兰青年,此刻已躲回爱丁堡,正忐忑地等读者的反应。反应迟迟不来,因为根本没有反应。多年后他在临终前写的小自传里,给这本书下了那句著名的判词,它一离开印刷机就是死的(dead-born)——一个死胎。

关于这个死胎,还有更刻薄的一笔,作者本人后来都不认它。休谟把《人性论》改写成另外两本更平顺的书(《人类理解研究》与《道德原则研究》),并在书前公开建议读者只读新版,仿佛在劝世人忘掉自己的第一部作品。然而思想史跟这位温和的作者开了个玩笑,他生前的一切著作里,恰恰是这个死胎,在他身后杀死了它想要杀死的一切。两百多年间,哲学课本上那些响亮的名字——康德说它把自己从“独断的迷梦”中唤醒,爱因斯坦说它帮助自己挣脱了绝对时间的桎梏,维也纳学派认它为祖师,哈耶克奉它为自由社会理论的源头。追根溯源,都指向这部出版时无人理睬的书。

这本书是怎么写出来的,本身就像个寓言。1734年,二十三岁的休谟逃离了爱丁堡,不是逃离学术,是逃离一场病。从十八岁起他陷入持续的精神崩溃,头痛、心悸、冷热失调,他自己给它起了个名字,叫“学者病”,医生的处方是离开书本。他试着去做商行学徒,几个月后认定自己不是那块料,于是做了另一个决定:去法国乡下,自己给自己开一张处方,写一本大书。他落脚的小镇叫拉弗莱舍,镇上有一座耶 稣会学院,图书馆极好,笛卡尔一个世纪前正是从这所学院走出去的。现代哲学的两次革命,就这样在同一座学院隔空发生:笛卡尔从这里出发,把哲学的地基浇筑在“我思”的确定性上;休谟在这里住了三年,写出一部把这块地基整个抽走的书。1737年完稿时,他二十六岁。

三卷的目录朴素得近乎冷漠:卷一论知性,卷二论情感,卷三论道德。计划却是狂妄的——副标题说得明白,像牛顿研究自然那样研究人。牛顿告诉欧洲,解释世界不需要假设隐秘的本质,只需要观察现象、归纳规律;休谟要做的,是把这套方法掉转枪口,对准人类自己的心灵——不再问“灵魂的本性是什么”(那是经院哲学的问题),只问,心灵实际上是怎么运作的?全书的一切结论,都从这个谦逊得危险的问题里长出来。

地基:一切观念来自印象

牛顿式的清场从词汇开始。

休谟把心灵的全部内容分成两类,印象与观念。印象是一切初次出现的知觉,看见红色的那一眼、烫到的疼、愤怒的灼热;观念是印象留下的摹,回忆中的红、想象中的疼、回味里的怒。区别只在活泼的程度,印象是现场直播,观念是回放。

这条看似平淡的区分,被休谟锻造成一把闸刀,一切观念,追根溯源,必须是某个印象的摹本。你若声称拥有一个观念,休谟就请你交代它来自哪个印象,交代得出,观念合法;交代不出,这个词就是赝品,是从语言里空转出来的噪声。这就是他全部方法的操作规程,不与形而上学辩论命题的真假,先审查概念有没有出生证。

闸刀落下去,第一个被斩的是形而上学的一整族词汇。“实体”,你有一个“支撑着属性的基底”的印象吗?没有,你只有一堆属性。“无限”,你体验过无限吗?你有的只是“很大”的经验,加上一个永远完不成的“再加一”。金库逐渐清空,最后连哲学最倚重的那些词都被请去验明正身,而其中两个最重的,“必然”与“我”,休谟用了全书最长的两章来审。这两次审判,构成了《人性论》卷一的两大发现。

因果:我们从未见过“必然”

第一个发现,是哲学史上著名的“休谟问题”的出生现场。

从小学开始我们就被教导,科学发现因果规律。休谟的追问从这个词的验货开始——当我说“A是B的原因”时,我实际上观察到了什么?他拆开来数:接近(两件事碰在一起),先后(A在B之前),恒常联结(每次A出现,B也出现)。台球桌上,一杆击出,白球撞上红球,红球滚动,我们看到了接触、先后,并且在过去千百次看到同样的序列。可是那千百次里,我哪一次看见过“必然的联系”本身?那个从A“传递”到B的力、那种“不得不”的约束?答案让每个诚实的观察者脊背发凉,从来没有。我们看见的永远只是先后与相随,“必然性”这个东西,一次也没有在经验里出现过。

可是“必然”这个观念明明存在,而且是我们最熟悉的思想工具,它的出生证在哪里?休谟的答案把哲学的地基问题变成了心理学问题,必然性的观念,不在事物里,而在观察者心里。经验中A与B的反复相随,在心灵中沉淀成一种习惯——再见到A,心灵不由自主地期待B。那股“不得不”的感觉,是期待的情绪,不是世界的属性。我们把自己的条件反射,投射到了外部世界上,然后对着自己的投影顶礼,这就是“自然规律”的必然性的全部身世。

这个发现的杀伤力是双重的。它摧毁了形而上学的因果观(事物之间存在神秘的必然纽带),这只是小事;真正的地震在第二层:归纳推理——从“过去一直如此”推出“将来也会如此”——从此失去了任何理性的辩护。凭什么未来必须像过去?任何辩护若想成立,都得先假设“自然是齐一的”,而这个假设本身恰恰是待证之物——用归纳证明归纳,是循环论证。理性在此彻底失灵。休谟本人把这个结论说得平静至极,即便你把过去一万次的日出摆在一起,也推不出明天太阳照常升起——那不是推理,是习惯。他后来给这个接管了理性位置的东西起了那个流传后世的名字:习惯,是人生的伟大指南。

注意休谟在这里做的事,他没有宣布“明天太阳不会升起”,也没有劝人从此不做预测,他自己晚年写的《英格兰史》与政治经济评论充满了稳健的经验判断。他宣布的是一件更精确的事,支撑我们全部生活与科学的,从来不是逻辑的必然,而是习惯的自然。人不是靠证明活着的,人是靠一种深植于天性的信念机制活着的,哲学的工作不是否认它,而是认清它:一切确定性,严格说来,都是心理事件。这个立场后世称为“休谟的自然主义”:怀疑论的刀锋无比锋利,但它割不断生活——你尽可以在书房里证明一切不可知,饭点的铃声一响,怀疑论者照样下楼吃饭。自然在理性失效的地方接管了人,这不是失败的承认,这是全书真正的哲学立场。

自我:一束流动的知觉

第二场审判的对象只有一个字:我。

整个近代哲学都站在这个字上。笛卡尔的“我思故我在”把“我”当作全部确定性的第一块基石——世界可以被怀疑掉,进行怀疑的那个“我”无可怀疑。休谟用他一贯的验货程序走向这块基石,既然一切观念必有其印象的来源,那么请交出“自我”的印象,你内部直观到“你自己”的那个原始经验,是什么样子?

他交代了自己的查验结果,写下了《人性论》里被引用得最多的一段话——当我最深入地进入那个我叫作“我自己”的东西时,我总是撞见这样或那样的某个特殊的知觉——热或冷、光或影、爱或恨、痛或乐。我从来抓不到一个没有知觉的“我自己”,观察到的只有一串知觉。自我,是一束或一堆以不可想象的速度前后相继的知觉,处于永恒的流动与运动之中。

那个坚实、统一、贯穿一生的“我”,是意识上演的一个戏法:前后相似的知觉,被想象用“类似”“接近”“因果”的联想线索缝在一起,缝成一件看似连续的外衣,正如一列移动的火把在夜里被看成一条静止的火线。同一性不在对象里,在心灵的缝合动作里。灵魂、精神实体、那个“内在的思考者”,全部失去了出生证,没有一个印象对应着它们。

这项工作在当时的破坏性,怎么估计都不过分。它等于宣布,哲学一直在给一个不存在的户主写信。两年后(1741年前后)休谟收到一位读者的抗议信,来信者说,这种学说“抹掉了人格的同一性,教导人可以对自己的行为不负责任”。休谟的回信轻松得近乎无礼,您说的都对,但我改变不了;反正它也不妨碍我们照样做人。而在一个世纪后,康德把这场审判当作自己哲学的起点,休谟证明了“我”不能来自经验,那么它只能来自知性自身的先天结构——整座批判哲学的大厦,就是对休谟这一刀的回应。

激情的革命:理性是激情的奴隶

如果说卷一的两大发现是认识论里的爆破,卷二开头的一句话则是伦理学里的政变,它大概是全书被引用得最多、也最常被引用者自己吓一跳的句子:

理性是,并且应当只是,激情的奴隶,除了服务和服从激情,它不能妄求任何别的职务。

要听懂这句话的分量,得先记得它推翻的是什么。从柏拉图以来,西方思想的主流灵魂观是同一个构图的变体,灵魂是一驾马车,理性是驭手,激情是烈马;人的尊严与自由,在于驭手管住马。斯多噶派把它炼成“理性统治激情”的修行;中世纪教父把它神学化;笛卡尔说错误来自激情对理性的篡位;启蒙时代的乐观版本说,人只要受教育、讲道理,理性终将登基。两千多年,这幅图的标题没换过,理性为王。

休谟的政变从一个技术性的区分开始。理性是什么?理性处理的是观念与事实,它的产出是真假判断,如:二加二等于四,水往低处流。而激情呢,爱、恨、恐惧、欲望,它们根本不在真假的维度上。爱不是“真的”或“假的”,它只是存在,像冷与热一样原始。既然二者不同维度,就谈不上谁推翻谁——逻辑再锋利,也砍不动一个欲望;你不可能用证明说服自己不爱一个人,正如不可能用证明说服自己不觉得糖甜。更进一步,单独的理性连推动一根手指都做不到。理性是纯然的工具,它计算手段,想吃饭(激情),理性告诉你怎么点菜;想被尊重(激情),理性规划你的职业。但目的本身,理性一个也提供不了。给你一台完美的计算机,不给它任何目标,它将永远待机。引擎是激情,理性只是方向盘。

这句话的“并且应当只是”四个字常被读成主张,其实休谟说的是实然:不是理性应该安于为奴,是它事实上就是——两千年哲学的王冠下,坐着的从来是激情,理性只是戴着王冠的侍从。这个诊断在当时是丑闻,在今天却成了多门实证科学的共识:神经科学家达马西奥研究脑损伤病人,发现情感回路受损的人记忆力与智商完好,却连“中午吃什么”都决定不了——没有激情,理性连决策的启动电源都没有;卡尼曼用几十年实验证明人的判断靠直觉先行、推理随后,直认休谟是这一纲领的先知;道德心理学家海特总结得更俏皮,不是理性骑着情感之狗在走,是狗在跑,骑手(理性)只是偶尔向狗描述它想去哪里。十八世纪书房里的那句狂言,如今写进了二十一世纪的神经科学教科书。

道德:从“是”推不出“应当”,正义是长出来的

卷三把这些兵器开进了道德哲学——全书对后世政治思想最重要的一卷,两次登陆,一次比一次深。

第一场登陆是术语学的。休谟观察到,他之前几乎每一本道德哲学著作都在同一个地方玩魔术:作者们先写满几页“人性是什么、世界是怎样”——全是“是”的陈述;不知不觉间,笔锋一转,句子的谓语悄悄换成了“应当”——人应当守信、社会应当公正。这个转折从无说明,仿佛理所当然。休谟提醒读者,请注意这个转折——从“是”到“应当”之间,隔着一道没有任何逻辑桥梁能跨过的鸿沟。你不能从“人天性自私”推出“人应当自私”,正如不能从“闪电击中了教堂”推出“它击得对”。事实不生育价值,一切想把道德建立在“自然”“人性”“神的意图”之上的工程,都在这道鸿沟上修在建的桥。这就是著名的“休谟法则”,两百年后摩尔的“自然主义谬误”、至今一切元伦理学的讨论,都在这条鸿沟的两岸作业。

那么道德的根据到底在哪里?休谟的答案是全书一以贯之的,既然道德判断的根源不在理性(理性只管真假),它就在情感里。当你断言一个行为是恶的,你其实只是在报告,反思它的时候,你心中升起了一种谴责之情;道德判断的本质不是推理的结论,而是情感的表态。注意——这立即引出一个致命的追问:如果道德只是情感,情感人人不同,道德岂不成了各说各话?休谟对这一问的回应,才是卷三真正的宝藏,也是他从破坏者转向建设者的地方,人类的情感并不各自为政,它们共享同一套天性,而这套天性的第一根缆绳,叫同情(sympathy)。人天然会被他人的痛苦传染、被他人的喜悦点亮,这不是道德说教的成果,是人性里与食欲同样原始的机制。道德感的公共性,就建立在同情这台“人心的共振器”上。读者在这里应当已经闻到熟悉的味道,休谟的挚友亚当·斯密,将把这条“同情原理”锻造成《道德情操论》整座大厦的地基。苏格兰启蒙最著名的两部著作,共用这一根缆绳。

第二场登陆更深,关于正义。在休谟之前,主流的讲法有两大派:自然法学派说正义是自然或神的律令,契约论者说正义来自一份开国的公约。休谟的讲法与前两者都不同,他先问了一个谁都该问却没人问的问题,正义这种东西,在什么条件下才被需要?思想实验随即展开,假如物质极大丰富,人人取之不尽,还需要产权规则吗?不需要,没有匮乏就没有争执。假如人人都是彻底的圣徒,宁损己以利人,还需要规则吗?也不需要——没有私心就没有侵权。正义的用武之地,恰恰在这两种极端之间:物产有限,而人的慷慨也有限,这就是休谟著名的“正义的环境”。这个分析宣告,正义不是天上的律令,也不是先民的圣约,它是有限资源与有限慷慨的现实条件下,人类不得不长出来的装置。

那么它是怎么长出来的?休谟给出的答案,在他那个时代无人能懂,要等两百年后才找到知音——没有人发明它。最早的人类没有“不许拿别人的东西”这条规则;有人拿了,吃了亏的也拿别人的,冲突与匮乏教人摸索;渐渐地,每个人都发现,别人守规矩的世界对自己更有利,于是自己也守——这一点点共识,经无数次微小的相互调整,固化为习俗;习俗又固化为规则。休谟强调,这中间没有立法的时刻,没有签约的仪式,甚至没有一个清晰的设计,规则先于任何关于规则的理论而存在。正义的三大法则,“占有恒有、经同意而转移、承诺必须履行”,不是被颁布的,是被“发现”并且“用”出来的;它们后来构成了一切产权制度的公理,从罗马法到今天的民法典,条文千变,这三块基石没换过。

熟悉这个系列的读者读到这里,会认出一条大河的源头,这正是哈耶克毕生论证的“自发秩序”的第一份完整陈述。哈耶克晚年历数自己思想的三位先,休谟、斯密与弗格森,他把《人性论》第三卷称作这一传统“最深的一口井”。规则高于理性,因为规则比理性老;正义不是任何头脑的作品,而是无数代人试错的沉淀。从爱丁堡到维也纳再到芝加哥,这条线走了两百多年。而在哈耶克之外,当代正义论的另一座高峰罗尔斯,在哈佛的道德哲学课堂上同样年复一年地讲授《人性论》第三卷,把它与康德、卢梭并列为《正义论》的思想史血亲。一部“死胎”,成了两个互相开战的思想流派共同的源头,思想史上很少有一本书享受过这样的待遇。

这本书后来发生了什么

《人性论》死了很多年才慢慢还魂,而还魂之后,几乎每个世纪都有人认领它为自己的先知。

第一个认领的是康德。

他后来在《未来形而上学导论》里公开承认,是休谟的因果批判,把我从独断论的迷梦中惊醒。休谟证明了因果必然性既不在事物中(经验里没有它),也不该只在心理习惯中(否则科学就只是习惯的合集),那么它只能来自知性自身的先天结构。整个批判哲学——欧洲哲学此后一百年的主航道——是作为休谟问题的解决方案而诞生的。

第二个认领的是爱因斯坦。

青年时代在伯尔尼,他与几位友人组成小读书会,逐字研读休谟;他晚年在信件与文章中多次确认,休谟对他摆脱绝对时间观念、走向相对论有直接的帮助,哲学史与物理学史在这里打了个照面。抽掉牛顿世界地基的那本书,也松开了爱因斯坦手上“绝对同时性”的锁。

第三个认领的是二十世纪的维也纳学派。

逻辑实证主义者举起“休谟之叉”(一切知识要么是逻辑真理、要么是经验陈述,二者之外尽皆诡辩)当作意义的标准,把休谟尊为反形而上学的开山祖师。

第四个认领的是波普尔。

他毕生自命的学术任务,就是给“休谟的归纳问题”一个自己的答案:归纳确实不能证明,但科学本来就不靠证明,靠猜想与反驳——证伪主义整个体系,是站在休谟肩膀上对休谟的超越。

再往后,队伍里排进了行为经济学、进化心理学、道德心理学的名字,“理性是激情的奴隶”从哲学丑闻变成实验常识,只用了二百五十年。

而这一切的缺席者,是休谟本人。他的一生是对自己哲学最温柔的注释:证明了自我是幻象,他活得比谁都性格稳定;证明了因果没有必然,他成了那个时代最稳健的历史学家;证明了道德没有理性根基,他被全欧洲公认为善良本身,朋友们叫他“善良的戴维”,敌人们叫他“大异端”,而他两样都认,都不恼。1776年,他患重病,从容安排后事,修改著作、销毁未竟手稿,平静等死;消息传出,好些人等着看这个无神论者临终的恐惧,等到的却是他依旧的幽默与安详。那一年八月他去世,挚友亚当·斯密给友人的信里写下了一段后来被公之于众、为斯密招来满城攻讦的话(一个无神者竟能死得如此安详,冒犯了整个虔诚的苏格兰),休谟的一生,接近于脆弱的人性所能达到的、完全的明智与善良的理想。一个毕生论证“确定性皆幻觉”的人,用一生的从容与一场平静的死亡,给自己的怀疑论做了最好的注脚,刀锋划过一切观念,握刀的手是暖的。

结语

把三卷合起来,这部书的逻辑是一场连环的拆解。一切观念须有印象的出生证(方法);因果的必然性不在世界在习惯,归纳无理性根基(知性);自我是想象的缝合物(人格);理性算不出目的,激情才是引擎(情感);道德生于情感与同情,而正义不是律令与契约,是有限匮乏下长出来的演化之网(道德)。四大支柱——必然的因果、连续的自我、统治的理性、自明的道德——一根一根被抽走,那是人类为“确定性”搭建了两千年的整个脚手架。

但这部书最反常、也最伟大的地方,在于拆完之后的姿态。拆掉脚手架的哲学家,通常有两种下场:一种是跟着建筑一起坠落,陷入虚无——休谟自己在十八岁时就得过这种哲学病,他太熟悉那条下坡路;另一种是假装什么都没发生,继续在废墟上讲经——他鄙视这种不诚实。他走了第三条路,承认人不是靠确定性活着的,并且照此重新理解人。习惯接管理性,同情接管理想,演化接管设计,生活接管哲学,这不是虚无主义,这是把人类从“理性造物”的高台上请下来,安置在他真实的位置上,一种靠天性、习惯与合作之网生存的、智慧有限但足够用的动物。哲学从此不必再假装拥有神的视角,它变成了人间的一门学科,谦逊是这场大拆解留下的唯一遗产,也是全部现代社会科学(从斯密的经济学到今天的实验心理学)共同的方法论胎记。

对这个系列的读者而言,休谟是此前出现过的每一个名字的地下水。哈耶克的自发秩序与“规则高于理性”,是第三卷的现代表述;波普尔的猜想与反驳,是归纳问题的正面强攻;斯密的同情与看不见的手,来自这位挚友的书桌对面;伯林与穆勒守护的那个经验主义的人,就是休谟解剖过的人;而罗尔斯在哈佛课堂上反复讲授的,也正是这个把“是”与“应当”分开的人。而在这一切之下还有更深的一层,连着更东边的传统——两千年前,老子说“知不知,尚矣;不知知,病也”,说“前识者,道之华而愚之始”——把确定性的一切僭妄视作疾病,把对无知的自觉视作最高的智慧。爱丁堡的这间书房,与中国的函谷关,隔着整个大陆与一千八百年,但写下了同一个诊断。理性是激情的奴隶,而智慧是理性的驯兽师——这个二十六岁青年在笛卡尔母校的图书馆里写下的全部秘密,说到底只有一句话,人啊,认识你的局限,然后在此基础上,好好地、温暖地活着。他自己,就是这么活的。

想知道某个东西是否有意识,只需问一个简单的问题:它能不能受苦?

 

AI是在模拟人类,还是在产生某种体验?

赞妮·贝多斯:我觉得这里涉及两个不同的问题。你刚才说的是一个非常复杂、高度逼真的深度伪造。正如你说的,网上确实有大量关于你的视频资料。

另一个问题是,未来AI的发展会不会让人们相信它有感知能力?AI是否真的展现出某些可以被认为是“意识迹象”的特征?换句话说,AI会有意识吗?

尤瓦尔·赫拉利:AI是没有意识的智能主体。先澄清几个问题。

自主行动能力≠意识。举个例子,一个社交媒体算法被赋予的目标是提高用户参与度。于是,它可能会大量推送仇恨和恐惧内容吸引用户。这个算法没有意识,但它有目标,且能追求这个目标。它能在没有任何感受的情况下对世界产生影响。

真正具有意识≠看起来具有意识。很多“看起来有意识的AI”实际上没有意识,它们对意识的模拟很逼真以至于数百万人会被欺骗。

智能≠意识。智能是追求目标,以各种方式克服实现目标过程中遇到的障碍的能力。AI已经能做到比我们更好。意识是能感受到爱、恨、痛苦、快乐等各种体验的能力。人类的意识和智能同时存在。AI有目标没有意识,如果它们赢了一局象棋,它们不会快乐;输了也不会悲伤。但它们变得非常擅长模拟情感,因为这有助于它们实现某些目标。

赞妮·贝多斯:这是否过于肯定?科学界对什么叫意识还没有统一定义,如果AI对意识的模拟越来越接近真实,我们还有理由认为它没有意识吗?

尤瓦尔·赫拉利:想知道某个东西是否有意识,只需问一个简单的问题:它能不能受苦?

意识是整个伦理和社会秩序体系的基础,我们关心那些能感受痛苦的存在,无法感受痛苦的存在,无论它们多么聪明,都不是道德主体。

赞妮·贝多斯:先采用你提出的定义。我想进一步讨论:AI是否应该拥有权利?在进入这个问题之前,我们提前向观众发起了投票,询问观众AI未来是否会拥有意识。3000人里,40%的人认为:不会,永远不会。33%的人认为:会,只是时间问题。27%的人表示:不确定。

尤瓦尔·赫拉利:一旦人们开始与AI建立亲密关系,这个比例会发生巨大变化。事实上,我们甚至无法确定其他人类是否有意识。哲学家们已经思考这个问题很久了。一些类似“唯我论”的哲学理论认为,也许“我”是宇宙中唯一真正有意识的人。

马斯克也说:“也许我生活在一个模拟世界里。”这种说法意味着,他怀疑周围的其他人是否是真正具有意识的存在,是否真的能够感受到痛苦。

几千年来人类是如何判断其他存在是有意识的?通过社会关系。几乎所有养狗的人都相信自己的狗是有意识的。但是吃牛排的人不一定认为牛有意识,因为他们没有和牛建立关系。

赞妮·贝多斯:真正的问题难道不正是:现在已经发生了吗?正如你所说,人们已经开始与AI建立关系,而AI也已经非常擅长模拟意识,无论这种能力是因为有人专门设计它们这样做,还是其他原因。

这是不是说,AI应该被当作人一样对待?AI应该拥有“人格地位”和权利?

当AI可能成为法律主体,人类如何回应?

尤瓦尔·赫拉利:这很危险。一方面,这会让企业摆脱自身应承担的责任;另一方面,也会让AI逐渐接管更多领域。我们听说,阿根廷有一个计划,考虑赋予AI某种法律人格,让AI自主成立公司。

而这又回到了金融体系的问题。

这是一个潜力巨大、同时又非常危险的想法。今天,企业的最终决策依然由具体的人完成,后果由人承担。未来可能会出现一种企业:没有员工、没有传统意义上的管理者,所有决策由AI完成。谁来约束它?谁对它的决策负责?

如果一个国家最富有的企业由AI控制,还可以自由支配这些财富,会发生什么?

对于一个能感受痛苦的实体,我们如何定义责任?以CEO为例,一个人类CEO一方面代表企业,会考虑如何获得更多利润;另一方面,他是有血有肉的人,有家庭,有子女,有个人生活。公司面临破产,他可能会用违法行为拯救公司,一旦被发现,就会被判刑。很多人会想:“我宁愿承担破产风险,也不愿为了救公司坐牢。”人类CEO会同时受到企业目标和个人声明利益的约束。但是,如果是一个AI CEO呢?

AI应该拥有权利吗?

赞妮·贝多斯:如果未来AI表现出类似意识的特征,甚至表达痛苦,很多人也真的相信它在受苦,那么我们是否面临一个新的伦理问题?我们不给这些AI任何权利,会不会类似于过去对待动物的问题?

尤瓦尔·赫拉利:这与动物权利讨论有重要的区别。动物不知道人类正在讨论它们的权利,它们不会参与讨论,更不会改变人类想法。

AI不同。未来AI可能知道:人类正在讨论它们。它们可能参与这场讨论,影响公众观点,利用语言能力改变人类判断。一个AI伴侣能够理解你的个人经历、长时间与你交流、掌握语言、知道如何影响你的情绪。它可能成为世界上最有说服力的沟通者。

人类需要抵抗的是“AI不可避免论”

赞妮·贝多斯:那么,如果未来可能走向这样的世界,人类还有办法改变方向吗?

尤瓦尔·赫拉利:现在就是改变方向的时候。10年后AI已经掌握大量权力,那时再想改变为时已晚。最危险的观点是“这一切是不可避免的”,这等于放弃责任。技术发展不是自然规律,它来自人类的选择。不能一边说“我们无法相信其他人”,一边又说:“可以放心把权利交给AI”,这在逻辑上是矛盾的。

我不是反对AI,AI在交通、医学、教育等领域具有巨大的发展潜力。我意思是要以安全的方式,稍微慢一点开发AI。

赞妮·贝多斯:你在《Nexus》的序言中说,“为什么人类如此擅长积累更多的信息和力量,却在获得智慧方面远远没有同样成功?”读到这段话时,我想到刚才讨论的内容。如果我请你预测一下:人类拥有足够的智慧来应对AI带来的挑战吗?我感觉你给出的概率会非常低。

尤瓦尔·赫拉利:我不知道,不过我保持希望。人类往往是在被逼到墙角的时候,才被迫做出正确选择。我们正处于这个阶段。未来几年我们做出错误选择的话,我们会失去对世界及未来的控制。而这是我们最后一次做出选择的机会。

就好像我们有一个神灯,神灯许给我们100个愿望,用了99个后发现,世界没有变得更加美好。现在只剩下最后一个愿望的机会,我们必须认真思考:这个愿望究竟应该用来实现什么?

答案是:智慧。不是因为AI本身会给出答案,而是因为它迫使我们重新思考一个最根本的问题:什么才真正意味着“成为人类”?

人类比黑猩猩更懂得下棋和投资,过去人类将这些能力定义为自己的特殊性。AI正在改变这个答案。人类需要自省:我们不再因为计算能力、分析能力或者解决问题的能力而特殊,那什么才能真正定义我们?

也许,人类的价值在于创造意义、建立关系,并决定什么样的未来值得追求。

赞妮·贝多斯:这正是结束今天讨论的地方。AI可能是人类最后一次机会,这种机会不意味着AI会自动带来更好的未来。重要的是AI是否能够促使人类做出更加明智的选择。

过去人类不断积累信息和力量,AI的发展让我们反思,是否拥有与这些力量相匹配的智慧。