首页 2024年度读书榜单 2023年度读书榜单 2022年度读书榜单 更多历年榜单 GY Zhou@Yantai 2025-01-20 20:40:03

智人之上,智能之下

简单剧透:

全书的内容其实就是目录中三大部分的三段总结。

正文开始:

2024年09月08日,逛书店的时候,在入门显眼的位置赫然摆着本书,冲着尤瓦尔的大名,在没有样书可以预览的情况下,直接就付款了。

之后,花了两三天的时候快速浏览了一遍,又边精读边做笔记读了一遍。总体感觉,有所获,但不如前三本那么惊艳。

尤瓦尔从信息的视角,将人类的历史又梳理了一遍,涉及人类的过去(第一部分),现在(第二部分),和将来(第三部分)。

关于信息

尤瓦尔虽然用了“信息是什么?”的标题,但其实是从功能和目标的角度,从不同的视角来分析信息,而没有具体去讨论信息的构成,也就是我们常理解的“信息是什么”。

他分析了三种看待信息的视角

1. 天真的信息观

在这种视角下,将信息视为用来反映真理和真相,通过真理和真相获得力量与智慧。

这一视角可以理解为一种科学范畴的视角,科学在很大程度上,就是为了揭示真相。

2. 民粹的信息观

在这种视角下,将信息视为一种武器。

这一视角可以理解为一种政治范畴的视角。

3. 复杂的信息观

在这种视角下, 将信息视为一种将不同的点联结成网络的工具,从而创造出新的现实。

这一视角可以理解为一种历史和社会范畴的视角。

尤瓦尔正在复杂的信息观的基础上,重新梳理了人类的历史,特别是政治和社会方面的历史。

复杂信息观中,信息将不同的点联结成网络,那么信息也就内嵌在这个网络之中了,形成了一张信息网络,其作用有两点:

– 发现真相

– 创造秩序

这两个功能,成为了权力的两个基础:

– 对真相的了解

– 建立秩序的能力

对真相的了解,就是利用信息差来产生权力,这也是为什么集权主义把中央作为整个国家信息中心的原因。

建立秩序的能力,包括了武力,影响力等能力,这种能力能够让群体服从,从而产生秩序。

讲故事是一种利用影响力来建立秩序的方式。而秩序并不意味着公平或正义。

抽屉制度,民主与独裁

这是第一部分的内容,以人类自身为节点,信息为联结方式组成的人类网络。代表了人类过往的历史。

本部分讨论了两种政治体制:民主与独裁;一种治理手段:官僚制度。

在信息的视角下,民主和独裁是两种不同的信息模式。

民主是一个分布式的信息网络,拥有强大的自我修正机制。

独裁是一种集中式的信息网络,缺乏强大的自我修正机制。

而官僚制度是一种信息管理系统,以抽屉作为核心进行分工,从而创造秩序的方式。官僚制度不是为了了解世界的真相,而是建立一套人为的秩序并套用在群体之上。(这可能就是中国为什么没有产生以了解世界真相为目的的科学革命的一个原因吧。)

需要注意的是,这里的官僚制度与我们理解的中国古代官僚制度的内涵是不同的,参见原书第46页的注释。

因此,整个人类过往的政治史,在信息的视角下,可以总结为:

以官僚制度为手段,以集中还是分散的方式来处理信息的斗争史。

在西方 ,集中的方式有斯巴达,罗马帝国,分散的方式有雅典。

这两种方式在人类的历史上一直存在,却始终没有分出胜负。特别是工业革命之后,人类的物质生产能力大爆发,但与之配套的合适的社会制度是什么,却莫衷一是,于是人类在两百多年的历史中不断探索,自由主义、社会主义、极权主义粉墨登场。两次世界大战,就是这些主义试验的副产品。(参见《今日简史》,20世纪的三大主义,以及本书第九章)

计算机,网络与人工智能

这是第二部分的内容,如果将人类过往的历史看作是以人类自身为节点,以信息为联结方式组成的人类网络,那么计算机,以及由计算机组成的信息网络,已经改变了这个事实。

在计算机网络出现之前,人类利用口头和书面的信息来组成网络,进行协作。

其中人是这个网络的节点,负责生成和处理各种信息;各种信息的载体,如史诗诗歌,书籍,文档等,只是传递信息(在空间和时间的维度)的手段而已。

计算机最初是作为处理数字计算的机器而出现,然后功能逐渐强大,渗透到人类生活的各个方面。而由计算机组成的网络,最初是作为一种更为便捷的信息传递手段而出现的。随着AI的兴起,这一网络的性质就发生了变化。因为,AI拥有了自己生成和处理信息的能力,这就会出现一种情况,即计算机网络将人这个关键节点逐渐剔除在网络之外,而形成一个完全由计算机组成的信息系统网络。那么,由人类主导的历史将被终结。

尤瓦尔在本部分浓墨重彩地描述了计算机网络对人类的监控和操纵,让人不寒而栗。

尤瓦尔在之前书中提到了三个实体:

– 客观

– 主观

– 主体间的现实

本书又提出了“存在于计算机间的现实”这个概念,算是新的。其含义为,由群体共同认可的,存在于计算机网络中的共识,形成的虚构的现实。

计算机间的现实,与主体间的现实,初看时,前者应该是后者的一个分支,或者子概念。

计算机间的现实,也是人类共同想象的一部分,只是之前人类将共同想象的内容通过吟唱、文字、图案等形式表现出来,而计算机是通过电脑表现出来。从这一角度出发,前者为后者的一个分支或子概念。

当我们把AI注入计算机网络后,两者就产生了一个重大的区分:

计算机间出现了不受人类控制的现实,即不是由人类产生和处理的现实,人类反而要受到这些现实的影响和控制。

工作,生活与生存

这是第三部分的内容,人类社会已经被计算机网络所改变,这已经成为事实,下一步,人类将走向何方?

失去工作是人们当下最为担心的事情,而这已经成为现实。

而生活受到影响也已经显露,尤瓦尔在书中两处都引用了英国科幻剧《黑镜》第三季里的《急转直下》的剧情(第216页并没有直接引用,但内容相符),简单来说,剧情就是当点赞评分机制深入到人类社会的方方面面后,人类的生活状态。

自由主义批判集体主义时,一个强有力的论据就是:人类的理性是有限了,在面对社会和市场这个复杂的超级系统时,计划和控制是无法保障其正确运转的(可以参见哈耶克的《通往奴役之路》和《致命的自负》)。

这在之前,甚至目前都还是正确的,但放眼未来,集中式管理的有效性会越来越大,因为人类有了AI和大数据。在这种图景下,我们需要担心的将不再是工作和生活,更有可能是生存问题了。

个人感想

永远别去召唤自己控制不了的力量

尤瓦尔借用歌德的寓言《魔法师学徒》来说明这个道理,个人认为,这其实是一句正确的废话。

这一观点是从事后的全能上帝的视角来说的话,当魔法师学徒用咒语召唤出扫帚帮他打扫卫生,却因学艺不精引发一场灾难之后,我们会由衷地发出一声感慨:

永远别去召唤自己控制不了的力量。

可当我们从当事人当时的视角来看,学徒在用咒语召唤出扫帚时,他想得到自己控制不了扫帚,想得到扫帚会造成那么大的问题吗?

大概率他是想不到的。

约翰·冯·诺依曼发明第一台计算机时,是拿它来进行弹道计算的。他当时应该认为自己召唤的只是一个辅助自己工作的小精灵,他会想到自己召唤出来的是一只利维坦吗?

当然,曼哈顿工程的负责人是清楚他们召唤出来的绝对不是什么善类。

我觉得这一寓言所带来的启示应该是:

当我们准备开始一项自己并不熟悉的活动(工作,或者探索)时,要事先进行必要的评估,用自己最大的努力去尽量避免问题的出现。

回到寓言故事,学徒在召唤扫帚之前,合理的行为应该是想一想,我会召唤扫帚的咒语,我会停止扫帚的咒语吗?

当然,我们在事前并不能考虑到所有的细节和问题,那么我们就应该同时具备相应的风险意识:如果中间出了问题,会出现什么问题,该怎样应对?

冰冷的计算机如何挑逗人类的情绪

在第六章, 尤瓦尔引用了脸书煽动缅甸种族冲突的真实案例,最后得出结论,算法为了追求用户参与度,做了一个致命决定:传播愤怒。

由冰冷的0和1构成的算法,却能激发起成千上万的人的情绪,想一想,是不是很可怕。

利用民众的情绪来达成目的,是人类的惯用手段,例如纳粹的宣传。这种手段常用的方式就是激起人们的愤怒,如脸书所为;以及,引起人们的恐惧,如猎巫运动。他们刻意向人们展示或真或假的信息的某一方面,点燃人们的情绪。这也是权力的一种,即影响力。

在书中,特别是第二部分和第三部分, 尤瓦尔给我们展示的,大多是计算机网络负面的作用,如何监控大众,如何控制大众,如何给大众洗脑,如何绑架独裁者。从这一点来看,他又何尝不是在挑逗我们的情绪呢?

计算机网络的权柄

权在古意中是“秤锤”(即“秤砣”)的意思,后引申为人的决定权、权力、权势。用权的中心是在于调节各个方面的关系,维持相对平衡。

柄是器物上的把儿,握住就掌握了器物。

那么这个标题的是意思就是:谁在掌握计算机网络,拥有相对应的权力。

这是一个很悲观的话题。

在网络幼小的时候,人们可以自建网站,生产和发布信息。但到了如今,虽然还可以这样做,但个体的声音已经被淹没在网络的数据洪流之中。

计算机网张的权柄,已经在少数人手中,这是个不争的事实。也就意味着,绝大多数人的命运,将由绝少数人来掌握。

躺平或被包养,都是自己的选择

有一种观点,人类的进步,是源于人类偷懒的本能。

魔法师的学徒之所以召唤出扫帚帮他打水,本意不就是想偷懒吗?

机器和AI的出现,不就是人们想把自己的工作转嫁给它们,然后自己可以躺平吗?

那些叫着“叔叔阿姨,我不想努力了”的人,不就是觉得被包养可以轻松地生活吗?

可万事皆有代价,人类召唤的力量,不是说控制不了,而是人类自己把权柄递给了这些力量,原指望它们能让自己的生活过得更美好,最终可会沦丧为被包养。说得更难听一点,就是被饲养。

未来虽不远,但还在路上

让我们在这些浓重的黑色里寻找一点光明吧,那就是,所描述的图景虽然在路上,但毕竟在路上。

人类历史将被计算机网络终结,但这一终结,在目前还没成为现实,虽然AI在算法上已经实现了自我繁衍,即它自己可以生成处理数据的算法,但在硬件上,目前AI还无法复制和升级。如果有一天,在不需要人类干预的情况下,AI可以自己生产和升级硬件,譬如生产更高级的芯片,那么人类就有可以彻底失去对AI的控制。

但愿这一天,能够晚一天,再晚一天,再晚一天到来。

祝大家中秋快乐!

2024年09月16日(中秋前一天)

年度图书 历史/文化 年度图书 社会/科学 年度图书 外文小说
©2024-2025 vimge.com