如果有一天我们生活的城市,气候灾害频繁,洪水随时会来,人类随时需要做好逃生准备,那时候,城市的面貌、建构、管理方式、到人的日常生活会发生怎样的改变?包括人工智能在内的技术又会发生怎样的改变?
《2181序曲》中一共收录了她写的8个科幻/幻想故事。其中《〈2181序曲〉再版导言》这篇因为在她的前作《莫比乌斯环》里也收录过,而我看过《莫比乌斯环》,所以对我来说,其实是7个故事。
在《2181序曲》中,《母舰来到大海中央》这篇,让我看到当陆地会被洪水侵扰,海洋成了人们新的家园,人们建立起漂浮在海上的、可以灵活移动、拆分的「新城」。
而《择城》和《误入骑途》则讲述了故事的B面,陆地城市里的生活。
其中《择城》是从人的视角出发,讲人为了应对洪灾,设计出依靠人工智能算法建构的逃生导航系统。
而在实际应用中,人会发现,导航系统不仅只是服务者,还是裁决者。
「它会让那些在后续的其他灾难中有更高概率生存下来的人,优先使用逃生路径。」
当最初设计逃生系统的目标是「提升整体的逃生效率」,而要达到这一「效率」,需要「可以量化的数据:降低伤亡,降低经济损失」,于是更「年轻」的、更「可以追上YU计算的逃生方案的人」,「更有『价值』」的人,就会拥有优先逃生权。
人工智能在这里拥有了类似神一样的生杀予夺的权力。
而设计它的人,当初造神的人也会老去、也会生病,也会成为人工智能眼中可以在洪灾来临时,被放弃的存在。
这当中的讽刺意味,让我想到最近的热搜里,参与制定外卖骑手管理处罚制度的人如今也当了骑手,在被处罚过后,切身感受到了自己当初制定的制度的严苛之处。
我在读《择城》时,也会想,那逃生导航系统应该如何设计呢?当逃生通道容量有限时,哪些人有权利优先使用?这样的判断是应该交给人工智能还是交给人呢?
我们需要技术的帮助,但是当技术为了所谓全局的好,而让一些人在不知情的情况下被牺牲掉时,我们还可以接受这样的技术吗?
而要保证所有使用者的知情权,公开人工智能的算法逻辑,即便这个逻辑已经最大化考虑了公众福祉,那又如何避免有人投其所好地用技术更改自己的个人信息,提高自己的逃生优先级呢?
创造技术是难的,保证技术向善则是难上加难。
《择城》抛出了问题,并没有给解答。但我相信,问题本身就会在读过的人心中激起思考的涟漪。
《误入骑途》这篇则是想象了当人类因为气候灾难而抛弃的陆地城市里,被留下的人工智能开始模仿人类的行为,建构了996的工作制度,主动造神(把人类视为伟大存在,并每日赞颂)。
当我们以局外人的视角来看这一切,很容易发现其中的黑色幽默。
但当我们本身就是这些行为的执行者、甚至制订者时,却往往难以察觉自身的荒谬。
书中《魔镜算法》也是我觉得挺有意思的一篇,会让我想到《黑镜》。
故事里的「魔镜」是一种「可以分析别人的微表情」的应用。
当人可以用魔镜去解读别人的表情,管理自己的表情,接下来会发生什么,故事里给出了有趣的推演。
这个故事里也放入了对现代人亲密关系的思考,比如有伴侣可以在多大程度上解决衰老、孤独的问题,故事的结尾以一种狡黠的方式,对很多人习以为常的解决思路提出了质疑。
具体是什么,我就不剧透了,感兴趣的朋友,可以自己去看。