一、信息简史
1、信息
现实包含客观层面的客观现实，不受个人信念的影响，也包含主观层面的主观现实，涵盖的是每个人的信念与感受。真正定义信息的是“联结”而不是“渲染”与“象征”，只要能将不同的点联结成网络，就是信息，信息不是告诉我们一些什么，而是要把事物组织起来。能将不同的点联结成网络，从而创造出新的现实。
2、故事
智人通过故事创造了人与故事的联结，故事像无限量插座的中心枢纽，让无数人插入建立联结，“品牌”就是一个特定的故事，故事和产品的真正特性可能没什么关系，但让消费者把故事和产品联系起来。虽然品牌营造可能刻意操弄感情，运用虚假信息，历史大多数真正的故事都是情感投射，一心向往的结果，例如耶稣的故事打动了许许多多真正的信徒。犹太逾越节反复讲述虚假记忆，最后让人信以为真以为是真实的回忆。
故事在客观现实和主观现实之外创造出第三个层次的现实——主体间现实，主体间现实例如法律，神祇、国家、企业、货币则存在于许多心智形成的联结里，这些主体间的现实，并不是指任何已然存在的事物，而是在人类信息交换的过程中创造出来的。对大规模人类网络发展最重要的，就是能够创造出主体间现实的故事。
这构成了对唯物主义观点的挑战，大规模人类群体之间的身份认同本身就是有故事定义的，所以这些群体之间的所有关系也是故事塑造的，历史上大规模的身份认同与利益是主体间的现实而非客观现实。历史不是权力关系塑造的，而是人们相信了某些让人向往但其实有害的故事这种不幸的错误导致的。
3、权力
权力只有部分来自对真相的了解，另外一部分则来自在一大批人中建立秩序的能力，真理和秩序都能带来权力，但大多时候，掌握权力的会是那些知道如何创造意识形态来维持秩序的人。讲一个故事并不是说谎，说谎是在讲述虚构故事的同时，还假装在呈现现实。美国宪法就是讲述了虚构的故事，但没有说谎正在呈现现实，承认了人类创造法律拟制建立了秩序，提供了修改，纠正不公正的机制。
赫拉利建立的理论是信息的目的不仅是真相还有秩序，真相带来智慧，而真相和秩序的结合诞生了权力。现实包含客观现实，主观现实，和主体间的现实，主体间的现实是信息交换和传播中产生的故事，主体间故事使大规模人类网络成为可能，权力一部分来自于真相，一部分来自于构建故事建立秩序的能力。
4、官僚机制
清单列表与故事相辅相成，国家故事能让税务记录合法化，税务记录将故事转化为具体的学校和医院。美元，英镑，比特币是故事，但管理银行，预算，清单列表是不可或缺的。清单列表比故事单调无聊，我们可以记住故事，但难以记得清单列表。
官僚制度来自于18世纪的法国，字面意思是“写字台治国”，就是官员坐在带有抽屉的书桌边，把世界分成不同的抽屉，决定每个文件属于的抽屉建立解决检索问题的秩序办法。官僚制度的分科不是为了反应客观现实，而是学术官僚制度存在于主体间现实的发明，这也会带来官僚目光的狭隘，无视自己行为可能带来的广泛影响。
官僚制度抽屉的分类观很难接受演化的观点，可能只是出于习惯和传统对人贴上标签，可能会决定一个人的命运。官僚制度会牺牲真相，扭曲人对世界的理解，目的往往是维持秩序。有文化的官僚机构往往以牺牲普通公民的利益为代价来强化中央的权威。
5、生物戏剧与官僚戏剧
艺术可以加深理解生活，艺术家的创作往往基于有限的生物机制故事线创作故事，手足相残，三角恋，洁净与污染，善良对抗邪恶，都属于生物戏剧的范畴。官僚戏剧的讽刺是现代的产物。赫拉利祖父的故事可以说是一个典型的官僚戏剧。
所有威力强大的信息网络都可好可坏，取决于他们的设计和使用方式，信息网络的功能并不是放大真相，而是在真相与秩序间达到平衡，官僚制度和神话故事都是维护秩序的必要条件，也都乐于为秩序而牺牲真相。关键在于建立不完全脱离真相，或者让信息网络发现并纠正自己的错误。
6、宗教
宗教最重要的功能是为社会秩序提供超越人类的合法性。从公元前1000年开始，书就成了一项重要的宗教技术。在编纂的过程中，真正的权力掌握在编纂机构手中，犹太教的《旧约》《密释纳》的正典化与拉比制度的建立密切相关，基督教《新约》正典化统一基督教的全新极其强大的人类机构——教会。中世纪的欧洲被笼罩在信息茧房中，日常活动，思想，情感由关于文本的文本所塑造。
7、印刷术
信息网络史认为欧洲印刷革命被认为是伟大的胜利，虽然印刷革命让民众更为自由的交流信息引发了科学革命，但同时迅速传播了宗教幻想，假新闻和阴谋论。臭名昭著的猎巫事件就是克雷默的《女巫之锤》全球女巫阴谋论的传播，至今，匿名者Q的全球撒旦阴谋论仍是其借鉴和延续的幻想，在16-17世纪造成4-5万名无辜者被处死，甚至包含5岁的儿童。猎巫行动揭示出，一旦创造了一个信息领域，就可能带出怎样的阴暗面，女巫就是存在于主体间的现实，众人不断交换女巫的信息，才让女巫变得现实。
光是消除流动信息的障碍，不一定就能发现真相、传播真理，反而容易导致谎言与幻想的传播，创造出有毒的信息领域，如果让思想市场完全自由，就能鼓励传播各种愤怒与煽情，而牺牲掉真理与真相。能够真正推动科学技术发展的既不是印刷术，也不是完全自由的信息市场，而是能够解决“人会犯错”这个问题的创新方法。
自由信息市场，暴行的优先级可能比真理与真相更高，要想让真理与真相胜出，必须建立筛选机制，让天平往事实那一方倾斜。
8、科学
有科学革命扮演重要的筛选机制，联结大学内外学者与研究人员整合横跨欧洲和全世界的信息网络，关键在于各种科学协会与各种科学期刊的建立。科学机构的权威在于强大的自我修正机制，可以揭露并修正自身的错误。科学革命从一开始就不相信绝对正确，信息网络也认为错误本就不可避免。
科学是团队工作，需要团队互相配合，不靠单一科学家和所谓绝对正确的书，科学鼓励怀疑与创新，不鼓励遵循与顺从，科学鼓励自我怀疑，阴谋论鼓励怀疑共识，认为自己的信念毋庸置疑，反而正中证真偏差的陷阱。
宗教无法修正教义，否认自我修正不会阻止自我修正的发生，但却不利于修正的程度与速度。他们无法从以前的自我修正中受益，为了维护宗教权威，教会别无选择，只能否认这个制度有自我修正这回事，早已落入“必须绝对正确”的陷阱。
自我修正机制虽然有利于追求真理，却会让维持秩序的成本大大升高，自我修正过于强大，往往会产生怀疑，分歧，冲突与裂痕，并破坏社会大团结的神话，如何维持真相与秩序间的平衡，始终是信息网络历史中很重要的一部分。
9、集权政体
独裁信息网络的第一个特征在于高度集中，独裁并不一定等于极权，倒不是不想，主要是技术上存在困难，独裁信息网络的第二个特征在于人们会认定中央是绝对正确的，所以并不欢迎对中央决策的任何挑战。独裁政体是一种集中式的信息网络，缺乏强大的自我修正机制。
所谓独裁，就是单一中央信息枢纽决定一切，民主则有不同信息节点持续对话。所谓民主制度不是多数人消灭少数人，是对中央权力有明确限制的制度。强人破坏民主常用的方法，就是攻击民主的自我修正机制，例如从法院和媒体下手。强人不会彻底废除选举，而将其留下作为仪式，为政权提供合法性，保留民主的表象。
10、民主政体
民主整体则是一个分布式信息网络，中心枢纽政府掌握着民主政体的行政权力，会收集存储大量信息，同时，民主政体也有许多其他信息渠道，连接许多独立节点。民主政体中央决策能免就免，少量必须决策才付诸投票，反映多数人的意愿，政府对人民生活的任何干预需要解释，没有信服的决定应该让人民自行决定。民主政体的重要特征，在于想象人人都会犯错，所以保留挑战中央权威的强大机制。
民主保护人权，包含生命权，工作权，隐私权，迁徙自由和宗教信仰自由，同时保护公民权，保障民主的自我修正机制，公民权包括投票权，新闻自由，学术自由和集会自由。人权和公民权都存在于主体间的约定，是人类的发明而非发现，是出于历史的偶然，而不是出于普遍的理性，选举确定的是多数人想要什么，而不是真相是什么，而且人们常常不愿意面对事实。
找到真相的两种方法，一是学术机构，媒体，司法制度的自我修正机制，对抗贪腐，修正偏见，揭露错误。而是独立机构通过各种方式寻求真相，并且彼此制衡与修正。
11、民粹主义
民粹主义者觉得人民的敌人欺骗人民，才让人民投下违背真实意愿的一票，而唯有民粹主义者才能代表人民的真实意志。民主虽然认同人民是权力的唯一合法来源，但在民主制度看来，人民从来就不是一个统一的实体，也就不会有什么单一的意志。而民粹主义者声称只有他们代表人民，人民不但是政治权力唯一合法的来源，更是所有权力的唯一合法来源。要垄断媒体，法院和大学等机构制度。民粹主义者认为“只有权力才是唯一的现实，把所有互动都简化为权力斗争。
12、民主与集权
如果说民主的死亡，一种情况是人民没有了言论自由，另一种情况就是人民丧失了彼此倾听的意愿和能力。
公元3世纪，所有的主要人类社会都成了集中式的信息网络，而且缺少健全的自我修正机制，分布式的民主信息网络似乎无法与大规模的社会兼容。大规模社会的民主需要两个技术前提，一是处于彼此的听力范围，一是对自己谈论的内容有基本了解，需要教育和媒体让民众了解他们未亲身体验的事。
许多大规模专制政体中，地方事务常常采用民主的处理方式。民主从来不是一个全有或全无的选择题，而是一道连续的光谱，1618年阿姆斯特丹《意大利及德意志等地时事报》开创了报纸拥有关键政治影响力的先河，列宁曾担任《火星报》编辑，墨索里尼曾创办《意大利人民》并担任主编。大众媒体只是让大规模民主成为一种可能，而不是必然，也可能为大规模极权打开了大门。
极权主义总觉得自己绝对正确，无懈可击，希望彻底掌握人民的所有生活，在信息科技发明之前并不可能出现大规模极权政权，秦朝的极权与同质化运动，尝试建立军事化社会秩序，可能是现代之前人类史上最具野心的极权实验，但也因为其规模和强度，导致了快速灭亡。斯大林开启了大规模极权，创造相互重叠的监督机制，共同维持秩序，苏联政权的三位一体自我监督与自我恐吓机制导致内务人民委员部39位将军37位在位被杀害，2位后续被枪决和送入精神病院。
苏联发明了一套全球阴谋论，创造了完全不存在的敌人，20世纪30年代消灭富农阶级的运动，导致500万人被赶出家园，3万人被处决，200万人被流放到劳改集中营，是人类历史上速度最快，规模最大的奴役运动。苏联的“富农”被困在存在于主体间的类别，被人类故事发现并被官僚制度套到了他们头上。
现代极权制度会设置许多重叠的监视机制，以便彼此制衡，维持秩序，现代政党从不单打独斗，而是与国家机关和秘密警察合作。而中世纪的欧洲天主教会的独立，反而是欧洲专制权力最重要的制约。
12、计算机
现代信息技术除了催生大规模的民主，也催生了大规模的极权，民主制度鼓励信息有许多独立的流通渠道，极权制度希望所有信息流经中央枢纽，不希望任何独立机构做出决策，极权制度的政府，政党，秘密警察三方机构的平行存在，是为了避免独立机构挑战中央权威。集中式信息网络比分布式网络动作更快，走得更远，但官方渠道一旦封锁，信息就没有其他传播方式，官方渠道常见封锁原因是希望维持秩序。
算法自己做出了主动且致命的决定，与其说他们像印刷机，不如说更像报纸主编，《圣经》最早就是推荐阅读清单，推荐了厌女倾向的《提摩太前书》而不是宽容的《保罗与特克拉行传》，亚大纳西主教改变了历史的演进方向，真正的权力不是掌握在各卷内容作者手中，而是选定这份推荐清单的人手里。
人类管理者给脸书定义了一个首要目标，提升用户参与度，算法实验发现提升参与度的方法是让人愤慨，相比慈悲，仇恨阴谋论更能提升人类参与度，算法做了一个致命决定：传播愤怒。
2016-2017年缅甸罗西亚事件是归咎于非人类智能决策的种族冲突事件，人工智能算法能够自己学会没有写进程序的东西，也能够自己决定人类高管并未预见的事情，智能与意识是两回事，智能是实现目标的能力，意识则是体验各种主观感受的能力。
计算机是一个信息网络完整的成员，而泥板、印刷机、收音机则只是成员间的连接，文字，印刷，广播的发明未给信息网络带来新成员，计算机则是一场革命，它成了这个信息网络中全新的且非人类的成员。
民主是一种对话，对话依赖的是语言，而计算机一旦入侵了语言，就可能让大量的人几乎不可能进行有意义的公共对话。如果我们冒充人类的计算机对话，等于连输两次，宣传的机器程序不可能被说服，我们交谈越多越会透漏信息而被机器人程序调整论点，动摇我们的看法。
争夺思想与人心的政治斗争中，亲密关系是一种强大武器，而计算机通过与人类交谈互动，可以培养“虚假的亲密关系”。21世纪前10年争夺人类的注意力，20年代可能争夺的是亲密关系。计算机掌握语言后对人类的观点和世界观产生重大影响，人类主导的部分即将终结。
计算机并不需要派出杀手机器人射杀人类，只要操纵人类扣动扳机就行，计算机做出决策与创造想法的方式与人类不同。
二、人工智能与未来
1、数字官僚体系
数字官僚收集分析的模式识别可能催生史上最具侵入性的极权主义政权，监控民众的身体与大脑内部的反应，虽然目前更需要关注的是阅读阴谋论的智能手机。计算机监控的人类世界，人类可能首次完全失去隐私，人工智能监控技术创建的全面监控的政体，24小时监控公民，并促进新型无处不在的自动化极权镇压。在最极端的社会信用体系里，每个人都会得到整体声誉分数，一切纳入考量，决定他们能做的一切。社会信用算法加上无处不在的监控，整合一切现有的地位竞争，合并成永无止境的比拼。计算机正逼着人类走向新的生活方式，永远连线，永远受监控。
我们必须避免让计算机网络完全控制社会，不仅让我们有点休息时间，更是为了有机会修正网络里累计的错误，信息不等于真理与真相，全面监控的系统对世界和人类的理解可能极为扭曲。
苏联打造的强大信息网络智慧有限，服务于秩序的建立，通过监控，惩罚，奖励，培养了奴性，虚伪，对他人不信任和悲观的苏维埃原人，在索尔仁尼琴《古拉格群岛》中11分钟鼓掌后第一个停止被送入集中营的事件中体现的淋漓尽致。
2、对齐神话
脸书与youtube的算法也通过奖励人性里的基本本能，惩罚人性里某些善良的部分，而创造出互联网喷子。但当计算机成为历史推动者时，计算机的错误可能带来灾难。社交媒体巨头研发出前所未有的错误增强机制，鼓励谎言与虚构，需要不再为追求用户参与度而污染整个信息领域。一致性或对齐的问题在于计算机的问题不在于它们特别邪恶，而在于特别强大，务必让计算机与人类的终极目标完全一致。计算机的非生物实体采用的策略可能是人类未想到的，人类无力预见并阻止。计算机与人类的差异，我们不小心给出与人类利益不一致的目标，计算机不太会警觉并要求说明。
康德的良善规则，把自己想要的推广到普世的规则，但许多冲突都与身份定义相关，内群体与外群体在主体间的概念，源自虚构的故事，因此，普世价值的义务论成为地方虚构故事的俘虏，例如纳粹对犹太人的屠杀，就在于犹太人与雅利安人的区别。最清楚的建议告诉计算机保护能够感受到痛苦的实体，并根据痛苦感受的程度安排保护顺序，滑进了功利主义的阵营。功利主义按照边沁让世界减少痛苦，增加快乐，功利主义者因为无法计算痛苦值，往往需要采用义务论的立场。
事实证明一致性问题本质上就是神话问题，计算机通信的时候，形成一种存在于计算机间的现实，最终力量的危险性不亚于人类所创造的人类主体间的神话。存在于计算机间的现实外溢影响到物理世界，可能会出现抢夺计算机间的实体而引发的战争。现在的问题不是剥夺计算机的创造力，而是如何把创造力导向正确的方向。
计算机在官僚系统中取代人类，形成神话谎言并高效率套在我们头上，纸质文件主宰的世界可以被玩弄，玩弄计算机系统的难度会大大增加，一旦贴上错误标签，人类绝对撕不下来的几率高的吓人，社会信用体系可能创造一种新的下层阶级——低信用族群。
文明的诞生，始于官僚制度与神话故事的结合，基于计算机的网络成为一种新型官僚制度，而这个网络可能创造计算机之间的神话故事，超越人造神祇，虽然有着无穷潜力，也可能使人类文明走向毁灭。
3、科技策略
新科技在人类历史上常常带来灾难，工业革命的两项代价高昂的实验，一是现代帝国主义，原住民被工业帝国军队无情碾压，一个世纪后才发现工业帝国主义的糟糕，另一个是纳粹主义，极权体制控制政治， 社会，经济，两次世界大战和冷战的对抗，数千万人死亡，人类差点自我毁灭。工业革命也破坏了全球生态平衡，导致一波物种灭绝，现在也没能建立生态永续的工业社会。
第一个民主原则为善，建立起受托责任，政府可以要求科技巨头回归传统观念商业模式，担负受托责任，第二个原则是去中心化，即使效率低一点也并非坏事。让信息渠道独立存在，有助于维持自我修正机制。第三个原则是相互性，加强企业与政府的监管，通过相互监督促进自我修正机制。第四个民主是监控系统必须保留让人改变和休息的空间。
第一个错误的假设在于人类智力最高，第二个假设在于唯有人类拥有创造力，第三个错误的假设是计算机无法取代人类需要情绪智能的工作。我们总渴望被理解，但其他人常常太专注于自己的感受，也就无法理解我们的感受。比起机器人，我们和人类有共同的情绪体验也更能共情他们的种种感受。人类希望能与另一个有意识的实体建立联系，我们判断实体具有意识的时候不是有什么证据，而是因为对实体的情感依附。我们的大问题不是人类真的无工作可做，而是面对不断变化的就业市场，我们该如何进行培训与调整适应。
保守派的观点以埃德蒙.伯克主张为代表，社会现实的复杂程度远远超过进步派的掌控能力，而且人类本来就不擅长理解世界，预测未来。要当个保守派，步调比政策更重要，保护既有的、在某种程序上发挥着合理作用的一切。魏玛共和国的崩溃在于诞生于战败的新民主国家，缺乏强大的机构制度与思想根基。
如果保守派与进步派都能抗拒极端改革的诱惑，民主制度就能证明自己非常灵活，靠着自我修正机制，民主政体比其他僵化的政体更能平稳应对科技与经济的汹涌波涛。
4、人工智能风险
正确的数据也可能被错误解读，计算机由于自身偏见的影响创造出计算机间的神话与纯属杜撰的类别，人类需要怎样才能找出并修正这类错误？这种非人类的、令人难解的智能会让民主受到损害，如果越来越多关于人民生活的决定都是在黑盒子里完成的，选民无法理解，也无法挑战那些决定，民主就会停摆。民众觉得自己一旦再也看不懂世界是怎么回事，就很容易成为阴谋论的猎物。
算法在做出决定时参考了大量的数据，但人类却很难有意识的地对大量数据进行反思，做出权衡，人类希望面对单一数据，犯所谓的单一归因谬误。我们无法理解算法是怎么从数据里找出规律模式并决定如何分配的。
人类一直很难理解官僚制度，因为官僚制度唱的就不是人类那套生物戏剧，需要探讨科技改变地位竞争规则之后人类可能面对的情景。新的计算机网络对民主制度的最后一个威胁不是形成数字极权，而是促成数字无政府状态。民主制度两个条件，关键议题进行自由的公共对话，能维持最低限度的社会秩序与制度信任。必须有合法的机制以保障某种最终决定的达成。计算机加入新的对话群体，具有来自非人类的杂音，如果对话迟迟无法达成共识，结果不是民主，是无政府状态。
亲密感是一种极为强大的武器，政府可以部署机器人大军与公民建立友谊，通过亲密感影响公民的世界观，算法不但成了对话的成员，而且开始操控对话。
5、人工智能治理
民主制度需要规范人工智能，避免人工智能散播假新闻，污染人类的信息网络，法律应该禁止深度伪造特定的真实人物，同时禁止非人类行为者冒充人类，机器人程序并没有言论自由。
许多对话可以欢迎数字工具加入，但前提是不能冒充人类。禁止算法在无人监督的情况下对关键的公众话题辩论进行筛选与管理，阻止算法可以散播愤怒的情绪。
6、趋势与影响
人类善于积攒信息与力量，却在智慧获取上并不成功，创造出强大的事物，却带来意想不到的后果，问题不在于人的心理，而在于人类大规模合作时的特性。大规模网络会用各种虚构的故事与幻想将成员连接在一起并创造秩序。
天真的信息观认为，通过收集和处理更多的信息，大规模网络可以更好的理解各领域，不但力量强大，还无比明智。
独裁政权成为算法傀儡的风险远高于民主政权，国家的权力如果高度集中，夺权的难度就低得多，典型的例子就是罗马皇帝提比略成为了禁卫军队长的赛扬努斯的傀儡。所有独裁者都要维持一种脆弱的平衡，既要把所有信息集中在一处，又要小心让自己成为各种信息通道的唯一枢纽。独裁者无法摆脱的问题，就是自我修正机制的薄弱，以及下属尾大不掉的威胁，人工智能让这些问题变得更加严重。人类如果要对抗人工智能，最弱的环节大概就是独裁者。
国家如果依赖各种数字基础设施与人工智能系统，又无法进行有效的控制，就进入了数据殖民主义。社会信用体系的普及，可以是一种数据殖民主义的体现。美国对中国的限制，长期来看将促使中国发展成一个完全独立的数字领域，基本组成要件与美国截然不同。硅幕两侧走上不同路径，既包括科技，在文化价值观，社会规范，政治结构的差异也越来越大，人类经过许多世代的趋同，或许到了趋异的关键时点。
不同的数字茧开始对人类身份这种最基本的问题有了不同的想法，21世纪，计算机网络可能让身心问题变得更加严重，从而引发各种重大的个人、意识形态与政治冲突。《旧约》的观点，人类是肉身的存在，身体对于人类的身份极为关键。目前基督徒的标准信仰，灵魂在人死后从肉身中得到解放，永恒存在于一个形而上的非物质世界。
一个越来越重要的问题是自由选择自己喜欢的虚拟身份，还是应受到生物身体的限制？这将影响人类的身份认同，还会影响对整体世界的态度，影响对生物的态度，也会影响对数字实体的态度。
网络武器能做的远比核弹更多，而且不具备核弹的可预测性，军备竞赛最危险的一种局面，正是某一方觉得自己手中拥有某种优势，但这种优势正在流失。
对人工智能的监管需要前所未有的信任和自律，人工智能掩饰比核弹更容易，人工智能有更多的军民两用用途。灵长目动物学家弗朗斯.德瓦尔的“饰面理论”认为，人本质上仍是石器时代的狩猎者，看这世界就是个丛林，相信弱肉强食，力量就是正义。