这本书的作者也是人类简史的作者。他从宗教的起源和发展说起，说明了他们的排他性和“绝对正确”的底层逻辑，通过惨绝人寰的猎巫运动，讲述了“阴谋论”“怀疑论”的土壤和它带来的恐怖主义的巨大的破坏力量，被烧死的“女巫”和被处决的“富农”之间的高度相似性，让读者意识到宗教的“罪恶”史， 和极权统治的一脉相承，他们之间的同（树立敌人和散布恐惧）与不同（极权拥有更大的权利和更有效执行的体制）。书中回顾那些发生在德国和东欧国家的“人民代表”的操作部分，大家一定不陌生，一定有共鸣，斯大林主义犯过的所有罪行，几十年后都在中国成功复制，“他们” 学习历史，不是为了避免对人民犯下错误，而是吸取 “极权”统治的成功经验。
现如今日渐抬头的民粹主义，再次为极权提供了土壤：“總而言之，民粹主義的這種觀點把人性看得極為卑劣，但還是有兩點讓民粹主義深具吸引力。第一，這把所有互動都簡化成權力鬥爭，於是現實變得似乎沒那麼複雜，所有戰爭、經濟危機和自然災害等事件，也變得好懂多了。不管發生任何事（就算是一場全球疫情），都是因為菁英份子在爭奪權力。第二，民粹主義之所以有吸引力，是因為它有時候也確實是對的。所有人類機構制度確實都有可能犯錯，也都會有一定程度的貪腐。確實有些法官會收賄，確實有些記者會故意誤導大眾，確實有些學術學門會有偏見與裙帶關係的問題。正因如此，所有機構制度都需要自我修正機制。然而，由於民粹主義相信只有權力、力量才是唯一的現實，也就無法相信法院、媒體或學術界能夠受到真理或正義價值的啟發，進行自我修正。”
而这一切现象的背后推手，就是“资讯”：从各个宗教的经典教义，到各个党派的宣传，以及现在网上铺天盖地的，经过AI算法精准推送来的信息 。 而资讯不等于真理真相，资讯革命也并不会揭露事实真相。资讯革命会做到的，是创造出新的政治结构，经济模式，和文化规范。 由于这一波资讯革命的规模远胜过往，也就可能创造出规模超前的现实。AI算法可以引发暴乱，也可以制造王者；可以成就民主，也可以制造极权。现代科技也让两个方向都更加容易。
“如果要說民主的死亡，一種情況是人民沒有了言論自由，那麼另一種情況就是人民已經失去了傾聽彼此的意願或能力。”
“演算法接著用幾百萬個使用者做實驗，發現最能提升參與度的辦法，就是讓人感覺憤慨。比起慈悲法語，充滿仇恨的陰謀論就是更能提升人類的參與度。所以，為了追求使用者參與度，演算法就做了一個致命的決定：散播各種駭人聽聞、令人憤慨的內容”“透過反覆試誤，演算法發現：人只要感到憤慨，就會提升參與度，於是在沒有上級明確指示的情況下，演算法自己決定了要多多讓人感到憤慨。這正是 AI 的典型特徵：雖然是機器，但擁有自己學習與行動的能力。”
“管理臉書、YouTube、TikTok 等平臺的人，為了找藉口，常會說這些問題不能怪演算法，而是出於人性。他們表示，是人性造成了平臺上一切的仇恨與謊言。這些科技龍頭也說，因為他們堅守言論自由的價值觀，所以要去審查人類真實情感的表達，實在很為難。” “早在2016年，臉書的某一份內部報告就發現：「在加入極端團體的人當中，有64%是因為我們的推薦工具……我們的推薦系統助長了這個問題。」 吹哨者豪根（Frances Haugen）揭露了臉書在2019年8月的另一份內部機密備忘錄，裡面提到：「我們有許多不同來源的證據顯示，在臉書與系出同門的社群應用程式上，所張貼的仇恨言論、造成分裂的政治言論與錯誤資訊，正在影響世界各地的社會。我們也有可靠的證據指出，我們的核心產品機制，像是病毒式傳播、推薦及參與度最佳化，正是此類言論在臉書平臺盛行的重要原因。”
人性的特点，和平台追求粘性和高点击率，决定了社交平台成为了扬恶隐善，劣币逐良币的平台。如何设置AI算法的终极目标，才能避免更大的灾难？AI的目标和人类的目标如何保持一致？AI的觉醒是否会产生不同于人类的目标？很多大问题，人类都还没有想好呢，文中细说了各种可能面临的哲学上的悖论和选择的困境。比如： “再以自由主義者為例，一旦被質疑該如何解釋不受限制的言論自由、或完全廢除稅收所帶來的直接社會危害，他們也常常會表達一種類似的信念：未來能得到的利，肯定大於短期造成的弊。 效益主義的危險在於，要是你深信一個未來的烏托邦，就會彷彿得到一張空白授權書，允許你在現在造成各種可怕的痛苦。事實上，這正是傳統宗教在幾千年前就已經在玩的把戲。對於未來救贖的承諾，很容易就能成為現世犯罪的藉口。”
“要是再過個十年或五十年，電腦創造出某種新型加密貨幣或金融工具，成為交易與投資所不可或缺，於是也成為政治危機與衝突的潛在根源，人類該怎麼辦？回想2007年至2008年，當時的全球金融危機是由各種擔保債權憑證（CDO）所引發，這些金融工具就是由幾個數學家和投資奇才發明的玩意，對大多數人（包括該負責監管的政府）來說，根本難以理解。這也就在後續導致監管失靈，引發全球災難。電腦所發明的新金融工具，很可能又遠比擔保債權憑證更為複雜，只有其他電腦才能搞懂它們在幹什麼。於是，結果就可能是一場比2008年更嚴重的金融風暴與政治危機。”
“舉例來說，演算法如果用現實資料來尋找「好員工」有何模式，很有可能認定老闆的侄子就是最棒的員工人選，其他條件都沒那麼重要。因為從過去的資料庫看得很清楚，老闆的侄子只要來申請，通常就能錄取，而且很少被解雇。演算法寶寶找出這樣的模式，就學會用人唯親。等到演算法主掌人資部門，就會認定老闆的姪子肯定是一流人選。”
“總而言之，這種新的電腦網路不一定是好或壞。我們唯一能確定的是：人類將很難理解這種電腦網路，而且這種電腦網路是會犯錯的。因此，人類建立的機構制度除了要能夠發現各種常見的人性弱點，例如貪婪與仇恨，還得有能力察覺前所未有的錯誤。這項難題無法用技術來解決，它將是一項政治上的挑戰。在政治上，我們想要處理這個問題嗎？”
历史证明就业市场的不稳定，会破坏民主。德国选民当年在并非别无选择的情况下，做出了一个糟糕的决定。AI带来就业市场的波动，可能会比1930年更盛，人们是否会做出正确的选择？
“我們無法預測事情的發展，但目前顯然許多民主國家的資訊網路正在崩潰。像是在美國，民主黨與共和黨甚至連基本的事實，都會出現意見分歧（例如，究竟誰贏了2020年總統大選），也幾乎無法再進行文明的對話。國會的兩黨合作，曾經是美國政治的基本特徵，但現在幾乎再也看不到這種情形。” “資訊網路已經變得如此複雜，而且非常依賴各種不透明的演算法決策、與存在於電腦間的實體，結果就是人類甚至很難回答一個最基本的政治問題：我們互鬥成這樣，究竟是為什麼？”
和所有的工具一样， AI不仅可以用来愚民，也可以愚弄控制统治者，对于全人类来说，它都是工具也是挑战。作者看似悲观的，他给出了很多种不乐观的推演。 “這些觀點的背後是一套關於人性更深層的哲學理論，靈長類動物學家德瓦爾（Frans de Waal）稱之為「飾面理論」（veneer theory）。在飾面理論看來，人類本質上仍然是石器時代的狩獵者，把這世界視為叢林，相信弱肉強食、力量就是正義。飾面理論認為，人類幾千年來一直試圖用各種神話與儀式形成的薄弱飾面，掩蓋這個不變的現實，但人類從未真正擺脫叢林法則。人類的神話與儀式本來就是叢林強者用來欺騙、誘捕弱者的武器。要是沒有意識到這一點，只能說是天真到危險的地步，必然成為一些無情掠食者的獵物。”
同时他也指出“但我們有理由認為，像米爾斯海默這樣的現實主義者，其實是選擇性的只看了部分的歷史現實，甚至叢林法則本身就是個錯誤的神話。正如德瓦爾與許多生物學家的大量研究所記錄到的，真實的叢林（而不是想像中的叢林）充滿了無數動物、植物、真菌、甚至細菌表現出的合作、共生與利他現象。”
“合作，才是真正的叢林法則”
“也就是說，正如太過樂觀的歷史觀可能是危險的幻想，太過悲觀的歷史觀也可能弄假成真、帶來毀滅”
这本书，用近乎危言耸听的方式，激发人们思考，在这次前所未有的变革中，人类是否会做出正确的选择？
PS: 引号内是引用了书中原文。
美国也会有就业不稳定的情况，虽然现在就业市场还不错，但是AI会重塑就业市场， 很多人不得不面临换工作岗位和性质，需要重新学习和适应，而且这种大趋势变化的频率会比任何时代都要快。 这次首当其冲的是之前比较舒适的部分人，用知识储备工作的人，他们最快被AI取代，会有更多的“铁锈带‘出现。落差和不满的情绪，可能会是混乱的导火索。乱世出”英雄“，更大的概率是出独裁者，他们强势的出来维持秩序，而秩序就是民主的对立面。 能在其中找到平衡，需要智慧，以及社会发展的必然和巧合。
“就业市场的不稳定，会破坏民主”，最近国内的情况真是糟透了，第4任期肯定要来的！
人类社会是一种利己和利他的平衡，今天并没有变。
同意最后一句引言。过于悲观也是有害的。