關于AI的發展赫拉利的擔憂過頭了

“《人類簡史》三部曲”讓尤瓦爾·赫拉利蜚聲全球，也讓他的新書《智人之上：從石器時代到AI時代的信息網絡簡史》備受期待。

在《人類簡史》中，赫拉利以歷史敘事為主線，勇敢地將諸多宏大問題匯于一爐，突破學科限制和束縛，重回文藝復興和啟蒙運動時期百科全書式的“通人”“通學”傳統，形成了難能可貴的“大歷史”寫作方式。《智人之上》延續了《人類簡史》的寫作風格。

一

《智人之上》大部分內容在回顧人類社會的網絡發展史。赫拉利認為，人類的力量歸根結底來自大規模合作網絡，因此人類所有問題歸根結底是聯結問題。從石器時代至今天的網絡時代，是從以故事、文件等為典型信息的“人類網絡”，向AI（人工智能）或自行決策的計算機成為完整成員的“非生物網絡”演進的歷史。而人類信息網絡的目標，不是趨向于真理、智慧，而是強調秩序的建構與維護，因此產生了強大的力量，但并沒有獲致多少智慧。

在歷史回顧的基礎上，赫拉利指出，一直以來存在三種信息觀，即天真的信息觀、民粹主義的信息觀和客觀的信息觀。前兩種是極端的、錯誤的信息觀念，赫拉利均表示反對。他反對所謂天真的信息觀，即認為信息本質上是好事，擁有的信息越多越好，只要有足夠的信息和時間，我們就能發現真理和真相，增長人類智慧。他也反對民粹主義的信息觀，即認為信息本質上就是權力，或者獲得權力的武器，根本沒有什么真理和真相。

赫拉利信奉的信息觀可以稱之為客觀的信息觀。即網絡中既有真相，也有謊言，這不可避免，因為人類聯結的目標不是真理而是秩序。不過，“應該強調的一點是，拒絕天真的信息觀、拒絕把信息視為對現實的呈現，并不代表拒絕承認有所謂真相，也不代表必須接受將信息視為武器的民粹主義觀點”。

在客觀的信息觀指導下，赫拉利審視民主、極權及其與AI的關系。在他看來，民主與極權是兩種不同的人類網絡，前者是分布式的，后者是集中式的。而所謂信息政治的根本問題在于——AI有利于民主，還是極權？對此，赫拉利認為，無論是民主還是極權，AI既有有利的一面，也有沖突的地方。

赫拉利還認為，在國際政治領域，AI可能通往“硅幕”，它并非如冷戰時期的“鐵幕”分隔東西陣營，而是通過壟斷AI能力分隔“AI霸主國”與“AI附從國”。因此，AI時代的信息網絡，可能加劇人類既有沖突，讓人類“比過去任何時候更接近自我毀滅”。赫拉利預計，其中一種很可能的毀滅方式是AI統治人類，即“如果21世紀真會有某個極權主義網絡成功征服世界，其背后的掌控者可能并不是人類的獨裁者，而是某種非人類智慧”。

二

總的來說，赫拉利對于智能社會的未來偏向于技術悲觀主義。在《智能之上》中，他一再強調AI的社會沖擊遠超之前人類信息網絡的變革，比如印刷術的出現。同時，他又認為本質上“人類的信息網絡重秩序而輕真理”，因而自我修正機制堪憂。顯然，威力巨大的AI，加上糾錯困難的秩序網絡，當然會使人秉持悲觀立場。但仔細想想赫拉利的立場，還是有值得斟酌之處。

首先，在目前的信息網絡中，AI并非如他所說的成為“自行決策”的節點，而是仍然處于人類的控制之下。至于AI主導信息網絡，基本上還處在科幻想象之中。目前，各種“AI覺醒”“AI統治人類”的論調在社會輿論中很普遍，這很大程度上是資本和媒體夸大炒作的結果，與AI現實發展狀況相去甚遠。此類“AI宣傳術”和擬人化AI文化的流行，容易催生“AI焦慮”“AI恐懼”，甚至導致相關政策部門的誤判。

其次，真相仍然是人類信息網絡中最重要的目標，絕非他認為的始終服從于秩序的次要目標。真相傳播當然有阻力，比如布魯諾被燒死在羅馬鮮花廣場，但從長遠來看，真相最終戰勝謊言是人類信息網絡的常態。赫拉利認為，謊言、陰謀論比真理、真相更容易在信息網絡中傳播，“原因并不難理解。印刷術與書商從《女巫之錘》這種狗血故事中賺到的錢，要比從哥白尼的《天體運行論》這種枯燥的科學專著中賺的多太多了”。他的論據顯而易見是錯誤的：《天體運行論》仍然在印刷，而《女巫之錘》早不見蹤影，到底誰賺取了更多利潤？

最后，AI只是一種復雜的技術工具，人類的未來并非AI技術所能決定的。實際上，赫拉利也在《智人之上》中反對技術決定論。比如，“現代科技除了能讓人類有可能實現大規模民主，也有可能讓人類實現大規模極權”。AI支持民主，還是支持極權，最終還在于人類自己的選擇。出現問題時，追責于新科技，而不去反思社會制度，顯然是推卸責任。

“AI悲觀主義”無疑能給人警醒，讓社會注意到AI發展中的各種風險，預先研究、提前應對。但是，必須提醒讀者注意：要看到AI實現人類福祉的巨大潛力，不要讓AI承受太多本不應承擔的壓力，不要對AI的發展擔憂過頭。

無論如何，《智人之上》將學術思考和專業研究喜聞樂見地傳播給人民群眾，值得學習和提倡。連接象牙塔和社會，是知識分子的職責，亦對社會進步善莫大焉。高校和科研院所的優秀學者，在專業工作之余，應該抽出時間，盡力扮演好知識分子的角色。