范建：對科技風險認識的三個誤區

　　 盡管目前已有對科技風險的大量研究，但仍然存在誤區。中國科學院自然科學史研究所研究員、博士生導師劉益東通過提出“致毀知識”概念和“致毀知識研究模式”，突破流行的思維定式與研究范式，提出新問題和新思路。

　　誤區一：“科技是雙刃劍”把科技的使用者看成決定性因素

　　問：當說起科技風險和科技負面作用時，慣常的說法是“科技是把雙刃劍”。您是搞科技戰略研究的，如何看這個問題？

　　劉益東：所謂“科技是雙刃劍”是一個很大的誤區。它把科技的使用者看成決定性因素。這種分析是錯誤的。幾百年來，人的修養和教育水平在提高，但道德水平變化不大。隨著尖端科技的發展，即使多數人提高了道德水平，只要少數人，甚至個別人利用尖端科技為非作歹，照樣可以造成毀滅性災難。所以依靠提高人的道德水平來解決科技風險問題的思路是錯誤的。

　　問：最近熱播的紀錄片《互聯網時代》認為技術是中性的：以槍為例，槍是中性的，槍沒有錯誤，關鍵是扣動扳機的人。用槍可以去打劫，也可以用來保衛。您怎么看？

　　劉益東：這個思維定式根深蒂固地存在于人們頭腦中。通過槍還引申到各種技術。比如他們認為互聯網這個技術也是中性的，該片贊同技術的惡用還是善用取決于人而不取決于技術本身。我認為一個技術的出現，或者說一項知識的出現會誘使或迫使人去使用它，并不是你想不用它就可以不用。我們把科技比喻成一把砍刀，是砍人還是砍柴，是砍好人還是砍壞人，似乎由使用者來決定。但不要忘記，只要它是砍刀就會有人拿它去砍，當砍的威力大了，就只有毀滅而無善惡。就像原子彈一爆炸無論什么人，都一起毀滅一樣。所以，技術或知識不是出現在真空里，而是在社會特定的結構中，人們是“面對科技，身不由己”。把科技比成一把砍刀太過簡單，實際上科技是一個系統，它把人卷入其中，由不得使用者不使用它。之所以有“科技是把雙刃劍”之說，一是直觀易懂，二是不想追究技術及技術發明人的責任。因此“技術中性說”“科學中性說”一直是主流。這嚴重阻礙了人們對科技負面作用的認識。

　　誤區二：“科學無禁區，技術有禁區”這種觀念忽視了連鎖效應

　　問：“科學無禁區”就是說探索多多益善。籠統地說我知道得多總比知道得少好吧。

　　劉益東：表面上看是這樣，但實際上如果你知道了某些不該知道的東西，很可能就引來殺身之禍。人們常說認識多多益善或科學是好的或中立的，問題出在技術和應用上。所以出現了“科學無禁區、技術有禁區，認識無禁區、應用有禁區”等。他們習慣于把科學和技術作區分。其實，在現實中運行的并不是科學和技術，而是基礎研究、應用研究和實驗發展。基礎研究就是為應用而研究的，就像蓋房子打基礎，你見過施工隊打完基礎之后就走，而不再蓋樓的嗎？既然是基礎研究就意味著和應用研究有一個銜接。所以很多觀念是延續過去的科學哲學，實際上現在都是R&D哲學。所以說“科學無禁區，技術有禁區”這種觀念，忽視了連鎖效應，研究成果出現之后，在現在的社會一定要嘗試應用，你不應用別人也會應用，如果研究成果威力巨大就都會搶著應用。但這樣簡單的一個道理，不少人并不接受。

　　誤區三：“順其自然論，科技發展必然論”把負面效應看成正面效應

　　問：人工智能發展的速度很快，以至于《奇點臨近》成了很熱賣的一本書，科學家預言2045年機器智能超過人類。是這樣嗎？

　　劉益東：就在不久前，人工智能達到了人類13歲的智力，通過了圖靈測試，就是你分辨不出機器與13歲的孩子有什么區別。比爾·蓋茨為《奇點臨近》寫的書評字里行間透著欣喜，覺得是件挺酷的事情，比爾·喬伊對此感到憂慮。顯然，人工智能超過人類智能，對人類一定是災難，這遠比外星人可怕。更重要的是，不在于什么時間人工智能超過人類，而在于一些科學家的態度，就是 “順其自然論，科技發展必然論”，他們把科技負面效應看成正面效應。比如，機器人泰斗、卡內基·梅隆大學教授漢斯·莫拉韋茨說“我們將進入機器人時代，這既是不可避免的也是合乎需要的，機器人比我們更龐大，我們只是其中的零部件”。莫拉韋茨的主張顯然是荒唐的。人的大腦就會像主機板一樣，嵌入的硬件和軟件不斷升級換代，既要飽受電腦病毒的困擾，還要受控于軟硬件廠商和計算機科學家，后果不堪設想。

　　“雙刃劍思維模式”即“雙刃劍陷阱”

　　問：您分析了科技風險的三個誤區，它們的共同特點是什么？

　　劉益東：“雙刃劍思維模式”可稱為“雙刃劍陷阱”，它有三個特點：一是在態度上不加區分地肯定和接受，強調事物都有兩面性，科技也不例外，強調要充分發揮其正面作用，盡力避免負面作用，要揚長避短，而不深入分析能否做到揚長避短。一些科技倫理研究僅僅是搪塞社會對高科技的擔憂，沒有注意到高科技的正負效應不能抵消，這時就不是雙刃劍，而是單刃斧；二是把知識的創造者（鑄劍者）與應用者（用劍者）分開，把科技負面效應的產生歸咎給應用者，而沒有注意到知識與應用的連鎖效應；三是篤信使用者決定知識的應用，而實際上知識會誘使或迫使人去使用。正是“雙刃劍思維模式”及種種認識誤區阻礙了科技風險研究的深入。

　　避免粗放式創新，為可持續創新與發展提供有益創見

　　問：根據您對科技風險的研究，您提出致毀知識概念和致毀知識研究模式，通過研究致毀知識來突破“雙刃劍思維模式”，突破樂觀派與悲觀派相持不下的學術僵局。是這樣嗎？

　　劉益東：在明確“科技知識增長不可逆”“尖端科技知識正負效應不可抵消”“知識與應用具有連鎖效應”等三個前提下，我提出和解決“在科技知識增長的同時，能否阻止其中的一類破壞力極大的科技知識——致毀知識——的增長”這一難題，發現有26個原因不能阻止致毀知識增長，得出的結論是：粗放式科技創新必然要產生致毀知識，而致毀知識的增長與擴散是不可逆、不可抵消、不可阻止的，達到一定程度必然會發生毀滅性災難。因此，我們不僅要避免粗放式發展，更要避免粗放式創新，反思粗放式創新與粗放式科技發展模式，可為我國科技創新的健康發展，為實現可持續創新與發展提供有益的創見。