李正風：離開科技倫理，人類會被科技“反噬”嗎

　　科技倫理治理作為全世界面臨的共同難題，越來越為大眾所關注。很多影視作品對此做過探討、想象和呈現，如《黑客帝國》系列、《終結者》系列、《我，機器人》和《機械姬》等。

　　科技倫理如何開展有效治理？離開科技倫理，人類會被科技“反噬”嗎？清華大學社會科學學院教授、科技發展與治理研究中心副主任李正風近日接受中新社“東西問”專訪，解答這些問題。

　　現將采訪實錄摘要如下：

　　中新社記者：大眾十分關心科技倫理問題，如果不進行有效治理，人類被科技“反噬”的擔憂會成真嗎？

　　李正風：從全球層面看，科技倫理治理正成為越來越重要的議題。科學和技術的發展給人類帶來前所未有的新力量，科技產品本身擁有的能力或功能在某些方面遠超人類自身。如果不能善加利用或被濫用就會帶來巨大風險。

　　包括電影在內的不少藝術作品中，不乏對這類風險的極端化描述，如技術發展到一定程度反過來控制和毀滅人類。這種可能前景被呈現在大銀幕上，引起大眾對科技發展及其倫理問題的重視和反思。

　　盡管是藝術創作，但它確實帶來警覺和思考。若我們對科技可能產生的后果不加思考和控制，所謂“新力量”有可能給人類未來的生存發展帶來威脅，像當前生物技術、人工智能的發展等，存在不同程度、不同方式“反噬”人類的風險。

　　所謂“反噬”是一種較形象的說法，是指人的某種行為或創造物反過來傷害到人自身。“反噬”也有程度的差異，自近代科技革命以來，人們就一直在防范科技成果的不良影響。當科技力量不斷增強，這種不良影響可能超出人類整體可控范圍，或形成根本性、全局性的影響，“反噬”話題隨之為全球共同關注。

　　中新社記者：科技倫理治理被視作全世界面臨的共同難題，西方社會如何著手解決這一問題？西方國家與中國的努力有何異同？

　　李正風：科技倫理治理是防范風險非常重要的方面，旨在通過向善的價值觀念和相應的倫理規范，引導和約束科技行為。

　　近代科學建制化以來，西方科學技術發展較快，科技先行國家或科技發達國家在科技向縱深發展中先行一步，較早感受到科技發展及其應用可能帶來的風險，治理行動也更早。

　　比如，科技倫理委員會在歐美科技發達國家最早成立于20世紀60年代。作為科技倫理治理中比較典型的審查和約束機制，其主要用來評估和審查研究的倫理風險，一旦未充分考慮可能存在的倫理問題，或因倫理風險過大未得到倫理委員會批準，研究后續工作都會受到應有的約束。

　　歐美科技發達國家在科技倫理治理上已形成自下而上較為成熟的系統。但不同發展狀態和不同文化背景的人對科技倫理的理解存在差異，治理的重點和方式會因文化傳統、制度結構、社會包容度而不同，所以各國建立的科技倫理治理體系也存在差異。從某種程度講，某個國家認為最好的治理機制，到其他國家不見得仍是最好。

　　中國是科技后發并快速追趕的國家，在文化傳統和制度建設上有自身特點，要建立的科技倫理治理體系既要應對當代生命科學、人工智能等新興科技領域提出的社會倫理問題，也要適應本國發展階段面臨的特殊挑戰。

　　中新社記者：今年3月，中國首個國家層面的科技倫理治理指導性文件——《關于加強科技倫理治理的意見》出臺，這是繼國家科技倫理委員會成立之后，中國科技倫理治理的又一標志性事件。您如何看待中國科技倫理治理的突出特點？

　　李正風：這一文件的出臺非常重要，一方面和中國所處的發展階段密切相關，另一方面也和中國科技倫理治理面臨的挑戰有關。改革開放以來，中國科學和技術快速發展，比以往更頻繁更直接地面對各式科技倫理問題，尤其是前沿問題。

　　中國在2016年提出建設世界科技強國，這和英國在16、17世紀建設成為世界科技強國，以及德國在19世紀逐漸成為世界科技強國的歷史背景有很大不同。

　　今天的科技，包括生命科學、信息科技等，更多涉及到以人類自身為對象的研究。而以前的科學家更多是將機械運動或無機世界作為主要研究對象。相對而言，過去科技發展本身引發的社會倫理問題不像今天這么集中，而當下幾乎科技發展的每一步都會面對社會倫理問題。中國要在這樣的背景之下建成世界科技強國，就必須在科技倫理問題上成為負責任有擔當的國家。

　　另一方面，一些歐美國家有比較長的時間探索完善自身科技倫理治理體系，中國科技倫理治理發展相對起步較晚，要在較短時間內建立起行之有效的科技倫理治理體系，一是必須加大科技倫理治理的力度，二是必須形成整體性治理的布局，特別是補足補強治理體系中的短板。中國出臺《關于加強科技倫理治理的意見》，標志著國家科技倫理治理真正進入加強整體治理、全面治理的新階段。

　　對科技倫理治理而言，共同責任意識的塑造也非常必要。比如人臉識別技術產品，如何使用才能不損害公眾的隱私權？隨著人們對科技發展的倫理意識不斷覺醒，有關共識的塑造也有了現實基礎。

　　中新社記者：在科技發展全球化背景下，科技倫理問題不再局限于某一特定的國家或地區，您認為全球科技倫理治理面臨怎樣的挑戰，如何共同應對？

　　李正風：全球科技倫理治理面臨的突出挑戰之一是不同國家不同發展階段帶來的差異，這使得倫理傾銷的問題有可能出現。倫理傾銷是指在倫理治理系統發展較成熟的國家，一些違背科技倫理規范的科學研究很難進行，但它們卻可能被轉移到倫理規范不是很健全的國家去開展。

　　當代科技發展的倫理問題具有跨越國家邊界和種族界限的外部性。不論生物醫學技術、人工智能技術治理，還是數據跨境使用都需要不同國家共同努力，全球相互協作。因此，構建全球科技倫理治理的信任和合作機制非常重要。

　　在此過程中，不僅各國要制定行之有效的規范和制度，也要逐步形成科技倫理治理的國際標準和國際公約，破除狹隘的國家保護主義、民族主義，從人類命運共同體的立場出發，建立全球科技倫理治理中的信任、磋商機制，發揮并集成不同國家的智慧和力量。

　　隨著科技不斷發展，人們對風險有更深刻的認知后，倫理的規范也在不斷和行政管制、法律約束對接，倫理的規范不再完全是軟約束。

　　科技倫理治理絕非要阻礙科技發展，而是要把握好科技發展方向，為科技的健康發展清除阻礙。同時，拓寬科技健康發展的道路，讓科技真正造福人類。理解科技倫理治理的重要作用，是各國協力構建全球科技倫理治理體系的重要基礎。(完)

　　受訪者簡介：

　　李正風，清華大學科學社會科學學院教授，中國科學院學部-清華大學科學與社會協同發展研究中心主任、中國科協清華大學科技傳播與普及研究中心副主任、科技發展與治理研究中心副主任，曾任清華大學社會科學學院副院長、中國發展戰略研究會副理事長。中國社會學會常務理事、中國自然辯證法研究會常務理事、中國科學學與科技政策研究會常務理事、科學學研究副主編、Cultures of Science副主編。研究領域包括科學技術的社會研究、科技哲學、科技倫理與科技文化、科技發展戰略與政策、科技傳播與普及等。