專家熱議人工智能如何引領韌性治理與未來科技

原文地址：http://news.sciencenet.cn/htmlnews/2022/12/491100.shtm

近日，第三屆人工智能合作與治理國際論壇的第一場主論壇以“人工智能引領韌性治理與未來科技”為題舉辦。主論壇由清華大學文科資深教授、人工智能國際治理研究院院長薛瀾主持。聯合國助理秘書長、聯合國開發計劃署（UNDP）政策與方案支助局局長徐浩良，世界工程組織聯合會前主席、中國新一代人工智能發展戰略研究院執行院長龔克，北京智源人工智能研究院理事長張宏江，國際人工智能協會前主席約蘭達·吉爾應邀出席論壇并作主旨發言。

薛瀾表示，人工智能為代表的數字技術成為推動新一輪科技與產業革命的強大引擎，人工智能技術如何才能更好地應對氣候變化、公共衛生、數字鴻溝等重大問題與全球性挑戰、消除全球“治理赤字”，如何推動構建富有韌性、公平合理的全球治理體系，如何在算法研發設計中更多考慮公共利益與社會責任，這些問題亟待我們研究與解決，也希望主論壇的討論能圍繞上述問題展開。

徐浩良在發言中表示，盡管世界上有些地區已經采取行動，政府在監管人工智能的風險和危害方面仍面臨持續困境。數字技術并非一勞永逸的萬能靈藥，因此在UNDP的《2022-2025年數字戰略》中制定了具有雄心的愿景，即創建一個“數字技術助力人類和地球發展”的世界，UNDP與各國政府的交流與互動凸顯了對數據及人工智能的治理及道德規范的迫切需求。

龔克指出，韌性是可持續發展的重要要求和愿景，他以AI在管網泄漏排查、城市需水預測、預報特定災害等場景中的成功應用為例，說明AI可以有效助力韌性發展。“數據的及時、準確、全面對于AI助力韌性發展至關重要，物聯網的發展、多源數據的融合、數據的無偏化處理等成為AI助力韌性發展的技術趨勢”。龔克說。

從人工智能為韌性治理提供了技術賦能的角度來看，龔克表示，只有負責任、符合倫理、依法和適度地應用人工智能，才能讓人工智能在韌性治理中既作為治理工具、也作為治理對象的兩個方面得到統一。他特別強調，技術賦權必須以法律為邊界，貫徹AI倫理原則，防止技術異化為權力。

張宏江分享了人工智能賦能科學發現的實踐經驗。他認為建立于數據、算法、算力基礎上的AI驅動深度學習模型已成為科學發現的新范式，在材料、化工產品、健康管理、藥物研發等領域促生了大量新的設計和產品，尤其是AI驅動的科學研究將成為促進生物醫藥和生命健康的一個有效新途徑。

約蘭達·吉爾在發言中指出，AI可以克服人類缺乏系統性、易出錯、有偏見、寫作能力欠佳等局限性，應當讓AI成為科學生態系統的一部分，實現從AI復現論文到AI成為研究助理，再到AI和人類一起合作發表論文。AI還具備提供更精確和定制化的報告、自動更新科學發現、提高論文可復現性、綜合調整數據、整合不同學科的信息和模型等系列優勢。她建議可以開發AI科學家，給AI以算法、數據，讓AI有更大的主動性、自主性和獨立性，并讓其參與科學問題研究。

主旨發言環節結束后，專家們進行了研討并與觀眾進行了互動交流。圍繞“如何幫助發展中國家緩解其關于人工智能應用和治理之間的擔憂”的問題，徐浩良認為，發展中國家與發達國家在新技術發展的能力建設方面存在很大差距，而在幫助縮小差距的過程中，要堅持國家政府主導，在國際框架、國際協議里的承諾范圍內幫助其提高能力，縮小他們與現代技術或現代應用技術、概念治理方面的差距。

圍繞觀眾提出的“韌性治理理念如何促進人工智能工作”這一問題，龔克認為人工智能是一個相對比較脆弱的系統，要在人工智能系統本身設計中增加魯棒性，引入人工智能韌性檢驗的概念，并將其制定到相關標準中。