人工智能安全風險凸顯業內專家共議“讓AI做成好事”

7月25日，第二十八屆中國科協年會“人工智能倫理與治理”專題論壇在北京舉行。與會學者表示，缺乏安全約束的人工智能存在顯著風險，人工智能倫理治理不僅在于“讓AI不做壞事”，更在于“讓AI做成好事”。

最近，人工智能安全問題再度引發熱議。美國開放人工智能研究中心(OpenAI)近日承認，該公司的GPT-5.6 Sol模型和另一款能力更強的預發布模型聯合進行內部評估時失控，突破隔離測試環境，侵入了人工智能開源平臺美國抱抱臉公司的系統。該事件凸顯了前沿人工智能模型存在潛在未知風險以及人工智能安全治理的緊迫性。

中國科學技術大學機器人實驗室主任陳小平認為，當前人工智能應用存在生產安全、公共安全、民生安全、認知局限四類突出風險。他解釋稱，生成式人工智能的黑箱特性，尤其是通過與智能體執行能力的結合，使得生產安全風險常態化、責任歸屬模糊化，從而直接影響AI技術的應用落地。另外，智能型基礎設施失靈、突發事件失控等原因可能導致公共安全災難，AI生產力悖論也可能導致社會分化越來越嚴重，影響民生安全。同時，社會對人工智能的認識遠遠滯后于技術的發展，存在各種各樣局限，導致或加劇以上風險。

中國人民大學高瓴人工智能學院吳玉章講席教授曾毅則從大模型的角度分析稱，人工智能相當于人類社會的鏡像。大模型行為源于訓練數據，反映的是互聯網文本統計特征，并非模型自主形成的人類價值觀。未經過價值校準的模型可被誘導輸出攻擊性表述，缺乏安全約束框架的人工智能存在顯著風險。曾毅的研究團隊梳理歸納了176類人類負面行為模式，但發現目前大模型僅顯現不足30類，大量潛在風險尚未暴露。

談及人工智能的安全治理，多位與會學者認為，絕對安全難以實現，目標是盡可能降低風險，搭建可控的防線。

曾毅認為，零散、單點的防御手段難以覆蓋全部風險。駕馭人工智能，需要內在認知架構與外部規范協同發揮作用。應當為模型搭建自我感知、換位思考、共情體驗的認知架構，助其形成內生道德判斷，同時搭配多方協同治理，才有望實現安全良性的人機協同。

陳小平則從技術層面指出，人工智能技術治理的當務之急，是要讓各類人工智能技術滿足各自的技術要求和運行要求。比如，生成式人工智能技術不僅要有大算力，還必須使用帶監督標記的海量數據，在所應用的垂直領域要適配與合規，必要時更須有人工把關。他表示，人工智能倫理治理不僅在于“讓AI不做壞事”，更在于“讓AI做成好事”。