AI與人類正常交流還有多遠？

原文地址：http://news.sciencenet.cn/htmlnews/2022/6/481832.shtm

黃民烈介紹《AI對話系統分級定義》。（受訪者供圖）

為什么“小度”“小愛”等智能助理可以與人類進行對話和交流呢？為什么它們有時候也會“不知所云”“答非所問”呢？

清華大學計算機科學與技術系長聘副教授黃民烈告訴《中國科學報》：“如果說自然語言處理是人工智能‘皇冠上的明珠’，那么AI對話系統則是自然語言處理中最難、最核心的任務之一，是‘明珠中最亮的那顆’。”

6月28日，黃民烈聯合二十多位學者共同制定的全球首個《AI對話系統分級定義》（以下簡稱《分級定義》）正式發布。

AI對話系統分級定義（受訪者供圖）

“機器人也回答不了”

圖靈測試是常用的人工智能測試，測試者在不知情的情況下，向人類和AI系統隨意提問。如果AI系統讓平均每個測試者做出超過30%的誤判，那么就認為AI系統通過了圖靈測試，具有人類智能。

“起源于圖靈測試的AI對話系統，是人工智能領域最重要的研究方向之一。”黃民烈說，當前，AI對話系統被業內認為是衡量人工智能發展水平的重要因素，代表了人工智能的發展方向。

據了解，在工業應用領域，AI對話系統已呈現出“爆炸式”增長的態勢，其中，以“小度”“小愛”等為代表的智能助理，正廣泛應用于個人助理、智能家居、智能汽車中，以谷歌對話機器人Meena和LaMDA、Facebook聊天機器人Blender為代表的開放域閑聊產品中，與大眾日常生活緊密相關。

然而，有業內人士指出，當前作為前沿技術的AI對話系統標準存在缺失，造成其在應用中呈現出水平參差不齊、評價體系不一的現狀，導致了業界因認知不統一而對人工智能交互水平出現誤解，也引起了社會上對于AI是否具有意識、自然語言對話倫理和道德等方面的廣泛討論。

“《AI對話系統分級定義》的制定旨在衡量AI對話系統的能力水平，從而促進AI對話系統的進一步研究，同時為工業界應用提供參考。”黃民烈表示，考慮到AI對話系統任務繁多、評價維度多樣、技術路線豐富，撰寫小組在制定《分級定義》時僅關注完全由機器主導的對話系統，人機混合的對話系統不在考慮范圍內。

換言之，人所掌握的知識是有限的，機器人也不例外。“一些簡單的問題，”對話系統可以回答，但一些開放邊界的問題，對話系統受限于自身知識水平就很難回答。”華為諾亞方舟語音語義首席科學家劉群向《中國科學報》舉了一個例子，“有人在跟父母吵架后，問機器人該怎么辦，機器人也回答不了，這需要更多知識和場景的注入。”

黃民烈進一步解釋道，為了在實際應用中發揮價值，《分級定義》的制定是從用戶可感知，以及可觀察、可測量、可度量的角度出發，不考慮系統的具體技術實現方式，也不區分助理類任務、閑聊、知識對話等，均以“場景”進行表述。

衡量將有據可依

近年來，隨著深度學習技術的不斷發展，AI對話系統已經從基于規則的第一代和以傳統機器學習為核心的第二代，發展到以大數據和大模型為顯著特征的第三代，對話能力產生了革命性變化，在開放話題上展現了驚人的對話能力。不久前，谷歌研究員稱AI已具備人格的討論帖一度登上熱搜。

黃民烈介紹，《分級定義》從自動對話能力、對話質量高低、單一/多個場景、跨場景的上下文依賴和自然切換能力、擬人化程度、主動和持續學習能力、多模態感知與表達能力等角度出發，將AI對話系統劃分為從L0～L5的六個等級，等級越高，AI對話系統水平越高。

小米集團技術委員會主席、AI實驗室主任王斌向《中國科學報》表示：“參照《分級定義》，當前工業界的AI對話系統水平最高已發展至L2～L3之間，比如小米旗下的智能生活助理“小愛同學”等。”

但是，參加制定《分級定義》的專家學者也紛紛表示，AI對話系統要實現更高級別還需要具備記憶、聯想和推理等能力。

王斌在AI對話系統的研發過程中，時常感到難以評判所開發對話系統的水平。他期待《分級定義》發布后，AI對話系統能力水平的衡量將有據可依，對于用戶來說，能夠更多地關注、更清晰地理解AI對話系統；對行業來說，有助于企業明確研發方向，也能夠促進行業更規范地發展。

“AI不會取代人”

2020年，OpenAI開發的自然語言處理模型GPT-3問世，其在文本方面具備空前強大的能力，由GPT-3訓練的模型寫了篇專欄文章發表于《衛報》。

未來的AI對話系統會取代一些傳統的職業工作嗎？“現在傳媒界對AI就比較恐慌，尤其是AI可以輔助寫作。”北京師范大學新聞傳播學院院長張洪忠告訴《中國科學報》，AI對傳媒業而言是生產力的提升，而不是將它妖魔化。以前是編輯寫稿，后來電腦寫稿，現在是AI輔助寫作，都是一種輔助的工具，是生產力的提升，不會取代人。”

張洪忠一直非常關注社交機器人所帶來的倫理挑戰，他希望《分級定義》的發布對于思考、討論、制定法律規范形成有力參考，以規避AI對話可能產生的倫理問題。

劉群以《分級定義》中L4中提及的人設、人格、情感、觀點為例指出，即使是目前最好的AI對話系統也很難實現，“因為機器很難把握人類的思想背后隱含的背景知識、常識和邏輯等”。

劉群認為，《分級定義》能夠引發AI對話系統研究領域的思考和討論，幫助研究人員更好地發現系統的問題并明確研究方向，其制定在業內是一次大膽的嘗試。

未來，AI對話系統最高級別的應用為復雜情感任務，《分級定義》的發布將促進AI對話系統在情感任務中體現更高水平，從而促進人工智能未來在情感陪伴、心理健康、虛擬人、元宇宙等方面的應用，大大釋放人力和物力成本，促進前沿科技走進大眾日常生活。