人工智能時代殺毒軟件“黃金年代“是否已過？

　　在人工智能時代，屬于殺毒軟件的“黃金年代“是不是已經過去了？

　　人工智能作為引領新一輪科技革命和產業變革的顛覆性技術，已經滲透到了社會生活的方方面面。可在新技術為人們生活帶來種種便利的同時，其帶來的的安全風險也備受關注，諸如數據泄漏、算法偏見、算法漏洞等問題，給經濟和社會安全帶來了多種挑戰。

　　“安全是發展的前提，確保人工智能安全、可靠、可控，才是守衛人工智能穩健發展的根本。”瑞萊智慧CEO田天說。

圖片來源于網絡

　　4月8日，這一來自清華大學人工智能研究院的創業團隊推出了國內首個針對算法模型本身安全的檢測平臺——RealSafe人工智能安全平臺。作為人工智能時代的“殺毒軟件”，該平臺可提供從測評到防御完整的解決方案，快速緩解對抗樣本攻擊威脅。

　　人工智能誕生60多年來，技術取得了長足的進步，但仍存在著模型缺陷、算法不可解釋性、數據強依賴性等“軟肋”。

　　隨著數據量、算力的大幅提升，未來人工智能技術的應用場景會日益增多，并且將從語音識別、人臉識別等領域逐步延伸向金融決策、工業生產運營、醫療診斷、自動駕駛等更高價值的應用領域，這將對人工智能技術的安全性、可靠性提出更高要求，提升算法安全性成為新一輪人工智能智能產業升級下的新方向。

　　2018年，中國信息通信研究院安全研究編制的《人工智能安全白皮書》中提到，“算法安全”是人工智能六大安全風險之一，并著重指出了“對抗樣本攻擊誘使算法識別出現誤判漏判“這一算法模型缺陷為算法安全的重要風險項。

　　田天介紹，對抗樣本是機器學習模型的一個有趣現象，但通過在源數據上增加人類難以通過感官辨識到的細微改變，可以讓機器學習模型接受并做出錯誤的分類決定。

　　例如，在一張“阿爾卑斯山”的圖片上加上一些人眼無法察覺的噪音，正常情況下肉眼仍然能判斷這張圖顯示的是山峰，但是圖像分類模型卻會將它錯誤識別為狗。

　　經過不斷的升級演化，對抗樣本攻擊已經不僅僅停留在數字世界，針對物理世界的攻擊也開始出現。如在路面上粘貼對抗樣本貼紙模仿合并條帶，誤導特斯拉自動駕駛汽車拐進逆行車道；佩戴對抗樣本生成的眼鏡，輕易破解手機面部解鎖；胸前張貼對抗樣本貼紙即可實現“隱身”等。

　　“在網絡安全時代，網絡攻擊的大規模滲透倒逼了殺毒軟件的誕生。”田天說，“針對算法漏洞這一‘新型病毒’，人們同樣需要開展安全評估評測能力建設，打造人工智能時代的‘殺毒軟件’，以技術手段為支撐，切實規避人工智能算法缺陷可能帶來的安全風險。”

　　依托于清華大學人工智能研究院及自身多年來的技術積累，瑞萊智慧研發的人工智能安全平臺，內置了先進的攻防算法模型，為政府、企業等提供安全評測與安全防護，高效應對算法威脅。

　　相較于常見的開源工具需要自行部署、編寫代碼，這個“殺毒”平臺只需要使用者提供相應的數據，就能夠在線完成評估，降低了算法評測的技術難度。

　　該平臺支持五種去除對抗噪聲的通用防御方法，可對輸入數據進行自動去噪處理，破壞攻擊者惡意添加的對抗噪聲。經測試，部分第三方人臉對比應用程序接口在使用平臺的防御方案加固后，安全性可提高40%以上。

　　“推出安全檢測平臺是規避人工智能風險的一條路徑，未來我們還需要聯合各界力量，共同推動人工智能安全相關的國家標準、行業標準、聯盟標準的制定，為人工智能產品安全評估評測的統一參考。”田天最后說。