超大規模人工智能模型“悟道1.0”發布

原文地址：http://news.sciencenet.cn/htmlnews/2021/3/454887.shtm

3月20日，北京智源人工智能研究院（簡稱“智源研究院”）在京發布了超大規模人工智能（AI）模型“悟道1.0”。據悉，該模型是我國首個超大規模人工智能模型系統，可謂是人工智能應用的基礎設施，由智源研究院學術副院長、清華大學教授唐杰領銜，帶領來自北大、清華、中科院等單位的100余位AI科學家團隊聯合攻關完成。

智源研究院院長黃鐵軍介紹，本輪人工智能浪潮的基本特點是“數據+算力+算法=模型”，模型濃縮了訓練數據的內部規律，是實現人工智能應用的載體。近年來人工智能的發展，已經從“大煉模型”逐步邁向了“煉大模型”的階段，通過設計先進的算法，整合盡可能多的數據，匯聚大量算力，集約化地訓練大模型，供大量企業使用。此外，智能模型不僅要規模大（主要體現為參數量），還要智商高，才能滿足各種應用需要，這需要突破大量技術挑戰。

據悉，智源研究院自2020年10月正式啟動超大規模智能模型“悟道”項目，研發既博大又精深的超大規模訓練模型，從更加本質的角度進一步探索通用人工智能。同時，構建大規模智能模型應用生態，推動相關機構和個人開發者基于模型研發各類新型智能應用，服務我國實體經濟產業升級。

據介紹，“悟道1.0”已取得多項國際領先的AI技術突破，形成超大規模智能模型訓練技術體系，訓練出包括中文、多模態、認知、蛋白質預測在內的系列模型，為我國人工智能應用構建了基礎設施。同時，智源研究院與龍頭企業共同研發工業級示范性應用，加快大規模智能模型應用生態建設。

“悟道1.0”已先期啟動了4個大模型的研發，包括“悟道·文源”，是面向中文的預訓練語言模型；“悟道·文瀾”，是首個公開的中文通用圖文多模態預訓練模型；“悟道·文匯”，是我國首個具有認知能力的超大規模預訓練模型；“悟道·文溯”，是超大規模蛋白質序列預測預訓練模型。

為更好地推動“悟道”大模型的研發，保持研發過程中技術的領先性，智源研究院還成立了包括中國科學院院士鄂維南、清華大學教授魯白等9位科學家在內成的“悟道”大模型技術委員會。

發布會上，北京市科委副主任許心超表示，北京將依托在人工智能領域的科技資源和產業發展優勢，支持建設智源研究院等一批世界一流新型研發機構，前瞻部署人工智能基礎研究，加強關鍵核心技術攻關，推動人工智能占先。北京也將充分發揮中關村國家自主創新示范區、中國（北京）自由貿易試驗區的政策優勢，為人工智能領域的高校院所、企業等創新主體創造更好的科研生態、技術生態、產業生態。

北京市超前部署通用智能發展，支持智源研究院牽頭建設“超大規模人工智能模型訓練平臺”，“悟道1.0”即為該平臺的重要內容，通過研發超大規模信息智能模型和生命模型，推動電子信息、生物醫藥等基礎科學科研范式變革，加速科學研究進程。同時，推動創新企業及個人開發者基于大模型構建智能化水平更高的場景應用，賦能實體經濟智能化升級，促進經濟高質量發展。