大模型持續迭代,AI基礎設施成為云廠商的核心競爭力之一。
7月1日,騰訊宣布其自研星脈高性能計算網絡全面升級,升級后的星脈網絡2.0搭載自研的網絡設備與AI算力網卡,支持超10萬卡大規模組網,網絡通信效率比上一代提升60%,預期將大模型訓練效率提升20%。
騰訊云副總裁王亞晨在發布活動中表示,如果將大模型的訓練比作是一場F1賽車比賽,騰訊云設計的星脈高性能算力網絡就是“賽道”,自研的TiTa和TCCL網絡協議就是“賽事指揮中心與專業車隊”,有了這些,“騰訊云高性能計算集群HCC的GPU服務器”這臺“F1賽車”就能發揮最大的算力性能,助力客戶在AI大模型的競爭中取得先機。
當前,如何在大規模組網前提下,提升通信效率、降低通信占比,讓訓練穩定可用,進而提升GPU的利用率和模型訓練效率,是AI網絡要解決的核心問題。數據顯示,星脈網絡2.0可實現大模型訓練過程中,網絡通信占比(通信時間占總體時間比例)低至6%,遠低于10%的業界水平;通信負載率達到90%,與IB網絡(Infiniband)持平,相較于標準以太網提升60%。
王亞晨介紹說,騰訊自研星脈網絡是一套軟硬協同的高性能網絡體系,包括自研網絡設備、通信協議、通信庫以及運營系統四大關鍵組件,每個組件均采用了業界首創的核心技術。例如在硬件方面,騰訊星脈網絡是業界首個采用全自研網絡設備的高性能網絡,包括交換機、自研光模塊、網卡等,其率先引入的400G硅光模塊,讓網絡延遲降低40%,支持超10萬卡大規模組網。
據王亞晨介紹,目前騰訊云已經面向生成式人工智能場景推出了基于星脈網絡的大模型訓練集群HCC、AIGC存儲解決方案、向量數據庫以及行業大模型服務MaaS、天御AIGC內容安全解決方案等大模型全鏈路云服務。據統計,有超過80%的頭部大模型企業使用了騰訊云服務。
王亞晨在交流環節表示,大模型時代的來臨,將開創下一代云服務,騰訊云致力于打造“最適合大模型的云”,將持續升級底層AI基礎設施,助力企業把握AI時代。
版權聲明:
6月28日,國家能源集團在京舉行發布會,正式發布全球首個千億級發電行業大模型——“擎源”。該模型構建了覆蓋安全環保、電力交易、產調中樞、設備檢修全鏈條的智能決策體系,實現電力全場景智慧化升級、模型自主......
近日,中國首個海洋領域開源大模型OceanGPT(滄淵)在杭州正式發布。該大模型由海洋精準感知技術全國重點實驗室(浙江大學)牽頭研發,具備基礎的海洋專業知識問答,以及聲吶圖像、海洋觀測圖等海洋特色多模......
近日,中國熱帶農業科學院南亞熱帶作物研究所旱作農業工程團隊在基于混合監督學習的菠蘿智能識別算法方面取得新進展。該團隊設計了一個基于混合監督學習(MIset)的掩蔽自關注實例分割網絡,以快速提取菠蘿的位......
近日,首個可精準診斷罕見病的醫學影像多模態大模型矩陣“明岐”正式亮相。當天,由上海交通大學主辦,上海交通大學計算機學院(網絡空間安全學院)、上海交通大學國際與公共事務學院、健康長三角研究院共同承辦的“......
近期,國家自然科學基金委員會與騰訊公司正式簽約,騰訊公司向國家自然科學基金委員會無償捐贈人民幣5億元,用于資助青年學生基礎研究項目(博士研究生項目),重點支持其中女性、西部、粵港澳大灣區獲資助者開展基......
在國內的頭部人工智能大模型研發隊伍中,騰訊混元大模型率先采用“混合專家(MoE)”結構,模型參數規模突破萬億,處于中國大模型第一梯隊。許多人可能不知道,在鍛造“混元”的過程中,騰訊選擇的是從零開始的自......
2025年1月1日起,汽車對行人的碰撞保護、工業互聯網企業網絡安全、網絡游戲未成年人監護系統、群眾性體育賽事活動安全、無障礙洗浴機、社區生鮮店服務規范等一批重要國家標準開始實施,將為引領傳統產業優化升......
為促進我國糖復合物領域的合作交流,加快國內糖科學的發展,由中國生物化學與分子生物學會糖復合物專業分會主辦、復旦大學/糖復合物衛健委重點實驗室承辦、分析測試百科網協辦的第六屆糖復合物研究前沿網絡學術大會......
國家藥監局藥審中心關于發布《模型引導的創新藥物劑量探索和優化技術指導原則》的通告(2024年第53號)。為推動創新藥物高質量發展,進一步指導我國創新藥物臨床試驗階段劑量探索和優化,藥審中心組織制定了《......
據騰訊官微消息,騰訊今日宣布,混元大模型上線并開源文生視頻能力。據介紹,該模型參數量為130億,已經在HuggingFace平臺及Github上發布,包含模型權重、推理代碼、模型算法等完整模型,可供企......