提供“百億補貼”！無問芯穹發布大模型服務平臺

3月31日，源自清華的創新企業無問芯穹在上海舉辦“多元計算·泛在鏈接”AI算力優化論壇暨產品發布會，清華大學電子工程系長聘教授、無問芯穹發起人汪玉攜聯合創始人團隊首次集體公開亮相，并發布“無穹Infini-AI”大模型開發與服務平臺。

無穹Infini-AI大模型開發與服務平臺基于多芯片算力底座開發，旨在有效整合和優化算力資源、設計出好的利用方式和工具，緩解大模型企業面臨的算力緊缺狀況。會上，無問芯穹宣布，該開發服務平臺自3月31日起正式開放全量注冊，并給所有實名注冊的個人和企業用戶提供百億tokens免費配額。

無問芯穹聯合創始人兼CEO夏立雪介紹說，開發者可以在這個平臺上體驗、對比各種模型能力和芯片效果，通過簡單拖拽各種參數按鈕的動作，就能精調出更貼合業務的大模型并部署在無穹Infini-AI上，再以非常優惠的千token單價向用戶提供服務。

談起發布這一平臺的初衷，汪玉介紹說，大模型引發社會廣泛關注后，他們認為，國內整體算力水平距離國際先進還有明顯差距，僅靠芯片工藝提升或多元芯片的迭代已遠遠不夠，需要建立一個大模型生態系統，讓不同模型能自動部署到不同硬件上，讓各種算力得到有效利用。

據介紹，無穹Infini-AI已支持Baichuan2、ChatGLM2、ChatGLM3、ChatGLM3閉源模型、Llama2、Qwen、Qwen1.5系列等共20多個模型，以及AMD、壁仞、寒武紀、燧原、天數智芯、沐曦、摩爾線程、NVIDIA等10余種計算卡，支持多模型與多芯片之間的軟硬件聯合優化和統一部署。第三方平臺或自定義訓練、微調而來的模型也可以無縫遷移托管到無穹Infini-AI，并獲得細粒度定制化的按token計費方案。