科大訊飛劉聰：AI應用落地的關鍵是深入場景

　　AI應用要能夠創造商業價值，核心在于對落地場景的深入理解。模型大小的選擇也應根據實際應用場景和任務需求來決定。

　　“AI大模型應用落地的第一核心是深入理解場景，用場景需求牽引著技術的發展。”7月29日，科大訊飛副總裁、研究院院長劉聰在媒體溝通會上對外表示，中國擁有獨特的應用場景優勢，龐大的人口基數為行業產品提供了豐富的數據和多樣化的應用場景，AI應用要能夠創造商業價值，核心在于對落地場景的深入理解。對于目前熱議的小模型潮流，劉聰認為，模型大小的選擇也應根據實際應用場景和任務需求來決定。

　　科大訊飛副總裁、研究院院長劉聰

　　大模型落地依賴對場景需求的認知

　　2024年，大模型賽道競爭更加激烈，劉聰表示，科大訊飛更關注大模型能否真正實際應用到系統中，為用戶提供可衡量的價值和效果，在這個過程中對場景的認知起到關鍵作用。

　　劉聰以科大訊飛發布的首款星火智能批閱機為例，“沒有大模型時，我們也做批改，有了大模型之后，現在批改比過往厲害了很多。”他表示，該款智能批閱機目前基于星火大模型V4.0的底座能力研發，可以在對多學科、多題型作業進行智能批改，即時生成報告，以便老師在作業講評時進行分層輔導。

　　劉聰認為，這款產品之所以能迅速被市場接受，背后離不開對行業的深入理解和技術積累。科大訊飛早在十年前便提出了全學科自動閱卷的概念，通過長期的技術積累，才能夠快速將大模型技術應用在產品中，并實現產品性能的快速迭代。

　　正是基于對場景的深入認知，科大訊飛在執行大模型“1+N”路線時也會因地制宜。“1+N”的“1”指通用的認知智能大模型，“N”就是大模型在各個領域的落地，包括教育、辦公、汽車、人機交互以及醫療等。劉聰坦言，經過實踐，他們發現之前設定的“1+N”的邏輯存在冗余問題，今年，他們對“1”和“N”的劃分進行了調整，“N”在落地場景中，有部分場景下的常用能力可以整合到核心業務里，不再作為獨立業務存在，減少重復開發的工作。

　　讓場景和實際任務需求來決定模型選擇

　　大模型進入下半場，從技術到應用，市場對于更易本地部署的高效率、低成本模型越來越感興趣。今年暑期，AI巨頭們也密集發布小模型，既比性能，還拼價格。

　　7月19日，OpenAI發布GPT-4o mini，號稱是“OpenAI最智能和最實惠的小模型”，無獨有偶，蘋果也發布了DCLM小模型，并且發布即開源。有觀點指出，這些模型參數小、占內存少，在特定場景中，經過精調后使用效果可以媲美大模型，成為性價比之選。

　　在劉聰看來，大模型與小模型的選擇，其實根據復雜任務規劃需求而定。對于部分高難度任務包括復雜的推理任務，比如數學推理等這類任務往往需要大規模模型的支持，因為它們涉及多步驟推理和跨領域信息整合。對于簡單的任務，比如特定行業的翻譯或文本處理，甚至編寫代碼這類專業性工作，中小規模的模型可能就足夠了。特別是在需要快速響應的場景下，如在個人電腦上使用，通常不需要依賴云端處理。

　　“不過，小模型的不斷進步需要依賴大模型的發展。”劉聰指出，無論是大模型還是小模型，最重要的是根據實際應用場景和任務需求來決定，而不是簡單地追求模型的大小或復雜度。

　　劉聰表示，國內擁有獨特的應用場景優勢，龐大的人口基數為行業產品提供了豐富的數據和多樣化的應用場景，這在某種程度上是優勢。盡管在通用大模型的用戶活躍度上可能不及國外，但在行業應用方面，中國擁有豐富的場景和數據，這反而成為機會。