• <noscript id="yywya"><kbd id="yywya"></kbd></noscript>
  • 發布時間:2019-01-08 10:32 原文鏈接: 我國學者提出基于正則化流的多尺度神經網絡架構

      重正化群是物理學研究中的一個基本概念。它不僅是研究相變與臨界現象以及強耦合問題的有力工具,更塑造了物理學家的世界觀:物理學是關于不同尺度和能標下演生現象(Emergent Phenomena)的有效理論。

      人們在深度學習的應用實踐中觀察到,深層神經網絡具有逐層提取特征的能力。處于網絡深層的神經元往往對應于抽象而獨立的演生概念。如何充分理解并創造性地利用神經網絡的這一特性,是深度學習的核心問題之一,稱為表示學習(Representation Learning)。開展表示學習和重正化群理論的交叉研究,一方面有助于揭示深層神經網絡的工作原理,另一方面可將成功的深度學習技術應用于求解物理問題。

    正則化流實現了物理變量和隱變量之間的可逆映射

      最近,中國科學院物理研究所/北京凝聚態物理國家研究中心凝聚態理論與材料計算重點實驗室王磊副研究員提出了一類基于正則化流(Normalizing Flows)的多尺度神經網絡架構。這類網絡將微觀物理構型的概率分布映射到隱變量空間的近高斯分布。相反的,由于網絡的可逆性,也可以從高斯噪聲出發直接生成可能的物理構型。作者從物理問題的裸作用量出發,利用變分原理端對端地訓練網絡。為了充分發揮表示學習的能力,他們進一步提出隱變量空間的哈密頓蒙特卡羅更新算法。這個神經網絡的結構設計受到了量子多體物理研究中的多尺度糾纏重正化張量網絡(Multiscale Entanglement Renormalization Ansatz, 即MERA)的啟發。在數學上,神經網絡重正化群相當于自適應地尋找降低變量之間互信息(Mutual Information)的非線性小波變換。

      流向隱變量空間的正則化流有助于自動識別集體變量和有效理論,預計可以在統計物理、場論以及第一性原理分子動力學研究中發揮作用。此外,可逆的重正化流恰好契合重正化群理論的現代發展:保信息的全息重正化。因此,神經網絡重正化群也為研究全息對偶原理(Holographic Duality Principle)提供了新途徑。該工作于近期發表于Physical Review Letters雜志(Phys. Rev. Lett. 121, 260601 (2018))。

      此工作受到科技部(2016YFA0300603)和國家自然科學基金委(11774398)的資助。

    相關文章

    新型神經網絡實現類人概念形成、理解與交流

    近日,中國科學院自動化研究所(以下簡稱自動化所)腦圖譜與類腦智能實驗室余山團隊與北京大學心理與認知科學學院畢彥超團隊合作,提出了一種新型人工智能神經網絡框架——CATSNet,實現了類人的概念形成、理......

    第五屆先進算法與神經網絡國際學術會議召開

    8月15日至16日,第五屆先進算法與神經網絡國際學術會議(AANN2025)在山東青島召開。會議期間,與會代表通過主講報告、口頭匯報、海報展示等多種形式,分享了最新研究成果,探討了學科發展趨勢。本次會......

    新型神經網絡顯著提升識圖能力

    希臘研究和技術基金會科學家受生物神經元啟發,開發出一種融入樹突特征的新型人工神經網絡。與傳統人工神經網絡相比,新網絡在參數更少、能耗更低的情況下,實現了圖像識別性能的顯著提升,為打造更緊湊、更節能的人......

    俄羅斯大學團隊研制出能“自我懷疑”的神經網絡

    據俄新社日前報道,在阿聯酋阿布扎比舉行的2024年IEEE國際圖像處理大會上,俄羅斯國家研究型工藝大學研究人員展示了一種具備自我懷疑能力的神經網絡。為應對急速增長的數據量,研究人員一直致力于研發更加可......

    腦智卓越中心開發出新型三維神經網絡高速電壓成像技術

    近日,中國科學院腦科學與智能技術卓越創新中心王凱研究組在《自然-方法》(NatureMethods)上,在線發表了題為VolumetricVoltageImagingofNeuronalPopulat......

    揭曉!人工神經網絡機器學習獲得2024年諾貝爾物理學獎

    2024年諾貝爾物理學獎得主(圖片來源:諾獎官網)北京時間10月8日下午5點45分,瑞典皇家科學院宣布將2024年諾貝爾物理學獎授予:JohnJ.Hopfield、GeoffreyE.Hinton。獲......

    上海技物所等在衍射光學神經網絡賦能非正交偏振全息復用方面獲進展

    近日,中國科學院上海技術物理研究所紅外科學與技術重點實驗室李冠海、陳效雙、陸衛團隊,聯合東華大學邢懷中團隊,在亞波長尺度上實現衍射光學神經網絡賦能的非正交偏振全息復用方面取得進展。這一成果為復雜場景目......

    人工智能神經網絡創建虛擬動物模型

    為探索大腦如何控制運動的奧秘,美國哈佛大學與谷歌深度思維實驗室的科學家合作,創造出一個“虛擬大鼠”——生物力學上逼真的大鼠數字模型。這個“大鼠”有一個人造大腦,可像真正的嚙齒動物一樣四處走動。該成果代......

    人工智能神經網絡創建虛擬動物模型

    研究人員使用真實大鼠的運動數據創造的“虛擬大鼠”。圖片來源:谷歌深度思維科技日報北京6月18日電 (記者張夢然)為探索大腦如何控制運動的奧秘,美國哈佛大學與谷歌深度思維實驗室的科學家合作,創......

    研究提出實現綿羊牧食行為的精準預測新方法

    近日,西北農林科技大學經濟管理學院阮俊虎教授團隊聯合香港城市大學DavidJingjunXu教授團隊提出一種時空模糊深度神經網絡來識別綿羊三軸加速度計數據中潛在的時間特征和空間特征,以實現綿羊牧食行為......

  • <noscript id="yywya"><kbd id="yywya"></kbd></noscript>
  • 东京热 下载