5 月 30 日，清華大學類腦計算研究中心施路平團隊，研發出全球首款類腦互補視覺芯片「天眸芯」，研究成果登上 Nature 封面。
近日，該團隊推出一種新的神經形態計算架構，即類腦神經計算模型 「Dendristor」。
「Dendristor」旨在復制突觸的組織（即神經元之間的連接）和樹突的樹狀結構（即從神經元體延伸出來的突起）。
這種創新的樹突網絡模擬了樹突狀結構及其固有的時空處理特性，為未來人工智能提供了高能效的視覺感知能力。
類腦形態樹突網絡計算模型的開發由清華大學跨學科團隊清華大學腦與智能實驗室（THBI）的 Eunhye Baek 博士、宋森教授、Carlo Vittorio Cannistraci 教授，以及清華大學精密儀器系的趙蓉教授和施路平教授共同完成。
相關研究以《Neuromorphic dendritic network computation with silent synapses for visual motion perception》為題，于 6 月 6 日發布在《Nature Electronics》上。
論文鏈接：https://www.nature.com/articles/s41928-024-01171-7
受大腦啟發
隨著 AI 工具的快速發展，世界各地的工程師們都在研究新的架構和硬件組件，來復制人腦的組織和功能。
迄今為止，大多數受大腦啟發的技術都是從腦細胞（即神經元）的放電中汲取靈感，而不是反映神經元素的整體結構，以及它們如何促進信息處理。
「當我還是意大利米蘭理工大學的人工智能和大腦生物工程專業碩士生時，我就想到了模仿大腦連接的稀疏性和形態，比如神經元的樹突，來設計高效的人工智能。」通訊作者之一、 清華大學腦與智能實驗室（THBI）教授 Carlo Vittorio Cannistraci 表示。
「有一天，Carlo 讓我研究『樹突計算』，因為我們之前合作研究的『神經晶體管』有可能模仿樹突特性，」論文一作、共同通訊作者、 THBI 的 Eunhye Baek 博士說。
「施路平教授和我一直在尋找開發神經形態視覺傳感器系統的方法，我們認識到這種方法的潛力。我的研究興趣是構建更像大腦/神經元的動態信息處理系統。樹突計算讓我非常興奮，因為它涵蓋了廣泛的動態和復雜特性，這些特性在神經形態工程中尚未得到廣泛研究。」
迄今為止進行的大多數神經形態計算研究都集中在，重現與學習相關的突觸過程和人工復制神經元尖峰的產生。這些研究通常將樹突建模為簡單的傳輸線，從而忽略了與其獨特形態相關的功能。
「樹突利用其樹狀形態來映射空間分布的信號，表現出分支特定的可塑性，并整合各種突觸。」Baek 解釋說。
「每個樹突分支對具有特定方向性的信號特別敏感，使它們專門用于處理時空信號。我們的研究重點是這些復雜的樹突功能。」
一種新的神經形態計算架構
研究人員合作設計并開發了一種新設備，可以反映生物樹突的形態和功能。這種被稱為「樹突」（Dendristor）晶體管的設備利用了涂有離子摻雜溶膠-凝膠膜的多柵極晶體管的物理特性，模擬了樹突執行的計算。
Dendristor 的突出之處在于它處理信息的方式與神經元及其網絡的生物形態非常相似，而不是目前人工神經網絡典型的批處理方式。Dendristor 模型實現了樹突分支間和神經元間的特定塑性，從而提高稀疏神經網絡中的學習效率。
這種方法允許 Dendristor 在其樹突分支內對傳入信號的序列和方向進行編碼，從而提高其識別運動的能力。特別是模型中包含的「沉默突觸」，即由樹突分支電位激活的突觸，增強了其對信號方向的敏感性，優化了其視覺感知過程。
Baek 表示：「這種薄膜通過允許摻雜離子以類似于神經元樹突中的離子的方式移動來模擬樹突分支，從而調節晶體管的電流以反映樹突膜電位的變化。我們的研究表明，樹突晶體管表現出非線性樹突整合和方向選擇性。」
除了樹突晶體管設備外，該研究小組還介紹了一種人工靜默突觸。在這個系統中，溶膠-凝膠膜中樹突晶體管分支的電壓確保突觸輸入僅在薄膜達到特定閾值時激活，從而提高了系統辨別移動視覺刺激方向的能力。
Baek 表示：「我們還創建了一個神經形態樹突神經回路，它可以計算移動信號的方向，這種設計靈感來自視網膜和視覺皮層的神經回路。該電路能夠檢測二維和深度移動的信號，并將它們整合起來，重建三維空間中物體的運動方向。」
通過緊密鏡像樹突神經元的稀疏連接，該新型神經形態計算方法可實現顯著的能源效率。事實上，與現有的人工神經網絡（ANN）相比，該系統展示了利用更少的神經元檢測運動的潛力。
這種新架構的關鍵優勢在于，它超越了復制生物神經元的功能方面。與其他現有的神經形態計算平臺相比，它還重現了神經元的結構和稀疏連接，包括樹突的形態和靜默突觸的基礎。
「盡管神經形態研究中有各種方法來實現智能，但我們的研究獨特地展示了神經元及其突觸連接形態在動態信號處理中的重要性。」Baek 說。
「我們通過模仿生物神經元形成功能性神經回路的方式，對突觸輸入進行空間稀疏映射，從而實現了這一目標，突出了這種形態對于有效的神經形態信息處理的重要性。」
值得注意的是，該研究團隊首次證明抑制和靜默突觸的空間位置也可以控制神經形態系統中神經元對信號的處理。這一見解可以指導設計其他重現靜默突觸的計算模型和架構。
「稀疏性和形態學一直被人們所忽視，也未得到廣泛應用，無法構建下一代人工智能，」Cannistraci 說道。「我們的研究首次展示了如何利用真實大腦網絡的這兩個特征來設計下一代神經形態神經網絡，以實現高效的人工智能。」
下一步研究
該研究可能很快會為基于半導體器件的神經形態系統工程開辟新的令人興奮的途徑。具體來說，他們提出的受大腦啟發的設計可能有助于開發能耗更低的新設備和人工智能工具，從而為更可持續的計算鋪平道路。
Baek 博士表示：「與基于 GPU 的運動檢測系統不同，基于類腦樹突神經電路（NDNCs）的系統由于網絡中使用了更少數量的神經元，因此系統功耗更低。」
Carlo Vittorio Cannistraci 教授補充道：「我們的類腦樹突網絡模擬了包括樹突形態在內的大腦稀疏神經網絡，從而實現了高能效信息處理。」這種創新的樹突計算利用了獨特的方法，在人工智能、神經計算和腦啟發式計算領域開辟了新的可能性。
在接下來的研究中，研究人員計劃進一步擴展他們的人工神經回路，使用先進的抑制連接，進一步促進動態視覺信號的分類。為此，他們將嘗試密切模仿大腦在早期發育階段觀察到的神經連接。
「我們計劃開發新的神經形態樹突網絡架構，進行深度學習，并能解決視覺感知以外的其他人工智能任務，例如時間序列分析和聽覺任務。」Cannistraci 補充道。
「此外，我們希望開發多模態電路，能夠處理和關聯不同類型的感官輸入，如視覺和聽覺。最后，我們希望將這種稀疏和形態計算范式擴展到在數字硬件上實現的經典類型的人工神經網絡。」
參考內容：https://techxplore.com/news/2024-07-brain-artificial-dendritic-neural-circuit.html