原文地址:http://news.sciencenet.cn/htmlnews/2022/9/486144.shtm
近日,中國科學院自動化研究所類腦智能研究中心研究員曾毅團隊在《神經網絡》上發表了一項新研究,研究將來自生物腦神經元自身反饋以及興奮抑制性神經元平衡的啟發,融入類腦脈沖神經網絡的理論與模型設計,在提升脈沖神經網絡性能的同時加速了網絡的收斂,相關成果已融入類腦認知智能引擎“智脈BrainCog”開源開放。
類腦脈沖神經網絡通過離散的脈沖序列傳遞信息,在處理時空信息方面表現良好,由于其不可微分的特性,設計出具有優越性能的脈沖神經網絡一直存在困難。
曾毅表示,人腦的學習機制與原理分布在宏觀多腦區協同、介觀微環路、微觀神經元與突觸等多個尺度,不同尺度的可塑性與學習機制通過協作與涌現,實現人腦具備的高度自適應的學習能力,因此新一代的人工智能,特別是類腦神經網絡的研究應深度借鑒多尺度的腦結構與機制,尤其是多尺度的生物腦可塑性原理,研發高智能、高性能的類腦脈沖神經網絡。
他認為,最基礎的部分一定要從微觀神經元與突觸學習機制的細節得到啟發,而目前的人工神經網絡以及傳統的脈沖神經網絡在這方面對生物腦的借鑒還非常有限。
人腦神經元之間存在一種特殊的突觸稱為自突觸,它的軸突連接到自身胞體上,對神經元的膜電勢形成一個時延反饋,從而更好地控制脈沖的發放精度以及網絡的活動。論文的第一作者、中科院自動化所助理研究員趙東城介紹說,受此啟發,該研究一方面考慮神經元自身的自突觸構成的反饋,另一方面將每一層看做一個巨大的神經元,引入了一個自適應的時延的自反饋機制來規范膜電勢,從而提升基于反向傳播算法訓練的脈沖神經網絡的精度。
興奮性神經元和抑制性神經元的動態平衡對于穩定和高效地實現認知和行為十分重要。“我們在目前基于反向傳播算法訓練的脈沖神經網絡中引入了抑制性神經元,興奮性神經元以及抑制性性神經元的動態平衡機制加速了脈沖神經網絡的收斂,還提升了網絡的性能。”論文作者之一、中科院自動化所博士生李楊說。
該研究從結構和功能兩個角度借鑒了人腦的重要學習機制,設計了一種基于神經元自反饋、同層反饋以及興奮抑制神經元平衡的脈沖神經網絡,并在廣泛使用的經典視覺識別與分類任務上取得了投稿時同類脈沖神經網絡模型上最好的效果。
關于公布第八批吉林省青年科技人才托舉工程入選人員名單的通知吉科協發學字〔2024〕9號各省級學會、協會、研究會,各高校科協,有關單位:根據《吉林省青年科技人才托舉工程管理辦法》規定,經組織推薦、專家評......
近日,由江蘇省科學技術協會、江蘇省科學技術廳主辦的2024年全國科技工作者日江蘇省主場活動在南京舉行。會上發布了2023年度江蘇省行業領域十大科技進展。其中在生物醫藥領域,由中國工程院院士、江南大學教......
近年來,隨著人工智能的飛速發展,以無人駕駛、具身智能等為代表的智能無人系統正在被不斷地推廣和應用。人們希望這些系統可以在現實世界中更加自如地活動,更加準確地給人類提供幫助,但要達到這一目的有一個前提,......
“我們的隊伍已經組成,猶如浩蕩的萬里長江。而我自己呢,早就全副武裝,在我們的行列里,充當了一名小小的兵將……”6月3日,在寶雞鳳縣紅光溝航天精神文化區大禮堂,80余名來自西安建筑科技大學多個學院不同專......
敦煌,作為古代絲綢之路的重要節點,不僅擁有豐富的文化藝術價值,還承載著豐富的歷史信息。然而,該地區頻發的沙塵天氣不僅威脅著生態安全,還對莫高窟、陽關等珍貴的歷史文化遺跡保護構成了挑戰。為此,深入研究敦......
名稱關于批準《山東石島灣核電站擴建一期工程質量保證大綱(建造階段)》(A2版)的通知索引號000014672/2024-00203分類核電廠安全監管發布機關國家核安全局生成日期2024-06-03文號......
名稱關于印發《山東石島灣核電站擴建一期工程1號機組核島基礎澆筑第一罐混凝土前準備情況核安全檢查報告》的函索引號000014672/2024-00202分類核電廠安全監管發布機關國家核安全局生成日期20......
歷時44天的印度大選當地時間6月5日凌晨塵埃落定。執政黨印度人民黨(印人黨)主導的全國民主聯盟已獲得印度人民院過半數席位。輿論普遍認為,如無意外,印度總理納倫德拉·莫迪將開啟第三任期。據《自然》報道,......
日前,海南大學第二屆大學生科技文化節在該校海甸校區舉辦。海南大學第二屆大學生科技文化節開幕式現場。王鑫宇攝開幕式上,海南省教育廳二級巡視員朱雙平介紹了海南省在多渠道搭建科技創新實踐平臺、引導高校拓展創......
近日,蘭州大學生態學院及草種創新與草地農業生態系統全國重點實驗室的研究團隊發表重要研究成果,揭示了生物多樣性在抵御外來植物入侵中的重要作用。相關論文發表于《NatureCommunications》和......