類腦計算是指利用數字電路、模擬電路、數模混合電路或新器件來仿真生物神經元以及神經元間的突觸連接,進而利用超大規模集成電路(Very Large Scale Integrated,VLSI)系統來模仿神經系統中的神經生物學結構。
類腦計算是指利用數字電路、模擬電路、數模混合電路或新器件來仿真生物神經元以及神經元間的突觸連接,進而利用超大規模集成電路(Very Large Scale Integrated,VLSI)系統來模仿神經系統中的神經生物學結構。和現有馮諾伊曼體系結構 計算與存儲分離的特點相對,類腦計算中的神經元結構既有計算能力,也有存儲能力。
一、神經形態運算平臺
類腦運算平臺或者類腦芯片, 是受到生物學腦工作機制啟發開發的專用于為SNN提供計算的硬件系統。制作類腦芯片最具有挑戰性的是如何把不計其數spiking 神經元和突觸放進一個小小的芯片里并同時讓他們的鏈接結構是可調整的。
最初,類腦芯片僅由科研學術機構進行探索。 由于研究人員已經展示出這些出色的類似于大腦的計算模型的巨大潛力,因此許多大公司已開始參與類腦芯片的開發。
除了類腦芯片外,仍有許多新興的類腦芯片在SNN計算中顯示出巨大的潛力。例如浙江大學的達爾文芯片,其目標是嵌入式低功耗應用。 蘇黎世大學研究人員開發的DYNAP-SEL結合了異步數字邏輯和模擬電路,以實現模擬SNN實現。 清華大學的研究人員成功設計了混合型天機芯片 ,該混合型既可以實現常規神經網絡又可以實現SNN。
二、神經形態傳感器
動態視覺傳感器(Dynamic Vison Sensor)
傳統的視覺傳感器的經典例子是數碼相機,它以預定的幀頻重復刷新其整個像素值陣列。但是,使用數碼相機具有動態運動識別的三個缺點。
首先,數碼相機通常以預定義的幀采樣速率(通常范圍為每秒25-50幀)運行,這限制了觀察到的活動的時間分辨率。
其次,連續的幀和每個幀中的冗余像素浪費了大量的存儲資源和計算。
第三,傳統圖像傳感器的動態范圍受到其曝光時間和集成能力的限制。
大多數相機會遭受飽和線性響應,動態范圍限制在60-70dB,其中自然場景的光線可以達到動態范圍的約140dB。動態視覺傳感器(DVS)提供了解決這些問題的方法。使用AER數據形式(Address evnet representation)的DVS是基于人類視覺系統的事件驅動技術。
基于事件的傳感器在動態場景識別任務中的優勢在于,當場景發生很大變化時,它可以提供非常高的時間分辨率,這只能通過高速數碼相機來匹配,而這通常需要大功率和大量電量,和計算資源。
動態音頻傳感器(Dynamic Audio Sensor)
就像DVS模仿人類視覺系統一樣,動態音頻傳感器的工作機制也受到人類聽覺系統中的感覺器官的啟發。 DAS是異步事件驅動的人工耳蝸,可接收立體聲音頻輸入。
DAS使用麥克風前置放大器和64個雙耳聲道,為神經形態音頻感應設定了基準。 DAS集成了本地數模轉換器(DAC),以允許修改每個通道中的質量因數。 通過級聯的二階模擬部分來模擬耳蝸的功能,這些模擬部分包括半波整流器,頻率調制器,數模轉換器,服務器放大器和緩沖器。
三、SNN仿真軟件
盡管SNN具有許多優勢,但是在模擬尖峰神經元方面的計算問題還是比較大的。在某些情況下,像IZ神經元模型一樣,需要對生物物理峰值神經元進行詳細的差分表示。 另一方面,在實際應用方面,不需要現實地重建生物突波產生機理的簡化神經元模型(比如IF神經元模型)。
SNN的仿真策略可以分為兩個系列:同步或異步。 同步算法會在每個時間步更新所有神經元,這比異步或“事件驅動”算法會導致更高的計算資源。 異步方法僅在神經元接收或發出脈沖時更新神經元狀態,就像DVS傳感器的工作范式一樣。
圖表:SNN仿真軟件匯總
資料來源:中研普華產業研究院整理
與ANN中的統一神經網絡框架(例如Tensorflow 和Pytorch)不同,SNN模型和SNN的訓練方法沒有得到廣泛一致的統一化。 模擬SNN的方法仍然是多種多樣且客觀的。 現階段,設計SNN的過程不僅考慮了網絡本身的可行性,而且還可以擴展到諸如生物學上的合理性,計算成本和學習機制之類的功能。為了全面回顧SNN的軟件實現。
類腦運算雖然仍處于科研階段, 但各界大牛的應用示例層出不窮。 SNN的優勢在個人看法而言,體現在 如果一個系統同時具有傳感器,芯片,和強大的SNN算法,它的功耗和運行速度是傳統ANN,DNN所不能匹敵的。 但就現有的學習算法而言, SNN在和DNN對比上對各類任務的表現(比如識別準確率)還差強人意。
Diehl 在2015年paper “Unsupervised learning of digit recognition using spike-timing-dependent plasticity” 中實現了STDP和側面抑制結合的WTA學習方法, SNN通過非監督式的學習方法可以在MNIST手寫數字識別的數據庫上達到95% 的準確率。
2017年的CVPR上, TrueNorth團隊在TrueNorth芯片上實現了實時的動態手勢識別。雖然此方法是基于傳統深度學習的模型,但整個系統的功耗大概只有200mW和105ms的延遲(1秒10幀)。
清華大學天機芯片團隊,2019年Nature上發表了使用混合神經網絡驅動自動駕駛自行車的例子。這里包涵了傳統ANN和SNN的信號處理融合。
類腦計算的這種特點從根本上消除了馮諾伊曼體系結構的“存儲墻”問題。通過對類腦計算進行研究,能夠更好地理解腦計算模型,為實現類腦智能提供路徑。
SNN也被稱為第三代神經網絡,是人工智能領域機器學習算法的一種,是計算機科學與生物神經科學交叉而成的新興學科。相比于傳統的ANN,如各種深度學習網絡,SNN實現了更高級的生物神經元模擬水平,更容易模擬人腦低功耗高性能的處理方式,是信息技術向智能化發展的重點研究方向。與ANN相比,SNN有諸多優良特性,在實現低功耗、高性能的智能系統上潛力巨大。類腦計算研究涉及的領域范圍廣泛,包括材料科學、神經科學、電氣工程、計算機工程和計算機科學等。
材料科學家研究、制造和表征可用于類腦器件的新材料,重點是展示與生物神經系統相似特性的材料。神經科學家提供可能在類腦計算意義上有用的新知識,并利用類腦計算系統來模擬和研究生物神經系統。電子和計算機工程師利用模擬電路、數字電路、數模混合電路和器件來構造系統,模擬神經系統的運行過程,開發由生物啟發的類腦計算系統。
類腦計算系統的研究涉及到類腦處理器微體系結構技術、體系結構技術、類腦處理器配套的軟件工具鏈和基于脈沖神經網絡的算法等研究領域。在現階段的社會發展過程中計算機科學技術在社會中的應用具有極大的社會現實含義,不僅其在加速社會經濟的道路上起到了積極的作用。計算機技術在發展的同時帶動經濟社會的進步。
由于傳統的計算機科學沒有相關的技術信息支撐,當代的發展方向是積極向前的、相互融合的。不過由于當代社會信息的共享性還有待于提高到新的階段,-些方面的信息受到一定的局限和壟斷性。伴隨著越來越普遍的計算機科學在全世界范圍內的迅猛發展,信息將可以被方便快捷的進行傳播,有理由相信計算機技術將會帶動社會經濟更好發展,其對經濟的發展將起到積極有效的作用。
關注公眾號
免費獲取更多報告節選
免費咨詢行業專家
2021-2025年國內外類腦計算技術發展研究及趨勢預測報告
類腦計算是指利用數字電路、模擬電路、數模混合電路或新器件來仿真生物神經元以及神經元間的突觸連接,進而利用超大規模集成電路(Very Large Scale Integrated,VLSI)系統來模仿神經系統中...
查看詳情
三季度末金融業機構總資產同比增8.2%央行數據顯示,初步統計,2021年三季度末,我國金融業機構總資產為375.68萬億元8...
無紡布市場規模如何中國無紡行業前幾年的發展勢如破竹,總產量已位居世界第一,新興領域如醫用紡織品、阻燃、防護、特...
疫苗對奧密克戎有效嗎目前,國內尚未披露奧密克戎對疫苗影響的相關數據。但疫苗企業已做好準備。科興生物表示,其已成...
工控機市場前景廣闊 工控主板行業發展現狀趨勢分析隨著社會信息化的不斷深入,越來越多的行業都依靠工控主機,因此在...
中國建設工程檢測行業現狀及發展前景分析自改革開放以來,我國建筑業蓬勃發展,與之密切相關的就是必不可少的建設工程...
體育地產就是將體育產業和房地產業有機的嫁接,以體育作為主體概念的房產開發模式,并且將體育納入房產開發的總規劃。...