在“贏者通吃”的情況下悴侵，激活和抑制神經(jīng)元之間的電流比>104。我們在已開發(fā)的自旋電子LIFT神經(jīng)元的基礎(chǔ)上進(jìn)一步建立了兩層脈沖神經(jīng)網(wǎng)絡(luò)可免。該體系結(jié)構(gòu)在手寫數(shù)字?jǐn)?shù)據(jù)庫基準(zhǔn)測試中達(dá)到88.5%的準(zhǔn)確率。我們的研究證實(shí)了自旋電子神經(jīng)元的電路兼容性及其在智能設(shè)備和神經(jīng)形態(tài)計(jì)算領(lǐng)域的巨大潛力做粤。
自旋電子泄漏-整合-具有自我重置和贏者通吃的神經(jīng)形態(tài)計(jì)算的脈沖神經(jīng)元（三）
不同神經(jīng)元器件與計(jì)算功率和能量消耗的比較證實(shí)了所開發(fā)的自旋電子神經(jīng)元器件成功地模擬了生物神經(jīng)元的LIFT特性。10 ns的上升時間和50 ns的下降時間進(jìn)一步保證了高速數(shù)控的應(yīng)用怕品。雖然神經(jīng)元器件的能量消耗約為486 fJ/spike妇垢，但通過結(jié)構(gòu)Min和焦耳加熱優(yōu)化，仍可逐步接近甚至超過生物神經(jīng)元的能量消耗。
發(fā)展大規(guī)模神經(jīng)元電路的主要障礙是高功耗闯估。在傳統(tǒng)的神經(jīng)元電路中灼舍，所有神經(jīng)元總是對給定的輸入產(chǎn)生輸出，這導(dǎo)致神經(jīng)元非選擇性地放電涨薪，不必要地消耗大量能量。相反尤辱，生物神經(jīng)元具有內(nèi)在的側(cè)抑制機(jī)制砂豌，它確保只有特定的神經(jīng)元可以觸發(fā)特定的尖峰事件厢岂。因此，為了以優(yōu)化資源分配的方式進(jìn)一步降低神經(jīng)元電路中神經(jīng)元器件的功耗塔粒，我們集成了一種精心設(shè)計(jì)的帶有NDR40的半導(dǎo)體元件來實(shí)現(xiàn)我們所開發(fā)的自旋電子神經(jīng)元之間的WTA功能结借。根據(jù)突觸陣列的權(quán)重精確編程神經(jīng)元的寫入電流，如圖5a所示卒茬。
受上一篇報道中NDR應(yīng)用的啟發(fā)船老，如圖5b所示，Ienable是指由預(yù)神經(jīng)元信號觸發(fā)的輸入為35 μA的恒流脈沖圃酵。由于Rs1柳畔、Rs2、…郭赐、Rsn的值不同薪韩，各支路的電流也不同捌锭。支路電流Max的NDR器件首先 進(jìn)入負(fù)差分電阻區(qū)。因此观谦，由于電路兩端電壓的下降拉盾，該支路的電流將迅速增大，而其他支路的電流將減小豁状。通過這種方式捉偏，可以執(zhí)行特定神經(jīng)元裝置的寫入，并成功實(shí)現(xiàn)神經(jīng)元之間的全局抑制泻红，這比具有局部抑制的裝置WTA11更具競爭力。重要的是承桥，突觸差電流比可以超過104驻粟，這使得這些丟失神經(jīng)元的分支漏電流可以忽略不計(jì)。NDR元件的電路圖如圖5b所示,其特性見附圖。圖5c給出了不同突觸權(quán)值的三個分支的電流差異特征蜀撑。
此外，基于已開發(fā)的自旋電子神經(jīng)元和集成的NDR WTA模塊進(jìn)一步實(shí)現(xiàn)了SNN架構(gòu)酷麦，如圖5a所示矿卑，并在補(bǔ)充影片3中進(jìn)行了示意化動畫。當(dāng)前神經(jīng)元信號到達(dá)時沃饶，突觸陣列的讀取控制晶體管被打開母廷，一個恒定的電流流過突觸陣列。由于突觸的權(quán)重不同糊肤，流經(jīng)每個分支的電流也不同琴昆。由于NDR器件的差分效應(yīng)，因此馆揉，一個神經(jīng)元寫控制晶體管被打開，而其余神經(jīng)元相關(guān)晶體管被關(guān)閉升酣。預(yù)神經(jīng)元輸入程序脈沖后，WTA神經(jīng)元經(jīng)過一系列積分和漏動作后放電噩茄，并通過輸出電路產(chǎn)生一個尖峰下面，實(shí)現(xiàn)SNN的完整功能。為了提高仿真過程的效率绩聘，建立了一個由四個神經(jīng)元組成的4×4交叉桿沥割，并集成了NDR組件。通過施加5個振幅為23.5 μA君纫、持續(xù)時間為2ns驯遇、周期為10ns的電流脈沖來實(shí)現(xiàn)。
簡單地說蓄髓，前神經(jīng)元1信號在第1個周期到達(dá)叉庐，隨后，突觸陣列第1列的讀取mosfet立即被打開会喝。由于連接到neuron2的突觸處于低阻力狀態(tài)，因此neuron2獲勝肢执。在NDR-WTA模塊的響應(yīng)作用下，23.5 μA的電流幾乎全部通過neuron2预茄，從而抑制了其他神經(jīng)元兴溜，保證泄漏電流在幾個pA的水平下可以忽略不計(jì)侦厚。值得注意的是，Neuron2在周期的前半段整合拙徽，而泄漏過程發(fā)生在后半段刨沦。與第1個周期相似，在第二個周期中膘怕，除了Neuron1獲勝外想诅，Neuron2和其他神經(jīng)元保持泄漏。經(jīng)過5個周期后岛心，Neuron2 zui終獲勝并發(fā)射，即實(shí)現(xiàn)了典型的WTA行為忘古，如圖5d所示徘禁，說明開發(fā)的自旋電子神經(jīng)元器件具有神經(jīng)元電路實(shí)現(xiàn)的可行性和良好的電路兼容性。
與新代表性的WTA SNNs （Supplementary Table S5）相比存皂，我們提出的方案具有較好的性能晌坤，延遲時間為170 ps旦袋，總功耗為90.99 μW，分別比現(xiàn)有方案低3.4 ~ 293倍和6.1倍它改。此外疤孕，僅考慮WTA模塊，與傳統(tǒng)的WTA電路相比央拖，我們的方案功耗降低了21 × ~ 29× 祭阀。值得注意的是鲜戒，隨著網(wǎng)絡(luò)變得越來越復(fù)雜专控，我們設(shè)計(jì)的優(yōu)勢也越來越明顯。這將為高速遏餐、低功耗和復(fù)雜神經(jīng)元電路的應(yīng)用提供更多的可能性伦腐。相對較長的運(yùn)行周期可以從設(shè)備的角度進(jìn)行優(yōu)化，例如縮短設(shè)備長度和熱工程
從應(yīng)用的角度來看柏蘑，神經(jīng)形態(tài)計(jì)算的硬件實(shí)現(xiàn)至關(guān)重要，因?yàn)樗鼈冊诮鉀Q識別和分類任務(wù)方面具有競爭力的效率粹庞。我們進(jìn)一步評估了開發(fā)的自旋電子LIFT神經(jīng)元裝置的適用性咳焚，并實(shí)現(xiàn)了典型的修改標(biāo)準(zhǔn)與技術(shù)研究所（MNIST）手寫數(shù)字識別庞溜。利用SNN模擬器BRIAN266構(gòu)建了基于LIFT神經(jīng)元的自旋電子脈沖神經(jīng)網(wǎng)絡(luò)革半。如圖6a所示，采用典型的雙層SNN拓?fù)浣Y(jié)構(gòu)，輸入為28×28像素的二維陣列又官。泊松編碼數(shù)據(jù)流通過脈沖時間依賴性可塑性（STDP）學(xué)習(xí)赃蛛，通過突觸觸發(fā)興奮性神經(jīng)元忧勿。輸入神經(jīng)元與興奮性神經(jīng)元完全連接，每個興奮性神經(jīng)元與一個匹配的抑制神經(jīng)元連接诺祸，抑制所有休息的興奮性神經(jīng)元的尖峰事件煤率。每個興奮性神經(jīng)元裝置中的DW運(yùn)動由相互連接的突觸電導(dǎo)調(diào)節(jié)嗜闻，突觸電導(dǎo)計(jì)算流入裝置的電流值典勇，從而產(chǎn)生焦耳熱來驅(qū)動DW運(yùn)動劫哼。在我們的裝置中，有效磁場驅(qū)動磁性DW運(yùn)動的機(jī)理可以表示為以下物理模型权烧，v = mHef f，其中m = γΔ= α + α1 T般码。Heff歸因于hbuilt和HRKKY之間的競爭，其中HRKKY被電流產(chǎn)生的焦耳加熱調(diào)制乱顾，可以寫成如下模型Hef = Hbuiltin + HRKKY, HRKKY = HRKKY0 + kI2板祝，其中k為RKKY場的焦耳加熱調(diào)制系數(shù)，由我們的實(shí)驗(yàn)結(jié)果提取券时。
我們進(jìn)一步實(shí)現(xiàn)了一個包含1600個興奮性神經(jīng)元和10類手寫數(shù)字的SNN，“0”到“9”依次進(jìn)行訓(xùn)練和推理伏伯。圖6b顯示了具有代表性的前256個興奮性神經(jīng)元學(xué)習(xí)了連接輸入神經(jīng)元和興奮性神經(jīng)元的突觸權(quán)值橘洞。圖6c描述了在10000個測試集驗(yàn)證后，1600個激勵神經(jīng)元在不同數(shù)量的訓(xùn)練樣本下的手寫模式識別準(zhǔn)確率说搅。SNN在動態(tài)環(huán)境中增量學(xué)習(xí)數(shù)字炸枣，訓(xùn)練集的前33,000個樣本的平均分類準(zhǔn)確率達(dá)到了~88.5%蜓堕，與圖6d的基準(zhǔn)表所示相比抛虏，表現(xiàn)出相當(dāng)?shù)男阅堋Ｕ堊⒁馓撞牛ㄟ^優(yōu)化模型參數(shù)背伴，例如網(wǎng)絡(luò)結(jié)構(gòu)沸毁、網(wǎng)絡(luò)大小和訓(xùn)練參數(shù)等峰髓，可以進(jìn)一步提高準(zhǔn)確性息尺。
雖然動態(tài)DW運(yùn)動和調(diào)制已被實(shí)驗(yàn)驗(yàn)證具有神經(jīng)元LIF特征的行為携兵，但要進(jìn)一步提高自旋電子神經(jīng)元器件的性能，仍迫切需要仔細(xì)設(shè)計(jì)熱生成和cmos兼容的工藝技術(shù)徐紧。一方面，為了提高能量效率和消除神經(jīng)元之間的交叉干擾炭懊，研究人員需要同時降低局部釘釘中心的密度并级，即提高設(shè)備的可靠性。
在大規(guī)模高密度神經(jīng)元回路中侮腹，熱擴(kuò)散是一個亟待解決的主要問題嘲碧。另一方面父阻，由于散熱的性質(zhì)，我們的設(shè)計(jì)可能更適合稀疏和習(xí)慣性的神經(jīng)元電路加矛，這也是我們后續(xù)研究的重點(diǎn)之一履婉，即構(gòu)建具有特定任務(wù)的神經(jīng)元電路荒椭。從材料系統(tǒng)（FM/AFM/FM, FM/FM(PM)/FM）的角度來看谐鼎，焦耳加熱不僅可以調(diào)制RKKY耦合的強(qiáng)度，還可以調(diào)制RKKY耦合的符號趣惠，適用于CMOS器件的集成身害。此外味悄，電壓和應(yīng)變承擔(dān)額外的工程旋鈕來調(diào)節(jié)RKKY的相互作用，從而實(shí)現(xiàn)更多的可重構(gòu)神經(jīng)元多樣性侍瑟。重要的是，在SNN中引入半導(dǎo)體負(fù)差分電阻器件的想法有望取代傳統(tǒng)的感測放大器或模數(shù)轉(zhuǎn)換器讀取模式丙猬，并進(jìn)一步降低網(wǎng)絡(luò)開銷涨颜。此外，在非優(yōu)化條件下庭瑰，實(shí)現(xiàn)的雙層SNN架構(gòu)在MNIST基準(zhǔn)上達(dá)到88.5%的準(zhǔn)確率，為更雄心勃勃和未來的神經(jīng)形態(tài)計(jì)算應(yīng)用鋪平了道路抢埋。
綜上所述督暂，我們已經(jīng)在CMOS兼容的saf結(jié)構(gòu)神經(jīng)元中通過焦耳加熱實(shí)現(xiàn)了RKKY有效場的精確調(diào)制，并且RKKY相互作用和h內(nèi)置之間的動態(tài)競爭可以生物學(xué)地模擬出尖峰LIFT特性穷吮。由于其固有的rkky - h內(nèi)嵌競爭特性逻翁，這種焦耳加熱輔助DW-SAF尖峰LIFT神經(jīng)元既不需要膜電容器，也不需要復(fù)位電路捡鱼。我們開發(fā)的自旋電子尖峰神經(jīng)元顯示了LIF和自復(fù)位功能八回，其超低能量為486 fJ/尖峰驾诈，高放電速率高達(dá)17 MHz辽社，與生物同類相比，具有吸引力的硬件加速翘鸭。通過整合NDR設(shè)備，實(shí)現(xiàn)了WTA的功能化,具有突觸陣列電流差比>104的自旋電子LIFT尖峰神經(jīng)元成功實(shí)現(xiàn)了低延遲170 ps就乓、低功耗90.99 μW的NDR-WTA脈沖神經(jīng)元電路。通過層間耦合誘導(dǎo)磁性DWM的協(xié)同剪裁和NDR的集成生蚁，所提出的器件電路協(xié)同設(shè)計(jì)使LIFT尖峰神經(jīng)元與WTA在神經(jīng)元電路中集成噩翠，為未來的神經(jīng)形態(tài)器件和芯片應(yīng)用提供了可靠的平臺。建立的雙層SNN基于我們開發(fā)的自旋電子LIFT神經(jīng)元邦投，可以級聯(lián)到MTJ突觸交叉桿，避免額外的接口電路志衣。在MNIST的基準(zhǔn)測試中達(dá)到了88.5%的準(zhǔn)確率屯援，為自旋電子LIFT神經(jīng)元的硬件探索提供了前景廣闊的神經(jīng)形態(tài)計(jì)算。相信我們的研究將在神經(jīng)形態(tài)計(jì)算領(lǐng)域引發(fā)廣泛的跨學(xué)科研究念脯，如CMOS集成人工神經(jīng)元電路帶出過程狞洋。
更多詳情請聯(lián)系昊量光電/歡迎直接聯(lián)系昊量光電
關(guān)于昊量光電：
上海昊量光電設(shè)備有限公司是光電產(chǎn)品專業(yè)代理商，產(chǎn)品包括各類激光器绿店、光電調(diào)制器、光學(xué)測量設(shè)備假勿、光學(xué)元件等借嗽，涉及應(yīng)用涵蓋了材料加工转培、光通訊恶导、生物醫(yī)療、科學(xué)研究堡距、國防兆蕉、量子光學(xué)、生物顯微缤沦、物聯(lián)傳感、激光制造等缸废；可為客戶提供完整的設(shè)備安裝包蓝，培訓(xùn)，硬件開發(fā)测萎，軟件開發(fā)，系統(tǒng)集成等服務(wù)届巩。
您可以通過我們昊量光電的官方網(wǎng)站www.wjjzl.com了解更多的產(chǎn)品信息硅瞧，或直接來電咨詢4006-888-532。
展示全部 
