數(shù)據(jù)量和計(jì)算需求的指數(shù)級(jí)增長(zhǎng),以及目前性能已經(jīng)趨于飽和的傳統(tǒng)晶體管計(jì)算系統(tǒng),激發(fā)了人們對(duì)新型計(jì)算基元的興趣。迄今為止,仿生或神經(jīng)形態(tài)人工智能的硬件方法主要依賴于復(fù)雜的晶體管電路來(lái)模擬生物功能,還沒(méi)有一種單一的電子元件可以模擬神經(jīng)元的功能。周期尖峰只需要二階復(fù)雜度,但在電路元件中產(chǎn)生神經(jīng)形態(tài)動(dòng)作電位,理論上至少需要三階復(fù)雜度。基于晶體管的傳統(tǒng)數(shù)字芯片在模擬代表神經(jīng)元豐富的非線性動(dòng)力學(xué)的復(fù)雜方程的過(guò)程中會(huì)變的復(fù)雜、龐大且能量低下。而設(shè)計(jì)和制備高階電子元件將能夠?qū)崿F(xiàn)極為高效的神經(jīng)形態(tài)人工智能。

近日,惠普實(shí)驗(yàn)室的Suhas?Kumar等人通過(guò)實(shí)驗(yàn)和建模,利用多個(gè)電物理過(guò)程(包括Mott轉(zhuǎn)變動(dòng)力學(xué)在內(nèi))構(gòu)建了具有三階復(fù)雜度的納米電路元件。并組建了基于這種三階元件的無(wú)晶體管簡(jiǎn)單集成網(wǎng)絡(luò)。集成網(wǎng)絡(luò)能夠執(zhí)行布爾運(yùn)算,并為圖像分割這一計(jì)算難題提供了模擬解決方案。這項(xiàng)工作為非常緊湊和密集的功能性神經(jīng)形態(tài)計(jì)算基元和高效能的神經(jīng)科學(xué)模型驗(yàn)證鋪平了道路。該研究以題為“Third-order nanocircuit elements for neuromorphic engineering”的論文發(fā)表在最新一期的《Nature》上。

?惠普實(shí)驗(yàn)室Nature:傳統(tǒng)計(jì)算機(jī)讓路,新型三階納米電路元件實(shí)現(xiàn)高效神經(jīng)形態(tài)運(yùn)算

【三階納米元件的結(jié)構(gòu)】

作者制備了小于100?nm的元件,每個(gè)元件中包含NbO2易失性Mott憶阻開(kāi)關(guān),一個(gè)內(nèi)部并聯(lián)電容器,以及一個(gè)內(nèi)部串聯(lián)電阻(圖1a-c)。電流-電壓曲線表明器件在低電流時(shí)呈現(xiàn)S形的負(fù)微分電阻(negative differential resistance, NDR),高電流時(shí)為箱形遲滯(圖1d)。這里展示的與Mott轉(zhuǎn)變相關(guān)的獨(dú)特動(dòng)力學(xué)之前從未被詳細(xì)研究過(guò),這種轉(zhuǎn)變提供的額外狀態(tài)變量可以用來(lái)產(chǎn)生神經(jīng)形態(tài)功能。為了獲得想要的高階Mott轉(zhuǎn)變動(dòng)力學(xué),對(duì)元件的幾何結(jié)構(gòu)進(jìn)行了優(yōu)化,提升了電學(xué)性質(zhì)和熱學(xué)性質(zhì),同時(shí)對(duì)材料的成分也進(jìn)行了微調(diào)(圖1h)。

?惠普實(shí)驗(yàn)室Nature:傳統(tǒng)計(jì)算機(jī)讓路,新型三階納米電路元件實(shí)現(xiàn)高效神經(jīng)形態(tài)運(yùn)算

圖1?元件結(jié)構(gòu)與靜態(tài)測(cè)試

【利用Mott轉(zhuǎn)變產(chǎn)生神經(jīng)動(dòng)作電位】

元件與可調(diào)的電壓相連。通過(guò)調(diào)節(jié)施加的電壓,可以訪問(wèn)其電流-電壓曲線的不同部分(圖2a)。當(dāng)偏壓剛好低于遲滯時(shí)(Vext=1.8 V),可以觀察到自維持的正弦振蕩。當(dāng)偏壓在遲滯內(nèi)部時(shí)(Vext=1.95 V),能夠觀察到周期性的雙尖峰爆裂(two-spike bursting),并在較高的電壓下(Vext=2.05 V)轉(zhuǎn)變?yōu)橹芷谛缘膯渭夥澹c神經(jīng)元的動(dòng)作電位類似(圖2b,c)。在更高的電壓下(Vext=2.1 V),這些峰會(huì)突然呈現(xiàn)出類似于神經(jīng)元的超閾值阻尼尖峰的低強(qiáng)度周期性特征。通過(guò)調(diào)節(jié)施加在元件上的偏壓,這種三階元件能夠表現(xiàn)出15種不同的神經(jīng)形態(tài)反應(yīng)。隨后,作者建立了一個(gè)簡(jiǎn)單緊湊的有限元模型,在仿真中探討了動(dòng)力學(xué)問(wèn)題。建立的三階模型中有三個(gè)狀態(tài)變量,每一個(gè)狀態(tài)變量都有一個(gè)獨(dú)特的動(dòng)力學(xué)方程:T,Vm以及Rmet(T為溫度變量,Vm為施加于NbO2上的電壓,Rmet為NbO2高導(dǎo)態(tài)時(shí)的可變歐姆導(dǎo)體,用來(lái)表示Mott轉(zhuǎn)變動(dòng)力學(xué))。該模型的數(shù)值模擬與實(shí)驗(yàn)數(shù)據(jù)一致(圖2e g),從而證明Mott絕緣體能夠作為非線性響應(yīng)的基礎(chǔ),在電路中產(chǎn)生動(dòng)態(tài)行為。

生物神經(jīng)元的動(dòng)作電位包含三部分,即相對(duì)于靜息態(tài)的上升、降低和下降(up-shoot, lowering and under-shoot,圖2h,i)。作者利用模型將其與Mott轉(zhuǎn)變驅(qū)動(dòng)的特定溫度響應(yīng)相聯(lián)系,闡明了納米元件產(chǎn)生神經(jīng)形態(tài)動(dòng)作電位的機(jī)理(圖2i-k)。

?惠普實(shí)驗(yàn)室Nature:傳統(tǒng)計(jì)算機(jī)讓路,新型三階納米電路元件實(shí)現(xiàn)高效神經(jīng)形態(tài)運(yùn)算

圖2?動(dòng)作電位的實(shí)驗(yàn)測(cè)量與建模

【三階元件實(shí)現(xiàn)傳統(tǒng)邏輯運(yùn)算】

作者構(gòu)建了一個(gè)包含三個(gè)這種三階元件以及一個(gè)可調(diào)耦合電阻的簡(jiǎn)單電路(圖3a)。通過(guò)對(duì)輸入電壓和耦合電阻的調(diào)節(jié),實(shí)現(xiàn)了信號(hào)的傳導(dǎo),進(jìn)一步成功完成了晶體管電路中的NAND(與非門)和NOR(或非門)的操作(圖3b,c)。

?惠普實(shí)驗(yàn)室Nature:傳統(tǒng)計(jì)算機(jī)讓路,新型三階納米電路元件實(shí)現(xiàn)高效神經(jīng)形態(tài)運(yùn)算

圖3?三階元件實(shí)現(xiàn)通用的布爾邏輯門操作

【納米元件解決圖像分割計(jì)算難題】

最后,作者構(gòu)建了一個(gè)包含24個(gè)三階納米元件的集成陣列用來(lái)實(shí)驗(yàn)演示模擬計(jì)算。該系統(tǒng)與人腦中的丘腦-皮層計(jì)算有相似之處,它發(fā)生在振蕩神經(jīng)元網(wǎng)絡(luò)中,這些神經(jīng)元通過(guò)可調(diào)節(jié)的突觸或是處理和傳輸神經(jīng)信號(hào)的中樞/丘腦連接在一起(圖4a,c,d)。這導(dǎo)致了神經(jīng)振蕩動(dòng)態(tài)的同步,從而導(dǎo)致了時(shí)空的分類,如自然語(yǔ)言以及人臉識(shí)別等(圖4b)。作者利用構(gòu)建的系統(tǒng)來(lái)解決病毒準(zhǔn)種重建問(wèn)題(通常表示為圖像最大分割問(wèn)題)。實(shí)驗(yàn)結(jié)果與對(duì)應(yīng)圖片劃分的最優(yōu)解相一致(圖4h-j),證明了基于這種三階元件在模擬計(jì)算時(shí)相對(duì)于傳統(tǒng)晶體管電路的高效性。

?惠普實(shí)驗(yàn)室Nature:傳統(tǒng)計(jì)算機(jī)讓路,新型三階納米電路元件實(shí)現(xiàn)高效神經(jīng)形態(tài)運(yùn)算

圖4?神經(jīng)形態(tài)模擬計(jì)算的實(shí)驗(yàn)演示

總結(jié):作者以NbO2中Mott轉(zhuǎn)變?yōu)轭~外的動(dòng)力學(xué)過(guò)程,構(gòu)建了一個(gè)單獨(dú)的具有三階復(fù)雜度的納米電路元件。在恒壓下元件能夠產(chǎn)生神經(jīng)形態(tài)的動(dòng)作電位行為?;谶@種元件,作者演示了完整的邏輯電路操作,并進(jìn)一步演示其在目前基于馮·諾伊曼的傳統(tǒng)數(shù)字計(jì)算機(jī)難以解決的計(jì)算難題上的優(yōu)越性,推動(dòng)了高性能的神經(jīng)形態(tài)計(jì)算基元的發(fā)展。

來(lái)源:

https://www.nature.com/articles/s41586-020-2735-5

微信
微信
電話 QQ
返回頂部