|
來(lái)源：半導體行業(yè)觀(guān)察 Loihi，這個(gè)名字可能在普通消費者的耳中并不熟悉，但對于半導體領(lǐng)域來(lái)說(shuō)，卻并不陌生。神經(jīng)擬態(tài)計算是一種借鑒神經(jīng)科學(xué)研究的全新計算方法，通過(guò)存算一體和高細粒度的并行計算，大幅減少了數據傳輸。而Loihi芯片正是英特爾神經(jīng)擬態(tài)計算芯片的代表。 回顧英特爾的神經(jīng)擬態(tài)計算之路：2017年，英特爾研究院推出了一款神經(jīng)擬態(tài)芯片Loihi 1，2020年推出基于Loihi 1的Pohoiki Springs。2021年英特爾研究院推出了第二代Loihi芯片，而就在前不久，英特爾首發(fā)大型神經(jīng)擬態(tài)系統Hala Point，基于Loihi 2，神經(jīng)元數量達到11.5億。 
Hala Point在主流AI工作負載上展現了出色的計算效率。研究顯示，在運行傳統深度神經(jīng)網(wǎng)絡(luò )時(shí)，該系統能夠每秒完成多達2萬(wàn)萬(wàn)億次（20 petaops）運算，8位運算能效比達到了15 TOPS/W，相當于甚至超過(guò)了基于GPU和CPU的架構。 無(wú)論是從研究、系統到應用的各個(gè)角度，Loihi項目持續向前推進(jìn)，展現出了令人鼓舞的發(fā)展態(tài)勢。 Hala Point：英特爾迄今為止最先進(jìn)的神經(jīng)擬態(tài)系統 關(guān)于神經(jīng)擬態(tài)類(lèi)芯片，想必大家都會(huì )覺(jué)得很神秘。近日，英特爾研究院副總裁、英特爾中國研究院院長(cháng)宋繼強在一次媒體溝通會(huì )上，詳細解釋了Loihi芯片背后的技術(shù)原理以及最新的研究進(jìn)展。 宋繼強指出，Loihi芯片的主要特點(diǎn)在于，它內部蘊含著(zhù)一個(gè)最小的計算單元，這個(gè)單元模擬了生物大腦神經(jīng)元的結構和運作方式。Loihi芯片中可能包含多個(gè)這樣的單元，每一個(gè)最小的計算單元就是由計算邏輯和對應的存儲構成的，所以它是一個(gè)存算一體化的芯片。 因此，Loihi內部確實(shí)包含了承載神經(jīng)元胞體能力的組織，具備計算和存儲邏輯，并模擬了神經(jīng)元的輸入輸出過(guò)程。簡(jiǎn)單來(lái)說(shuō)，神經(jīng)元的輸入通過(guò)軸突實(shí)現，而輸出則通過(guò)樹(shù)突完成。神經(jīng)元胞體的樹(shù)突能夠連接到其他神經(jīng)元的軸突，形成一個(gè)網(wǎng)絡(luò )，從而實(shí)現神經(jīng)元之間的相互連接。 Loihi 1芯片所采用的是英特爾14納米的制程，2020年發(fā)布的基于Loihi 1芯片的Pohoiki Springs，大約是5U的規模，含有768個(gè)Loihi 1代的芯片。Pohoiki Springs系統里有接近1億個(gè)神經(jīng)元。作為對比，人腦共有860億個(gè)神經(jīng)元，也就是說(shuō)，Pohoiki Springs相當于1/800大腦的神經(jīng)元。 最新發(fā)布的Hala Point，尺寸比原來(lái)的Pohoiki Springs稍大一些，從5U增加到了6U，這個(gè)增幅并不大，但是在神經(jīng)元數量上，卻實(shí)現了11倍的增長(cháng)，從1億增加到了11.5億。從尺寸來(lái)講，這個(gè)系統與烤箱或者是行李箱尺寸相當，它的神經(jīng)元規模已經(jīng)達到人腦的1/80了。也就是說(shuō)80個(gè)Hala Point堆在一起，就相當于人腦規模的神經(jīng)擬態(tài)計算集群。 此外，Hala Point芯片升級為L(cháng)oihi 2，Hala Point內部共有1152個(gè)Loihi 2的芯片，此外還包括140544個(gè)神經(jīng)處理內核，2304個(gè)x86內核，用于調度和配置任務(wù)。相較于Loihi一代，在密度、計算能力、速度以及互連特性等方面都實(shí)現了顯著(zhù)提升。Loihi 2采用的是Intel 4制程技術(shù)，從英特爾14納米制程節點(diǎn)升級至Intel 4，光是制程上，就使得芯片內部的晶體管密度和能效比都得到了顯著(zhù)提升。 了解神經(jīng)擬態(tài)計算 神經(jīng)擬態(tài)計算系統的最大優(yōu)勢的具有非常高的能效比，比如，最新的Hala Point神經(jīng)擬態(tài)如此大規模的系統集群功耗僅為15TOP/S，這主要主要源于兩個(gè)方面： 首先，它實(shí)現了存算一體化，因此避免了傳統的核內外架構在處理大量數據傳輸時(shí)的能量損耗。 其次，它采用了異步電路設計，摒棄了中央時(shí)鐘。宋院長(cháng)進(jìn)一步指出，神經(jīng)擬態(tài)計算沒(méi)有同步時(shí)鐘概念，就像我們人腦，不是以一個(gè)很高的頻率在工作，要不然就會(huì ) “燒腦”了。雖然這可能有些難以理解，因為像CPU、GPU或一些ASIC設計都是有一個(gè)同步的時(shí)鐘來(lái)驅動(dòng)的。一旦時(shí)鐘啟動(dòng)，所有電路、內存等都在運行，耗電量很大，雖然可以根據情況進(jìn)行一些選通，但大部分電路仍在耗電。然而，神經(jīng)擬態(tài)計算系統采用的是異步事件驅動(dòng)方式，即只有當事件走過(guò)特定路徑時(shí)，該路徑才耗電，而其他路徑則處于休眠狀態(tài)。 盡管擁有如此龐大的集群，但神經(jīng)擬態(tài)計算系統在工作時(shí)只進(jìn)行少量局部并行計算，而且突觸之間的連接并非硬線(xiàn)連接，而是動(dòng)態(tài)的消息隊列式連接。這一設計既充分利用了突觸的規模，又避免了占用總線(xiàn)連接，而是通過(guò)高效的消息傳輸隊列來(lái)實(shí)現，從而以非常有效的方式消耗能量。 從所適用的應用上來(lái)看，神經(jīng)擬態(tài)計算適合做的事情是對整體的能耗有要求，同時(shí)這個(gè)應用又對實(shí)時(shí)性要求很高，從輸入到輸出的一個(gè)延遲是有限制的。 對于當前的計算處理，尤其是處理AI工作負載時(shí)，如果采用神經(jīng)擬態(tài)計算，那么能源利用將非常高效。神經(jīng)擬態(tài)計算系統能夠將大部分能量用于實(shí)際計算或數據更新，而不是浪費在數據傳輸上�，F在許多人工智能大型模型或其他處理任務(wù)的能耗主要用于數據傳輸，即將數據從一個(gè)地方傳輸到另一個(gè)地方進(jìn)行處理，因此其中約一半的能耗用于非有效的計算上。 再比如，“在某些專(zhuān)用的數據中心，如果說(shuō)它在做大規模的優(yōu)化任務(wù)，做這種物流調度，用神經(jīng)擬態(tài)系統會(huì )有比較大規模的降低�！彼卧洪L(cháng)指出。 神經(jīng)擬態(tài)的可塑性就體現在它里面每個(gè)神經(jīng)元和它所謂的突觸連接都是可配置的。當你有一個(gè)初始的模型放進(jìn)去之后，在它學(xué)習的時(shí)候，還可以去改神經(jīng)元里一些可配置的部分，讓它跟著(zhù)你訓練的這些樣本做一些相應的調整。這是為什么我們從Loihi一代就開(kāi)始講，它是一個(gè)可以持續片上學(xué)習的硬件，而不是說(shuō)我訓練好一個(gè)模型放上去之后，它就只能按照這個(gè)參數去做推理，這個(gè)是有差別的。因為它提在神經(jīng)元級別下有可配置的地方，包括突觸之間到底是粗還是細，還是把它斷掉，這個(gè)都是可以配置的。 英特爾的神經(jīng)擬態(tài)計算未來(lái)之路 在推進(jìn)神經(jīng)擬態(tài)計算方面，據宋院長(cháng)的介紹，英特爾研究院的策略是三管齊下。首先，在硬件方面，持續推進(jìn)架構的優(yōu)化和創(chuàng )新，同時(shí)配合工藝制程的迭代，以獲得更大規模和更優(yōu)能效比的成果。這種設計直接受益于制程節點(diǎn)的提升，當前使用的是Intel 4制程，而未來(lái)可能還會(huì )有Intel 3、Intel 18A等更先進(jìn)的制程，這將進(jìn)一步推動(dòng)神經(jīng)元規模的增長(cháng)，有望實(shí)現翻番甚至更多的提升。 第二個(gè)策略是要把軟件打磨得更好。隨著(zhù)時(shí)間的推移，自從2021年開(kāi)始構建軟件堆棧以來(lái)，應用場(chǎng)景發(fā)生了許多變化，包括人工智能框架。從最初處理視覺(jué)和感知類(lèi)應用，到現在需要運行更大規模的模型等，需求日益增加。因此，我們致力于與科研生態(tài)和當前應用進(jìn)行對接，不斷改進(jìn)軟件部分。 第三個(gè)策略是繼續在INRC這樣的全球合作社區中開(kāi)展各種應用。我們期待在某些領(lǐng)域迅速實(shí)現規�；瘧�。盡管我們的芯片已經(jīng)接近商業(yè)化水平，但在找到大規模商用產(chǎn)品之前，我們將繼續將其作為研究院的實(shí)驗型芯片，而非商業(yè)產(chǎn)品。 結語(yǔ) 總的來(lái)說(shuō)，Loihi項目的成功標志著(zhù)神經(jīng)擬態(tài)計算技術(shù)的成熟與發(fā)展。英特爾將繼續在硬件、軟件和生態(tài)系統建設方面不斷投入，并期待在更多領(lǐng)域實(shí)現神經(jīng)擬態(tài)計算的規�；瘧�。我們也期待神經(jīng)擬態(tài)計算能夠在有朝一日找到合適的應用場(chǎng)景，真正發(fā)揮出其價(jià)值。 |
