|
來(lái)源：果殼 付斌丨作者 李拓丨編輯 果殼硬科技丨策劃 出版于1968年的《仿生人會(huì )夢(mèng)見(jiàn)電子羊嗎？》曾大膽設想機器人也將擁有人的特質(zhì)，這些仿生人會(huì )思考、會(huì )睡覺(jué)還會(huì )做夢(mèng)，開(kāi)啟人們對于冰冷造物和生命間的思考。 現在，那種充滿(mǎn)賽博朋克色彩的世界似乎不再遙遠。芯片結構已高度模仿生物大腦，開(kāi)始擁有五感，并且越來(lái)越具備人的特征，它就是神經(jīng)形態(tài)芯片，一種比現有CPU或GPU能耗比強一千倍以上的芯片。 迄今為止，神經(jīng)形態(tài)計算仍然在研究階段，但接連而來(lái)產(chǎn)業(yè)化動(dòng)作，昭示著(zhù)這一技術(shù)將成就第一批吃螃蟹的人。 從生物大腦到芯片 神經(jīng)形態(tài)計算（Neuromorphic Computing）也被稱(chēng)為神經(jīng)擬態(tài)計算，指的是參考生物大腦神經(jīng)元結構和思考處理模式而搭建的架構，它是一種跳出傳統馮·諾依曼架構的先進(jìn)計算形式，據這一架構設計出來(lái)的芯片就是神經(jīng)形態(tài)芯片。 簡(jiǎn)單解釋?zhuān)褪前讶四X做進(jìn)了芯片里。雖然乍聽(tīng)這樣一個(gè)詞語(yǔ)，非�；逎y懂，但實(shí)際上，同樣是借鑒人腦的人工智能（AI）技術(shù)早已進(jìn)入千家萬(wàn)戶(hù) 。只不過(guò)，神經(jīng)形態(tài)芯片是一種架構更接近人腦的器件。 類(lèi)腦芯片中的一種 神經(jīng)形態(tài)計算也是一種類(lèi)腦芯片（Brain-inspired Computing，也被稱(chēng)為腦啟發(fā)計算）。 目前，類(lèi)腦芯片的精確定義及范圍劃分，學(xué)術(shù)界、產(chǎn)業(yè)界意見(jiàn)尚未統一。一般粗略分為神經(jīng)形態(tài)芯片（基于脈沖神經(jīng)網(wǎng)絡(luò )SNN）和深度學(xué)習專(zhuān)用處理器（基于人工/深度神經(jīng)網(wǎng)絡(luò )ANN/DNN），前者是從結構層逼近生物大腦，側重于參照人腦神經(jīng)元模型及其組織結構來(lái)設計芯片結構，后者則非神經(jīng)元組織結構，而是圍繞成熟認知計算算法，設計芯片結構。[5] 簡(jiǎn)單解釋二者原理，深度學(xué)習專(zhuān)用處理器是降維處理，把多維問(wèn)題轉換為一維信息流；神經(jīng)形態(tài)芯片是升維處理，通過(guò)多維時(shí)空變換，以期更接近人腦思考方式，從而獲得更好的能耗、算力和效率。 馮諾依曼架構與神經(jīng)形態(tài)架構的對比，圖源丨Nature Computational Science 深度學(xué)習專(zhuān)用處理器屬于另一個(gè)子行業(yè)，早在2012年，中科院計算所研制了當時(shí)國際上首個(gè)支持深度神經(jīng)網(wǎng)絡(luò )處理器架構芯片寒武紀，目前玩家包括Mythic、Graphcore、Gyrfalcon Technology、Groq、HAILO、Greenwaves、谷歌、地平線(xiàn)、寒武紀等。 兩大方向并非彼此獨立或互斥，而是交叉融匯。對于深度學(xué)習已非常擅長(cháng)的，如模擬人類(lèi)視覺(jué)或自然語(yǔ)言交互任務(wù)，會(huì )繼續使用深度學(xué)習網(wǎng)絡(luò )去應對；對于其它不太適合用深度學(xué)習做的，如嗅覺(jué)、機器人操控、多模態(tài)甚至于跨模態(tài)間存儲等，將會(huì )采用新架構的神經(jīng)形態(tài)芯片。 研究界和產(chǎn)業(yè)界都在逐漸模糊二者界限，但實(shí)際上，很多論文、報告或文章中的類(lèi)腦芯片，指的是神經(jīng)形態(tài)芯片。本文將采用更為精準的一種描述——神經(jīng)形態(tài)芯片。 類(lèi)腦計算兩大平臺特性 生物大腦的特點(diǎn) 生物大腦能夠實(shí)現感知、運動(dòng)、思維、智力等各種功能，但由于其復雜性，目前對大腦的認識與理解還非常有限，這對神經(jīng)形態(tài)芯片從認知原理、硬件實(shí)現、智能算法到雙腦融合等都帶來(lái)了挑戰。 以目前研究來(lái)看，生物大腦中，神經(jīng)元細胞會(huì )通過(guò)樹(shù)突、突觸等實(shí)現信號傳遞與調整等功能，同時(shí)，神經(jīng)元間會(huì )以脈沖信號形式相互交流。實(shí)際上，單個(gè)神經(jīng)元的結構和功能并不復雜，但通過(guò)突觸互連的大規模神經(jīng)網(wǎng)絡(luò )，就能實(shí)現各種復雜的學(xué)習和認知功能。 另外，生物大腦與主流的人造芯片結構極為不同： 神經(jīng)元和突觸的信息處理結構不僅擁有更高效率，還可實(shí)現大規模并行處理； 傳統計算系統的馮·諾依曼計算架構，計算和存儲分離，但生物大腦則是存儲和處理一體，不存在單獨的存儲器，另外，生物大腦里也沒(méi)有動(dòng)態(tài)隨機存取存儲器、沒(méi)有哈希層級結構、沒(méi)有共享存儲器等； （可參考果殼硬科技歷史文章《 存算一體芯片，人工智能時(shí)代的潛力股》） 生物大腦記憶并非一成不變，而是既有頻繁重復的長(cháng)時(shí)記憶，也有快速遺忘的短時(shí)記憶，兩者互相轉換表現在突觸上，就是長(cháng)/短時(shí)程可塑性的轉變； 計算機基本均為全數字信號的處理方式，而生物大腦則是混合信號，腦內通信使用數字信號快速傳輸，神經(jīng)元和突觸的處理使用更為有效的模擬化學(xué)形式。 傳統電路結構（左）對比人腦結構（右） 但也不是說(shuō)人造的器件就沒(méi)有任何優(yōu)點(diǎn)，假如能用CMOS構造出與生物大腦同等規模的器件，二者會(huì )呈現不同的優(yōu)勢領(lǐng)域，神經(jīng)形態(tài)芯片最終一定是結合生物大腦和人造器件各自?xún)?yōu)點(diǎn)而設計制造。 生物大腦對比同等規模CMOS器件 三種主流實(shí)現形式 早在1952年，就有研究將神經(jīng)系統建模為等效電路，直到上世紀八十年代，超大規模集成電路（VLSI）發(fā)明者之一，加州理工大學(xué)的Carver Mead以此為靈感，創(chuàng )造了神經(jīng)形態(tài)（Neuromorphic）這一術(shù)語(yǔ)，描述模仿生物神經(jīng)系統某些功能的設備和系統。 Carver Mead在內的科學(xué)家花了40多年時(shí)間潛心研究這項技術(shù)，最終目標是模擬人體感官和處理機制的分析系統，如觸覺(jué)、視覺(jué)、聽(tīng)覺(jué)和思維�，F在，神經(jīng)形態(tài)芯片行業(yè)已發(fā)展出雛形。 一顆理想的神經(jīng)形態(tài)芯片背后是多個(gè)學(xué)科的碰撞，包括在材料上追求類(lèi)生物物質(zhì)，在器件上構造神經(jīng)元與突觸，在電路上實(shí)現神經(jīng)網(wǎng)絡(luò )連接，在算法上實(shí)現大腦思考能力。不同神經(jīng)形態(tài)芯片的涉及材料、器件、工藝極多，而它也將會(huì )自下而上地從材料、器件、電路、架構帶動(dòng)算法和應用。 神經(jīng)形態(tài)芯片涉及的領(lǐng)域和機會(huì )，圖源丨Nature Computational Science，有改動(dòng) 目前為止，神經(jīng)形態(tài)芯片的構造基本一致，包括神經(jīng)元計算、突觸權重存儲、路由通信三部分，同時(shí)采用與脈沖神經(jīng)網(wǎng)絡(luò )（SNN）模型。 但依據材料、器件、電路不同，分為模擬電路主導的神經(jīng)形態(tài)系統（數�；旌螩MOS型）、全數字電路神經(jīng)系統（數字CMOS型）、基于新型器件的數�；旌仙窠�(jīng)形態(tài)系統（憶阻器是候選技術(shù)）三種流派。 兩種基于CMOS的方式能夠繼續利用現有制造技術(shù)，搭建人工神經(jīng)元及其連接人工突觸，但模擬單個(gè)神經(jīng)元或突觸行為，需要由多個(gè)CMOS器件組成電路模塊，因此集成密度、功耗和功能模擬準確度會(huì )有所限制；新型器件從底層器件仿生的角度出發(fā)，在器件層面模擬神經(jīng)元和突觸，在功耗、學(xué)習性能等方面有顯著(zhù)優(yōu)勢，但目前仍處在探索階段。 其中，數字CMOS型是目前最易產(chǎn)業(yè)化的形式。一方面，技術(shù)和制造成熟度高，另一方面，不存在模擬電路的一些顧慮和限制。 神經(jīng)形態(tài)芯片的三種實(shí)現形式，制表丨果殼硬科技 如何衡量一顆神經(jīng)形態(tài)芯片的好壞？主要從計算密度、能量效率、計算精度和學(xué)習能力四項指標來(lái)評價(jià)其競爭力。 神經(jīng)形態(tài)芯片的四項關(guān)鍵指標和現狀，制表丨果殼硬科技 資料來(lái)源丨Nature Electronics，《新經(jīng)濟導刊》 解決行業(yè)燃眉之急 為什么要做神經(jīng)形態(tài)芯片？它的商業(yè)價(jià)值在于能在低功耗以及少量訓練數據的條件下持續不斷自我學(xué)習，并且在理想情況下，同樣一個(gè)人工智能任務(wù)中，神經(jīng)形態(tài)芯片的能耗較傳統的CPU或GPU減少了一千倍以上。 數字時(shí)代下，計算機的計算速度越來(lái)越快，甚至下起象棋來(lái)，還能戰勝世界冠軍。因此，人們親切地把計算機稱(chēng)作電腦，但它的能效和智能程度還遠達不到生物大腦。 比如，AlphaZero是由5000個(gè)谷歌的專(zhuān)用機器學(xué)習處理器（TPU）組成的巨無(wú)霸，但每個(gè)單元功耗高達200W。再如，IBM曾在深藍超級計算機平臺上仿真一只貓的腦皮層模型（相當于人類(lèi)大腦的百分之一），就需近15萬(wàn)塊CPU和144TB主存，能耗高達1.4MW。 反觀(guān)人類(lèi)的大腦，由約850億個(gè)神經(jīng)元組成，通過(guò)一千萬(wàn)億（1015）個(gè)神經(jīng)突觸連接在一起，每秒能夠執行一億億次操作，但如此龐大的系統處理起日常任務(wù)的功耗只有20W。與此同時(shí)，一個(gè)兩歲的小孩，在任何角度、距離和光照條件下，都能毫無(wú)困難地從許多人中認出他/她所熟悉的人，智慧程度遠超現有任何計算系統。 所以，把芯片做成大腦，通過(guò)模仿生物大腦結構，神經(jīng)形態(tài)芯片也確實(shí)擁有了能效比的特性。其獨有的事件觸發(fā)運算機制，當沒(méi)有動(dòng)態(tài)信息生成時(shí)，不會(huì )觸發(fā)運算行為。同時(shí)，它還善于做復雜的時(shí)空序列分析，雖然單個(gè)神經(jīng)元速率很低，但由于它和生物大腦的機制類(lèi)似，可進(jìn)行大規模并行運算，響應速度會(huì )遠遠快于現有解決方案。 可以說(shuō)，神經(jīng)形態(tài)芯片有潛力成為現在的救世主，解決行業(yè)面前的三大問(wèn)題：一是數據量級大；二是數字形態(tài)日趨多元化，很多數據已不能依靠手動(dòng)編輯輸入或人工處理解決，需要智能化處理；三是應用對延時(shí)要求愈加強烈，傳統單一計算架構會(huì )碰到性能和功耗的瓶頸。 另外，神經(jīng)形態(tài)芯片還契合了綠色計算的概念。算力成為電力之后又一經(jīng)濟指標，耗能巨大的計算方式難挑大梁，能量?jì)?yōu)化的方式才是破解問(wèn)題的最優(yōu)解。據估算，數據中心每年會(huì )消耗約200太瓦時(shí)（TWh）的電力，這一數據已經(jīng)相當于一些國家一年全國的耗電量。 大規模商業(yè)化怎么走 雖然神經(jīng)形態(tài)芯片處處都好，但它只在特定領(lǐng)域發(fā)揮特長(cháng)，不會(huì )取代傳統計算平臺。CPU、GPU等傳統數字計算芯片擅長(cháng)精確計算，而神經(jīng)形態(tài)芯片擅長(cháng)非結構化數據、圖像識別、嘈雜及不確定數據集分類(lèi)、新型學(xué)習系統和推理系統等領(lǐng)域。 能顛覆特定領(lǐng)域計算的量子計算，其實(shí)也是同樣的邏輯，它也不能脫離現有計算系統。未來(lái)的先進(jìn)計算系統必然要求傳統數字芯片、神經(jīng)形態(tài)芯片和量子計算三者相互協(xié)同作戰。 目前來(lái)說(shuō)，神經(jīng)形態(tài)芯片難設計、難制造，尚未形成規�；袌�(chǎng)。同時(shí)，業(yè)界一致認可的結論是，投資在神經(jīng)形態(tài)芯片上面的錢(qián)，遠遠落后于人工智能或量子技術(shù)。 小小一顆芯片，蘊含著(zhù)半導體制造技術(shù)、腦科學(xué)、計算神經(jīng)科學(xué)、認知科學(xué)、統計物理等學(xué)科知識，制造出這一顆芯片，要牽扯到物理學(xué)家、化學(xué)家、工程師、計算機科學(xué)家、生物學(xué)家和神經(jīng)科學(xué)家這些關(guān)鍵角色，讓如此眾多角色去做同一件事、說(shuō)同一門(mén)語(yǔ)言，毫無(wú)疑問(wèn)是有挑戰性的。 但其顛覆性的價(jià)值，引得全球加速商業(yè)化進(jìn)程。數據顯示，神經(jīng)形態(tài)芯片市場(chǎng)將由2021年的2274.3萬(wàn)美元提升到2026年的5.5億美元，年復合增長(cháng)率高達89.1%。另外，如果基本技術(shù)問(wèn)題在未來(lái)幾年內得到解決，那么到2035年，全球神經(jīng)形態(tài)芯片市場(chǎng)將占整體人工智能市場(chǎng)的18%，達到220億美元。 那么，想推進(jìn)大規模商業(yè)化，要解決什么問(wèn)題？ 其一，設計問(wèn)題：大腦在實(shí)時(shí)處理復雜信息的同時(shí)，只消耗極少的能量，如何更好地理解這種高效工作機制，并把這些機制用到芯片中去，很難。僅拿商業(yè)化路徑最近的數字CMOS型來(lái)說(shuō)，多塊全數字異步設計的芯片互聯(lián)、芯片連接的有效性和時(shí)效性以及軟件層互連計算、分布式計算和靈活分區都是難于跨過(guò)的鴻溝； 其二，制造問(wèn)題：利用硅基晶體管路線(xiàn)可以復用現有制造技術(shù)，而非硅基路線(xiàn)還要解決底層制程、制造良率以及支撐大規模生產(chǎn)等問(wèn)題，就算問(wèn)題都解決了，做出了實(shí)驗芯片，還要繼續考慮產(chǎn)品化量級的穩定供應問(wèn)題； 其三，軟件和生態(tài)問(wèn)題：神經(jīng)形態(tài)芯片與現有架構完全不同，而社區中不少開(kāi)發(fā)者是在底層構造自己的脈沖神經(jīng)網(wǎng)絡(luò )算法，并通過(guò)底層庫把軟件燒寫(xiě)進(jìn)硬件做試驗，這顯然不是規�；姆桨�。大規模商業(yè)化，軟件工具鏈就非常重要了； 其四，缺乏殺手級應用：不論是機器人、自動(dòng)駕駛還是工業(yè)大規模優(yōu)化，本身的邏輯應該是以應用驅動(dòng)技術(shù)發(fā)展，在此基礎上再持續不斷建設生態(tài)系統。目前比較公認的觀(guān)點(diǎn)是，神經(jīng)形態(tài)技術(shù)最先將在消費電子、移動(dòng)終端、工業(yè)物聯(lián)網(wǎng)找到應用。 神經(jīng)形態(tài)芯片的玩家 全球范圍內，參與神經(jīng)形態(tài)計算芯片開(kāi)發(fā)的機構主要包括三類(lèi)：英特爾、IBM、高通等為代表的科技巨頭企業(yè)，斯坦福、清華為代表的高校/研究機構以及初創(chuàng )企業(yè)。 神經(jīng)形態(tài)計算玩家不完全統計，圖源丨智東西 國外發(fā)展情況 國外在神經(jīng)形態(tài)芯片上的研究力度極大，不乏麻省理工學(xué)院、斯坦福大學(xué)、波士頓大學(xué)、曼徹斯特大學(xué)、海德堡大學(xué)等名校�？萍季揞^以英特爾、IBM、高通、三星為代表，初創(chuàng )企業(yè)包括BrainChip、aiCTX、Numenta、General Vision、Applied Brain Research、Brain Corporation等。 從研究和實(shí)施情況來(lái)看，英特爾和IBM的實(shí)驗芯片最具代表性。 目前已知神經(jīng)形態(tài)芯片詳細參數對比，制表丨果殼硬科技 參考資料丨IEEE 英特爾的Loihi是全數字設計的神經(jīng)形態(tài)芯片。2017年，英特爾開(kāi)發(fā)出第一款Loihi。2021年，英特爾在此基礎上推出第二代Loihi2，采用Intel 4制程工藝生產(chǎn)，單芯片神經(jīng)元數量達到100萬(wàn)。 英特爾神經(jīng)形態(tài)芯片目前在感知領(lǐng)域應用已取得很大進(jìn)展，包括手勢識別、視覺(jué)推理以及多達三千倍學(xué)習數據的氣味傳感。另外，英特爾還開(kāi)發(fā)出了一臺將768顆Loihi芯片集成在5臺標準服務(wù)器大小的機箱中的Pohoiki Springs數據中心機架式系統。 為了讓神經(jīng)形態(tài)芯片更好用，英特爾還推出了名為L(cháng)ava的開(kāi)源軟件框架，它是一種無(wú)需使用專(zhuān)門(mén)硬件就可構建應用的軟件，能在傳統和神經(jīng)擬態(tài)處理器的異構架構上無(wú)縫運行，并允許研究人員和應用開(kāi)發(fā)人員在彼此取得的成果上進(jìn)一步開(kāi)發(fā)。 英特爾并不急于將神經(jīng)形態(tài)芯片商業(yè)化，與小公司維持特定應用不同，英特爾是把它當作一項通用技術(shù)，同時(shí)會(huì )以十億美元以上的水平看待所有商業(yè)機會(huì )。 英特爾Loihi和Loihi2簡(jiǎn)介 TrueNorth則是IBM潛心研發(fā)將近10年的實(shí)驗芯片，自從2008年起，美國DARPA計劃就開(kāi)始資助這項計劃。2011年，IBM公司推出了第一代TrueNorth。 到2014年，IBM的第二代TrueNorth神經(jīng)元數量由256個(gè)增加到100萬(wàn)個(gè)，可編程突觸數量由262144個(gè)增加到2.56億個(gè)，每秒可執行460億次突觸運算，總功耗為 70mW（每平方厘米功耗為20mW），整體體積僅為第一代類(lèi)腦芯片的十五分之一。 值得一提的是，IBM在2019年還曾推出名為Blue Raven的神經(jīng)形態(tài)超級計算機，擁有6400萬(wàn)神經(jīng)元和160億個(gè)突觸的處理能力，功耗僅為40W，相當于一個(gè)家用燈泡。 國內發(fā)展情況 國內研究包括清華大學(xué)、浙江大學(xué)、復旦大學(xué)、中科院等頂級學(xué)府和機構，同時(shí)近兩年不斷涌現初創(chuàng )公司，如靈汐科技、時(shí)識科技、中科神經(jīng)形態(tài)等。其中以清華大學(xué)的天機芯和浙江大學(xué)的達爾文芯片最具代表性。 國內神經(jīng)形態(tài)芯片初創(chuàng )企業(yè)不完全統計，制表丨果殼硬科技 資料來(lái)源丨公司官網(wǎng)，《新經(jīng)濟導刊》，量子位 清華大學(xué)的神經(jīng)形態(tài)芯片是國內最具代表性的實(shí)驗芯片。2015年開(kāi)發(fā)的第一代天機芯采用110nm工藝，當時(shí)僅僅是一個(gè)小樣。2017年，第二代天機芯開(kāi)始取得先進(jìn)成果，基于28nm工藝制成，由156個(gè)功能核心FCore組成，包含約4萬(wàn)個(gè)神經(jīng)元和1000萬(wàn)個(gè)突觸。相比第一代，密度提升20%，速度提高至少10倍，帶寬提高至少100倍。 為了讓神經(jīng)形態(tài)芯片更具實(shí)用性，清華大學(xué)還自主研發(fā)了軟件工具鏈，支持從深度學(xué)習框架到天機芯的自動(dòng)映射和編譯。根據清華大學(xué)的計劃，下一代天機芯將是14nm或更先進(jìn)的工藝，且功能會(huì )強大更多。 國內另一具有代表性的是，浙江大學(xué)聯(lián)合之江實(shí)驗室共同研制的類(lèi)腦計算機，其神經(jīng)元數量與小鼠大腦神經(jīng)元數量規模相當。該計算機包含792顆達爾文2代芯片，支持1.2億個(gè)脈沖神經(jīng)元、720億個(gè)神經(jīng)突觸，如此龐大規模之下，典型運行功耗僅為350W~500W。 事實(shí)上，國內在神經(jīng)形態(tài)芯片領(lǐng)域的技術(shù)實(shí)力已處于全球領(lǐng)先水平，全球玩家都處在這一領(lǐng)域的起跑線(xiàn)上。 可以說(shuō)，這是值得布局的一項技術(shù)。但它也是一塊難啃的骨頭，是材料、器件、工藝、架構、算法缺一不可的龐大賽道，是一個(gè)摸黑走到底的領(lǐng)域，同時(shí)未來(lái)必然會(huì )遇到應用場(chǎng)景和投入產(chǎn)出比問(wèn)題。 不過(guò)，市場(chǎng)就是這樣，誰(shuí)敢挑戰空白的領(lǐng)域，誰(shuí)就能成為第一批拿到紅利的人。 |
