|
來(lái)源：中國科技網(wǎng) 近日，美國普林斯頓大學(xué)研究人員推出了一款新型計算機芯片，其運行速度是傳統芯片的百倍。有媒體稱(chēng)其采用了“內存計算”技術(shù)，使計算效率得到大幅提升。 這一神奇的技術(shù)到底是什么？它為何能顯著(zhù)提高芯片性能？科技日報記者就此采訪(fǎng)了相關(guān)專(zhuān)家。 高度集成，把計算與存儲功能合二為一 對于我們常用的計算機來(lái)說(shuō)，存儲器可分為內部存儲器和外部存儲器。內部存儲器，即“內存”，是電腦的主存儲器。它的存取速度快，但只能儲存臨時(shí)或少量的數據和程序。 外部存儲器，通常被稱(chēng)為“外存”，它包括硬盤(pán)、軟盤(pán)、光盤(pán)、U盤(pán)等，通�？捎谰么鎯Υ罅繑祿�，如操作系統、應用程序等。當運行某一程序時(shí)，處理器（CPU）會(huì )先從內存中讀取數據，而后將一部分結果寫(xiě)入內存，并選擇性地將另一部分結果寫(xiě)入外存進(jìn)行永久保存。 也就是說(shuō)，通常情況下，內存只能存儲少量數據，計算機中大部分數據都“住”在外存。當CPU運行程序時(shí)就需要調取數據，若調取“住”在內存的數據，則用時(shí)較少；若調取“住”在外存的數據，則可能要費些周折。 因此科學(xué)家就想，能否把數據都存在內存里呢？于是，內存計算技術(shù)出現了。 “內存計算技術(shù)是伴隨著(zhù)大數據處理技術(shù)的興起而興盛起來(lái)的。在處理大數據過(guò)程中，由于數據量極大，處理數據時(shí)頻繁訪(fǎng)問(wèn)硬盤(pán)這些外存會(huì )降低運算速度。隨著(zhù)大容量?jì)却婕夹g(shù)的興起，專(zhuān)家開(kāi)始提出在初始階段就把數據全部加載到內存中，而后可直接把數據從內存中調取出來(lái)，再由處理器進(jìn)行計算。這樣可以省去外存與內存之間的數據調入／調出過(guò)程，從而大大提升計算速度�！北本┖娇蘸教齑髮W(xué)計算機學(xué)院教授、中德聯(lián)合軟件研究所所長(cháng)劉軼告訴科技日報記者。 “但普林斯頓大學(xué)研發(fā)團隊采用的‘內存計算’技術(shù)與上述概念中所指的內存計算并不完全相同�！眲⑤W說(shuō)，普林斯頓大學(xué)所采用的技術(shù)其實(shí)是PIM（Process in－memory），通常被翻譯為“存內計算”“存算一體”或“計算存儲一體化”。 “PIM技術(shù)是指直接在內存中處理數據，而不是把數據從內存讀取到處理器中進(jìn)行處理�！眲⑤W指出，PIM的技術(shù)概念在1990年就已被提出，雖然相關(guān)研究論文早已發(fā)表出來(lái)，但相關(guān)技術(shù)始終難以落地。 劉軼認為“難落地”的主要原因在于，PIM技術(shù)尚難以達到傳統計算機馮·諾依曼結構的靈活性和通用性水平�！澳壳�，學(xué)界所提出的PIM技術(shù)，只能做某些類(lèi)別的應用，難以實(shí)現靈活編程�！彼f(shuō)。 可解決“存儲墻”問(wèn)題，大幅提升性能 在劉軼看來(lái)，PIM技術(shù)的重要價(jià)值在于，其能解決傳統計算機結構存在的“存儲墻”問(wèn)題。傳統計算機采用的馮·諾依曼結構，需要CPU從內存中取出指令并且執行，某些指令又需要從內存讀取數據進(jìn)行處理，再將結果寫(xiě)回內存。由于處理器所執行的程序和待處理的數據都被存在內存中，這樣處理器在運行過(guò)程中需要頻繁訪(fǎng)問(wèn)內存。隨著(zhù)微電子技術(shù)的發(fā)展，處理器性能的進(jìn)步速度逐漸快于內存性能。 近30年來(lái)，處理器性能每年提升55％，而內存訪(fǎng)問(wèn)速度每年僅提升7％。這使得處理器的處理速度遠遠快于內存的讀取速度，直接導致了“存儲墻”的出現，嚴重拖慢了程序執行速度。 “這好比一個(gè)人消化能力很強，飯桌上也有很多食物，但這個(gè)人的嗓子眼兒很細，咽不下去。這就使得強大的消化能力‘無(wú)用武之地’，也限制了這個(gè)人吃東西的速度�！眲⑤W說(shuō)。 “近年來(lái)深度學(xué)習等新型算法的興起，對推倒‘存儲墻’提出了更迫切的需求�！眲⑤W指出，新型算法訪(fǎng)問(wèn)內存的模式跟傳統模式不太相同，刷臉、圖片識別、機器翻譯等新型算法往往以類(lèi)似于人腦的方式實(shí)現對復雜數據的處理。由于這類(lèi)算法涉及的神經(jīng)元數量多、訓練樣本量大，這導致在通用計算機上進(jìn)行深度學(xué)習計算的效率比較低。 為了提高效率，科研人員開(kāi)發(fā)了各種加速部件和專(zhuān)用的深度學(xué)習處理器，前者的典型代表是圖形處理器（GPU），后者的典型代表有谷歌公司的張量處理器（TPU）、國內的寒武紀處理器等。 “CPU、GPU等處理器通過(guò)總線(xiàn)與內存相連，總線(xiàn)的傳輸速度決定了計算的效率�！敝袊�自動(dòng)化學(xué)會(huì )混合智能專(zhuān)業(yè)委員會(huì )副主任、復旦大學(xué)計算機學(xué)院教授張軍平告訴科技日報記者，人們正在嘗試通過(guò)改進(jìn)，減少數據在總線(xiàn)上的傳輸次數，提高計算效率。例如，科研人員讓CPU具備部分的GPU功能，或使GPU具備一些CPU的功能等。 劉軼表示，上述改進(jìn)措施仍然屬于馮·諾依曼結構，不能從根本上解決“存儲墻”問(wèn)題。相比之下，PIM技術(shù)在解決“存儲墻”問(wèn)題上更具優(yōu)勢。首先，它的計算模式更適合深度學(xué)習等新型計算模式；其次，PIM技術(shù)避免了馮·諾依曼結構處理器頻繁訪(fǎng)問(wèn)內存這一問(wèn)題，減少了數據傳輸次數，降低了功耗。 具有發(fā)展潛力，但尚難取代通用處理器 記者通過(guò)查閱資料發(fā)現，PIM技術(shù)應用最大的難點(diǎn)在于制造工藝。 PIM技術(shù)需要利用先進(jìn)的半導體工藝將處理器和存儲器集成在同一芯片內，使之通過(guò)片上網(wǎng)絡(luò )相互連接。但由于目前處理器與存儲器的制造工藝不同，若要在處理器上實(shí)現存儲器的功能，則可能會(huì )降低存儲器的存儲密度；若要在存儲器上實(shí)現處理器的功能，則可能會(huì )影響處理器的運行速度。 張軍平指出，現階段內存本身不具備計算功能，因此若想實(shí)現內存計算或PIM技術(shù)都需要對內存進(jìn)行重新設計。 “普林斯頓大學(xué)不是專(zhuān)業(yè)的芯片公司，其推出的新型芯片可能只是一種技術(shù)上的探索，離真正的產(chǎn)業(yè)化應用還有相當長(cháng)的距離�！睆堒娖秸J為，隨著(zhù)固態(tài)硬盤(pán)等技術(shù)的發(fā)展，如果硬盤(pán)讀寫(xiě)速度足以媲美內存，內存與外存可能被集成為新型大容量高速存儲器。未來(lái)最理想的情況是，CPU、GPU等多種處理器與大容量高速存儲器實(shí)現一體化高度集成。 劉軼強調，普林斯頓大學(xué)設計的這種處理器是一種專(zhuān)用處理器，它只針對深度學(xué)習應用，無(wú)法取代傳統的通用處理器。 “正如華為、蘋(píng)果等公司推出的高端手機上大多配置了深度學(xué)習處理器，但只作為附屬部件，核心的計算和處理仍然由通用處理器來(lái)完成，只是把特定的任務(wù)和計算模塊交由深度學(xué)習處理器來(lái)進(jìn)行計算，而且是在通用處理器的控制之下完成的�！眲⑤W說(shuō)。 “短期來(lái)看，PIM技術(shù)只能被用于特定類(lèi)別的應用場(chǎng)景，難以取代通用處理器�！眲⑤W認為，從長(cháng)遠來(lái)看，如果半導體材料和器件技術(shù)無(wú)法取得突破，集成電路的摩爾定律將在不久的未來(lái)失效，即集成電路芯片內的晶體管數量將停止增長(cháng)。這會(huì )對傳統的計算機系統結構乃至計算機硬件和軟件產(chǎn)業(yè)造成巨大的影響，由此也很可能引發(fā)重大的技術(shù)變革。當新的計算結構出現時(shí)，高度集成化的系統可能會(huì )對PIM技術(shù)有更多需求，但該技術(shù)能否成為主流仍有待觀(guān)察。 |
