|
來(lái)源：新思科技 過(guò)去十年間，幾項技術(shù)的進(jìn)步使人工智能 （AI）成為最令人振奮的技術(shù)之一。2012年，Geoffrey Everest Hinton在Imagenet挑戰賽中展示了他的廣義反向傳播神經(jīng)網(wǎng)絡(luò )算法，該算法使計算機視覺(jué)領(lǐng)域發(fā)生了革命性變化。然而，機器學(xué)習理論早在2012年之前就有人提出，并且Nvidia GTX 580圖形處理器單元等微處理器使這一理論得以實(shí)現。這些處理器具有相對較高的內存帶寬能力且擅長(cháng)矩陣乘法，可將該神經(jīng)網(wǎng)絡(luò )模型的AI訓練時(shí)間縮短至大約一周。理論與算法的結合開(kāi)啟了新一代技術(shù)進(jìn)步，帶來(lái)了與AI相關(guān)的全新可能性。本文概述了人工智能設計新時(shí)代及其多樣化處理、內存和連接需求。 人工智能剖析 我們將神經(jīng)網(wǎng)絡(luò )定義為深度學(xué)習，它是機器學(xué)習及人工智能的一個(gè)子集，如圖1所示。這是一個(gè)重要的分類(lèi)，深度學(xué)習該子集改變了芯片系統架構設計。 
圖1：人工智能采用深度學(xué)習算法模仿人類(lèi)行為 深度學(xué)習不僅改變了芯片架構，而且催生了半導體市場(chǎng)的新一輪投資。深度學(xué)習算法模型是研發(fā)和商業(yè)投資的熱點(diǎn)，例如卷積神經(jīng)網(wǎng)絡(luò ) （CNN）。CNN一直是機器視覺(jué)的主要焦點(diǎn)。遞歸神經(jīng)網(wǎng)絡(luò )等模型因其識別時(shí)間的能力而在自然語(yǔ)言理解中得以應用。 人工智能的應用 深度學(xué)習神經(jīng)網(wǎng)絡(luò )應用于許多不同的場(chǎng)景，為使用它們的人提供了強大的新工具。例如，它們可以支持高級安全威脅分析、預測和防止安全漏洞，并通過(guò)預測潛在買(mǎi)家的購物流程來(lái)幫助廣告商識別和精簡(jiǎn)銷(xiāo)售流程。 但AI設計并未局限于數據中心，諸如用于物件和人臉識別的視覺(jué)系統、用于改進(jìn)人機接口的自然語(yǔ)言理解以及周?chē)h(huán)境感知等許多新功能可基于傳感器輸入的組合而使機器理解正在發(fā)生的活動(dòng)。這些深度學(xué)習能力已融入到不同場(chǎng)景所需的芯片設計中，包括智能汽車(chē)、數字家庭、數據中心和物聯(lián)網(wǎng) （IoT），如圖2所示。
圖2：AI處理能力已結合到大量應用中 手機利用神經(jīng)網(wǎng)絡(luò )實(shí)現上述多種AI功能。手機可運行人臉識別應用、物件識別應用、自然語(yǔ)言理解應用。此外，它在內部使用神經(jīng)網(wǎng)絡(luò )進(jìn)行5G自組織，因為無(wú)線(xiàn)信號在其他介質(zhì)、不同的光譜上會(huì )變得更密集，并且所傳輸的數據有不同的優(yōu)先級。 人類(lèi)大腦 最近，深度學(xué)習通過(guò)數學(xué)和半導體硬件的進(jìn)步變得可行。業(yè)界已開(kāi)展多項舉措，在下一代數學(xué)模型和半導體架構中更好地復制人腦，這通常被稱(chēng)為神經(jīng)形態(tài)計算。人類(lèi)的大腦可以達到難以置信的高效率，但技術(shù)在復制人類(lèi)大腦等方面才剛開(kāi)始觸及皮毛。人類(lèi)大腦包含超過(guò)1 PB （Petabyte=1024TB）的存儲空間，相當于大約540萬(wàn)億個(gè)晶體管，且功率小于12瓦。從這點(diǎn)來(lái)說(shuō)，復制大腦是一個(gè)長(cháng)遠的目標。然而，ImageNet挑戰賽已從2012年的第一個(gè)反向傳播CNN算法發(fā)展到2015年更高級的AI模型ResNet 152，市場(chǎng)正在快速發(fā)展，新的算法層出不窮。 AI設計挑戰 融合深度學(xué)習能力的芯片架構促使了多項關(guān)鍵技術(shù)的進(jìn)步，從而達到高度集成的解決方案和更通用的AI 芯片，包含專(zhuān)用處理需求、創(chuàng )新內存架構和實(shí)時(shí)數據連接。 專(zhuān)用處理需求 融合神經(jīng)網(wǎng)絡(luò )能力的芯片必須同時(shí)適應異構和大規模并行矩陣乘法運算。異構組件需要標量、矢量DSP和神經(jīng)網(wǎng)絡(luò )算法能力。例如，機器視覺(jué)需要獨立的步驟，每一步都需要執行不同類(lèi)型的處理，如圖3所示。
圖3：神經(jīng)網(wǎng)絡(luò )能力需要獨特的處理 預處理需要更簡(jiǎn)單的數據級并行性。對所選區域的精確處理需要更復雜的數據級并行性，可以通過(guò)具有良好矩陣乘法運算能力的專(zhuān)用CNN加速器有效地處理。決策階段通�？梢酝ㄟ^(guò)標量處理的方式來(lái)處理。每個(gè)應用都是獨一無(wú)二的，但很明顯的是，包括神經(jīng)網(wǎng)絡(luò )算法加速的異構處理解決方案需要有效地處理AI模型。 創(chuàng )新內存架構 AI模型使用大量?jì)却�，這增加了芯片的成本。訓練神經(jīng)網(wǎng)絡(luò )要求達到幾GB甚至10GB的數據，這就需要使用DDR最新技術(shù)，以滿(mǎn)足容量要求，例如，作為圖像神經(jīng)網(wǎng)絡(luò )的VGG-16在訓練時(shí)需要大約9GB的內存；更精確的模型VGG-512需要89GB的數據才能進(jìn)行訓練。為了提高AI模型的準確性，數據科學(xué)家使用了更大的數據集。同樣，這會(huì )增加訓練模型所需的時(shí)間或增加解決方案的內存需求。由于需要大規模并行矩陣乘法運算以及模型的大小和所需系數的數量，這就要求配備具有高帶寬存取能力的外部存儲器及新的半導體接口IP，如高帶寬存儲器 （HBM2）和衍生產(chǎn)品 （HBM2e）。先進(jìn)的FinFET技術(shù)支持更大的芯片SRAM陣列和獨特的配置，具有定制的存儲器到處理器和存儲器到存儲器接口，這些技術(shù)正在開(kāi)發(fā)中，為了更好地復制人腦并消除存儲器的約束。 AI模型可以壓縮，確保模型在位于手機、汽車(chē)和物聯(lián)網(wǎng)應用邊緣的芯片中受限的存儲器架構上運行所必需的。壓縮采用剪枝和量化技術(shù)進(jìn)行且不能降低結果的準確性，這就要求傳統芯片架構（具有LPDDR或在某些情況下沒(méi)有外部存儲器）支持神經(jīng)網(wǎng)絡(luò )。隨著(zhù)這些模型的壓縮，不規則的存儲器存取和計算強度增加，延長(cháng)了系統的執行時(shí)間。因此，系統設計人員正在開(kāi)發(fā)創(chuàng )新的異構存儲器架構。 實(shí)時(shí)數據連接 一旦AI模型經(jīng)過(guò)訓練并可能被壓縮，就可以通過(guò)許多不同的接口IP解決方案執行實(shí)時(shí)數據。例如，視覺(jué)應用由CMOS圖像傳感器支持，并通過(guò)MIPI攝像頭串行接口 （CSI-2）和MIPI D-PHY IP連接。LiDAR和雷達可通過(guò)多種技術(shù)支持，包括PCI Express和MIPI。麥克風(fēng)通過(guò)USB、脈沖密度調制 （PDM） 和I2S等連接傳輸語(yǔ)音數據。數字電視支持HDMI和DisplayPort連接，以傳輸視頻內容，而這些內容可通過(guò)神經(jīng)網(wǎng)絡(luò )傳輸后得到改善，實(shí)現超高圖像分辨率，從而以更少的數據生成更高質(zhì)量的圖像。目前，大多數電視制造商正在考慮部署這項技術(shù)。 混合AI系統是另一個(gè)預計會(huì )大量采用的概念。例如，心率算法通過(guò)健身帶上的AI系統可以識別異常，通過(guò)將信息發(fā)送到云端，對異常進(jìn)行更準確的深入AI神經(jīng)網(wǎng)絡(luò )分析，并加以提示。這類(lèi)技術(shù)已經(jīng)成功地應用于電網(wǎng)負載的平衡，特別是在電線(xiàn)中斷或出現意外重負荷的情況下。為了支持快速、可靠的網(wǎng)絡(luò )與云端連接，上述示例中的聚合器需要以太網(wǎng)連接。 消除瓶頸 盡管復制人類(lèi)大腦還有很長(cháng)的路要走，但人類(lèi)大腦已被用作構建人工智能系統的有效模型，并繼續由全球領(lǐng)先的研究機構來(lái)建模。最新的神經(jīng)網(wǎng)絡(luò )試圖復制效率和計算能力，芯片架構也開(kāi)始通過(guò)緊密耦合處理器和內存來(lái)復制人類(lèi)大腦。ARC子系統包括AI及其APEX擴展和普遍存在的RISC架構所需的處理能力。子系統將外設和存儲器緊密耦合到處理器，以消除關(guān)鍵的存儲器瓶頸問(wèn)題。 用于A(yíng)I的DesignWare IP AI是最令人振奮的技術(shù)之一，特別是深度學(xué)習神經(jīng)網(wǎng)絡(luò )，通過(guò)結合神經(jīng)網(wǎng)絡(luò )算法的創(chuàng )新以及高帶寬、高性能半導體設計的創(chuàng )新而飛速發(fā)展。 新思科技正在與世界各地細分市場(chǎng)中領(lǐng)先的AI 芯片供應商合作，提供采用經(jīng)過(guò)驗證的可靠IP解決方案，幫助他們降低芯片設計風(fēng)險，加快產(chǎn)品上市速度，并為AI設計人員帶來(lái)關(guān)鍵的差異化優(yōu)勢。 專(zhuān)用處理需求、創(chuàng )新內存架構和實(shí)時(shí)數據連接構成了人工智能芯片的DNA，面對AI設計挑戰，新思科技提供了許多專(zhuān)業(yè)處理解決方案來(lái)消除存儲器瓶頸，包括存儲器接口IP、帶有TCAM和多端口存儲器的芯片SRAM編譯器等，同時(shí)提供了全面的實(shí)時(shí)數據連接選項。這些IP解決方案是下一代AI設計的關(guān)鍵組件。 |
