|
這大夏天的，人工智能（AI）有多火就不消多說(shuō)了。 可人工智能不是鬧著(zhù)玩的。例如，人工智能驅動(dòng)的自動(dòng)駕駛汽車(chē)干系到我們的身家性命。如何設計、建造穩定、可靠的人工智能系統，茲事體大馬虎不得。 和大多數設備一樣，人工智能系統的核心是半導體芯片。AI芯片十分龐大復雜，通常是以片上系統（SoC）的形式呈現。 目前，已經(jīng)著(zhù)手或打算從事AI芯片設計的公司數不勝數。然而，AI芯片設計絕非易事。今天這個(gè)情形有點(diǎn)類(lèi)似于當年美國加州的淘金熱。每個(gè)人都想找到金礦，也都需要一把順手的淘金鏟。 賣(mài)“鏟子”的又來(lái)了。從所謂“正能量”的角度說(shuō)，工欲善其事，必先利其器。如果你使用了正確的開(kāi)發(fā)工具，那么你的SoC開(kāi)發(fā)進(jìn)程將變得順利而高效。 今天我們就介紹一家“賣(mài)鏟子”的公司，名叫NetSpeed。它成立于2011年，歷史不算長(cháng)，但它已經(jīng)贏(yíng)得了諸多AI行業(yè)重量級客戶(hù)，僅中國的就包括百度、寒武紀和地平線(xiàn)。更重要的是，自動(dòng)駕駛技術(shù)先行者特斯拉公司正在采用NetSpeed的軟件來(lái)設計4級完全自動(dòng)駕駛芯片，該芯片將于2020年面世。NetSpeed聲稱(chēng)，全球最成功的SoC設計者在使用NetSpeed技術(shù)。 NetSpeed是一家什么樣的公司呢？近日，NetSpeed Systems公司大中華區銷(xiāo)售總監黃啟弘先生向我們介紹了NetSpeed公司及其剛剛發(fā)布的Orion AI系統級IP。 黃先生介紹說(shuō)，NetSpeed總部位于美國硅谷的圣何塞市，創(chuàng )始人曾就職于華為、Cisco這樣的通信系統公司。創(chuàng )始人之一、現任CTO Sailesh Kumar先生曾是華為100G服務(wù)網(wǎng)絡(luò )處理器芯片組的智能存儲子系統主席架構師，精于IP轉發(fā)、深度包監測、存儲系統和高速系統的算法。 正是由于創(chuàng )始人在通信公司的經(jīng)歷，NetSpeed把互聯(lián)網(wǎng)思維應用到了芯片設計上。他們的目標是，讓數據在SoC內部暢通無(wú)阻。 黃先生介紹說(shuō)，AI芯片的設計難點(diǎn)之一在于芯片內部各個(gè)單元之間的互聯(lián)。人工智能的訓練和推理都需要做大型矩陣乘法運算，其產(chǎn)生的數據量極大。芯片內部的處理內核數量多，存在大量并行結構和點(diǎn)對點(diǎn)運算。在這種情況下，芯片內部互聯(lián)要求極高帶寬。將來(lái)，這種情形會(huì )愈演愈烈。 NetSpeed的Orion AI系統級IP就是針對SoC內部的非一致性互聯(lián)而開(kāi)發(fā)。其特點(diǎn)是采用解耦架構、可編程多播和非凡的QoS，達到極致性能和極致效率。Orion AI據稱(chēng)可以達到TB/s的吞吐量，實(shí)現數據帶寬高達1024位的總線(xiàn)，支持1000個(gè)內核。 如下圖所示，Orion AI的獨有技術(shù)包括：可編程多播（multi-cast），動(dòng)態(tài)控制下一點(diǎn)到多點(diǎn)的傳播以提高效率；無(wú)需回應發(fā)送信息模式，讓數據傳輸更加順暢；先進(jìn)的QoS規劃，確保數據包傳輸到位，而且準確無(wú)誤。 
為達到這樣的高性能，Orion AI內置工智能，利用人工智能算法搜尋最有效的解決方案。黃先生說(shuō)，NetSpeed為中國客戶(hù)提供不加密的Orion AI版本，用戶(hù)在自己的服務(wù)器上即可運行。Orion AI生成的文件可以進(jìn)行手工修改以完成進(jìn)一步優(yōu)化。他說(shuō)，采用Orion AI，用戶(hù)可以節省數月的開(kāi)發(fā)時(shí)間，大大加速SoC的開(kāi)發(fā)進(jìn)程。 |
