博客
你不一定知道的高通AI硬實(shí)力
||
高通中國區董事長(cháng)孟樸在日前舉辦的“2019 Qualcomm人工智能開(kāi)放日”上表示，5G將成為一項通用技術(shù)，使萬(wàn)事萬(wàn)物彼此互連。 它也將如電力和互聯(lián)網(wǎng)一樣，為人類(lèi)的生產(chǎn)生活帶來(lái)翻天腹地的變化，創(chuàng )新者也將迎來(lái)一個(gè)充滿(mǎn)新機遇的時(shí)代。
Qualcomm中國區董事長(cháng)孟樸
“在5G時(shí)代，信息就像電一樣，往來(lái)穿梭于云和端之間，成為一種巨大的新能量。未來(lái)的10年中，與5G部署并行發(fā)展的技術(shù)領(lǐng)域，將是大數據的分析和運用，其核心應用就是人工智能”，孟樸接著(zhù)說(shuō)。在他看來(lái)，AI將推動(dòng)整個(gè)商業(yè)格局的根本性轉變，當中包括了手機等移動(dòng)終端、汽車(chē)、智慧交通、物聯(lián)網(wǎng)等等。
作為產(chǎn)業(yè)的領(lǐng)先者，高通正在推動(dòng)AI從云到端的布局，助力開(kāi)發(fā)者更快走入新時(shí)代。
從孟樸的介紹中我們得知，高通在2007年起就啟動(dòng)了首個(gè)AI研究項目，公司在過(guò)去十多年也一直致力于A(yíng)I領(lǐng)域各個(gè)方面的研究，也驅動(dòng)公司產(chǎn)品路線(xiàn)圖中AI的應用，他們說(shuō)做的基礎研究和所交付的產(chǎn)品，可以讓AI應用于眾多行業(yè)。到2018年，他們還成立了Qualcomm AI Research，希望進(jìn)一步加速AI創(chuàng )新。
高通投入AI研究已經(jīng)超過(guò)十年
高通技術(shù)工程高級總監、 AI研發(fā)負責人侯紀磊博士也指出，高通正在打造平臺式創(chuàng )新，推動(dòng)人工只鞥呢在行業(yè)實(shí)現規�；\用。例如為了實(shí)現人工智能的的高能效，高通通過(guò)自動(dòng)化技術(shù)，利用AI技術(shù)來(lái)優(yōu)化AI模型，縮短產(chǎn)品上市時(shí)間并減少工程成本。具體下來(lái)則是通過(guò)壓縮、量化和編譯三種方式來(lái)實(shí)現。
高通實(shí)現高能效的三種方式
據侯紀磊介紹，高通在壓縮AI模型架構的時(shí)候，能夠自動(dòng)移除不重要/榮譽(yù)單元，同時(shí)保證準確度。數據顯示，在壓縮大三倍的時(shí)候，準確度損失低于1%；在量化方面，也能在自動(dòng)降低權重和激活進(jìn)度的同時(shí)，保證準確度。從高通提供的數據我們可以看到，他們在FP32和量化INT8上能實(shí)現近乎相同的準確度，其更低內存和計算則可以帶來(lái)每瓦特性能的4倍提升；至于編譯方面，高通面向自動(dòng)化硬件編譯的強化學(xué)習，可以應對數十種潛在組合，在TensorFlow Lite上更是可以實(shí)現4倍加速。
如下圖所示，高通在A(yíng)I硬件加速方面也有不少的研究。這對但比特操作，他們甚至實(shí)現了運算能耗的10倍到100倍的提升�！案咄ㄉ踔聊軌虬蚜孔訄�(chǎng)論等物理學(xué)的基礎數學(xué)框架運用到深度學(xué)習”，侯紀磊強調。
高通在A(yíng)I硬件加速方面的研究
在這些研究的推動(dòng)下，高通在之前已經(jīng)能夠為客戶(hù)提供便捷的端側方案。例如其驍龍移動(dòng)平臺已為超過(guò)10億部智能手機提供領(lǐng)先的AI加速。以Qualcomm于去年年底推出驍龍855移動(dòng)平臺為例，它集成第四代多核Qualcomm AI Engine，其中包括全新設計的、專(zhuān)門(mén)面向AI處理而設計的硬件核心——Hexagon張量加速器（HTA）。
據了解，基于第四代AI引擎的高通驍龍855，在性能上是高通驍龍845的三倍，也是友商競品的兩倍，這主要得益于他們的在軟硬件方面的升級。不同于其他競爭對手在手機SoC上獨立設計一個(gè)加速器，高通通過(guò)靈活調用Kryo CPU、Adreno GPU和Hexagon DSP等傳統單元，搭配全新的張量加速器，高效率地實(shí)現AI加速應用。
從高通之前的介紹我們得知，高通Adreno 640 GPU擁有50%的算術(shù)邏輯單元（ALU）提升，支持FP32和FP16浮點(diǎn)運算；Kryo 485 CPU相比前代CPU，性能也有45%的提升，高通也為其融合了進(jìn)一步加速AI性能的全新點(diǎn)積指令；Hexagon 690 DSP則包含了全新的Hexagon張量加速器、向量擴展內核、以及優(yōu)化的標量?jì)群恕?/div>
以上三者的靈活調度幫助驍龍855的第四代AI Engine實(shí)現了每秒7TOPs的運算能力，在多個(gè)方面賦能終端設備。
高通SoC的AI能力
高通同時(shí)也看到了云端推理的需求，憑借在移動(dòng)領(lǐng)域的獨特設計專(zhuān)長(cháng)——領(lǐng)先的工藝制程、先進(jìn)的信號處理、低功耗和規�；�，高通宣布推出全新打造的Qualcomm Cloud AI 100加速器。這款用于數據中心的AI推理處理器，旨在讓分布式智能可以從云端遍布至終端之間的全部節點(diǎn)。高通也將為開(kāi)發(fā)者提供完整的工具和框架支持。
基于這些技術(shù)，高通在日前于深圳舉辦的人工智能開(kāi)放日上，攜手20多個(gè)伙伴帶來(lái)了超過(guò)40項基于高通AI Engine的AI應用。使用搭載驍龍移動(dòng)平臺的OPPO、三星、vivo、小米等智能手機和利用基于驍龍平臺的AI開(kāi)發(fā)套件，虹軟、百度、大象聲科、華捷艾米、Loom.ai、曠視、Mobius、Morpho、商湯、騰訊王者榮耀、騰訊AI Lab、中科創(chuàng )達、有道等企業(yè)展示了包括智慧影音、娛樂(lè )游戲、生活工具和行業(yè)應用等四大類(lèi)，如移動(dòng)端AI電競戰隊、AI通話(huà)智能降噪、AI嘯叫抑制、AI智能超級夜景、AI 智能美顏拍照、AI智能視頻虛化、實(shí)時(shí)語(yǔ)音翻譯、AR全屏翻譯、無(wú)人超市等豐富多彩的應用，為用戶(hù)帶來(lái)更高效、智能、具備感知能力的極致體驗。
孟樸也指出，到2025年，智能手機、PC/平板電腦、擴展現實(shí)（XR）、汽車(chē)和物聯(lián)網(wǎng)這五大領(lǐng)域中的AI應用率將會(huì )從2018年的不到10%提升到100%，而高通將會(huì )在當中扮演一個(gè)重要角色。
