|
摘要: EdgeBoard是百度打造的基于FPGA的嵌入式AI解決方案系列硬件;EasyDL是百度推出的一站式AI定制化訓練和服務(wù)平臺。本文詳細介紹如何使用EasyDL進(jìn)行模型訓練,然后部署到EdgeBoard,縮短從模型訓練到推理實(shí)現的路徑,提高開(kāi)發(fā)效率。 EdgeBoard是百度自主研發(fā)的AI軟硬一體深度學(xué)習加速套件,能夠提供強大的算力,并支持定制化模型,適配不同場(chǎng)景的終端設備,大幅提高設備端的AI推理能力,具有高性能、高通用、易集成等優(yōu)勢。EdgeBoard還可以無(wú)縫銜接百度大腦的開(kāi)放能力,可以輕松將在EasyDL和AI Studio平臺定制的AI模型完美適配到EdgeBoard上。本文會(huì )介紹如何將EasyDL訓練的模型離線(xiàn)部署到EdgeBoard上,實(shí)現AI的終端應用。 EasyDL定制化訓練和服務(wù)平臺可以一站式定制AI模型,并且完全界面化操作,利用少量的數據就可以訓練出一個(gè)高精度的AI模型。 圖1. EasyDL界面 接下來(lái)我們準備以狗的分類(lèi)作為實(shí)例來(lái)介紹從訓練到推理部署,首先介紹使用EasyDL進(jìn)行模型訓練。 一. 選擇訓練平臺 要完成狗的分類(lèi),需要使用圖像分類(lèi)模型進(jìn)行訓練,在EasyDL首頁(yè)中點(diǎn)擊開(kāi)始訓練,選擇“經(jīng)典版”訓練平臺,模型類(lèi)型選擇圖像分類(lèi),如圖2所示。 圖2. 模型類(lèi)型 二. 準備數據集 圖3. 8類(lèi)狗的照片文件 下面是我們準備好的數據,共8分類(lèi),每個(gè)分類(lèi)用50張左右的圖片用來(lái)訓練,剩下20張左右用來(lái)做推理測試。 圖4. 狗的照片 三. 創(chuàng )建數據集 根據EasyDL訓練模型的規則,首先我們創(chuàng )建數據集,將采集好的數據每個(gè)種類(lèi)放到一個(gè)文件夾中,如圖2所示,再壓縮成一個(gè)zip文件,然后把數據集上傳到EasyDL平臺,如圖5所示。 圖5. 上傳數據集到EasyDL平臺 四. 創(chuàng )建模型 數據集建立完成后,創(chuàng )建模型,根據需要填寫(xiě)相應的信息,如圖6所示。 圖6. 創(chuàng )建模型 五. 訓練模型 在訓練模型頁(yè)面中,應用類(lèi)型選擇“離線(xiàn)服務(wù)”,算法選擇“高精度”和“高性能”都可以,添加數據集,開(kāi)始訓練,如圖7所示。 圖7. 訓練模型 六. 發(fā)布模型 訓練模型需要一定的時(shí)間,等模型訓練完成之后,我們點(diǎn)擊申請發(fā)布,跳轉到發(fā)布模型頁(yè)面,選擇“軟硬一體方案”的“EdgeBoard+專(zhuān)用SDK”,提交申請,如圖8所示。 圖8. 發(fā)布模型 五.下載SDK 審核成功后,點(diǎn)擊“服務(wù)詳情”,“下載SDK”,如圖9所示。 圖9. 下載SDK 至此,在EasyDL上的模型訓練結束,接下來(lái)將轉到EdgeBoard的推理實(shí)現上。 在圖9中,我們會(huì )看到有“管理序列號”的按鈕,如果購買(mǎi)了EdgeBoard,跳轉頁(yè)面中會(huì )有一個(gè)EdgeBoard專(zhuān)用的序列號,這是EasyDL模型在EdgeBoard上部署的通行證。 圖10. EdgeBoard專(zhuān)用序列號 下面我們就開(kāi)始把模型部署到EdgeBoard上,下圖是EdgeBoard FZ9A系列硬件,EdgeBoard的技術(shù)文檔可在百度大腦AI開(kāi)放平臺EdgeBoard FZ9A板塊找到。 根據該技術(shù)文檔,需要將EasyDL離線(xiàn)SDK通過(guò)FTP或者samba工具傳到EdgeBoard系統中,然后將EdgeBoard專(zhuān)用序列號填寫(xiě)到離線(xiàn)SDK中。 圖11. EdgeBoard上的文件 EdgeBoard內置Linux系統,我們將使用命令行的方式進(jìn)行后面的部署操作。由于離線(xiàn)SDK在第一次使用時(shí)需要聯(lián)網(wǎng)激活,因此將EdgeBoard接入路由器,連通外網(wǎng)。 圖12. 測試網(wǎng)絡(luò )連接 同時(shí),將EdgeBoard的時(shí)間改成當前時(shí)間,否則離線(xiàn)SDK可能會(huì )激活失敗,然后對離線(xiàn)SDK解壓,進(jìn)入到EasyDL文件夾,解壓cpp文件夾中的tar包。 圖13.修改本地時(shí)間 圖14. 解壓cpp文件中的tar包 根據官方文檔,編輯cpp-->demo文件夾中的demo.cpp文件,將EdgeBoard專(zhuān)用序列號填入指定的位置處,如圖15所示,改過(guò)之后,在demo文件夾中新建build文件夾,進(jìn)行編譯。 圖15. 添加序列號 圖16. 編譯過(guò)程 編譯完成后,開(kāi)始進(jìn)行模型推理。我們放置一張圖片(如圖17)到RES文件夾中,調用RES資源文件夾中的模型,以及測試圖片的路徑,在build下運行命令,如圖18所示。 圖17. 待測試照片 圖18. 執行推理預測 從上面的打印信息中可以看到,EasyDL的模型在EdgeBoard上做出了完美的預測,corgi,分值p=0.999023,說(shuō)明99%的概率是柯基,是不是很準。如果說(shuō)這樣看起來(lái)不直觀(guān),EasyDL的SDK還支持http服務(wù)的調用,下面來(lái)開(kāi)啟一下http服務(wù),如圖19所示。 圖19. 開(kāi)啟http服務(wù) 圖20. http服務(wù)顯示界面 開(kāi)啟http服務(wù)后,在瀏覽器中寫(xiě)入http://{EdgeBoard ip地址}:24401,比如EdgeBoard的ip是192.168.1.254,就寫(xiě)http://192.168.1.254:24401就出來(lái)如圖18的顯示界面。 圖21. 上傳圖片進(jìn)行推理預測 點(diǎn)擊上傳圖片,選擇測試集中的狗的圖片,結果就立馬出來(lái)了,置信度為1說(shuō)明,百分之百就是可愛(ài)的比熊啦! 至此,我們就完成了一個(gè)狗分類(lèi)的模型訓練和離線(xiàn)部署。 福利 據可靠小道消息:EdgeBoard正在打折中,歷史最低價(jià),降價(jià)1000元,有興趣可以看看。 |
