來(lái)源:大半導體產(chǎn)業(yè)網(wǎng) 據龍芯中科官微消息,近日,知名AI推理框架開(kāi)源社區ONNX Runtime正式發(fā)布支持龍架構的版本1.17.0。今后,用戶(hù)可以直接使用ONNX Runtime開(kāi)源社區發(fā)布的版本在龍芯平臺完成AI推理類(lèi)應用的開(kāi)發(fā)和部署,標志著(zhù)龍架構軟件生態(tài)得到進(jìn)一步完善。 據悉,ONNX Runtime(ORT)是近年來(lái)興起的AI推理框架軟件,被大量AI應用作為基礎AI推理引擎?芍С諴yTorch、Tensorflow、TFLite等多種格式的模型輸入,以及CPU、GPU、IoT、NPU、FPGA等多樣化算力后端。龍芯中科技術(shù)團隊與社區保持緊密合作,期間向ONNX Runtime社區代碼倉庫提交了7697行代碼,對矩陣乘法、卷積、轉置等核心算子進(jìn)行深度向量?jì)?yōu)化。 未來(lái),龍芯中科將繼續與AI領(lǐng)域的國際開(kāi)源軟件社區攜手合作,助力AI領(lǐng)域的生態(tài)發(fā)展和技術(shù)創(chuàng )新,為用戶(hù)帶來(lái)更優(yōu)產(chǎn)品,實(shí)現更大價(jià)值。 |