|
導語(yǔ):性能夠用,價(jià)格友好,至強是智能化轉型的實(shí)用首選。 正如新藥研發(fā)在臨床前鮮有人問(wèn)津,卻能在上市后挽救無(wú)數生命。 醫院的智能化升級鮮為人知,卻悄然重塑著(zhù)每一位患者的就醫體驗。 從面向大眾的智能問(wèn)診、家庭健康助手,到賦能醫護的AI導診、臨床輔助診療,再到加速影像分析、提升疑難疾病早篩率的AI閱片技術(shù)——醫療行業(yè)正悄然發(fā)生變化。 這種變革的背后,依靠的不是技術(shù)本身有多“炫”,而是讓先進(jìn)技術(shù)普及落地。 作為最普及的計算芯片,CPU在將尖端創(chuàng )新轉化為日常應用中,始終扮演著(zhù)至關(guān)重要的角色。 無(wú)論是智慧醫療、數字化工廠(chǎng),還是精準農業(yè)、未來(lái)教育,英特爾至強CPU以持續進(jìn)化的性能和高性?xún)r(jià)比,為千行百業(yè)提供了穩定的算力底座。 那么,為什么越來(lái)越多行業(yè)轉型升級都不約而同地選擇了英特爾至強CPU? 醫療大模型落地,首選至強 提升醫生的診斷效率,以及出院記錄自動(dòng)生成,能夠大幅提升患者和醫生的體驗,這離不開(kāi)醫療大模型。 基于惠每科技醫療大模型構建的鑒別診斷應用工作流程 實(shí)際場(chǎng)景中,醫生接診病人的時(shí),打開(kāi)病程記錄并填寫(xiě)患者主訴及病例特點(diǎn)后,后臺的三個(gè)醫療大模型就會(huì )迅速執行推理,數秒后即可生成鑒別診斷結果,醫生再根據自身的專(zhuān)業(yè)意見(jiàn)選擇最優(yōu)結果,選擇“一鍵回填”或復制粘貼到病歷相應的位置,大幅提升接診效率,患者等待時(shí)間明顯縮短。 出院記錄的自動(dòng)生成也是患者和醫生都期待的體驗。傳統流程需要醫院多個(gè)部門(mén)匯總多類(lèi)數據并形成摘要,過(guò)程耗時(shí)長(cháng)且容易出現信息遺漏。 借助醫療大模型,醫生打開(kāi)或保存出院記錄時(shí),會(huì )立即觸發(fā)大模型后臺計算,幾秒鐘內生成包含出院診斷、入院情況、診療經(jīng)過(guò)、出院情況及醫囑等內容的報告。醫生可一鍵回填,極大提升工作效率,也顯著(zhù)改善患者體驗。 集成大模型的惠每新一代 AI 大數據處理平臺架構 這是領(lǐng)先的醫療人工智能解決方案提供商北京惠每云科技有限公司 (簡(jiǎn)稱(chēng)惠每科技)的臨床決策支持系統(CDSS)已經(jīng)實(shí)現的功能,并且可以部署到既有的英特爾架構處理器平臺。 這意味著(zhù)醫療機構無(wú)需采購昂貴的專(zhuān)用加速芯片或服務(wù)器,僅用英特爾至強處理器即可部署醫療大模型,實(shí)現私有化部署,且成本可控,這也是醫療機構首選至強CPU的主要原因。 成本可控,效果可以保證嗎?答案是肯定的。 大模型通常擁有數百億至千億參數,對算力和內存要求嚴苛。為了用更少算力實(shí)現理想效果,量化成為常用方法。通過(guò)將訓練好的模型權重、激活值等從高精度數據格式(如FP32)轉換為低精度格式(如INT4/INT8),能同時(shí)降低算力和內存需求。 作為英特爾開(kāi)源AI框架IPEX的一部分,IPEX-LLM不僅支持多種低精度格式的優(yōu)化,還能基于處理器內置指令集(如英特爾AVX-512_VNNI、英特爾AMX)及配套軟件加速推理,大幅提升英特爾架構平臺上大模型的推理效率。 惠每科技就使用英特爾AVX-512_VNNI指令集,顯著(zhù)加速了其醫療大模型在INT4低精度數據格式上的推理。 除了量化優(yōu)化方案,英特爾還借助面向AI推理及部署優(yōu)化的軟件工具套件OpenVINO,為惠每科技打造了非量化優(yōu)化方案。 非量化方案對算力和內存要求更高,落地難度大�；菝靠萍悸氏壤昧说谒拇⑻貭栔翉娍蓴U展處理器首次內置的英特爾AMX指令集,在保證精度的同時(shí),提高運算效率、加速推理。 經(jīng)過(guò)英特爾與惠每科技的協(xié)同優(yōu)化,無(wú)論是醫療大模型的量化優(yōu)化,還是非量化優(yōu)化方案,都能在保證精度的前提下有效提升醫療大模型的推理速度,同時(shí)基于英特爾架構處理器的部署方案也能幫助醫療機構有效地節約成本。 惠每科技CDSS在多家合作醫療機構部署后,臨床應用優(yōu)勢和價(jià)值迅速顯現。 惠每科技的統計數據顯示,在某合作醫院的某科室上線(xiàn)1個(gè)月后,鑒別診斷應用的使用率已達23%以上,出院記錄自動(dòng)生成應用的使用率達到15%以上,基于第四代英特爾至強可擴展處理器優(yōu)化的醫療大模型的AI應用已獲得醫生的初步認可。 疾病診療全流程,為什么不選GPU? 與惠每科技類(lèi)似,東軟融入AI技術(shù),能夠為醫學(xué)影像提供智能診斷、質(zhì)量控制、結構化報告等能力的支撐的PACS/RIS系統,也首選了至強可擴展處理器進(jìn)行部署,而非性能雖強但成本較高的GPU。 這是因為在醫療這類(lèi)成本敏感的場(chǎng)景中,面向AI推理進(jìn)行優(yōu)化的英特爾至強處理器有助于降低成本。同時(shí),部分PACS/RIS場(chǎng)景的AI推理具備批處理特性,對AI推理時(shí)延性能不敏感,適合采用CPU進(jìn)行推理。 與惠美科技不同,東軟選擇的是更先進(jìn)的第五代英特爾至強可擴展處理器。 相較上一代,第五代英特爾至強可擴展處理器可在相同功耗范圍內提供更高的算力和更快的內存,整體性能提升21%,推理性能提升42%,內存速度提升16%,三級緩存提升2.7倍,每瓦性能提升10倍,在滿(mǎn)足性能需求的同時(shí)提升系統靈活性并降低總體擁有成本(TCO)。 第五代英特爾至強可擴展處理器具備更強大性能 研發(fā)中,東軟智慧醫學(xué)影像信息系統PACS/RIS在執行三維可視化任務(wù)時(shí),發(fā)現其產(chǎn)品在部分應用中的性能明顯不足。東軟通過(guò)Intel VTune Profiler定位瓶頸函數并優(yōu)化代碼,提升了三維可視化性能,充分發(fā)揮了第五代至強可擴展處理器軟硬件協(xié)同優(yōu)化的能力。 測試數據顯示,在處理器開(kāi)通4并發(fā)8線(xiàn)程時(shí),英特爾至強鉑金8592+處理器(第五代)的性能相較于英特爾至強金牌6430處理器(第四代)和英特爾至強銀牌4210R處理器(第二代)均有明顯提升,其中相比第二代的提升幅度高達2.45倍。 PACS/RIS 系統的三維重建應用運行效率比較 此外,東軟智慧醫學(xué)影像信息系統PACS/RIS借助內置的英特爾AMX加速器以及OpenVINO工具套件,提升了融合的廣泛AI算法的推理效率。 測試結果顯示,以BF16精度異步推理參數量較小模型(342,978)及較大模型(31,185,568)時(shí),第五代至強鉑金8592+處理器性能相較第二代銀牌4210R分別提升2.55倍和8.49倍。 BF16 精度下的異步推理性能比較 這充分說(shuō)明,英特爾至強可擴展處理器一直緊跟市場(chǎng)需求,持續迭代,保證其在滿(mǎn)足更高性能以及AI推理需求的同時(shí),還具備更高部署靈活性和更優(yōu)成本控制能力,能夠承擔更廣泛負載。 相較之下,人工智能輔助藥物開(kāi)發(fā) (AIDD)選擇英特爾至強CPU而非GPU,還有生態(tài)層面的考慮。 對傳統制藥領(lǐng)域“雙十定律”的突破,是AIDD為人津津樂(lè )道的優(yōu)勢之一,即它能以短至十數月的耗時(shí),及低至以百萬(wàn)美元計的費用,擊穿過(guò)去動(dòng)輒十年用時(shí)加10億美元成本起步的新藥研發(fā)天花板。 AIDD是此前已經(jīng)廣為應用的計算機輔助藥物發(fā)現 (CADD)的演進(jìn)與補充,兩者對算力的渴求也都在與日俱增。再考慮到新藥研發(fā)各環(huán)節的計算特點(diǎn),它們對算力的需求還有周期性強、峰值需求量高等特點(diǎn)。 雖然目前科學(xué)計算與AI都開(kāi)始出現通用計算平臺與專(zhuān)用加速芯片并行演進(jìn)的局面,但應用歷程更久的CPU平臺相比專(zhuān)用加速芯片,不僅有部署和應用基礎更為廣泛的特點(diǎn),還在總擁有成本 (TCO)、性?xún)r(jià)比、易用性和易獲取方面有更強的優(yōu)勢,能幫助更多用戶(hù)緩解算力緊張的局面。 英特爾與隸屬于美國麻省理工學(xué)院和哈佛大學(xué)的博德研究所,雙方合作聚焦于能從藥物研發(fā)源頭加速的“基因組分析工具包”,即GATK (Genomics Analytics Toolkit)。 此前,英特爾已經(jīng)基于第五代至強可擴展處理器進(jìn)行了針對GATK的優(yōu)化,目標是讓該工具包能充分利用該處理器微架構上的提升,如相比前一代產(chǎn)品 1.5 倍的內核數量、 更高的主頻 (2.3GHz對比2.0GHz)、更強的內存子系統 (5,600MT/s對比4,800MT/s) 以 及更大的末級緩存容量,并進(jìn)一步釋放其專(zhuān)攻科學(xué)計算加速的指令集— —英特爾AVX-512帶來(lái)的性能增益。 至強平臺的持續革新為GATK帶來(lái)持續的性能優(yōu)化 測試結果顯示,第五代英特爾至強可擴展處理器實(shí)現了比上一代平臺高出61%的吞吐量。 在藥物分子發(fā)現與篩選環(huán)節,英特爾至強處理器也發(fā)揮著(zhù)重要作用。 第三代英特爾至強可擴展處理器就對AlphaFold2提供了算力支持與優(yōu)化,第四代英特爾至強可擴展處理器發(fā)布后得到進(jìn)一步提升,特別是充分利用了這一代產(chǎn)品內置的AI加速技術(shù)——英特爾高級矩陣擴展(AMX)。 并且已經(jīng)形成了一套基于第四代英特爾至強可擴展處理器、至強 CPU Max 系列處理器,以及一系列軟硬協(xié)作的優(yōu)化的完整、易獲取的AlphaFold2端到端解決方案。在一項基于某公有云服務(wù)的測試中,這一方案不但在性能上獲得了遠優(yōu)于某高端 GPU 平臺的表現,同時(shí)優(yōu)于由CPU與GPU混合構建的方案。 英特爾至強不僅能加速藥物的前期設計與發(fā)現階段,還解決成藥階的挑戰,比如晶型預測。 某藥物研發(fā)企業(yè)基于C++開(kāi)發(fā)的晶體結構預測類(lèi)應用,在至強平臺上實(shí)現了軟硬協(xié)同優(yōu)化。在低難度 (LC)、中難度 (MC)、高難度 (HC) 和極高難度 (EC) 四個(gè)用例的測試中,多種工具優(yōu)化效果在至強平臺上累加,最高可以換來(lái)2.32倍的性能提升,提高研發(fā)效率和投資回報率。 CPU為智能化變革提供強大支持 從加速藥物研發(fā)流程,到提升醫院的智能化體驗,英特爾至強處理器不僅為生命科學(xué)研發(fā)助力,也是患者就醫和醫生接診數字化體驗的基石。 但英特爾在數據中心領(lǐng)域的軟硬件強大能力遠不止于此。 在傳媒行業(yè),北京中科大洋科技發(fā)展股份有限公司基于第五代英特爾至強可擴展處理器出色的算力密度,滿(mǎn)足超高清視頻處理的苛刻要求的同時(shí),無(wú)需專(zhuān)門(mén)的AI推理服務(wù)器即可實(shí)現AI超分、降噪等任務(wù),高效利用現有服務(wù)器資源,節省總體擁有成本(TCO),降低運維門(mén)檻。 在智能制造領(lǐng)域,TCL華星光電充分利用英特爾的端邊技術(shù)能力,構建了從設備端圖像采集到結果反饋的完整閉環(huán)方案。在生產(chǎn)線(xiàn)檢測和智慧物流方面,TCL華星光電也利用英特爾的硬件產(chǎn)品和云邊端架構,有效降低了運營(yíng)成本,并顯著(zhù)提高了良品率。 在可持續農業(yè)領(lǐng)域,Nature Fresh Farms部署的超過(guò)2000個(gè)傳感器和攝像頭,實(shí)現對每株植物從播種到出廠(chǎng)的全程監控。英特爾至強處理器硬件強大的數據處理能力,結合OpenVINO工具套件,利用內置加速器進(jìn)行高效AI推理,將原本需兩三小時(shí)完成的溫室數據收集、處理和分析縮短至30分鐘。 另外,在教育發(fā)展、生態(tài)保護等領(lǐng)域,英特爾至強也憑借其高效AI算力和軟硬件技術(shù)的解決方案,推動(dòng)數字化與智能化普及。 就像是從大型計算機到個(gè)人電腦,靠的是便宜又好用的微處理器,從互聯(lián)網(wǎng)時(shí)代再到移動(dòng)互聯(lián)網(wǎng)時(shí)代,變革靠的是技術(shù)成熟、用戶(hù)體驗優(yōu)異和硬件成本降低。 如今的生成式AI和數字化轉型時(shí)代,同樣需要易于獲得且高性?xún)r(jià)比的軟硬件解決方案,性能不斷強大的英特爾至強依舊能夠為智能化和數字化浪潮提供強大助力。 |
