|
作者：Microchip 總裁兼首席執行官 Ganesh Moorthy AI 已經(jīng)存在了一段時(shí)間，其影響也相當巨大。生成式 AI 剛開(kāi)始嶄露頭角，對于其如何顛覆世界的種種預言已經(jīng)迅速成為熱門(mén)話(huà)題，影響之深廣，令人深思。 這項技術(shù)已經(jīng)對數據中心產(chǎn)生了重大影響�；诒仨氃谠贫擞柧毢瓦\行的模型的大小，生成式 AI 的基礎設施需求預計將比早期 AI 模型高出 10 到 100 倍。事實(shí)上，所有數據中心基礎設施都受到這一趨勢的影響，包括電力、HVAC、網(wǎng)絡(luò )和物理布局。數據中心將如何擴展規模以適應呈指數級增長(cháng)的生成式 AI 大型語(yǔ)言模型？ 生成式 AI 的成功可能取決于半導體行業(yè)對以下幾個(gè)方面的關(guān)注，一是先進(jìn)的 AI 處理器，二是如何存儲和處理所有這些數據，最后是確保數據中心散熱更佳、更高效且更安全。 我們已經(jīng)解決了這類(lèi)問(wèn)題，以便數據中心運營(yíng)商能夠為 5G、云服務(wù)和新一代的AI/ML 應用提供支持。我們的單片機、存儲器、PCIe®開(kāi)關(guān)、安全解決方案和其他產(chǎn)品提供了各種解決方案，以應對從連接 AI 處理卡到優(yōu)化數據訪(fǎng)問(wèn)、存儲、安全和保護等一系列 AI 挑戰，同時(shí)提供必要的帶寬、端口密度和連接能力，從而處理不斷增加的流量。 類(lèi)似的挑戰也適用于數據中心和本地服務(wù)器中的生成式 AI，其應對難度也進(jìn)一步放大。生成式 AI 似乎也存在一種途徑，能夠擴展到物聯(lián)網(wǎng)應用中的網(wǎng)絡(luò )邊緣，如患者監測和汽車(chē)交通違規檢測。有些人認為，如果生成式 AI 產(chǎn)生的海量數據必須在云端而不是在邊緣處理，那么這些應用便無(wú)法取得成功。 如今的邊緣 AI 解決方案可能為生成式 AI 提供了一種路線(xiàn)圖。語(yǔ)音識別系統和 AI攝像頭等計算機視覺(jué)產(chǎn)品可在邊緣提供許多優(yōu)勢，包括消除網(wǎng)絡(luò )延遲和將隱私控制權交還給用戶(hù)。它們有助于降低功耗，因為只有在檢測到不規則的變化后才會(huì )將視頻流傳輸到云端，而不是像“傻瓜”攝像頭那樣連續不斷地傳輸�？梢灶A計，未來(lái)的邊緣設備也會(huì )采用這種方案。 但是，將生成式 AI 引入到邊緣將比引入傳統 AI 更加困難。由于數據量更大，電力問(wèn)題將變得更具挑戰性。硬件需求將遠遠超過(guò)傳統 AI 所需，并且解決方案還需要為智能邊緣的電池供電、深度嵌入式設備提供必要的安全性和其他獨特功能。 我們已經(jīng)關(guān)注到這些挑戰。例如，我們正在探索如何利用當前的 Wi-Fi®設備實(shí)現串行端口到生成式 AI 的橋接。在這種情況下，生成式 AI 并非在邊緣實(shí)現，而是通過(guò) 8 位單片機的 UART 訪(fǎng)問(wèn)。單片機會(huì )產(chǎn)生一個(gè)實(shí)時(shí)傳感器數據穿插其中的預定義提示語(yǔ)，將其發(fā)送到生成式 AI 解決方案，然后根據回答采取行動(dòng)。目前，尚不明確端點(diǎn)能否在邊緣獨立運行生成式 AI 而不回調至數據中心，但我們正處于創(chuàng )新的早期階段。 與我們服務(wù)的任何市場(chǎng)一樣，Microchip 的目標是盡可能簡(jiǎn)化解決行業(yè)中一些最基本的系統設計挑戰。這包括提供豐富的產(chǎn)品組合，以便客戶(hù)能夠采用全面系統解決方案的方法實(shí)現創(chuàng )新。我們會(huì )幫助解決在需要新功能的成熟應用中遇到的挑戰，同時(shí)也為長(cháng)期的安全性、保護性和可靠性要求提供支持。針對生成式 AI 等最新的新興技術(shù)，我們也會(huì )采取同樣的做法，這些技術(shù)描繪了令人期待的未來(lái)，但在兌現承諾之前，這些技術(shù)仍然面臨著(zhù)相同的基本系統設計挑戰。 |
