Gartner:中國大語(yǔ)言模型價(jià)格戰推動(dòng)人工智能加速上云

發(fā)布時(shí)間:2024-10-22 09:42    發(fā)布者:eechina
關(guān)鍵詞: Gartner , 大語(yǔ)言模型 , 人工智能
來(lái)源:Gartner

研究表明,隨著(zhù)時(shí)間的推移和價(jià)格的持續下降,以及云部署在敏捷性、創(chuàng )新速度和生態(tài)系統方面的優(yōu)勢,中國企業(yè)的人工智能(AI)部署將逐步從本地轉向云端。Gartner預測,到2027年,中國的全部AI推理工作負載中,基于云的工作負載占比將從前的20%上升至80%。

Gartner高級研究總監方琦表示:“多家中國生成式人工智能(GenAI)廠(chǎng)商,其大語(yǔ)言模型應用編程接口(API)的推理成本已經(jīng)降低了90%以上,有力地推動(dòng)了企業(yè)地GenAI采用。企業(yè)數據和分析(D&A)領(lǐng)導者應積極評估相關(guān)影響,并擴展GenAI解決方案,以滿(mǎn)足未來(lái)需要!

DeepSeek于2024年5月6日推出了V2模型,價(jià)格僅為GPT-4 Turbo的1/75。幾天后,字節跳動(dòng)于5月16日推出豆包大模型,宣稱(chēng)比行業(yè)平均價(jià)格便宜99.3%。作為應對,阿里巴巴、百度和騰訊紛紛調整了其大語(yǔ)言模型API的價(jià)格。


圖1:中國主流廠(chǎng)商大語(yǔ)言模型與OpenAI的價(jià)格變化情況比較

API價(jià)格下降短期內對企業(yè)的影響有限

在計算企業(yè)GenAI解決方案的總擁有成本(TCO)時(shí),需要將微調成本考慮在內。首先,可以使用高端GenAI模型來(lái)評估企業(yè)用例的技術(shù)可行性,然后使用企業(yè)自身的數據,對小型模型進(jìn)行微調,以執行特定的下游任務(wù)。此外,在使用API將數據上傳到云端時(shí),還應考慮額外的數據安全和隱私要求。與規模較小的模型相比,最先進(jìn)的大語(yǔ)言模型的價(jià)格變化并不顯著(zhù),這將進(jìn)一步減輕價(jià)格變動(dòng)的影響。

方琦表示:“已部署本地GenAI解決方案的中國企業(yè),不會(huì )受到大語(yǔ)言模型 API價(jià)格變化的影響。對于云部署來(lái)說(shuō),API成本只是GenAI解決方案整體成本的一部分。需要注意的是,價(jià)格只是評估因素之一,還需要對其他因素進(jìn)行仔細審查,如模型質(zhì)量、吞吐量和延時(shí)!

API價(jià)格的持續下降,推動(dòng)了對AI部署策略的重新評估

企業(yè)應根據業(yè)務(wù)重點(diǎn)來(lái)選擇AI部署方式,尤其需要從六個(gè)角度比較云部署和本地部署方案的優(yōu)劣勢,這六個(gè)角度分別是:企業(yè)數據的主要存放位置、安全和監管合規、專(zhuān)門(mén)的基礎設施、平臺/集成的優(yōu)劣勢、運營(yíng)支出(OpEx)與資本性支出(CapEx)、人才和技能集合。

方琦表示:“隨著(zhù)大語(yǔ)言模型API的平均價(jià)格不斷下降,云部署解決方案在未來(lái)將擁有更明顯的優(yōu)勢。此外,隨著(zhù)技術(shù)的加速迭代和相關(guān)架構的日益復雜化,云部署解決方案的優(yōu)勢將在許多場(chǎng)景中更加突顯。因此,各企業(yè)機構需要重新評估其AI部署戰略!
本文地址:http://selenalain.com/thread-875140-1-1.html     【打印本頁(yè)】

本站部分文章為轉載或網(wǎng)友發(fā)布,目的在于傳遞和分享信息,并不代表本網(wǎng)贊同其觀(guān)點(diǎn)和對其真實(shí)性負責;文章版權歸原作者及原出處所有,如涉及作品內容、版權和其它問(wèn)題,我們將根據著(zhù)作權人的要求,第一時(shí)間更正或刪除。
您需要登錄后才可以發(fā)表評論 登錄 | 立即注冊

關(guān)于我們  -  服務(wù)條款  -  使用指南  -  站點(diǎn)地圖  -  友情鏈接  -  聯(lián)系我們
電子工程網(wǎng) © 版權所有   京ICP備16069177號 | 京公網(wǎng)安備11010502021702
快速回復 返回頂部 返回列表
午夜高清国产拍精品福利|亚洲色精品88色婷婷七月丁香|91久久精品无码一区|99久久国语露脸精品|动漫卡通亚洲综合专区48页