Gartner研究表明，隨著時間的推移和價格的持續(xù)下降，以及云部署在敏捷性、創(chuàng)新速度和生態(tài)系統(tǒng)方面的優(yōu)勢，中國企業(yè)的人工智能（AI）部署將逐步從本地轉向云端。Gartner預測，到2027年，中國的全部AI推理工作負載中，基于云的工作負載占比將從前的20%上升至80%。
Gartner高級研究總監(jiān)方琦表示：“多家中國生成式人工智能（GenAI）廠商，其大語言模型應用編程接口（API）的推理成本已經降低了90%以上，有力地推動了企業(yè)地GenAI采用。企業(yè)數據和分析（D&A）領導者應積極評估相關影響，并擴展GenAI解決方案，以滿足未來需要?！?/p>
DeepSeek于2024年5月6日推出了V2模型，價格僅為GPT-4 Turbo的1/75。幾天后，字節(jié)跳動于5月16日推出豆包大模型，宣稱比行業(yè)平均價格便宜99.3%。作為應對，阿里巴巴、百度和騰訊紛紛調整了其大語言模型API的價格。
圖1：中國主流廠商大語言模型與OpenAI的價格變化情況比較
API價格下降短期內對企業(yè)的影響有限
在計算企業(yè)GenAI解決方案的總擁有成本（TCO）時，需要將微調成本考慮在內。首先，可以使用高端GenAI模型來評估企業(yè)用例的技術可行性，然后使用企業(yè)自身的數據，對小型模型進行微調，以執(zhí)行特定的下游任務。此外，在使用API將數據上傳到云端時，還應考慮額外的數據安全和隱私要求。與規(guī)模較小的模型相比，最先進的大語言模型的價格變化并不顯著，這將進一步減輕價格變動的影響。
方琦表示：“已部署本地GenAI解決方案的中國企業(yè)，不會受到大語言模型 API價格變化的影響。對于云部署來說，API成本只是GenAI解決方案整體成本的一部分。需要注意的是，價格只是評估因素之一，還需要對其他因素進行仔細審查，如模型質量、吞吐量和延時?！?/p>
API價格的持續(xù)下降，推動了對AI部署策略的重新評估
企業(yè)應根據業(yè)務重點來選擇AI部署方式，尤其需要從六個角度比較云部署和本地部署方案的優(yōu)劣勢，這六個角度分別是：企業(yè)數據的主要存放位置、安全和監(jiān)管合規(guī)、專門的基礎設施、平臺/集成的優(yōu)劣勢、運營支出（OpEx）與資本性支出（CapEx）、人才和技能集合。
方琦表示：“隨著大語言模型API的平均價格不斷下降，云部署解決方案在未來將擁有更明顯的優(yōu)勢。此外，隨著技術的加速迭代和相關架構的日益復雜化，云部署解決方案的優(yōu)勢將在許多場景中更加突顯。因此，各企業(yè)機構需要重新評估其AI部署戰(zhàn)略。”
免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。
