智通財經APP獲悉，IDC最新發布的報告顯示， 2024上半年中國智算服務整體市場同比增長79.6%，市場規模達到146.1億元人民幣。其中，智算集成服務市場同比增長168.4%，市場規模達57.0億元人民幣；GenAI IaaS市場同比增長203.6%，市場規模達52.0億元人民幣；Other AI IaaS市場同比縮減13.7%，市場規模達37.1億元人民幣。
新舊動能快速切換，面向GenAI的算力支出已經成爲智算服務市場主陣地：以AI IaaS市場爲例，GenAI IaaS市場經歷短短的一年半發展時間，市場規模已經超過Other AI IaaS市場，佔比AI IaaS市場達58%。智算集成市場，增量新建的智算中心均是以GenAI的未來需求爲導向而設計的。
頭部客戶飽和式投入，智能算力支出快速增長：頭部客戶智能力算力支出在2024年迎來大幅度增長。如頭部基礎大模型公司整體算力規模向10EFlops進發，最大單集羣規模已經升級到256臺服務器(H系列)；自動駕駛客戶更是迎來新一輪算力軍備競賽，如理想汽車，截至2023年9月，雲端算力規模僅750PFlops，到2024年11月，雲端算力規模已達到6830PFlops。
互聯網業務向GenAI融合，GenAI IaaS推理算力支出快速增長：2024上半年，GenAI開始向行業落地，尤其是互聯網行業(主要是互聯網音視頻、遊戲、教育)在GenAI與業務的融合實踐方面一馬當先，GenAI IaaS推理算力支出快速增長。2023年，客戶在GenAI IaaS上的推理支出佔比僅爲5%，2024上半年，這一支出佔比已經上升到23%。
智算中心建設提速，專業服務和商業化運營成爲關注重點：據不完全統計，上半年智算中心項目已過百，但其中相當數量仍處於規劃/開工/在建等狀態。相關項目中：
各地新建智算中心正向大算力規模演進，其中單個政府智算中心整體算力規劃已接近千P及以上，而運營商/互聯網智算中心算力規模基本達到萬卡及以上規模，呈現出資金投入大、算力密度大、建設難度高等特徵。如何通過專業服務實現大規模集羣系統架構部署優化、大規模計算穩定性保障以及集羣高效運維越來越受到算力使用方以及相關服務商重視。
與此同時，現階段部分投產上線智算中心面臨缺乏商業化運營能力，如何實現零散算力整合售賣並完成與最終用戶的對接使用正成爲算力建設方、運營方關注重點。
智算服務市場不斷吸引新入玩家：社會各類資本通過各種合作方式以彌補自身的不足，以搶抓時代的黃金機會點。一是傳統企業通過資本佈局跨界而來，如併購NV系精英合作伙伴、與有技術沉澱的服務商共建等方式以彌補自身技術的不足；二是業界的各類ICT企業通過算力納管、整合生態、算力共建等方式，謀求以輕資產、重解決方案能力在智算服務市場立足。
智算集成服務市場
智算集成服務市場在2024上半年逐漸迎來爆發，市場格局繼續維持一超多強特徵，頭部以及中腰部玩家憑藉技術優勢擴大市場份額。其中，華爲智算集成服務爲客戶提供算力集成解決方案，覆蓋數據中心Facility集成、IT基礎設施集成等，包括諮詢規劃、集成部署及輔助運營的全週期服務；此外，針對AI開發門檻高、模型遷移開發能力不足等通用挑戰，華爲爲客戶推出AI計算使能、AI計算優化等專業服務，助力“建好、管好、用好”算力集羣；本期H3C重點推動傲飛算力平臺落地，爲政企、智算中心集羣提供多元異構算力支持，滿足最終用戶不同AI負載和業務場景需求；百度繼續依託芯片、算力、軟件等基礎設施以及產業鏈優勢，參與西北等多個地區智算中心項目建設；中國電信憑藉“息壤”算力網絡平臺、算網/機房資源以及相關算力模型開發經驗，本期在私有化智算集羣項目中有所建樹，排名上升至第四；中國電子雲圍繞CECSTACK一體化算力平臺，在北京、石家莊、武漢等地完成多個智算項目交付，同時在商業客戶和高校市場實現突破，目前算力規模已超過3300P。
AI IaaS市場
客戶需求向GenAI轉移，Other AI IaaS市場規模逐步縮減，繼續延續之前的市場格局。GenAI IaaS市場，雲巨頭快速調整，引發市場變局.阿里雲在2024年快速調整市場策略，市場份額躍居市場第一，一是內部快速調整釋放出大量資源向客戶側供給；二是藉助優秀的資本佈局聚焦算力消耗大戶；三是技術體系快速適配Gen-AI時代，憑藉優秀的技術功底獲得頭部客戶認可。運營商在今年大舉發力智算市場，紛紛建立萬卡級智算中心，中國電信作爲率先落地的服務商，上海及北京萬卡智算中心已經商用，率先在市場取得突破。同時，省公司亦在積極響應客戶對於GenAI IaaS需求，通過外部合作擴充智能算力規模，市場份額躍居市場第五。新勢力服務商在2024上半年的表現呈現兩級分化，以商湯科技爲代表的新勢力服務商成功立足市場，商湯科技繼續保持市場第三位置，並行科技、首都在線、藍耘科技等公司的GenAI IaaS業務亦取得了高速增長。
IDC中國企業級研究部研究經理楊洋表示，回顧IDC在2023H2的預測，我們已經對智算服務市場的增長充分樂觀，而從2024年市場的實際情況來看，我們過往的預測仍偏於保守，智算服務市場以遠超預期的增速在高速成長。從智算服務的增長態勢來看，IDC認爲智算服務市場在未來五年內仍將保持超高增速高速成長，一是頭部客戶對於訓練算力的需求仍呈現量級躍遷的特徵，二是從產業階段和算力結構上來看，GenAI仍處於早期階段，推理側算力支出仍佔較小比例，以終局來看，推理側算力應占到算力支出的6-7成，意味着推理側算力支出將有百倍以上的增長空間；三是算力成本在逐步下降，2024上半年，IDC觀測到更多的中腰部組織/企業在展開GenAI實踐，未來，大量的中腰部組織/企業將成爲智算服務市場的優質增量。GenAI同樣在重塑整個ICT市場的技術體系和競爭均勢，而智算服務市場將處於價值鏈的核心環節，成爲ICT巨頭的必爭之地。