智通財經APP獲悉,Omdia發文稱,2021-2022年,CPU供應商競相在其指令集中內置額外的人工智能加速功能。英特爾、Arm和AMD都宣佈將推出該功能。但現在,只有英特爾至強6芯片的一部分以及相對較少的智能手機具備該功能。Omdia高級計算首席分析師Alexander Harrowell表示,有理由認爲,英特爾帶有AMXAI擴展的Sapphire Rapids和Emerald Rapids芯片的銷量令人失望。與此同時,主要的基於Arm的服務器CPU項目都沒有選擇使用同等的擴展,AMD最終也沒有繼續使用他們的擴展。
Alexander Harrowell指出,lMLPerf推理基準測試項目的結果表明,增加中量級GPU所帶來的每美元性能遠高於部署具有CPU內加速功能的CPU。在一些特殊情況下,CPU內核擴展會有所幫助--例如,如果因爲每核軟件許可而優先考慮減少內核數量--但在其他情況下,使用GPU或根據指令寬度和內核密度等因素進行選擇似乎更划算。