国际数据公司（IDC）发布的《人工智能基础架构市场（2019下半年）跟踪》报告显示，2021年人工智能基础架构市场规模达到亿美元，同比增长%。其中GPU服务器占据%的市场份额。IDC预测，到2024年中国GPU服务器市场规模将达到64亿美元。

从厂商角度看，浪潮、华为和曙光依然稳居前三位，占据了74%以上的市场份额。

从行业角度看，互联网依然为主要采购行业，占有近50%的市场份额，并且最终用户也不仅仅局限于BAT这类大型互联网公司；服务和政府行业次之，分别占有%和%市场份额。其中服务、教育、金融和制造四个行业在2021年中出现了大幅度上涨。

从服务器配置的角度看，可搭载8片加速卡的服务器更为主流，占有40%以上的市场份额；2路服务器依然是最终用户的首选，占有近80%的市场份额。

从工作负载角度看，用于推理的服务器在2021年占有40%以上的市场份额。IDC预测，到2021年，用于推理的服务器将超过用于训练的服务器，达到%的市场占比。