• 服务器随着场景需求经历通用服务器-云服务器-边缘服务器-AI服务器四种模式,AI服务器采用GPU增强其并行计算能力;
• AI服务器按应用场景可分为训练和推理,训练对芯片算力的要求更高,根据IDC,随着大模型的应用,2025年推理算力需求占比有望提升至60.8%;
• AI服务器按芯片类型可分为CPU+GPU、CPU+FPGA、CPU+ASIC等组合形式,CPU+GPU是目前国内的主要选择(占比91.9%);
• AI服务器的成本主要来自CPU、GPU等芯片,占比25%-70%不等,对于训练型服务器其80%以上的成本来源于CPU和GPU。
• 据ARK Invest预测,Chat GPT-4参数量最高达15000亿个,由于参数量与算力需求间存在正比关系,所以可推算GPT-4算力需求最高达到31271 PFlop/s-day。随着
国内外厂商加速布局千亿级参数量的大模型,训练需求有望进一步增长,叠加大模型落地应用带动推理需求高速增长,共同驱动算力革命并助推AI服务器市场及出货
量高速增长。
• 美国对中国禁售英伟达高性能芯片A100和H100,英伟达特供中国的削弱互联带宽的版本A800或为当前可替代方案;
• 以海光信息、壁仞科技等为代表的国产GPU部分单卡指标接近英伟达,在推理场景中具有一定竞争力;
• 国产AI服务器厂商全球份额超35%,浪潮信息位列榜首;国产AI服务器厂商各具优势,有望受到下游需求拉动;
成为经济管理文库VIP会员,畅享海量报告免费下载特权!
您可以通过 并 充值 后下载,或 直接付款 获取。
(会员登录后可直接下载或扣除积分)
版权及侵权申诉说明
利用人工智能大模型撰写;专家量身修改保证论文快速、高效、高质量完成
请至少选择一项服务。
根据材料,人工智能写作,专家把关精修,最快一周完成
提供商业计划书、投资计划书咨询、撰写和指导
服务企业、政府和投资者,提供各个产业可行性研究报告撰写和咨询服务
为企业提供物流园区规划咨询,包括市场调研、可行性、总体战略和运营规划等等
每年为数千个企事业和个人提供专业化服务;量身定制你需要的信息管理的资料和报告
相信我们!企业客户遍及全球,提供政府部门、生产制造企业、物流企业、快消品行业专业化咨询服务;个人客户可以提供各类经济管理资料、商业计划、PPT、MBA/EMBA论文指导等。
可以QQ联系我们:896161733;也可以电话:18121118831
2024经济管理文库©