基于英特尔® 至强® 可扩展处理器的 H3C UniServer R6900 G6 服务器 加速大语言模型微调及推理
H3C 基于第四代至强® 可扩展处理器打造的 H3C UniServer R6900 G6 服务器单一节点解决方案,其内置英特尔® AMX 技术,可为 AI 训练和推理带来显著性能提升。软件方面,英特尔® IPEX 可以提供软件优化,支持 PyTorch 框架下大部分主流模型,实现模型运行效率显著提升。该方案无需增购专用加速器产品,而是基于 CPU 打造,帮助用户降低了部署大语言模型算力平台的 TCO。