基于第四代英特尔® 至强® 可扩展处理器的海鑫智圣云边端一体化方案加速 AI 推理
为解决面向智慧金融场景的人工智能应用在性能、时延、成本等方面面临的巨大挑战，海鑫智圣推出了基于第四代英特尔® 至强 ® 可扩展处理器的云边端一体化方案，优化端到端推理性能。经测试，其物特征识别模型的推理性能获得了 1.58 倍的代际性能提升。采用英特尔® AMX 将模型从 FP32 转化为 BF16 后，实现了 4.55 倍的性能提升。
为解决面向智慧金融场景的人工智能应用在性能、时延、成本等方面面临的巨大挑战，海鑫智圣推出了基于第四代英特尔® 至强 ® 可扩展处理器的云边端一体化方案，优化端到端推理性能。经测试，其物特征识别模型的推理性能获得了 1.58 倍的代际性能提升。采用英特尔® AMX 将模型从 FP32 转化为 BF16 后，实现了 4.55 倍的性能提升。
