第四代英特尔® 至强® 可扩展处理器助力美团加速视觉 AI 推理服务,优化成本

为了加速视觉 AI 推理,美团利用第四代英特尔® 至强® 可扩展处理器及其内置的英特尔® 高级矩阵扩展(英特尔® AMX)等高级硬件能力,将主流视觉模型的推理性能提升了 3.38-4.13 倍左右;结合动态扩缩容等头部服务优化策略,美团将线上资源效率整体提升 3 倍以上,节省 70% 的服务成本。