以更低功耗实现出色成果

以更低功耗实现出色成果

英特尔助力提高 AI 工作负载能效的四种方式

概述

  • 英特尔助力提高数据中心能效,推动可持续发展。使用内置英特尔® AMX 的第五代至强® 可扩展处理器可减少服务器数量,节省高达 1,643.6 兆瓦时的能源,减少将近 697 吨碳排放。英特尔® oneAPI 深度学习库可将 TensorFlow 图像分类推理性能提升高达 16 倍,对象检测性能提升高达 10 倍。Hypertec 的浸没式液冷解决方案可将散热运营支出降低多达 95%,功耗降低将近 50%。

author-image

作者

随着 AI 应用愈发普及,数据中心面临着日益严峻的功耗和空间问题,以及可持续发展方面的挑战。为应对这些挑战,您需要全面的方法来优化数据中心。

在满足不断增长的 AI 需求的过程中,您可以采取以下措施来确保数据中心的能效。

检查您的硬件架构

  • 13 vs. 50 台服务器
    在运行自然语言处理 (NLP) 模型工作负载时,仅需 13 台基于配备英特尔® AMX 加速器的第五代英特尔® 至强® 可扩展处理器的服务器即可完成 50 台基于第三代英特尔® 至强® 可扩展处理器的服务器的服务器的工作。
    这意味着在四年内能够节省高达 1,643.6 兆瓦时的能源,并减少将近 697 吨二氧化碳排放 1
  • 提升高达 42%​​​​​
    与上一代产品相比,第五代英特尔® 至强® 处理器可将 PyTorch 实时推理的每瓦性能提升高达 1.42 倍,让您能够以更低功耗实现更出色的性能 2

借助软件优化,提升 AI 性能

利用经过市场检验的软件构建模块和预训练模型,提高训练和推理效率,快速优化常见 AI 场景中的工作负载,以更低功耗获取更多洞察。

  • oneAPI
    英特尔® oneAPI 深度学习库可将 TensorFlow 的图像分类推理性能提升高达 16 倍,对象检测性能提升高达 10 倍;将 PyTorch 的图像分类性能提升高达 53 倍,推荐系统性能提升将近 5 倍 3
  • OpenVINO
    助您避免专有技术绑定。英特尔® oneAPI 计划鼓励合作,重视生态系统间的互操作性,其中也包含面向 NVIDIA 和 AMD 硬件的插件,帮助您充分利用现有技术,从而减少电子垃圾足迹。

提高散热效率,实现节能减排

随着计算密集型 AI 工作负载与日俱增,优化整个数据中心的散热对于能效和资源消耗有着巨大影响。您可采用冷板和/或浸没式液冷解决方案来节省机架空间和能源。

英特尔提供专门面向液冷系统优化的处理器 SKU 以及浸没式液冷解决方案保修附加条款,同时还为冷板系统提供性能验证,确保其在大规模实施中的可靠性。

英特尔的合作伙伴 Hypertec 的浸没式液冷解决方案能够将数据中心在散热方面的运营支出降低多达 95% 4,功耗降低将近 50% 5

利用 AI 提高数据中心能效,无论是在本地还是在云端

利用 AI 洞察和自动化工具,对数据中心计算实施具备碳感知能力的动态方法,从而降低数据中心碳足迹。

英特尔® Granulate™ 提供的实时持续性能优化可以在不更改应用代码的情况下,将性能提升高达 60%,并将成本降低多达 30% 6。此外,Granulate™ 还提供“二氧化碳减排计量表 (CO2 Savings Meter)”,让您可以轻松衡量工作负载优化对数据中心碳足迹的影响,以及成本和资源的节约情况。

全新英特尔® 至强® 可扩展处理器内置的遥测功能可提供关于能效、散热、资源利用率以及系统总体健康状况的实时洞察。

您还可利用 Kubernetes 中英特尔的工具实现数据中心管理的自动化,助您提高碳效率并降低能耗。

英特尔提供面向 AI 优化的异构硬件产品组合以及具备互操作性的 AI 软件工具和优化套件,可在每个阶段助您加速 AI 工作流程,帮助您的数据中心以更高的能效运行。

您可访问“可持续数据中心”页面,了解关于英特尔® 软硬件解决方案如何助您节能并提升数据中心运行工作负载的可持续性的更多信息。intel.com/SustainableDataCenter