至强可扩展平台助力搜狐提升 AI 推荐系统与 HTTPs 性能

概述

  • 搜狐与英特尔在 AI 推荐性能优化与 HTTPs 性能优化方面的合作证实,通过采用融合了众多创新特性的新一代的英特尔® 至强® 可扩展处理器,并结合 OpenVINO™ 工具套件等软件工具,能够显著提升面向 AI、加解密等负载的应用系统性能,并保证足够的敏捷性与扩展性。

author-image

作者

互联网促进了物理世界与虚拟世界的交融,互联网厂商正借助 AI、大数据等前沿技术,为用户带来更加丰富、个性化和响应及时的互联网服务。但与此同时,随着互联网业务数据的爆炸式增长,后端数据中心基础设施则面临着算力、扩展性、敏捷性、经济性等多方面的挑战。

弥补算力缺口、提升数据中心投资回报率

技术创新的不断落地,互联网数据的快速增长,使得数据中心算力缺口不断增大;对于互联网企业来说,弥补算力缺口,同时提升数据中心基础设施建设的投资回报,可着重从以下几个角度考虑:

  • 利用新一代硬件来提升数据中心的资源密度;
  • 通过软件优化挖掘基础设施潜能;
  • 利用异构化硬件支持多样化负载;
  • 通过全面的数据中心组合实现性能与负载优化。

作为中国领先的互联网媒体、娱乐、在线游戏集团,搜狐拥有诸多知名产品的超级互联网平台。秉承 “让网络成为中国人民生活中不可缺少的一部分” 的理想,搜狐显著强化 AI、5G 等技术创新,与英特尔等合作伙伴,在云数据中心方面进行广泛创新,为前端业务提供了澎湃的基础资源。

英特尔助力搜狐进行 AI 推荐与 HTTPs 性能优化

AI 推荐系统优化

优化目标:充分利用现有基础设施,控制 AI 推荐系统的 TCO。

方案及产品:基于 CPU 的 AI 推荐方案;第三代英特尔® 至强® 可扩展处理器、英特尔® DL Boost 及 OpenVINOTM 工具套件。

效果显著

  • 使用 TensorFlow,运行于英特尔® 至强® 金牌 6330 处理器的 Deepfm 模型时延相较英特尔® 至强® E5-2650v4 处理器降低接近 50%;
  • 使用 OpenVINOTM 工具套件,运行于英特尔® 至强® 金牌 6330 处理器的 ResNet50 模型带宽相较英特尔® 至强® E5 - 2650v4 提升高达 3.4 倍;
  • 基于英特尔® 至强® E5 - 2650v4 平台,使用 TensorFlow,经过 OpenVINOTM 工具套件优化后,gRPC 模型性能提升了 2 倍;
  • 将平台的处理器升级为英特尔® 至强® 金牌 6330 处理器之后,gRPC 模型性能高达 3.4 倍。

HTTPs 性能优化

优化目标:解决 HTTPs 在提升安全性的同时带来的巨大性能与 TCO 压力,提升 Nginx 服务中的加解密性能。

方案及产品:第三代英特尔® 至强® 可扩展处理器、英特尔® Crypto – NI 及英特尔® Crypto - 多缓冲区软件库。

效果显著:

  • 英特尔® Crypto NI 开启后,Encryption Sign 的性能提升高达 5 倍;
  • 英特尔® Crypto NI 开启后,Nginx QPS 可提升达 2.6 倍。

软硬件全栈创新释放数据潜能

企业的云与数据中心战略面临着业务弹性、成本优化、工作负载策略等方面带来的综合挑战。英特尔推出了面向未来数据中心的异构参考架构,包含用于分布式智能的跨产品组合硬件和软件架构,可以全面提升未来数据中心的规模和效率,实现从云端到边缘端、跨越整个数据管道的解决方案。未来,英特尔与搜狐将进一步强化面向未来数据中心的异构参考架构设计与优化,进一步加速技术创新与业务价值挖掘。