实时持续优化,有效提升工作负载性能

Granulate 面向英特尔的工作负载优化器能够根据特定应用需求有针对性地做出基础设施相关决策,有效提升工作负载性能。

  • 为优化工作负载在英特尔® 处理器上的运行,Granulate 推出了面向英特尔的工作负载优化器,通过算法学习实现实时持续的优化。本文介绍了该优化器以及英特尔旗下移动出行公司 Mobileye 采用该优化器的具体优化案例:Mobileye 此前在 AWS 实例上运行 PySpark 为自动驾驶提供地图,但成本十分高昂。轻松部署 Granulate 的优化器后,PySpark 性能大幅提升且 Mobileye 的成本显著降低。

author-image

作者

Granulate 面向英特尔的工作负载优化器所实现的实时持续优化是一种优化生产型工作负载的新方法。它利用资源使用模式和数据流自动调整内核层面及运行时层面的资源管理,更好地满足应用的需求。

实时持续优化的实现,让企业和机构在处理计算工作负载时能够将服务器数量减少 60%,将性能提升 40%,而且无需更改任何代码,也不需要投入研发资源1

优化工作负载可能成本很高、耗时很长,还可能会干扰正常生产。大多数优化都要求用户通过重写代码实现性能提升,但这样投入企业核心产品开发的时间就会变少。Granulate 面向英特尔的工作负载优化器代理在安装后会立即开始学习应用和操作系统的资源使用模式和数据流。这些代理使用在美国注册过专利的算法模型来识别工作负载中的数据瓶颈和资源争用情况,随后调整资源管理决策,在整个应用中为数据流加速。这一过程涉及在操作系统和运行时层面调整资源分配,从而实现持续、自主的内存分配、进程交换、线程调度、存储访问以及网络通信。随着 Granulate 面向英特尔的工作负载优化器持续识别使用模式并优化每一项工作负载,用户能够不断获得性能提升。

Granulate 面向英特尔的工作负载优化器能够不断优化英特尔® 处理器性能, 确保其较竞品有更出色的表现

该工作负载优化器专为英特尔® 处理器打造,能为英特尔客户提供差异化价值。
 
优化器工作原理:

用例:Granulate 面向英特尔的工作负载优化器可广泛优化计算

Mobileye 和 AWS

Mobileye 会在 AWS 上运行核心工作负载,以获得更快的速度、更出色的敏捷性和算力。通过使用 AWS,Mobileye 能够利用其计算、存储、数据库、数据分析、机器学习和边缘计算等服务快速进行创新。这些服务可帮助 Mobileye 为汽车制造商提供先进的自动驾驶应用。Mobileye 通过在 AWS 上运行大数据工作负载在基于英特尔® 产品和技术的 Amazon Simple Storage Service (S3) 和 Amazon Elastic Compute Cloud (EC2) 实例上构建数据湖。Mobileye 可以提取、处理和分析从传感器、图像及视频流收集的大量车辆数据。从数据中获取的洞察让 Mobileye 能够在大幅缩短的时间周期内调优技术,并且进行自动驾驶车辆的功能迭代。


挑战

基础设施:AWS
工作负载类型:大数据、PySpark
应用语言:Python

Mobileye 还会通过在 AWS 上运行大数据工作负载,使用 PySpark 支持其由经过定位的可行车路线和视觉地标组成的 RoadBook,为自动驾驶提供精确到厘米的地图。Amazon EC2 R4.8/16/24XL 和 R5.8/16/24XL 的 Spot 实例,特别是由英特尔提供支持的实例,让 Mobileye 能够基于高度可扩展且可容错的基础设施快速进行创新。但是,这些服务也为 Mobileye 带来了高昂的成本。


解决方案

Granulate 代理作为边车容器部署在 Mobileye 的 EC2 工作负载上,几分钟内就可以开始学习工作负载、数据流和资源使用模式。经过几天的学习后,这些代理便可激活,开始优化应用性能。


结果

Mobileye 在整个 Granulate 代理激活期间对性能和结果进行了监测。据 Mobileye 的记录,平均任务完成时间缩短了 44.5%1;而任务完成时间的缩短使得运行相同工作负载所需的实例小时数相应减少,直接带来 45% 的成本降幅1


为什么选择 Granulate 面向英特尔的工作负载优化器?

在寻找优化解决方案时,Mobileye 发现 Granulate 面向英特尔的工作负载优化器有潜力实现更高的 PySpark 工作负载性能并显著降低成本。Granulate 优化器解决方案具有独特的优势,能够在不迁移到第三方数据湖或数据分析平台的前提下改善大数据工作负载的性能。这一点对于 Mobileye 来说尤其有吸引力。

此外,该解决方案在 Mobileye 团队面前脱颖而出的独特优势还包括:
 

  • Granulate 面向英特尔的工作负载优化器与 AWS 服务是原生集成的:Mobileye 不必改变其开发运维团队的运作方式,即可享受该解决方案为其 PySpark 工作负载带来的成本降低和性能提升等益处。
  • 该工作负载优化器不需要在实施方面投入过多精力:使用 Docker 容器,Granulate 代理在几分钟内就可完成部署,且无需更改代码。
  • 该工作负载优化器能够带来更高性能、更低成本:通过实施 Granulate 面向英特尔的工作负载优化器,Mobileye 不仅可以显著降低成本,还能提升敏捷性和 SLA 表现。

 

    关于 Mobileye
  


行业:移动出行
总部:以色列
员工数量:1,300+
规模:超过六万个内核用于 REM(Road Experience Management,路网资产管理)事务

Mobileye 是开发计算机视觉、机器学习、数据分析、定位和地图技术,用于高级驾驶辅助系统 (ADAS) 和自动驾驶解决方案的全球领导者。Mobileye 的技术旨在增强乘客出行安全,降低发生交通事故的风险,并通过支持自动驾驶变革驾驶体验。

Mobileye 的专有软件算法以及 EyeQ 芯片能够进行详细的视野分析和阐释,预测与其他车辆、行人、骑行者、动物、废弃物及其他障碍物可能发生的碰撞。Mobileye 的产品能够检测道路标识(如车道、道路边界、障碍物以及其他类似物体),识别和读取交通标志、方向标志以及交通灯,通过其 REM 系统创建包含经过定位的可行车路线和视觉地标的 RoadBook,并为自动驾驶提供地图。

 

Granulate 面向英特尔的工作负载优化器决策树

选择待优化的工作负载

Granulate 部署

在不到两周内完成整个概念验证 (POC)

客户报价

  • 本报价有效期截止至 2021 年 12 月 31 日
  • 英特尔技术销售专家会提供一日诊断,为客户预估所选工作负载有望实现的成本节省和性能提升情况
  • 由英特尔和 Granulate 全额出资进行 POC,需要 7 到 21 天将在第一次会议后不到 30 天内实施部署可在完成 POC 后即刻部署——现有案例显示,部署后可将 AWS 费用降低 45%1

请联系您的英特尔客户团队以及英特尔云与企业解决方案及技术销售事业部总经理 Kevin Johnson (kevin.d.johnson@intel.com) 安排一次会议。


我们的安全承诺:

安全:我们会持续进行严格的安全测试和第三方评估。部署模型在没有互联网连接的情况下可用。
隐私:我们提供出色的数据保护和设置,有效保护您的基础设施数据。
合规:Granulate 的政策和产品均符合 GDPR 隐私规定。