揭秘IPU的设计理念:站在客户的角度设计处理器

“IPU设计者的幕后故事”:英特尔研究员Brad Burres介绍如何通过基础设施处理器(IPU)使中央处理器(CPU)摆脱低价值的繁琐任务,使其专注于处理更重要的工作负载。

消息

author-image

签署人:

如果问Brad Burres在业余时间有什么爱好,您可能想不到他的回答如此简单:除了骑摩托车、徒步旅行和带领童子军野外远足,他还喜欢DIY。他说:“当我们使用射钉枪时,只要全神贯注,那便不会遇到什么棘手问题了。”

有趣的是,作为以太网产品事业部的英特尔研究员,Brad Burres是打造IPU的幕后关键人物之一。IPU是一款针对特定领域的处理器,旨在为服务器客户解决棘手问题。当CPU内核数量随着计算需求的增加而增加,开销或基础设施处理任务量也会随之增加。人们最不想看到的事情就是让强大的CPU内核陷入处理开销的泥潭,以致无法有效运行应用程序。

可以这样作类比:假如您希望增加团队人数,从而更快地完成工作,但这需要成本——需要考虑分配任务所需的时间、确保各项工作妥善完成、管理团队的轮班时间表等。在数据中心内,网络、存储和安全等基础设施功能都需要处理能力,但不一定必须由CPU处理,而这就是IPU的用武之地。

Brad Burres表示:“多达30%至40%的处理器周期花费在基础设施上。”那么,将其中一些基础设施任务转移到IPU,则可以为更重要的工作负载释放CPU周期

Brad Burres介绍道:“大型基础设施供应商都有一个共同的目标,那就是‘不在至强®处理器上运行任何基础设施周期’。如果您是微软Azure、AWS或谷歌云等公有云提供商,您不会希望在基础设施任务或网络上花费丝毫至强计算周期。”

群策群力解决问题

英特尔与谷歌联手开发了其首款ASIC IPU。谷歌这家网络巨头有一份具体的需求清单,需要全方位深度合作并进行共同开发的伙伴关系。基于此,英特尔与谷歌的团队共同开发了可编程数据包处理功能,以支持由谷歌定义的一系列使用场景。双方合作的最终成果就是Mount Evans,这款ASIC芯片负责进行硬件卸载,也利用ARM N1内核来处理那些必须被处理,而又无需英特尔®至强®处理器的强大功能的工作负载。不过,这并非该款芯片的全部优点。为确保Mount Evans能够尽可能高效地处理基础设施任务,双方做了大量工作。例如,Mount Evans支持每秒传输多达2亿个数据包(这些信息包基于实际工作负载,而非基准工作负载)。

该款芯片虽然由英特尔与谷歌共同设计,但它绝非仅被用来解决谷歌所面临的问题。Brad Burres说:“Mount Evans并非仅针对谷歌而打造。虽然其优化功能针对谷歌在其自身运营中发现的问题而量身定制,但该款芯片足够灵活,也可以用于其它许多地方。”

其他一些客户也希望利用首代ASIC IPU来满足其数据中心运营的类似需求。

Brad Burres表示:“我们从多个客户那里了解到存在类似问题,然后花时间和从事技术工作的朋友讨论如何解决这些问题,并寻找共性,由此催生出打造IPU的绝佳想法。”他补充说,面临类似基础设施挑战的其他公司已经提出了自己的解决方案。

进化理论:智能网卡、IPU以及未来

虽然IPU进入大众视野才短短一年,但Brad Burres已经为此冥思苦想了很多年。英特尔首款IPU的开发工作始于2016年,当时是为了推出另一款与众不同的产品,而这款产品最终演变成为一年前面市的产品。但其实,这款芯片的历史可以追溯到更早。

Brad Burres在之前担任智能网卡首席架构师期间,专注于网络卸载、存储卸载和整体数据包处理等领域,专门针对顶级云服务提供商。因此,对于一款最终将被设计用于这些领域的特定处理器来说,这些都是熟悉的领域。从智能网卡到IPU的转变是一个合乎逻辑的演变,而非仅仅是一个术语的变化。事实上,两者之间的差异更广泛地诠释了IPU的未来。

Brad Burres解释说:“智能网卡是一个临时术语。普通网卡不具备智能化功能,若非借助FPGA或计算,它只是一个固定管道。而智能网卡不仅拥有智能化功能,还具备内核和灵活性,但它只局限在网络范围内。随着存储和遥测等附加功能的增加,我们有更多机会进行优化,‘智能网卡’一词也不再能准确地描述这些芯片的功能。”

在需求波动的情况下,对于整体业务围绕租赁服务器容量的公司来说,释放通用算力十分重要。在此过程中,为满足某些功能的需求增加而过度配置是一种浪费,而引入更强大的至强处理器则不是非常经济。基于此,客户争相购买Mount Evans IPU库存,以应对上述挑战。

Brad Burres说:“IPU的市场需求非常旺盛。这不仅仅是芯片出货的问题,英特尔必须确保其软件也能够满足客户需求,例如扩展到边缘。它不像至强处理器这样,当我们把至强处理器卖给客户后,客户就会去编写软件。而在IPU的出货中,我们发挥了很重要的作用,并希望确保渐进式的进步。”

5月发布的IPU更新路线图列出了未来四年英特尔IPU,包括第二代Mount Morgan的一些细节。虽然现在还处于早期阶段,但致力于开发Mount Morgan和后续第三代IPU的团队正在与至强产品团队合作,以协调并确保他们沿着各自的路径并行前进,并在必要时汇合。

“前途不可限量。”当被问到IPU的未来发展时,Brad Burres说:“一个新领域的创新率相当高,这也正是它的魅力所在。IPU足够灵活,可以支持更多使用场景。Mount Evans的使用场景就涵盖了网络和基础设施领域,下一步则是存储领域。随后,您会开始看到一些I/O任务向下转移到IPU。创新空间无处不在——而我们正处于冰山一角。”

这种想法可能会让很多人大吃一惊,但工程师更喜欢“初期而有趣”的阶段。因为在这个阶段,“开销任务”(例如排满会议的日程表)被压缩到最低。开发IPU虽然不像周日下午使用射钉枪那么简单,但它比很多人想象的要更容易一些。

关于英特尔

英特尔(NASDAQ: INTC)作为行业引领者,创造改变世界的技术,推动全球进步并让生活丰富多彩。在摩尔定律的启迪下,我们不断致力于推进半导体设计与制造,帮助我们的客户应对最重大的挑战。通过将智能融入云、网络、边缘和各种计算设备,我们释放数据潜能,助力商业和社会变得更美好。如需了解英特尔创新的更多信息,请访问英特尔中国新闻中心 newsroom.intel.cn 以及官方网站 intel.cn

© 英特尔公司。英特尔、英特尔标志和其他英特尔标志是英特尔公司或其子公司的商标。文中涉及的其它名称及商标属于各自所有者资产。