搭建端到端数字基础架构,英特尔拥抱智能边缘新时代

本报记者 陈炳欣

文章来源:中国电子报

概括

  • 智数融合,边缘计算走向 “舞台中心”, 智能边缘对行业企业提出了更多新的挑战, “水利万物而不争” 或是英特尔在整个生态中定位的最好形容。英特尔打通了边缘智能产业链的各个环节,包括 ODM、OEM、SI、ISV 等,为产业提供了一个端到端的,面向数字基础架构的整体解决方案。

author-image

作者

在物联网、5G、AI、大数据等技术融合发展的背景下,智能边缘计算迅速从概念走向落地。特别是新冠肺炎疫情爆发以来,越来越多的网络应用,如视频监控、智能零售、智能制造、智慧城市等场景迅速发展起来,越来越多的数据开始在边缘侧进行存储和处理。根据 Gartner 预测到 2025 年,75% 的数据将产生于数据中心之外的边缘,数字化转型正在从云端走向网络与终端。不过智能边缘也对行业企业提出了更多新的挑战,技术趋势如何发展?端到端数字基础架构如何搭建?相关应用如何落地,并赋能医疗、农牧业、智慧交通、零售等行业?

智数融合,边缘计算走向 “舞台中心”

物联网并非一个新的概念,如果从 2009 年 “感知中国” 概念被提出算起,这是中国物联网概念被提出的标志性时间,至今已有 13 年。边缘计算概念从 2013 年正式被提出,至今也有近 10 年时间。然而,随着数字经济的进一步深化发展,人们对于网络和算力都提出了更高的要求,物联网与边缘计算相互融合发展的趋势越来越明显,智能边缘概念成为新的行业热点。

在英特尔视频事业部全球首席技术官张宇看来,人们之所以智能边缘计算给予越来越高度的重视,一个大背景是整个社会正在经历一场深刻的数字化转型。在此过程中,各行各业的运转都必须依赖一整套端到端的数字基础架构作为支撑才能正常展开。而边缘侧正是整个系统的有机组成,且作用越来越凸显。

“之所以要强调 ‘端到端’,是因为这个系统所需提供的服务都是端到端的服务,从前端的数据采集,到数据传输,再到一些关键节点的数据处理、存储与反馈,整个服务都是一个端到端完整过程,也只有这样的完整流程才能有效完成。” 张宇指出。而在这样一个数据传输处理过程中,有些数据可以在中心节点完成,有些则必须在边缘节点进行。这是由数据应用的需求不同而决定。那些对实时性要求不高的应用,可以把数据从应用前端传输到远程云端,在那里有更大存储空间和相对富余的算力,可以以更低的成本进行运算和存储。但是对于自动驾驶、工业互联网等对实时性要求很高的应用来说,再将数据传输到远程进行处理就不合适了。这种情况的运算往往需要通过算力网络这样的边缘计算架构来承载。这正是智能边缘计算越来越受重视的主要原因。

“没有物联网的智能化、算力网络的泛在化,是无法支撑应用前端实时、高效的运算需求的。” 张宇强调指出。

对于智能边缘计算,未来则呈现出三个发展趋势。首先,数字基础架构的架建将是一个 “端边云” 协同一体化的系统。“端边云” 三者缺一不可,同时根据应用场的不同,扮演的角色各不相同、各有侧重,有些数据的处理边缘侧发挥更加重要的作用,有时云端扮演的角色更重要。

其次,在数字化转型中软件的作用不可忽视。也就是人们常说的 “软件定义”。随着远程办公的发展,人们对网络灵活动的要求不断提高。这就要求拥有一个可以进行灵活配署的网络,不仅是核心网,数据中心的配置也要越来越灵活。数据中心要以一种可编程的方式进行网络基础架构的搭建,可编程的以太网芯片、编程语言成为数据中心建设的重要支撑。

第三,人工智能在边缘计算中的渗透越来越广泛。本轮人工智能的应用热潮虽然起始于数据中心,初始阶段大量数据的处理在云端完成。但随着技术的发展,越来越多的数据处理向边缘侧转移。边缘计算与人工智能相互渗透融合,人工智能的泛在化趋势已不可避免。

总之,在物联网、5G、AI、大数据等技术融合发展的背景下,智能边缘计算正迅速从概念走向落地。根据 IDC 的数据,到 2025 年大约 75% 的数据将在边缘产生、在边缘处理。大量数据的产生对于边缘算力的要求也在不断提升。智能边缘将成为数字时代端到端数字基础架构的重要计算领域。

软硬结合,支撑算力网络泛在化发展

在智能边缘计算快速发展的过程中,芯片发挥着关键作用。“实际上,智能物联网的创新应用都要通过底层芯片和配套软件才能实现。就芯片角度来看,随着算力需求的增长,对芯片的要求也会越高。” 张宇指出。

英特尔长期深耕物联网行业,提供了多样化产品线以满足用户需求。在今年国际消费类电子产品展览会(CES 2022)上,英特尔就发布了第 12 代酷睿处理器(代号 Alder Lake S 系列和 H 系列)。这是英特尔首个针对边缘领域进行优化的处理器系列,采用的高性能混合架构将性能核与能效核以及硬件线程调度器(Thread Director)有机整合在一起,对加速物联网应用创新进行优化,适用于零售、制造、医疗和视频客等领域用户进行图形、多媒体、显示和人工智能等的运算。

张宇同时强调,英特尔在致力于提高芯片产品性能的同时,对实现可持续发展的绿色计算理念也非常重视。“我们不能一味强调算力提升,还要认识到提升功效比的重要性。英特尔始终关注以一种可持续的方式,促进社会的有序发展。” 

据介绍,从 2010 年至 2020 年,英特尔酷睿产品线的能效比提升了 14 倍。2020 年到 2030 年,英特尔的目标是在原有基础上将旗下产品线的平均能效比再提升 10 倍。为此,英特尔在第 12 代酷睿处理器中引入了 “大小核” 概念,包括性能核和功效核,利用不同的内核匹配运算需求,实现最佳负载,以降低整体功耗。

异构计算也是应对差异化需求,提升处理器能耗比的重要技术方向。很多负载是有典型性的,不管是视频会议场景、智能零售场景,还是云游戏场景,其背后的技术都涉及视频的编码、解码和转码。对于这些相对固定的负载,如果采用专有硬件进行处理,效率更高、功耗更低。因此,在酷睿产品线中,英特尔很早就整合了集成显卡,形成硬件单元,专门进行视频的编解码和转码工作。当然,对于性能要求更高的用户,英特尔也可以提供独立显卡的解决方案。整体思路就是通过异构架构的方式提高能效比。

如何调用这些硬件产品则离不开软件的支撑。张宇强调,一款好的软件工具能使开发者更加充分地发挥硬件性能。英特尔一直在与合作伙伴做着这方面的工作,包括推出 oneAPI 通过底层 DPC++ 开放接口,实现对异构硬件资源的访问。对开发者而言,利用 oneAPI 就可以对不同硬件实现统一编程。

英特尔还推出 OpenVINO 工具套件,加速边缘侧的 AI 推理。OpenVINO 能够使开发者在不同人工智能框里做训练。在一些 AI 模型场景中,OpenVINO 能够提供高达 7 倍的推理加速,有效提升工作效能,增加平台竞争力。

工业 + 零售,边缘智能加速落地

随着智能边缘计算的发展,其在一些领域的应用成功落地。

工业制造是智能边缘计算渗透发展的重点领域之一。MarketsandMarkets 发布的最新研究报告显示, 2021 年全球智能制造市场规模为 887 亿美元,预计到 2027 年将达到 2282 亿美元,复合年增长率达 18.5%。对此,张宇表示:“机器视觉作为制造业智能转型的重要技术,正随着人工智能的高速发展而演进,其市场规模迅速增长。事实上,本轮人工智能的爆发正是基于以图片图像识别为基础的深度学习。目前在物联网领域采集到的数据,80% 左右都与图形片图像相关。”

基于此,英特尔日前携手信步科技,推出一系列机器视觉开发套件。开发套件以工业边缘洞见平台(EII)和视觉软件优化包为框架,集成了 OpenVINO、DPC++/C++ 编译器、oneAPI 数学核心函数库(oneMKL)、Vtune™ Profiler、IPP、OpenMP 和 TBB 等软件工具和程序库,预置典型工业应用场景的参考案例和算法优化参考方法,为用户开发机器视觉应用提供端到端的一站式软件框架。目前,开发套件已在汽车制造、3C/ 半导体、食品包装、物流仓储等行业实现落地应用,有效地助力制造业朝着智能化和信息化的方向演进。

零售市场的竞争日趋激烈,人工智能展现出来的重要价值正在得到全球零售商的普遍关注。通过人工智能技术的应用,零售商能够更加有效地了解消费者的偏好,为消费者提供个性化、独特的服务,增强零售服务吸引力。同时,人工智能也帮助零售商将更多流程转为自动化流程,实现更多收益。数据显示,到 2035 年,人工智能将使零售和批发业务的利润率提高近 60%。

面对这一新兴的应用市场,英特尔携同汉朔科技及微软,共同推出针对零售行业的智能边缘解决方案,主要应用在智慧货架管理和自助收银防损两个方面。“人、货、场” 是传统零售的主要环节,该方案融合了英特尔从软件到硬件的全栈技术,能够帮助零售客户构建高性能且易于实施管理的智慧零售管理系统。

除此之外,边缘智能在智慧医疗、智慧交通,加速企业数字化转型等方面都有着广泛的应用潜力。“人工智能在边缘网络的发展空间巨大,市场需求也很明确。以前人们总认为人工智能是一种很高大上的东西,门槛很高,部署起来也十分困难。然而,现实的情况是有越来越多公司已经开始部署、运行人工智能技术,并且取得成功。这种情况恰恰说明人工智能的使用门槛正在降低,同时也是人工智能无处不在的一个典型例证。” 张宇指出。在此过程中,英特尔的技术,包括 OpenVINO 工具套件以及一系列硬件产品也发挥了关键的作用。

做好本地化适配,突破 “最后一公里”

在智能边缘计算加速落地的过程中,如何使其与本地需求更好地进行适配,突破 “最后一公里” 瓶颈,又是非常关键的一个环节。采访中,张宇特别指出:“技术在数据中心落地和在边缘侧落地,其落地的方式是不一样的。” 毕竟平台不一样、算力不一样、条件不一样,落地方式也不会一样。也就是说,人工智能在边缘侧进行落地的时候,就必须解决好一些在边缘侧才会出现的特定问题。

举例而言,人工智能一般分为两大阶段:训练阶段和推理阶段。训练阶段需要利用大量数据进行训练,同时在训练之前要对数据做标注,把数据当中需要关注的物体标注出来,再把标注之后的图片传输到训练平台之上做训练,最后才能生成一个可以进行推理的人工智能网络模型。

但是在边缘侧这种模式却有可能遇到挑战。因为在现实当中,边缘侧往往没有那么多数据可以用做训练。比如瑕疵检测是人工智能在智能工厂中最常见的应用之一。但是在工厂中,正常的生产线上出现瑕疵的概率并没有那么大。这也就意味着可以用来做训练的样本数据比较有限。如何在小样本的情况下训练出一个可用模型,就是在智能边缘计算需要解决的问题。

再比如训练的时候需要做标注,可在边缘应用的时候,真正操作人工智能的人员往往就是产线上的生产人员。这些人很难再有额外的精力去做这个标注工作。因此,如何开发一些自动化的标注工具,减少操作人员的负担,使训练、标注以及到推理的这个闭环可以真正运转起来,也是英特尔在边缘做人工智能时需要解决的问题。

“实际上,在边缘有很多问题都要以某种特定化的方式进行解决。” 张宇强调指出。

打造产业生态,解决碎片化挑战

当然,在智能边缘领域,英特尔所有这些工作的完成都离不开合作伙伴们的支持。“英特尔长期深耕物联网行业,提供丰富的产品类型,我们是希望通过这些不同组合的产品,能让合作伙伴在物联网领域有更大发挥空间。” 张宇指出。

在谈到英特尔在智能边缘领域竞争优势的时候,张宇就将其归功于拥有广泛的合作伙伴基础。“这使我们能够更加深刻地理解用户的诉求,再根据这样的诉求,制订软硬件解决方案。无论这些用户位于网络前端、边缘侧,还是数据中心,英特尔都能提供端到端的,符合数字基础设施发展趋势的解决方案。”

物联网尽管有着无限的可能,但是碎片化问题始终是横亘在供应商面前的一大挑战。对此,张宇表示,一方面我们要做好自己的产品,让产品尽可能具有普适性;但在项目落地方面,却始终离不开整个产业链的密切配合。

不同的市场有不同的需求,中国物联网市场的特点是发展速度快,创新的客户很多,这些客户的规模也许不是很大,但是创新能力很强。近年来,英特尔与系统集成商在内的国内合作伙伴一起进行了大量工作,把产业链不同环节的产品技术加以整合,解决碎片化的问题。

2016 年,英特尔与合作伙伴一起,共同建立边缘计算产业联盟。这是国内目前最大的专注于边缘计算的联盟组织,拥有 300 多个成员单位,涵盖芯片厂商、系统集成商、软件开发商、ODM、OEM 等厂商。借助这样的联盟平台,共同探讨针对物联网和边缘计算的解决方案以及行业解决方案,群策群力解决碎片化问题。

“水利万物而不争” 或是英特尔在整个生态中定位的最好形容。多年以来,正是通过润物细声的默默工作,英特尔打通了边缘智能产业链的各个环节,包括原始设计制造商(ODM)、原始设备制造商(OEM)、系统集成商(SI)、独立软件开发商(ISV)等,为产业提供了一个端到端的,面向数字基础架构的整体解决方案。

英特尔 CEO 帕特・基辛格(Pat Gelsinger)曾在今年举办的 “2022 英特尔 On 产业创新峰会” 上提出四大超级技术力量的概念,包括无所不在的计算、无处不在的连接、人工智能和从云到边缘的基础设施。张宇强调,实际上这四大超级技术力量就是在未来构建一个绿色、智能、端到端数字基础设施所需的四大支柱。如果把这四大超级技术力量综合使用,构建起来的就是一个端到端的数字基础设施。未来,在这个数字基础设施之上会承载更多新的创造、新的应用。这些基础设施拥有两个特点:一个是智能,二是绿色。