智能算力加速

智能算力加速！金蝶云•苍穹 AI 服务云性能获突破性提升

概述

  • 金蝶与英特尔合作，基于第四代英特尔® 至强® 可扩展处理器全面升级金蝶云•苍穹 AI 服务云。在视觉识别服务方面，结合了第四代至强® 可扩展处理器后，较使用前代产品性能提升 34%。在对话机器人平台的测试则显示，使用 OpenVINO™ 优化后的对话机器人平台配合第四代英特尔® 至强® 可扩展处理器，耗时最多可下降 90% 以上。

author-image

作者

随着人工智能技术的快速发展和应用领域的不断扩大，企业管理的发展经历了信息化、数字化，智能化的时代正在到来，以低代码能力为特征的人工智能工程化将成为企业 IT 战略的重要趋势。一直以来，金蝶云·苍穹 AI 服务云坚持深耕企业级低代码 AI 平台关键技术，持续以更智能的方式，助力企业智能化发展。

金蝶云•苍穹 AI 服务云是深度融合业务场景与语音识别、图像识别、自然语言处理与深度学习算法等 AI 技术，为企业用户提供低代码个性化的 AI 服务，实现丰富多样的智能化场景。提供对话机器人、视觉识别、智能搜索等产品，助力企业降本增效，优化企业业务流程，加速企业智能化升级。    

图: AI 服务云业务蓝图

在金蝶云·苍穹 AI 服务云中，视觉识别服务是一项重要的功能。基于 OCR、NLP 等深度学习技术的智能文字识别和文档处理平台，提供了开箱即用的文字识别预置模板、自定义模板、文档差异分析及信息提取等功能，帮助企业以低代码方式实现日常票据、证照、文档处理工作的自动化。

此外，金蝶云·苍穹 AI 服务云还提供强大的对话机器人平台。该平台提供任务型技能和问答型技能，重点解决人工重复查询、高频提单的痛点，提高企业工作效率、降低用人成本，应用于客服、营销和企业信息服务等多个场景，具备对话管理、技能管理、自然语言处理、数据分析及知识图谱等相关技术能力。对话机器人平台通过多渠道与企业的业务系统进行关联，在多产品线、多租户下进行统一管理。

然而，随着 AI 技术发展迅速，新的模型、新的算法、新的架构不断涌现。特别是近两年 AI 技术的普及，AI 应用已成为企业平台不可或缺的能力。随着访问请求的迅猛增长，AI 服务不断吞噬着底层算力资源，成为企业的一项重要支出。如何在提升 AI 服务质量的同时帮助企业降低成本成为AI在企业落地的一个重大因素。为此，金蝶与英特尔紧密合作，基于第四代英特尔® 至强® 可扩展处理器，全面升级 AI 服务云。

基于 CPU 的 AI 方案具备通用、成本较低、可获得性良好等特点，在许多推理的场景获得越来越广泛的使用。为了验证新方案在性能、管理、稳定性等方面的表现，金蝶启动了基于第四代英特尔® 至强® 可扩展处理器的方案开发与测试。该测试基于阿里云通用型实例规格族 g8i，全新的方案实现了性能的飞跃。

测试表明全新的视觉识别服务结合第四代英特尔® 至强® 可扩展处理器，性能获得巨大提升，相比第三代至强® 可扩展处理器，第四代至强在视觉识别服务测试中性能提升 34%1，内置 AI 加速引擎 AMX 指令集极大提升第四代至强® 可扩展处理器的 AI 性能，使其更具竞争优势。

Throughput（占比越大越好）

基于同规格的第三代至强® 可扩展处理器以及第四代至强® 可扩展处理器的性能测试


此外在对话机器人平台的测试显示，无论是在阿里云服务器还是本地服务器上，与使用 onnx 相比，使用 Intel 的 OpenVINO™ 无论在推理耗时还是并发性能上都有显著提升，使用 OpenVINO™ 优化后的对话机器人平台配合第四代英特尔® 至强® 可扩展处理器，相比原 onnx 与 E5-2650 V3 处理器的组合，耗时最多可下降 90%2 以上。

Latency（占比越小越好）

基于 E5-2650 v3&ONNX、E5-2650 v3&OpenVINO™、第四代至强® 可扩展处理器&OpenVINO™ 的性能测试

 

展望未来，随着人工智能技术的成熟与普及，传统产业正在进行深度的行业价值链重构，企业的管理模式和核心竞争力都在重塑。金蝶云·苍穹 AI 服务云平台基于云原生技术，保障企业级业务的安全稳定发展，利用 AI 技术帮助企业提高生产力，使员工能够专注于更有创造性和战略性工作，改善运营效率，并发展新的商业机会。金蝶云·苍穹 AI 服务云将通过产品的升级迭代，使 AI 技术普惠千行百业。

实际性能受使用情况、配置和其他因素的差异影响。更多信息请见 www.Intel.cn/PerformanceIndex

性能测试结果基于配置信息中显示的日期进行测试，且可能并未反映所有公开可用的安全更新。详情请参阅配置信息披露。没有任何产品或组件是绝对安全的。

具体成本和结果可能不同。

英特尔技术可能需要启用硬件、软件或激活服务。

英特尔未做出任何明示和默示的保证，包括但不限于，关于适销性、适合特定目的及不侵权的默示保证，以及在履约过程、交易过程或贸易惯例中引起的任何保证。

英特尔并不控制或审计第三方数据。请您审查该内容，咨询其他来源，并确认提及数据是否准确。

© 英特尔公司版权所有。英特尔、英特尔标识以及其他英特尔商标是英特尔公司或其子公司在美国和/或其他国家的商标。其他的名称和品牌可能是其他所有者的资产。

产品和性能信息

1截止 2022 年 7 月由金蝶联合英特尔开展的测试。测试配置：基准配置-单节点，阿里云 ecs.c7.8xlarge 实例（采用第三代 Intel® Xeon® 可扩展处理器（Ice Lake），基频 2.7 GHz，全核睿频 3.5 GHz；16 个物理核 32 个逻辑核，64GB 内存） <ubuntu 22.04 >， <x86_64 Linux 5.15.0-58-generic>， <OpenVINO™ 2022.1.0>， <OVMS 2022.1>， <Kingdee OCR>。 新配置-单节点，阿里云 ecs.g8i.8xlarge实例（采用第四代 Intel® Xeon® 可扩展处理器（Sapphire Rapids），基频 2.7 GHz，全核睿频 3.2 GHz；16 个物理核 32 个逻辑核，128GB 内存），<ubuntu 22.04>，<x86_64 Linux 5.15.0-58-generic>，<OpenVINO™ 2022.3.0>，<OVMS 2022.3.0.1>，<Kingdee OCR>。
2截止 2022 年 7 月由金蝶联合英特尔开展的测试。测试配置：基准配置 1-单节点，Intel® Xeon® 处理器 E5-2650V3，实际使用其中 8 核 16GB 内存资源，<Red Hat 4.8.5-16>，<ONNX 1.9.0>，<Kingdee NLP>。基准配置 2-单节点，Intel® Xeon® 处理器 E5-2650V3，实际使用其中 8 核 16GB 内存资源，<Red Hat 4.8.5-16>，<OpenVINO™ 2023.0.0.dev20230427>，<Kingdee NLP>。新配置-单节点，阿里云 ecs.g8i.8xlarge 实例（采用第四代 Intel® Xeon® 可扩展处理器（Sapphire Rapids），基频 2.7 GHz，全核睿频 3.2 GHz；16 个物理核 32 个逻辑核，128GB 内存），实际使用其中 8 核 16GB 内存资源，<ubuntu 22.04>， <x86_64 Linux 5.15.0-58-generic>，<OpenVINO™ 2022.3.0>，<Kingdee  NLP>。