基于人工智能推断的英特尔® 精选解决方案

面向人工智能推断的英特尔® 精选解决方案是一站式平台,可提供预捆绑、经过验证和经过优化的解决方案以在 CPU 上执行低延迟、高吞吐量的推断,而不需要独立的加速卡。

查看解决方案简介 ›

基于人工智能推理的英特尔® 精选解决方案的基础配置和增强配置

组件

基于人工智能推断的英特尔® 精选解决方案 基础配置

基于人工智能推断的英特尔® 精选解决方案 增强配置

节点数

单个节点配置

单个节点配置

处理器

2 枚英特尔® 至强® 金牌 6248 处理器(2.50 GHz,20 个内核,40 个线程)或编号更高的英特尔® 至强® 可扩展处理器

2 枚英特尔® 至强® 金牌 6248 处理器(2.50 GHz,20 个内核,40 个线程)或编号更高的英特尔® 至强® 可扩展处理器

内存

192 GB 或更高 (12 x 16 GB 2,666 MHz DDR4 ECC RDIMM)

384 GB (12 x 32 GB 2,934 MHz DDR4 ECC RDIMM)

引导驱动器

1 个 256 GB 英特尔® 固态盘 P4101 系列(M.2 80 mm PCIe* 3.0 x4,3D2,TLC)或更高

1 个 256 GB 英特尔® 固态盘 P4101 系列(M.2 80 mm PCIe* 3.0 x4,3D2,TLC)或更高

存储

数据驱动器:1.6 TB NVM Express* (NVMe*) 英特尔® 固态盘 P4510 系列

高速缓存驱动器:375 GB 英特尔® 傲腾™ 固态盘 P4800X U.2 NVMe* SSD

数据驱动器:1.6 TB NVMe* 英特尔® 固态盘 P4510 系列

高速缓存驱动器:375 GB 英特尔® 傲腾™ 固态盘 P4800X U.2 NVMe* SSD

数据网络

1 个英特尔® 以太网融合网络适配器(英特尔® 以太网 CNA)XXV710-DA2 SFP28 DA 铜质 PCIe* x 8 双端口 25/10/1 GbE

1 个英特尔® 以太网融合网络适配器(英特尔® 以太网 CNA)XXV710-DA2 SFP28 DA 铜质 PCIe* x 8 双端口 25/10/1 GbE

管理网络

集成 1 GbE 端口 0/RMM 端口

集成 1 GbE 端口 0/RMM 端口

软件

Linux 操作系统

CentOS Linux* 发行版本 7.6.1810/Red Hat Enterprise Linux* (RHEL) 7

CentOS Linux* 发行版本 7.6.1810/Red Hat Enterprise Linux* (RHEL) 7

英特尔® 数学内核程序库(英特尔® MKL)

英特尔® 数学内核库(英特尔 MKL)版本 2019 更新 4

英特尔® 数学内核库(英特尔 MKL)版本 2019 更新 4

Intel® Distribution of OpenVINO™ 工具包

2019 R1.0.1

2019 R1.0.1

OpenVINO™ 型号服务器

0.4

0.4

TensorFlow

1.14

1.14

PyTorch

1.2.0

1.2.0

MXNet

1.3.1

1.3.1

英特尔® Distribution Python* 版

2019 更新 1

2019 更新 1

适用于深度神经网络的英特尔® 数学核心函数库(英特尔® MKL-DNN)

0.19(OpenVINO™ 工具包隐含)

0.19(OpenVINO™ 工具包隐含)

Deep Learning Reference Stack (DLRS)

v4.0

v4.0

Source-to-Image

1.1.14

1.1.14

Docker

18.09

18.09

Kubernetes

v1.15.3

v1.15.3

Kubeflow

v0.6.1

v0.6.1

Helm

2.14.3

2.14.3

Seldon Core

0.3.2

0.3.2

Ceph

v14.2.1

v14.2.1

Min.io (Rook v1.0)

RELEASE.2019-04-23T23-50-36Z

RELEASE.2019-04-23T23-50-36Z

Rook

1.0.5

1.0.5

其他

可信平台模块 (TPM)

TPM 2.0

TPM 2.0

最低性能标准

经过验证可达到或超过以下最低性能:

在 OpenVINO™ 工具包上使用 ResNet-50 进行分类

1,900 幅图像/秒(91% 排名前五的准确率)

2,650 幅图像/秒(91% 排名前五的准确率)

在模拟的真实场景中从 1 个节点扩展到 2 个节点 高达 1.91 倍1 高达 1.91 倍2

选择增强配置而不是基础配置的商业价值

增强配置提供最高快 39% 的推理性能。1

**建议,但不是必需

产品和性能信息

1

英特尔于 2019 年 10 月 9 日进行了测试。测试配置:两个节点,2 个英特尔® 至强® 金牌 6248 处理器(2.50 GHz,20 个内核,40 个线程),12 个 16 GB 2,666 MHz DDR4 ECC RDIMM(192 GB 总内存),引导驱动器:1 个 256 GB 英特尔® 数据中心级固态盘 P4101 系列(M.2 80 毫米 PCIe* 3.0 x 4、3D2、TLC),数据驱动器:1.6 TB NVM Express* (NVMe*) 英特尔® 固态盘 P4510 系列,高速缓存驱动器:375 GB 英特尔® 傲腾™ 数据中心级固态盘 P4800X U.2 NVMe* 固态盘,数据网络:1 个 10Gb 英特尔® 以太网聚合网络适配器 X722(英特尔® 以太网 CNA X722),管理网络:集成 1 千兆位以太网 (GbE) 端口 0/RMM 端口。软件:CentOS* Linux 版本 7.6.1810/Red Hat Enterprise Linux* (RHEL) 7、Intel® 数学核心函数库(英特尔® MKL)版本 2019 更新 4、英特尔® Distribution of OpenVINO™ 工具套件 2019 R1.0.1、OpenVINO™ 模型服务器 0.4、英特尔® Distribution for Python* 2019 更新 1、面向深度神经网络的英特尔® 数学核心函数库(英特尔® MKL-DNN)0.19、Deep Learning Reference Stack (DLRS) v4.0、Docker v18.09、Helm v2.14.3、Kubernetes v1.15.3、Kubeflow v0.6.1、Seldon Core v0.3.2、Rook v1.0.5、Ceph v14.2.1、Min.io (Rook v1.0) RELEASE.2019-04-23T23-50-36Z。在模拟真实场景中进行扩展 — 吞吐量测试:归一化性能 1(英特尔® 超线程技术(英特尔® 超线程技术):关闭)。

2

英特尔于 2019 年 10 月 9 日进行了测试。测试配置:两个节点,2 个英特尔® 至强® 铂金 8268 处理器(2.90 GHz,24 个内核,48 个线程),12 个 16 GB 2,666 MHz DDR4 ECC RDIMM(192 GB 总内存),引导驱动器:1 个 256 GB 英特尔® 数据中心级固态盘 P4101 系列(M.2 80 毫米 PCIe* 3.0 x 4、3D2、TLC),数据驱动器:1.6 TB NVM Express* (NVMe*) 英特尔® 固态盘 P4510 系列,高速缓存驱动器:375 GB 英特尔® 傲腾™ 数据中心级固态盘 P4800X U.2 NVMe* 固态盘,数据网络:1 个 10Gb 英特尔® 以太网聚合网络适配器 X722(英特尔® 以太网 CNA X722),管理网络:集成 1 千兆位以太网 (GbE) 端口 0/RMM 端口。软件:CentOS* Linux 版本 7.6.1810/Red Hat Enterprise Linux* (RHEL) 7、Intel® 数学核心函数库(英特尔® MKL)版本 2019 更新 4、英特尔® Distribution of OpenVINO™ 工具套件 2019 R1.0.1、OpenVINO™ 模型服务器 0.4、英特尔® Distribution for Python* 2019 更新 1、面向深度神经网络的英特尔® 数学核心函数库(英特尔® MKL-DNN)0.19、Deep Learning Reference Stack (DLRS) v4.0、Docker v18.09、Helm v2.14.3、Kubernetes v1.15.3、Kubeflow v0.6.1、Seldon Core v0.3.2、Rook v1.0.5、Ceph v14.2.1、Min.io (Rook v1.0) RELEASE.2019-04-23T23-50-36Z。在模拟真实场景中进行扩展 — 吞吐量测试:归一化性能 1.91(英特尔® 超线程技术(英特尔® 超线程技术):关闭)。