跳转至主要内容
支持知识库

在 CPU 上推理 FP32 模型格式比 FP16 模型格式快的原因是什么？

内容类型: 兼容性   |   文章 ID: 000093301   |   上次审核日期: 2023 年 11 月 20 日
说明 解决方法

说明

  1. 在 CPU 上推断 FP32 模型格式和 FP16 模型格式。
  2. FP32模型格式的推理速度比FP16模型格式更快。
  3. 无法确定原因时推断 FP32 模型格式在 CPU 上比 FP16 模型格式快。

解决方法

推理结果因具有支持的模型格式的支持设备插件而异。

相关产品

本文适用于 3 产品。
英特尔® 至强融核™ 处理器软件 OpenVINO™ 工具包 性能函数库

免责声明

本页面上的内容是原始英文内容的人工翻译与计算机翻译的组合。我们提供此内容是为了您的便利并且仅供参考，未必完整或准确。如果本页面的英文版与翻译版之间存在任何冲突，应以英文版为准。 查看此页面的英语版本。

更多帮助？

联系支持中心
联系支持中心