OpenVINO™ 运行多个进程时，推理时间会增加

当运行两个进程来推理同一模型时，推理时间会加倍。

• 使用OpenVINO™推理模型。
• 运行单个进程时，推理时间约为 300ms。
• 当使用两个进程时，两个进程的推理时间都变为 600 毫秒。

1. 在应用程序中添加以下配置。
   Python*： core.set_property("CPU", {ov.properties.hint.enable_cpu_pinning(False)})
   C++ : core.set_property("CPU", ov::hint::enable_cpu_pinning(false));
2. 构建 演示。

• 默认值 enable_cpu_pinning property is enabled (true or YES) on Linux* and disabled (false or NO) on Windows* and macOS*.
• 在 Linux 上，默认设置为 enable_cpu_pinning is enabled, which in some scenarios can cause multiple processes to bind to the same CPU core, potentially doubling inference time.
• 将属性设置为 false unbinds inferencing threads from specific CPU cores, allowing the operating system to schedule threads, which may be beneficial in applications with several parallel workloads.

请参阅 性能提示和线程调度 以了解更多信息。