支持知识库

是否可以使用中间表示（IR）实施OpenVINO™运行时推断管道？

内容类型: 产品信息和文件 | 文章 ID: 000092935 | 上次审核日期: 2023 年 02 月 28 日

说明解决方法

说明

Create* OpenVINO™运行时内核
import openvino.runtime as ov
core = ov.Core()
编译模型
compiled_model = core.compile_model("model.xml", "AUTO")
创建一个推断请求
infer_request = compiled_model.create_infer_request()
设置输入
# Create tensor from external memory
input_tensor = ov.Tensor(array=memory, shared_memory=True)
# Set input tensor for model with one input
infer_request.set_input_tensor(input_tensor)
开始推理
infer_request.start_async()
infer_request.wait()
处理推断结果
# Get output tensor for model with one output
output = infer_request.get_output_tensor()
output_buffer = output.data
# output_buffer[] - accessing output tensor data

本页面上的内容是原始英文内容的人工翻译与计算机翻译的组合。我们提供此内容是为了您的便利并且仅供参考，未必完整或准确。如果本页面的英文版与翻译版之间存在任何冲突，应以英文版为准。查看此页面的英语版本。