是否可以在模型服务器中使用 REST 请求OpenVINO™预测？
内容类型: 兼容性 | 文章 ID: 000098156 | 上次审核日期: 2024 年 03 月 21 日
无法在模型服务器中使用 REST 请求OpenVINO™预测。
使用以下代码 请求在模型服务器中使用 REST 进行预测OpenVINO™：
from ovmsclient import make_http_client
client = make_http_client("localhost:8000")
with open("img.jpeg", "rb") as f:
data = f.read()
inputs = {"input_name": data}
results = client.predict(inputs=inputs, model_name="my_model")