OpenVINO™ 工具套件：一款可轻松实现“一次写入，处处部署”的开源 AI 工具套件。

2025.4 版本新增功能特性

OpenVINO™ 2025.4 版本通过新功能和性能增强，将您的 AI 部署提升到全新水平。该版本引入了对大语言模型 (LLM) 的持续改进、针对英特尔® 硬件的优化运行时，以及跨边缘、云和本地环境来高效部署 AI 的扩展功能。了解最新资讯，为您的 AI 项目开启全新可能性。

更便捷的模型访问与转换
我们进一步简化了模型转换。

主题	详细信息
全新模型支持	在 CPU 和 GPU 上支持：Qwen3-Embedding-0.6B、Qwen3-Reranker-0.6B、Mistral-Small-24B-Instruct-2501 在 NPU 上支持：Gemma-3-4b-it 和 Qwen2.5-VL-3B-Instruct 预览：为 CPU 和 GPU 优化的混合专家 (MoE) 模型，经验证可以部署 Qwen3-30B-A3B 生成式 AI 管道集成：Qwen3-Embedding-0.6B 与 Qwen3-Reranker-0.6B 用于强化检索/排序，Qwen2.5VL-7B 用于视频管道

生成式 AI 与大型语言模型 (LLM) 增强功能

我们扩展了模型支持，加快了推理过程。

主题	详细信息
GPU 插件支持	GPU 插件更新包括：借助前缀缓存提升聊天历史场景性能，以及通过支持 INT8 动态量化增强 LLM 准确性。
生成式 AI 增强功能	优化的 GPU 内核加速了生成式 AI 的多令牌生成，可以实现更快推理、更智能的 KV 缓存复用以及可扩展的 LLM 性能。新增加密 Blob 格式支持，以实现更安全的 OpenVINO™ 生成式 AI 模型部署。模型权重与构件以加密格式存储和传输，从而有效降低部署期间的 IP 窃取风险。借助 OpenVINO™ 生成式 AI 管道，开发人员只需更改少量代码即可完成部署。

主题

详细信息

GPU 插件支持

生成式 AI 增强功能

优化的 GPU 内核加速了生成式 AI 的多令牌生成，可以实现更快推理、更智能的 KV 缓存复用以及可扩展的 LLM 性能。
新增加密 Blob 格式支持，以实现更安全的 OpenVINO™ 生成式 AI 模型部署。模型权重与构件以加密格式存储和传输，从而有效降低部署期间的 IP 窃取风险。借助 OpenVINO™ 生成式 AI 管道，开发人员只需更改少量代码即可完成部署。

更高的可移植性与性能

一次开发，随处部署。OpenVINO™ 支持开发人员在边缘、云端或本地运行 AI。

主题	详细信息
支持 Windows ML*	对 Windows ML* 提供黄金级支持，使开发人员能够在搭载英特尔® 酷睿™ Ultra 处理器的 AI PC 上跨 CPU、GPU 与 NPU 轻松部署 AI 模型与应用。
英特尔® 硬件支持	宣布支持英特尔® 酷睿™ Ultra 处理器（第三代）改进的 Nvidia Triton 服务器与 OpenVINO™ 后端集成，开发人员可选择使用英特尔® GPU 或 NPU 进行部署。通过批处理支持简化了 NPU 部署，该功能会自动将模型调整为批大小 = 1，以兼容旧版驱动程序。无论驱动程序版本如何，所有英特尔® 酷睿™ Ultra 处理器均可无缝执行模型。
模型服务器更新	借助以下新增功能，OpenVINO™ 模型服务器 (OVMS) 与 OpenVINO™ 生成式 AI 现已支持智能体式 AI 场景：输出解析、改进的聊天模板以实现可靠的多轮交互，以及 Qwen3-30B-A3B 模型的预览功能。OVMS 同时提供音频端点预览功能。
NNCF 更新	神经网络压缩框架 (NNCF) ONNX 后端现已支持 INT8 静态训练后量化 (PTQ) 以及 INT8/INT4 权重量化压缩，确保与 OpenVINO™ IR 格式模型保持精度一致。新增 SmoothQuant 算法支持，以优化 INT8 量化效果。