全新内置 AI 加速引擎英特尔® AMX,助百度 ERNIE-Tiny 尽释 AI 加速潜能
百度飞桨推出了更注重效率的轻量版 ERNIE-Tiny,引入第四代英特尔® 至强® 可扩展处理器及其内置的 AI 加速技术英特尔® AMX,在 oneDNN 助力下为 ERNIE-Tiny Medium 版加入了三项优化方案,最终实现达 2.66 倍的整体性能提升,使得轻量版 ERNIE 3.0 在通用 CPU 平台上也能获得令人满意的推理效能。
百度飞桨推出了更注重效率的轻量版 ERNIE-Tiny,引入第四代英特尔® 至强® 可扩展处理器及其内置的 AI 加速技术英特尔® AMX,在 oneDNN 助力下为 ERNIE-Tiny Medium 版加入了三项优化方案,最终实现达 2.66 倍的整体性能提升,使得轻量版 ERNIE 3.0 在通用 CPU 平台上也能获得令人满意的推理效能。