东方国信幕僚智算 AI 算力云平台采用英特尔® Gaudi® 2 AI 加速器打造灵活、高效的算力云服务

东方国信幕僚智算 AI 算力云平台采用英特尔® Gaudi® 2 AI 加速器打造灵活、高效的算力云服务

概述

  • 东方国信在其幕僚智算 AI 算力云平台上采用了英特尔® Gaudi® 2 AI 加速器作为企业级大模型训练和推理算力资源,为幕僚智算平台的客户提供算力服务。英特尔® Gaudi® 2 AI 加速器是专为数据中心实现大规模 AI 计算而推出的产品,基于高效的架构设计而成,在性能、可扩展性和能效方面均实现了显著飞跃。幕僚智算 AI 算力云平台还充分借助东方国信在 AI 软件栈技术以及异构算力调度技术方面的优势,提供了高效、灵活、高性价比的算力服务,助力企业提升 AI 研发效率,降低成本,加速业务创新。

author-image

作者

东方国信幕僚智算 AI 算力云平台设计用于满足企业大模型研发、AI 创作、计算科学开发、视频渲染等针对 GPU/AI 加速卡等计算资源和配套环境的需求,旨在为客户提供零成本浪费按需使用的弹性算力部署解决方案。该平台通过集中部署、虚拟化等技术手段,提供弹性规模、高可用的算力资源,为企业提供高效、灵活的算力服务。平台可支持多种应用场景,包括人工智能内容生成 (AIGC)、深度学习、图片及视频渲染等。用户可以通过云平台租用算力来完成大规模计算任务,并可以借助平台提供的深度学习环境和框架,轻松实现大模型开发或 AI 创作。

基于英特尔® Gaudi® 2 AI 加速器的东方国信幕僚智算 AI 算力云平台架构

  • 算力层:云主机配置了英特尔® Gaudi® 2 AI 加速器和第四代英特尔® 至强® 可扩展处理器,以及高性能全闪存储、高带宽低延迟网络设备,可通过幕僚智算云管平台进行统一管理,提供宿主机纳管、物理机纳管、云主机管理、裸金属管理、智能算力服务器等不同选项,可满足 AI 训练和推理的不同场景及规模化运营需求。
     
  • 使能层:提供用户系统、商品系统、订单系统、计费系统等幕僚前后端系统,以及幕僚运营管理后台,可支持用户快速接入、部署东方国信幕僚智算 AI 算力云平台服务,并实现便捷的运维。
     
  • 应用层:应用层通过 AI 算力市场为企业、高校、科研机构、个人等用户提供云主机、裸金属等算力服务,以及各类模型镜像软件包,满足上层应用所需。
     

更多内容请下载完整版解决方案简介,了解英特尔® Gaudi® 2 AI 加速器如何助力东方国信幕僚智算 AI 算力云平台实现降本增效!