时间:2023-07-28来源:本站
国内某互联网企业,始终以用户为中心,不断加大在新技术上的研发投入,持续推动服务零售和商品零售在需求侧和供给侧的数字化升级,致力于为用户提供品质服务。
为了促进自身业务发展和提升用户体验,该企业也向大模型领域发起进军,希望通过大模型数据训练和算法,实现产品应用的转型和升级,以提高品牌满意度。然而,要实现这一目标,强大的算力是必不可少的。
(图片来源于包图网)
算力是人工智能产业创新的基础,没有算力,做大模型就是天方夜谭。大模型需要处理海量的数据,并且需要在短时间内完成复杂的计算任务,这就要求更高水平的计算能力。因此,该客户迫切需要一款能满足大模型训练高性能计算需求的AI算力基础设施,为海量数据的大规模训练提供强大算力支撑。
在了解到客户的需求之后,宝德量身推荐了一款拥有高强的计算能力的宝德AI训练服务器PR4910E。其配备了最先进的硬件设施,包括高效的CPU、GPU和TPU等,可以提供强大的计算能力来支持复杂的AI模型训练,为该企业夯实了AI大模型算力底座。
它采用2颗身怀七大算力神器的第四代英特尔®至强®可扩展处理器,最大可达60核心,并具有13 个PCIe x16 Gen5插槽,支持10个全高全长双宽 GPU卡(NVIDIA® Tesla系列、英特尔®GPU Flex系列和昇腾Atlas系列等),可为大模型训练强有力的算力支撑;它支持32个 DIMM / DDR5内存插槽,支持最新400Gb ETH和NDR IB高速智能网卡,以及 GPU Direct RDMA,最多支持24个 NVMe SSD,且采用CPU 直通设计,大幅降低 I/O 延迟,这些都为大模型数据存储和传输提供高效可靠保证。
此外,它采用整机模块化设计,支持灵活切换 CPU 和 GPU/TPU 的异构拓扑结构,让算力发挥到极致,为各个场景下的AI应用加速提码,方便用户维护和管理。