宝德AI服务器助力某互联网企业抢跑AI大模型新赛道

时间:2023-07-28来源:本站

当下,以ChatGPT为代表的人工智能大模型技术发展迅猛,正以雷霆之势席卷各个行业。国内越来越多的企业纷纷布局AI大模型的全新赛道,引发了新一轮人工智能新技术热潮,驱动算力需求的爆炸式增长。

国内某互联网企业始终以用户为中心,不断加大在新技术上的研发投入,持续推动服务零售和商品零售在需求侧和供给侧的数字化升级,致力于为用户提供品质服务。

为了促进自身业务发展和提升用户体验,该企业也向大模型领域发起进军,希望通过大模型数据训练和算法,实现产品应用的转型和升级,以提高品牌满意度。然而,要实现这一目标,强大的算力是必不可少的。

(图片来源于包图网)

算力是人工智能产业创新的基础,没有算力,做大模型就是天方夜谭。大模型需要处理海量的数据,并且需要在短时间内完成复杂的计算任务,这就要求更高水平的计算能力。因此,该客户迫切需要一款能满足大模型训练高性能计算需求的AI算力基础设施,为海量数据的大规模训练提供强大算力支撑。

在了解到客户的需求之后,宝德量身推荐了一款拥有高强的计算能力的宝德AI训练服务器PR4910E。其配备了最先进的硬件设施,包括高效的CPU、GPU和TPU等,可以提供强大的计算能力来支持复杂的AI模型训练,为该企业夯实了AI大模型算力底座。

它采用2颗身怀七大算力神器的第四代英特尔®至强®可扩展处理器,最大可达60核心,并具有13 个PCIe x16 Gen5插槽,支持10个全高全长双宽 GPU卡(NVIDIA® Tesla系列、英特尔®GPU Flex系列和昇腾Atlas系列等),可为大模型训练强有力的算力支撑;它支持32个 DIMM / DDR5内存插槽,支持最新400Gb ETH和NDR IB高速智能网卡,以及 GPU Direct RDMA,最多支持24个 NVMe SSD,且采用CPU 直通设计,大幅降低 I/O 延迟,这些都为大模型数据存储和传输提供高效可靠保证。

此外,它采用整机模块化设计,支持灵活切换 CPU 和 GPU/TPU 的异构拓扑结构,让算力发挥到极致,为各个场景下的AI应用加速提码,方便用户维护和管理。

“截至目前,宝德AI服务器一直稳定运行,为我们的AI大模型开发训练夯实了算力底座。得益于宝德AI服务器的强大算力支持,我们取得了阶段性的进展,同时AI技术得到不断精进,为大模型沉淀了数据资产和场景资产。这些资产都是根植于平台系统之内的,更符合我们大模型未来的应用场景。”客户称赞道。

热门推荐