当前位置:首页 > 软件资讯 > 联想问天两款AI服务器新品发布 全栈智能引领AI新未来

联想问天两款AI服务器新品发布 全栈智能引领AI新未来

分区:软件资讯 更新:2023-08-28 12:55:03

【TechWeb】8月18日,中国计算大会在银川隆重开幕。在“智能计算无限全栈智能联想AI计算战略暨AI服务器新品发布会”上,联想发布了两款全新的AI服务器产品——联想WA7780 G3 AI大型模型训练服务器和联想WA5480 G3 AI训练推送一体化服务器。

这两款服务器是基于AI导向的全新产品,可以帮助构建更绿色、更高效的人工智能数据中心,满足客户从训练到推理的多样化计算需求。

人工智能赋能,绿色赋能:构建面向人工智能的计算基础设施,引领中国智能转型。

近年来,在“建设数字中国”的大背景下,我国计算基础设施“基础”发展迅速,行业智能化转型进一步深化。同时,根据IDC报告,随着生成式人工智能应用的爆发,各行业对智能计算的需求首次超过一般计算力,AI计算力成为计算力发展的主要方向。

今年年初,联想发布了联想服务器首个本土化品牌“联想问天”,以“本土创新、敏捷、高效”为品牌内涵,更好地满足中国本土客户的个性化需求。联想通过面向AI的计算基础设施,加速人工智能进入千万个行业,覆盖多个场景,最终实现普适与智慧的融合,引领计算行业走向普适、智慧、绿色的新未来。

联想WA7780 G3 AI模型训练服务器:强大、灵活、高效。

联想WA7780 G3是专门为AI模型训练打造的服务器。AI计算能力已经成为企业培养和发展人工智能的硬门槛。联想WA7780 G3 AI模型训练服务器正是为了打破AI计算供电困境,为训练提供强大的计算力支持。

激增的计算能力

联想WA7780 G3 AI模型训练服务器基于第四代英特尔至强可扩展处理器。NVIDIA HGX H800系统配备了8个H800 NVLink GPU,拥有高达640GB的HBM3高速内存。通过NV Link,GPU之间的互连带宽高达400GB/s..AI计算能力提升3.44倍,最高可达32p flops。NVIDIA H800 GPU匹配第四代Tensor Core搭配Transformer engine (FP8 precision),与上一代相比,可提升大模型AI训练速度高达9倍,推理速度高达30倍。

灵活的架构

联想WA7780 G3 AI大模型训练服务器为了满足AI大模型训练场景下GPU服务器之间高速数据通信的需求,支持IB、RoCE等外网连接方案。它可以支持多达8个RDMA高速网卡,并提供3.2Tb/s的聚合带宽。完全满足超大型模型训练并行计算时的跨节点通信需求。同时,在本地存储的设计中,采用了GPU直接存储(GDS)技术。通过GDS技术,GPU和NVMe实现快速低延迟互联,可以有效提高训练数据的加载速度,提升大规模模型训练的性能。

节能高效

联想WA7780 G3 AI模型训练服务器在产品设计上采用三重独立风道设计,系统优化不同部件的散热特性,有效降低风扇带来的散热功耗。与同类产品相比,联想WA7780 G3 AI模型训练服务器功耗降低10%左右。同时,为了满足未来智能计算中心对更低PUE值的要求,该产品预留了液冷冷板设计,未来将支持液冷,将大大节省AI大模型训练过程中系统散热带来的额外能耗,PUE值有望低于1.1。

联想WA5480 G3 AI训推一体服务器:多样、丰富、稳定、可靠。

从机器视觉、推荐系统、自然语言处理,到更复杂的AI模型,不同的AI应用场景对AI服务器有不同的要求。本次发布会上亮相的联想WA5480 G3 AI训练推送一体化服务器,是联想烛台品牌的4U机架式AI服务器,支持多样计算能力和丰富生态,能够为AI模型的训练和推理提供极其可靠的计算能力,加速人工智能在千万行业的落地,进而推动各行业乃至全社会的智能化转型进程。

多元计算能力

联想WA5480 G3 AI训练推送一体化服务器采用两颗第四代英特尔至强可扩展处理器,支持最新的PCIe 5.0。随着PCIe的扩展,可以支持多达10个多类型多品牌的AI加速卡,包括最新的NVIDIA H800 GPU。可灵活应用于AI通用模型训练、大模型推理、AI生成、云游戏、科学计算等多种应用场景。,为AI的各种场景提供多重计算能力。

灵活拓扑

联想WA5480 G3 AI训推一体服务器在CPU-GPU互联的硬件设计上也充分体现了灵活的设计理念。联想WA5480 G3 AI训推一体化服务器基于不同的AI工作负载,可为客户提供包括直通、平衡、通用等多种CPU-GPU互联模式,避免了CPU-GPU单一数据通信模式和工作负载不匹配带来的潜在性能瓶颈和系统效率下降。结合不同类型、不同数量的加速卡,真正实现AI各种复杂场景的完美匹配。

极其可靠

联想WA5480 G3 AI训练推送一体化服务器充分考虑了设计冗余,为AI算力提供了安全稳定的运行环境。支持电源N+N冗余,节点内电源互为备份,外部电源可连接两路,保证服务器24小时在线运行。支持CPU、GPU、内存等关键部件的功耗监控,调控整机功耗,动态保证服务器运行在合理的功耗范围,保证性能的稳定性,配合风扇N+1冗余等多种安全设计,保证高环境温度下的不间断运行。

这两款新的AI服务器是联想烛台品牌家族的重要组成部分。它们继承了联想高性能、高可靠、高扩展、低功耗的特点,具有“本土创新、敏捷高效”的品牌内涵。未来,联想WA7780 G3 AI大模型训练服务器和联想WA5480 G3 AI训练推送一体化服务器将与其他AI基础设施产品相结合,帮助AI计算力覆盖整个AI应用。同时,凭借联想领先的液冷技术,联想面向AI的计算基础设施将持续助力AI的算力绿色赋能,为普惠的算力铸造坚实的“基石”。

  • 最新资讯
  • 最新软件