• 星空电子网站

    联系我们
    发送留言
    二维码

    TOP

    返回顶部
    合作咨询
    • 姓名

    • 邮件

    • 手机号码

    • 公司名

    • 联系留言

    联系我们
    • 总部地址

      广州市黄埔区瑞吉二街京广协同创新中心45号楼6-9层

    • 电子邮箱

      trusme@hds899.com

    • 联系电话

      400-855-2725 / 020-38638003

    • 传真号码

      020-38637770

    当前位置  :   新闻中心  >   公司新闻  >   智算中心需要怎样的AI服务器?    

    智算中心需要怎样的AI服务器?

    发布时间 : 2024-12-12 02:50:33
    已被浏览 672 次

    2024年以来,中国智算中心建设如火如荼,也在不断推动着服务器厂商持续推出加速计算服务器新品。近两年,AI大模型给产业带来了巨大的影响,以GPU为核心的智算逐步成为算力的主要发展方向。据工信部规划,中国智能算力的占比将在2025年达到35%,年复合增长率在30%以上,这意味着智算中心将引领数据中心建设的潮流。

    针对智算中心存在的算力融合、算力孤岛、算力低效、硬件投资与更新、网络与管理等问题,在智算中心的建设中,除了场地、机房等基础设施,最重要的还是GPU服务器。服务器的选择应根据实际需求进行权衡。当前智算中心最火的无疑是4U高度搭配8张GPU的AI服务器,简称4U8卡服务器。相比于NVlink或者国产OAM模组产品,PCIE形态的4U8卡服务器配置更加灵活、在推理端或者模型参数较小时,性价比更高。训练服务器适用于模型开发和训练阶段,推理服务器适用于实时应用场景,而训推一体服务器则可以在两者之间实现灵活切换和资源共享。

    作为国内领先的智算产品及解决方案提供商,拥有丰富的技术经验和强大的研发能力。在此需求上推出AI训推一体Intel Eagle Stream平台4U8卡服务器P5500G5H,具备领先架构、超强算力、灵活扩展等特点,为不同的AI应用提供强劲算力支持,从生成式 AI 和大型语言模型(LLM)推理与训练到 3D 图形、渲染和视频,都能应对自如。

    随着AI应用的快速发展,复杂多变的应用场景对计算架构的选择和设计提出了更高的需求。选择最优的PCIe拓扑结构,实现计算资源的优化配置,加速AI服务器的计算处理能力,对于提升智算中心的整体性能至关重要。星空电子网站P5500G5H支持最新 PCIe 5.0,采用CPU-GPU 支持直通及 Switch 方案,最多可以支持 10 张包括最新 NVIDIA GPU在内的多类型、多品牌AI加速卡。CPU-Switch 可选 X16 或 X32 lane 互联,实现高带宽通信,用户可根据不同应用场景,灵活调度各种不同的异构算力资源,实现算力的最佳组合,满足AI/超算等多样性算力场景需求。

    与此同时,P5500G5H服务器具备灵活扩展能力,最大提供24个2.5”盘位或12个3.5”盘位,最大支持 16 个 NVMe,提供高速I/O接口,基于硬件模块化和软件平台化设计,通过按需配置,匹配不同应用场景的差异化需求。

    此外,P5500G5H采用整机模块化设计,整机五个模块:GPU计算模块、CPU计算模块、硬盘模块、风扇模块、电源模块均可实现独立插拔维护,4U的架构使得P5500G5Hz在散热、供电、I/O扩展性上完美适配GPU,发挥出强劲性能,同时方便用户管理和维护。

    星空电子网站P5500G5H服务器,可支持运行千亿参数大模型。在框架和算法方面,它支持PyTorch、TensorFlow、caffe、 mxnet等主流AI框架和DeepSpeed等流行开发工具,让底层适配更加高效便捷,实现生态无缝迁移。

    当前数据中心建设与AI技术的发展密不可分,尤其对于正处于火热建设中的中国智算中心建设市场来说,快速的市场变化需要强有力的研发设计及定制生产合作伙伴,以应对增长的功率密度需求和不断变化的技术趋势。星空电子网站结合实际业务为千行百业提供AI算力解决方案,助力智算中心发挥最大效能,为推动人工智能与数字经济的高质量发展贡献力量。