0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI算力与能耗兼具,Supermicro梁见后畅谈服务器的绿色计算

21克888 来源:电子发烧友网 作者:黄晶晶 2023-05-31 18:30 次阅读

随着生成式AI人工智能席卷全球,服务器市场将作为产业先锋迎来巨大的发展机会。在日前举办的台北电脑展上,Supermicro总裁兼首席执行官梁见后(Charles Liang)接受电子发烧友网等媒体采访时表示,Supermicro为云端、AI/ML、存储和5G/智能边缘应用的全方位IT解决方案,我们正在推进关键领域的技术发展,包括产品设计、绿色计算、制造和机架级集成,以助力企业及组织快速提高生产效率并降低能耗。

多款服务器产品助力人工智能


Supermicro拥有最全面的产品组合,可以为人工智能工作负载和其他垂直领域提供大力支持。其创新型系统包括基于第四代Intel Xeon可扩展处理器和第四代AMD EPYC 处理器的单插槽和双插槽机架安装系统,提供1U、2U、4U、5U和8U规格,并支持1到10 GPU。此外还包括在8U机箱中支持20个NVIDIA H100 GPU的密度优化型SuperBlade系统,以及专门针对物联网和边缘环境设计的SuperEdge系统。全新发布的E3.S Petascale存储系统在利用超大规模的人工智能数据集进行训练时,表现出了卓越的性能、容量、吞吐量和耐用性,同时还提供出色的能效。


基于NVIDIA Grace CPU超级芯片的新产品系列也将很快上市。这些新服务器均包含144个核心,双CPU及900 GB/s 一致性接口,可运行高响应度的人工智能应用程序和需要极低延迟响应的应用程序。此外,CPU以500W TDP的速度运行,该系统将为云原生工作负载和下一代人工智能应用降低能耗。

三大优势稳固服务器的绿色高效交付


在采访中当问及Supermicro拥有超越行业标准的亮眼成绩,取得巨大成功的原因,以及抓住了哪些机会等话题时,梁见后谈到了成功的三点因素。

一是,模块化解决方案为高效服务客户提供了巨大的助力,它能够更快地把产品交付给客户,减少等候时间,提高服务效率。模块化的解决方案一直都是我们非常重要的成功驱动因素。

其二,绿色计算。从18年前,Supermicro就开始布局绿色计算解决方案,帮助客户进一步减少自己的电力成本以及能源消耗。当前,通过Supermicro的解决方案,数据中心的电力消耗可以降低达30%,让整体成本获得大幅下降。

他表示绿色计算已经成为SupermicroDNA的一部分。“不管是我们所有的产品设计还是电路等等,都会去优化它的能源消耗,提高它的能耗效率,可以极大帮助我们的系统节省5-10%的能源消耗。而在热管理子系统当中,我们也以最优化的设计让冷却设计本身就具备更低的排热和散热的需求,以及采用了很多新的材料来降低散热的能耗需求。我们将会延续我们的绿色计算DNA,做好这些散热优化,以帮助我们的客户降低碳足迹和碳排放。”他说道。

目前,数据中心消耗的电力占到了全球电力需求的1-1.5%,因此绿色计算对于数据中心至关重要。Supermicro完整的机架级液冷解决方案可以大幅降低对传统冷却方法的需求。通过冗余和热插拔电源和泵,机架上的所有高性能AI和HPC优化服务器都能够得到有效冷却,不惧电源或泵发生任何故障。该解决方案还为CPU和GPU量身定制了冷板(Cold Plate),相较于传统设计能够更有效地去除热量。如果数据中心利用Supermicro技术将其PUE降低至近1.0,不仅能节省高达100亿美元的能源成本,并且相当于减少建造30座化石燃料发电厂。

第三是机架级整体解决方案,有效减少客户的等候时间。此前客户需要自身进行整合,现在得益于Supermicro的全机架级完整解决方案,客户能够即插即用,帮助客户实现快速启动,更好地实现业务的发展。

梁见后说,像ChatGPT以及其他很多的AI应用场景下,我们能够加速交付周期,这是非常关键的一点。传统的交付周期,可能客户需要花3个月/6 个月才能完成他们的部署,但是现在有了我们的系统级/机架级的液冷解决方案,所需要的交付周期短至2周。我们的Delta-Next支持正常的液冷/空气冷却,同时客户一旦收到就能够实现即插即用,很多客户都非常青睐这一技术。

他透露,Supermicro在不断地增强投资,现在已经可以每个月交付4000套机架级的解决方案。到今年年末,出货量将会增加到5000套机架级的解决方案。

推动液冷应用,看好下半年至明年的强劲增长


梁见后表示,液冷其实并不是一个新鲜的东西,存在已经超过 30 多年了,但由于面临成本挑战,一直没有成为主流。而Supermicro会大力推广液冷,一旦液冷方案在降低成本之后会带来大规模应用。Supermicro的Building Block解决方案就能够很好应用液体冷却技术。“我们相信随着技术的进步,更多的客户会选择液冷,为此我们也在积极扩张产能服务客户。”

即便由于整体经济的增速减缓,服务器应用端市场可能会稍微放缓,不过梁见后认为通过对客户订单需求的预测来看,今年下半年包括明年都将继续保持强劲的增长。为此Supermicro主要考量如何去更好地满足增长的客户需求。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 服务器
    +关注

    关注

    12

    文章

    8120

    浏览量

    82522
  • AI
    AI
    +关注

    关注

    87

    文章

    26458

    浏览量

    264072
  • Supermicro
    +关注

    关注

    0

    文章

    24

    浏览量

    9220
收藏 人收藏

    评论

    相关推荐

    使用NVIDIA Triton推理服务器来加速AI预测

    这家云计算巨头的计算机视觉和数据科学服务使用 NVIDIA Triton 推理服务器来加速 AI 预测。
    的头像 发表于 02-29 14:04 211次阅读

    能RADXA微服务器试用体验】Radxa Fogwise 1684X Mini 规格

    通过网络可以了解到,能RADXA微服务器的具体规格: 处理:BM1684X :高达32Tops INT8峰值
    发表于 02-28 11:21

    Supermicro全新系统产品组合将前沿AI性能推向边缘计算环境

    ,正在扩展其AI解决方案产品组合,让客户在公共空间、零售商店或工业基础架构等边缘位置能有效运用AI的强大性能。通过使用搭载NVIDIA GPU的Supermicro应用优化服务器,可更
    的头像 发表于 02-24 09:10 480次阅读
    <b class='flag-5'>Supermicro</b>全新系统产品组合将前沿<b class='flag-5'>AI</b>性能推向边缘<b class='flag-5'>计算</b>环境

    Supermicro通过业界领先的全新系统产品组合,将前沿AI性能推向边缘计算环境

    Supermicro应用优化服务器,可更轻松地微调预训练模型(Pre-trained Model)及将AI推论解决方案部署在
    发表于 02-23 14:06 153次阅读
    <b class='flag-5'>Supermicro</b>通过业界领先的全新系统产品组合,将前沿<b class='flag-5'>AI</b>性能推向边缘<b class='flag-5'>计算</b>环境

    linux服务器和windows服务器

    ,Linux服务器表现出更好的性能和稳定性,因此广泛应用于科学计算、大数据处理和网络服务器等领域。 另一方面,Windows服务器是由微软开发和维护的
    发表于 02-22 15:46

    Supermicro推新AI存储方案,助力AI和ML应用加速

    Supermicro首席执行官梁见后先生高瞻远瞩地指出:针对AI和ML应用的加速处理,我们推荐配置以每机柜20 PB高速闪存为主,配备四个NVIDIA HGX H100系列优化版8-GPU气冷服务器或者八个同款液冷
    的头像 发表于 02-03 14:46 369次阅读

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    AI服务器简介及晶振应用

    AI服务器,是一种专门用于处理人工智能相关任务的高性能计算机。它具备强大的计算能力和存储能力,能够快速处理大量的数据和复杂的算法。与传统的计算
    的头像 发表于 12-25 10:45 492次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>服务器</b>简介及晶振应用

    物理服务器ai发展的应用

    物理服务器AI发展中扮演着重要的角色。传统的以CPU为计算部件的服务器架构已难以满足人工智能的新需求,因此,"CPU+ GPU/FPGA/ASIC"的异构
    的头像 发表于 12-22 09:19 220次阅读

    强劲的AI边缘计算盒子# 边缘计算

    AI边缘计算
    成都华江信息
    发布于 :2023年11月24日 16:31:06

    Supermicro 庆祝 30 周年| 增长、创新、人工智能与绿色计算

    Supermicro 总部位于圣何塞,是一家成立于硅谷的技术公司,聚焦卓越工程,利用绿色计算效率构建大规模人工智能和云数据中心基础设施 加利福尼亚州圣何塞 2023年9月30
    的头像 发表于 10-07 18:24 319次阅读

    Supermicro宣布未来全系列X13服务器将搭载第5代Intel® Xeon®处理器,并提供先期试用服务

    圣何塞讯】 Supermicro,Inc.(NASDAQ:SMCI)为云端、AI/ML、储存和 5G/智能边缘应用的全方位IT解决方案供应商,在 英特尔 “ 创新 2023 ” 大会上 宣布,未来服务器
    发表于 09-25 15:40 225次阅读
    <b class='flag-5'>Supermicro</b>宣布未来全系列X13<b class='flag-5'>服务器</b>将搭载第5代Intel® Xeon®处理器,并提供先期试用<b class='flag-5'>服务</b>

    AI服务器与传统服务器的区别是什么?

    AI 服务器确实是整个服务器市场的一部分,但它们是专门为基于云的 AI 模型训练或推理而设计的。在规格方面,广义的AI
    发表于 06-21 12:40 1323次阅读

    COMPUTEX 2023:Supermicro展示全新服务器及存储解决方案强大阵容

    ( NASDAQ : SMCI ) 为云端、AI/ML、存储和5G/智能边缘应用的全方位IT解决方案提供商,将持续创新并推出多元服务器解决方案,以满足当前工作负载的IT需求。Supermicro采用
    发表于 05-29 13:37 329次阅读
    COMPUTEX 2023:<b class='flag-5'>Supermicro</b>展示全新<b class='flag-5'>服务器</b>及存储解决方案强大阵容