0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI算力与能耗兼具,Supermicro梁见后畅谈服务器的绿色计算

21克888 来源:电子发烧友网 作者:黄晶晶 2023-05-31 18:30 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

随着生成式AI人工智能席卷全球,服务器市场将作为产业先锋迎来巨大的发展机会。在日前举办的台北电脑展上,Supermicro总裁兼首席执行官梁见后(Charles Liang)接受电子发烧友网等媒体采访时表示,Supermicro为云端、AI/ML、存储和5G/智能边缘应用的全方位IT解决方案,我们正在推进关键领域的技术发展,包括产品设计、绿色计算、制造和机架级集成,以助力企业及组织快速提高生产效率并降低能耗。

多款服务器产品助力人工智能


Supermicro拥有最全面的产品组合,可以为人工智能工作负载和其他垂直领域提供大力支持。其创新型系统包括基于第四代Intel Xeon可扩展处理器和第四代AMD EPYC 处理器的单插槽和双插槽机架安装系统,提供1U、2U、4U、5U和8U规格,并支持1到10 GPU。此外还包括在8U机箱中支持20个NVIDIA H100 GPU的密度优化型SuperBlade系统,以及专门针对物联网和边缘环境设计的SuperEdge系统。全新发布的E3.S Petascale存储系统在利用超大规模的人工智能数据集进行训练时,表现出了卓越的性能、容量、吞吐量和耐用性,同时还提供出色的能效。


基于NVIDIA Grace CPU超级芯片的新产品系列也将很快上市。这些新服务器均包含144个核心,双CPU及900 GB/s 一致性接口,可运行高响应度的人工智能应用程序和需要极低延迟响应的应用程序。此外,CPU以500W TDP的速度运行,该系统将为云原生工作负载和下一代人工智能应用降低能耗。

三大优势稳固服务器的绿色高效交付


在采访中当问及Supermicro拥有超越行业标准的亮眼成绩,取得巨大成功的原因,以及抓住了哪些机会等话题时,梁见后谈到了成功的三点因素。

一是,模块化解决方案为高效服务客户提供了巨大的助力,它能够更快地把产品交付给客户,减少等候时间,提高服务效率。模块化的解决方案一直都是我们非常重要的成功驱动因素。

其二,绿色计算。从18年前,Supermicro就开始布局绿色计算解决方案,帮助客户进一步减少自己的电力成本以及能源消耗。当前,通过Supermicro的解决方案,数据中心的电力消耗可以降低达30%,让整体成本获得大幅下降。

他表示绿色计算已经成为SupermicroDNA的一部分。“不管是我们所有的产品设计还是电路等等,都会去优化它的能源消耗,提高它的能耗效率,可以极大帮助我们的系统节省5-10%的能源消耗。而在热管理子系统当中,我们也以最优化的设计让冷却设计本身就具备更低的排热和散热的需求,以及采用了很多新的材料来降低散热的能耗需求。我们将会延续我们的绿色计算DNA,做好这些散热优化,以帮助我们的客户降低碳足迹和碳排放。”他说道。

目前,数据中心消耗的电力占到了全球电力需求的1-1.5%,因此绿色计算对于数据中心至关重要。Supermicro完整的机架级液冷解决方案可以大幅降低对传统冷却方法的需求。通过冗余和热插拔电源和泵,机架上的所有高性能AI和HPC优化服务器都能够得到有效冷却,不惧电源或泵发生任何故障。该解决方案还为CPU和GPU量身定制了冷板(Cold Plate),相较于传统设计能够更有效地去除热量。如果数据中心利用Supermicro技术将其PUE降低至近1.0,不仅能节省高达100亿美元的能源成本,并且相当于减少建造30座化石燃料发电厂。

第三是机架级整体解决方案,有效减少客户的等候时间。此前客户需要自身进行整合,现在得益于Supermicro的全机架级完整解决方案,客户能够即插即用,帮助客户实现快速启动,更好地实现业务的发展。

梁见后说,像ChatGPT以及其他很多的AI应用场景下,我们能够加速交付周期,这是非常关键的一点。传统的交付周期,可能客户需要花3个月/6 个月才能完成他们的部署,但是现在有了我们的系统级/机架级的液冷解决方案,所需要的交付周期短至2周。我们的Delta-Next支持正常的液冷/空气冷却,同时客户一旦收到就能够实现即插即用,很多客户都非常青睐这一技术。

他透露,Supermicro在不断地增强投资,现在已经可以每个月交付4000套机架级的解决方案。到今年年末,出货量将会增加到5000套机架级的解决方案。

推动液冷应用,看好下半年至明年的强劲增长


梁见后表示,液冷其实并不是一个新鲜的东西,存在已经超过 30 多年了,但由于面临成本挑战,一直没有成为主流。而Supermicro会大力推广液冷,一旦液冷方案在降低成本之后会带来大规模应用。Supermicro的Building Block解决方案就能够很好应用液体冷却技术。“我们相信随着技术的进步,更多的客户会选择液冷,为此我们也在积极扩张产能服务客户。”

即便由于整体经济的增速减缓,服务器应用端市场可能会稍微放缓,不过梁见后认为通过对客户订单需求的预测来看,今年下半年包括明年都将继续保持强劲的增长。为此Supermicro主要考量如何去更好地满足增长的客户需求。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 服务器
    +关注

    关注

    13

    文章

    10102

    浏览量

    90923
  • AI
    AI
    +关注

    关注

    90

    文章

    38236

    浏览量

    297140
  • Supermicro
    +关注

    关注

    0

    文章

    33

    浏览量

    9668
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    AI中心的能耗挑战:CM5A 2000 H01霍尔闭环电流传感AI中心(AIDC)的应用分析

    全球数据中心总用电量的20%以上。高功率GPU集群、液冷服务器等设备对供电系统的稳定性和能效提出了极高要求:如何在保障供电稳定性的同时,实现能耗的精细化管理?这一问
    的头像 发表于 11-05 17:43 541次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>中心的<b class='flag-5'>能耗</b>挑战:CM5A 2000 H01霍尔闭环电流传感<b class='flag-5'>器</b>在<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>中心(AIDC)的应用分析

    觉醒 · AI共生——上海永铭电子2025AI服务器电容应用专题会议圆满落幕

    随着人工智能浪潮席卷全球,AI正以前所未有的速度爆发式增长。在这场决定未来的技术竞速中,稳定、高效、可靠的电力供应是基石的核心。而电
    的头像 发表于 11-03 14:00 541次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>觉醒 · <b class='flag-5'>AI</b>共生——上海永铭电子2025<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>电容应用专题会议圆满落幕

    AI 服务器备用电源:高效、可靠与智能的未来保障

    运行,更需在高效率、高可靠性和智能管理方面实现突破,成为支撑 AI 爆发的关键基础设施。 AI 服务器对电源的迫切需求
    的头像 发表于 10-09 02:38 4580次阅读

    天波科普:超过30T的边缘计算服务器可以做什么?

    网关的能力边界,也涉及到高低。那么,目前边缘计算服务器到多少算高呢?以广东天波
    的头像 发表于 09-28 11:18 448次阅读
    天波科普:<b class='flag-5'>算</b><b class='flag-5'>力</b>超过30T的边缘<b class='flag-5'>计算</b><b class='flag-5'>服务器</b>可以做什么?

    多达 48 个计算节点!Firefly 推出 CSC2-N48 AI 服务器

    Firefly最新推出CSC2-N48服务器,内置48个分布式计算节点,单节点可提供6TOPS-157TOPS
    的头像 发表于 08-20 16:37 1298次阅读
    多达 48 个<b class='flag-5'>计算</b>节点!Firefly 推出 CSC2-N48 <b class='flag-5'>AI</b> <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服务器</b>

    服务器多少钱一台?价格因素与选购指南

    入门级服务器可能只需几千元,而高性能计算(HPC)或AI训练专用服务器则可能高达数十万元。一般来说,中小型企业常用的
    的头像 发表于 06-17 09:45 1560次阅读

    RAKsmart服务器如何赋能AI开发与部署

    AI开发与部署的复杂性不仅体现在算法设计层面,更依赖于底层基础设施的支撑能力。RAKsmart服务器凭借其高性能硬件架构、灵活的资源调度能力以及面向AI场景的深度优化,正在成为企业突破
    的头像 发表于 04-30 09:22 608次阅读

    AI原生架构升级:RAKsmart服务器在超大规模模型训练中的突破

    近年来,随着千亿级参数模型的崛起,AI训练对的需求呈现指数级增长。传统服务器架构在应对分布式训练、高并发计算和显存优化等场景时逐渐显露瓶
    的头像 发表于 04-24 09:27 622次阅读

    智能服务器应用领域

    智能服务器应用领域 一、‌金融行业‌ 智能风控与投顾‌:通过集群支撑AI模型训练,实现风
    的头像 发表于 04-21 09:09 1242次阅读
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服务器</b>应用领域

    RAKsmart服务器如何重塑AI高并发格局

    AI大模型参数量突破万亿级、实时推理需求激增的当下,传统服务器架构的并发处理能力已逼近物理极限。RAKsmart通过“硬件重构+软件定义”的双引擎创新,推出新一代AI服务器解决方案。
    的头像 发表于 04-03 10:37 698次阅读

    如何在RAKsmart服务器上实现企业AI模型部署

    AI模型的训练与部署需要强大的支持、稳定的网络环境和专业的技术管理。RAKsmart作为全球领先的服务器托管与云计算
    的头像 发表于 03-27 09:46 771次阅读

    DeepSeek推动AI需求:800G光模块的关键作用

    随着人工智能技术的飞速发展,AI需求正以前所未有的速度增长。DeepSeek等大模型的训练与推理任务对的需求持续攀升,直接推动了
    发表于 03-25 12:00

    Firefly 服务器系列:覆盖多个领域的高解决方案

    Firefly专注于以云计算和大数据为核心的服务器产品开发与应用,陆续推出支持多种计算单元的ARM服务器,覆盖多个行业及领域,为客户提供优质的解决方案。Firefly
    的头像 发表于 02-19 16:34 1394次阅读
    Firefly <b class='flag-5'>服务器</b>系列:覆盖多个领域的高<b class='flag-5'>算</b><b class='flag-5'>力</b>解决方案

    Supermicro高性能服务器量产供货,优化多重工作负载

    应对计算需求严苛的高性能工作负载而设计。无论是大规模AI应用、集群规模的高性能计算,还是需要大量GPU支持的协作设计、媒体传播等场景,这些服务器都能提供卓越的性能表现。
    的头像 发表于 01-21 11:00 772次阅读

    计算 开启贵州人工智能服务新篇章

    的贵州计算服务有限公司(以下简称计算)诞生,它依托其特有资源优势,提供专业AI
    的头像 发表于 12-27 00:37 1035次阅读
    <b class='flag-5'>算</b>家<b class='flag-5'>计算</b> 开启贵州人工智能<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服务</b>新篇章