0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI 工作负载的电源

李芳 来源:fgfFsG 作者:fgfFsG 2022-08-08 11:14 次阅读

AI 无处不在的性质不仅限于数据中心,也不在 MIT Python 程序员的头脑中。它可以在我们当地的超市中以自导机器人的形式在过道中漫游,使用卷积神经网络 (CNN) 和其他方式嵌入机场安全摄像头。

无论 AI 接口是什么——一个眼睛粘糊糊的超市机器人,或者一个性感的澳大利亚女声给我们指着一个好酒吧——工作负载需要在某种基于 CPUGPU 的系统上处理,比如来自 Nvidia 的 DGX。

因为有这么多不同类型的 AI,所以没有一种最适合的硬件来处理工作负载。正如英特尔的Naveen Rao所说,“客户发现没有单一的‘最佳’硬件来运行各种 AI 应用程序,因为没有单一类型的 AI。” 无论为 AI 应用程序选择哪种硬件,肯定有一个共同点:处理工作负载的每台设备都需要有电源

美元数据

对于 IT 经理来说,人工智能对计算服务器所需的功率产生了相当大的影响。服务器机架的平均功耗通常为 7 kW;但是,AI 应用程序每个机架可能使用超过 30 kW。增加千瓦是必需的,因为 AI 需要更高的处理器利用率,例如在 GPU 类型服务器上运行的应用程序——它们每个芯片需要两倍的功率。

当然,如果您的设施功率受限,您可以尝试四处移动数据,但这可能需要比处理数据更多的能量,而且功率消耗始终与移动中的数据量有关。简而言之,与数据传输相关的成本很高。

例如,尽管有许多云提供商(AWS、Azure、Google 等)可供选择,但许多公司都面临与复杂数据传输价格相关的隐藏成本。解决这一困境的一个可行的解决方案不是移动数据,而是在更接近起源点的地方处理它——这创造了对边缘计算的另一种需求。

用小网络解决大问题

边缘计算有望成为另一个无处不在且备受期待的数据进步(称为 5G)的支柱。5G 预期的 1 毫秒延迟时间需要许多分布式处理区域(也称为边缘网络)的支持。基于边缘的服务器需要更靠近个人流式传输 4K 视频和最终 8K 格式的视频,以及用于监控智能城市中行人和交通活动的摄像头等应用程序——而这一切都无需将其发送到云端。

此外,还需要边缘网络来支持自动驾驶汽车。这种优雅的新数据流挂毯的核心将是人工智能近乎实时地处理信息

目前,所有 AI 应用程序都运行在基于硅的计算硬件上,无论是在智能手机内置的定制芯片中、在边缘计算服务器内部署的 FPGA 中,还是在专门构建的以 AI 为重点的系统中,例如来自 Nvidia 的 DGX,可通过公共云访问。

并且该硬件都需要电源,无论是直流电(如电池)还是交流电(来自电网)。它还需要物理系统之间的连接,无论是通过铜缆还是光纤数据连接。

断电是AI的氪石

人工智能似乎对人类具有前所未有的价值。然而,当遇到断电时,它会崩溃并停止运作——就像超人对氪石的反应一样。将 AI 与这种能量克星隔离并降低故障风险的解决方案是确保可靠的功率流。

具有每插座功率感应功能的开关 PDU将使边缘数据中心能够最大限度地延长所有需要近实时处理的 AI 应用程序的正常运行时间。在这种环境下,选择可靠的 PDU 为交通控制信号和中继站的 AI 工作负载供电非常重要,急救人员使用这些工作负载为救护车、消防和执法服务提供调度和紧急数字通信。

鉴于这些关键任务的情况,智慧城市需要智能电源设备来确保其 5G 服务畅通无阻。使用远程监控和管理的数据中心 PDU还有助于监控机柜内的温度和环境条件。

回到数据中心和主机托管设施,人们正在更换基于 CPU 的服务器以获得更强大的 GPU 系统人工智能处理能力,当 C13 和 C19 插座的更大组合时,拥有可扩展的机架式 PDU真的会派上用场需要——正在创建 30 kW 机架的过程中。

审核编辑 黄昊宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 电源
    +关注

    关注

    182

    文章

    16508

    浏览量

    244543
  • AI
    AI
    +关注

    关注

    87

    文章

    26363

    浏览量

    263947
  • 工作负载
    +关注

    关注

    0

    文章

    6

    浏览量

    1908
收藏 人收藏

    评论

    相关推荐

    开关电源是阻性负载还是感性负载

    开关电源适用于各种不同类型的负载,无论是阻性负载还是感性负载都可以正常工作。但是,具体使用哪种类型的负载
    的头像 发表于 02-06 09:25 575次阅读

    如何选择合适的负载功率来确保电源适配器的正常工作

    负载功率对电源适配器有何影响?如何选择合适的负载功率来确保电源适配器的正常工作负载功率对
    的头像 发表于 01-30 16:51 320次阅读

    开关电源中什么是负载调整率?如何去测?

    开关电源中什么是负载调整率?如何去测? 负载调整率是指开关电源负载变化时稳定输出电压的能力。负载
    的头像 发表于 01-19 14:56 809次阅读

    最常见的直流负载工作方式

    最常见的直流负载工作方式  直流负载工作方式是指在直流电路中使用的各种负载方式。直流负载是用于测
    的头像 发表于 01-18 15:12 259次阅读

    在发电系统中负载器有什么用?负载器是什么工作原理和结构?

    在发电系统中负载器有什么用?负载器是什么工作原理和结构? 负载器在发电系统中起到了至关重要的作用。它们用来连接到电源系统的
    的头像 发表于 01-04 15:29 305次阅读

    电源负载动态响应测试方法

    电源负载动态响应测试方法  电源负载动态响应测试是电源测试中的一个重要环节,它可以评估电源
    的头像 发表于 12-19 13:47 1202次阅读

    电源为何需要进行负载保护 航裕电源负载的保护措施

    的关系,那么负载电源在使用中,将出现震荡、短路等多种故障,甚至破坏电源负载。 为了适应感性、容性、阻性等不同性质负载的正常使用要求,航裕
    的头像 发表于 12-11 12:30 531次阅读
    <b class='flag-5'>电源</b>为何需要进行<b class='flag-5'>负载</b>保护 航裕<b class='flag-5'>电源</b>对<b class='flag-5'>负载</b>的保护措施

    如何为变频电源挑选合适的负载

    电源的额定功率范围内。如果负载功率过小,可能无法正常工作,而功率过大则可能会损坏负载甚至变频电源。因此,在选择
    的头像 发表于 11-17 11:22 288次阅读

    单相变频电源工作原理 变频电源负载特性

    单相变频电源工作原理 变频电源负载特性  单相变频电源是一种将交流电转换为直流电,再将直流电通过逆变器转换为可调频率的交流电的电力设备。它
    的头像 发表于 11-16 11:17 446次阅读

    负载是什么?如何测试电源负载能力?

    负载是什么?如何测试电源负载能力? 负载是指电源系统在工作状态下需要供应电力的设备、电路或整个电
    的头像 发表于 11-10 15:46 1368次阅读

    什么是负载调整率?电源模块负载调整率测试方法介绍

    负载调整率,即LOAD REGULATION,电源负载的变化会引起电源输出的变化,负载增加,输出降低,相反
    的头像 发表于 11-09 18:20 679次阅读
    什么是<b class='flag-5'>负载</b>调整率?<b class='flag-5'>电源</b>模块<b class='flag-5'>负载</b>调整率测试方法介绍

    直流电子负载工作模式

    直流电子负载工作模式  直流电子负载是一种用于检测和模拟负载对直流电源的需求的设备。它可以对直流电源
    的头像 发表于 11-07 10:08 337次阅读

    电源可以做负载电源负载能力

    电源可以做负载吗  电源是一种用于将电能转化为电路所需的电压、电流和功率的设备,它通常由电源的输出电压和输出电流来描述。电源具有
    的头像 发表于 09-02 17:12 1257次阅读

    电源负载提供最大功率的条件是

    率,以确保负载能够正常工作。本文将详细介绍电源负载提供最大功率的条件。 一、负载的电阻符合电源
    的头像 发表于 08-27 16:05 2874次阅读

    负载均衡是如何工作的?

    负载均衡是在多个物理服务器之间智能分配流量以最大化资源利用率的过程。换句话说,在两台或多台计算机/服务器之间共享计算工作负载的过程就是负载均衡。这基本上可以最大限度地减少每台服务器上的
    的头像 发表于 06-15 17:26 462次阅读