0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI 工作负载的电源

李芳 来源:fgfFsG 作者:fgfFsG 2022-08-08 11:14 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

AI 无处不在的性质不仅限于数据中心,也不在 MIT Python 程序员的头脑中。它可以在我们当地的超市中以自导机器人的形式在过道中漫游,使用卷积神经网络 (CNN) 和其他方式嵌入机场安全摄像头。

无论 AI 接口是什么——一个眼睛粘糊糊的超市机器人,或者一个性感的澳大利亚女声给我们指着一个好酒吧——工作负载需要在某种基于 CPUGPU 的系统上处理,比如来自 Nvidia 的 DGX。

因为有这么多不同类型的 AI,所以没有一种最适合的硬件来处理工作负载。正如英特尔的Naveen Rao所说,“客户发现没有单一的‘最佳’硬件来运行各种 AI 应用程序,因为没有单一类型的 AI。” 无论为 AI 应用程序选择哪种硬件,肯定有一个共同点:处理工作负载的每台设备都需要有电源

美元数据

对于 IT 经理来说,人工智能对计算服务器所需的功率产生了相当大的影响。服务器机架的平均功耗通常为 7 kW;但是,AI 应用程序每个机架可能使用超过 30 kW。增加千瓦是必需的,因为 AI 需要更高的处理器利用率,例如在 GPU 类型服务器上运行的应用程序——它们每个芯片需要两倍的功率。

当然,如果您的设施功率受限,您可以尝试四处移动数据,但这可能需要比处理数据更多的能量,而且功率消耗始终与移动中的数据量有关。简而言之,与数据传输相关的成本很高。

例如,尽管有许多云提供商(AWS、Azure、Google 等)可供选择,但许多公司都面临与复杂数据传输价格相关的隐藏成本。解决这一困境的一个可行的解决方案不是移动数据,而是在更接近起源点的地方处理它——这创造了对边缘计算的另一种需求。

用小网络解决大问题

边缘计算有望成为另一个无处不在且备受期待的数据进步(称为 5G)的支柱。5G 预期的 1 毫秒延迟时间需要许多分布式处理区域(也称为边缘网络)的支持。基于边缘的服务器需要更靠近个人流式传输 4K 视频和最终 8K 格式的视频,以及用于监控智能城市中行人和交通活动的摄像头等应用程序——而这一切都无需将其发送到云端。

此外,还需要边缘网络来支持自动驾驶汽车。这种优雅的新数据流挂毯的核心将是人工智能近乎实时地处理信息。

目前,所有 AI 应用程序都运行在基于硅的计算硬件上,无论是在智能手机内置的定制芯片中、在边缘计算服务器内部署的 FPGA 中,还是在专门构建的以 AI 为重点的系统中,例如来自 Nvidia 的 DGX,可通过公共云访问。

并且该硬件都需要电源,无论是直流电(如电池)还是交流电(来自电网)。它还需要物理系统之间的连接,无论是通过铜缆还是光纤数据连接。

断电是AI的氪石

人工智能似乎对人类具有前所未有的价值。然而,当遇到断电时,它会崩溃并停止运作——就像超人对氪石的反应一样。将 AI 与这种能量克星隔离并降低故障风险的解决方案是确保可靠的功率流。

具有每插座功率感应功能的开关 PDU将使边缘数据中心能够最大限度地延长所有需要近实时处理的 AI 应用程序的正常运行时间。在这种环境下,选择可靠的 PDU 为交通控制信号和中继站的 AI 工作负载供电非常重要,急救人员使用这些工作负载为救护车、消防和执法服务提供调度和紧急数字通信。

鉴于这些关键任务的情况,智慧城市需要智能电源设备来确保其 5G 服务畅通无阻。使用远程监控和管理的数据中心 PDU还有助于监控机柜内的温度和环境条件。

回到数据中心和主机托管设施,人们正在更换基于 CPU 的服务器以获得更强大的 GPU 系统人工智能处理能力,当 C13 和 C19 插座的更大组合时,拥有可扩展的机架式 PDU真的会派上用场需要——正在创建 30 kW 机架的过程中。

审核编辑 黄昊宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 电源
    +关注

    关注

    185

    文章

    18709

    浏览量

    261406
  • AI
    AI
    +关注

    关注

    89

    文章

    38121

    浏览量

    296685
  • 工作负载
    +关注

    关注

    0

    文章

    11

    浏览量

    2103
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    电源测试为何弃用实际负载?模拟负载才是高效选择

    电源研发、生产质检与性能验证的全流程中,负载测试是衡量电源输出稳定性、可靠性的关键环节。不少人会产生疑问:直接连接实际用电设备测试,难道不是贴合真实场景的方式吗?为何行业内更青睐模拟负载
    的头像 发表于 12-02 11:44 56次阅读
    <b class='flag-5'>电源</b>测试为何弃用实际<b class='flag-5'>负载</b>?模拟<b class='flag-5'>负载</b>才是高效选择

    NVIDIA如何简化企业AI工作负载

    AI 基础架构中,数据为计算引擎提供关键燃料。随着代理式 AI 系统的持续演进,多个模型与服务相互协作,需要获取外部上下文并实时做出决策,企业面临如何高效、智能且可靠地处理大规模数据流的挑战
    的头像 发表于 09-23 15:21 792次阅读
    NVIDIA如何简化企业<b class='flag-5'>AI</b><b class='flag-5'>工作</b><b class='flag-5'>负载</b>

    【产品介绍】Altair PBS Professional HPC工作负载管理器和作业调度管理系统

    ,并简化集群、云和超级计算机的管理——从最大的高性能计算(HPC)工作负载到数百万个小型、高吞吐量作业。借助动态策略、AI工作负载支持、强大
    的头像 发表于 09-19 17:03 382次阅读
    【产品介绍】Altair PBS Professional HPC<b class='flag-5'>工作</b><b class='flag-5'>负载</b>管理器和作业调度管理系统

    如何加速实时工作负载

    对于需要实时响应的数据中心工作负载,性能不仅是指原始吞吐量或处理能力。挑战在于:在保持吞吐量和能效的同时,实现确定性时延。
    的头像 发表于 09-10 15:36 508次阅读

    电子负载电源测试中如何应用?

    电子负载是一种能够模拟不同负载条件的电子设备,可应用于电源、电池、电机、太阳能板等电子器件的测试中。它通过精确控制和调节输入的电压和电流,为被测设备提供一个稳定的测试环境。本文将详细介绍电子
    的头像 发表于 07-11 10:42 789次阅读
    电子<b class='flag-5'>负载</b>在<b class='flag-5'>电源</b>测试中如何应用?

    通过NVIDIA RTX PRO服务器加速企业工作负载

    从大语言模型(LLM)到代理式 AI 推理和物理 AI ,随着 AI 工作负载的复杂性和规模不断增加,人们对更快、扩展性更高的计算基础设施的
    的头像 发表于 06-12 15:31 642次阅读
    通过NVIDIA RTX PRO服务器加速企业<b class='flag-5'>工作</b><b class='flag-5'>负载</b>

    ups电源—UPS(不间断电源)选型和负载类型的关系分析

    在选择适合工作场景的UPS(不间断电源)时,负载类型是一个至关重要的考虑因素。不同类型的负载对UPS(不间断电源)的性能要求不同,因此,明确
    的头像 发表于 03-28 18:21 910次阅读
    ups<b class='flag-5'>电源</b>—UPS(不间断<b class='flag-5'>电源</b>)选型和<b class='flag-5'>负载</b>类型的关系分析

    ups电源—UPS不间断电源在不同负载下的效率详解

    UPS(不间断电源)在不同负载类型下的工作效率会有所差异,这主要取决于UPS不间断电源的设计、容量、负载特性以及运行环境等多个因素。以下是对
    的头像 发表于 03-27 18:21 1099次阅读
    ups<b class='flag-5'>电源</b>—UPS不间断<b class='flag-5'>电源</b>在不同<b class='flag-5'>负载</b>下的效率详解

    ups电源—线性负载中UPS不间断电源提效妙招

    在线性负载场景下,UPS(不间断电源)的工作效率对于确保电力系统的稳定性和可靠性至关重要。为了提升UPS不间断电源在线性负载下的
    的头像 发表于 03-24 18:42 469次阅读
    ups<b class='flag-5'>电源</b>—线性<b class='flag-5'>负载</b>中UPS不间断<b class='flag-5'>电源</b>提效妙招

    ups电源—超有趣!UPS不间断电源负载类型介绍

    UPS不间断电源常见负载类型包括线性负载和非线性负载,下面具体介绍一下UPS不间断电源负载类型
    的头像 发表于 03-21 18:28 1003次阅读
    ups<b class='flag-5'>电源</b>—超有趣!UPS不间断<b class='flag-5'>电源</b>的<b class='flag-5'>负载</b>类型介绍

    开关电源的基本工作原理

    开关电源工作原理 图1-1-a 是串联式开关电源的最简单工作原理图,图1-1-a 中 Ui 是开关电源
    发表于 03-10 17:01

    Arm技术助力Google Axion处理器加速AI工作负载推理

    由 Arm Neoverse V2 平台赋能的 Google Axion 处理器已在 Google Cloud 上正式上线,其中,C4A 是首款基于 Axion 的云虚拟机,为基于 CPU 的人工智能 (AI) 推理和通用云工作负载
    的头像 发表于 02-14 14:11 959次阅读
    Arm技术助力Google Axion处理器加速<b class='flag-5'>AI</b><b class='flag-5'>工作</b><b class='flag-5'>负载</b>推理

    HPC工作负载管理的关键要素

    HPC工作负载管理是一个复杂而精细的过程,涉及资源分配、作业调度、性能监控与优化以及故障处理与恢复等多个关键要素。下面,AI部落小编带您了解HPC工作
    的头像 发表于 02-08 09:53 534次阅读

    电源负载主要特性和参数是什么?

    电源负载的主要特性和参数是评估其性能和适用性的关键因素。以下是一些主要的特性和参数: 功率: 额定功率(Rated Power):电源负载能够持续稳定运行的最大电功率。 峰值功率(Pe
    发表于 12-25 15:09

    直流电源怎么连接负载 常见直流电源接线方式

    电路正常工作和延长设备寿命至关重要。 常见直流电源接线方式 1. 正负极直接连接 这是最基本的连接方式,适用于大多数简单电路。直流电源的正极(+)连接到负载的正极输入端,负极(-)连接
    的头像 发表于 12-23 09:45 9841次阅读