0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

智能网络和IPU在提升数据中心的性能时还能降低功耗

独爱72H 来源:砍柴网 作者:砍柴网 2020-04-19 23:32 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

(文章来源:砍柴网)
几年前,摩尔定律在IT 行业被奉为经典,不仅定期推出更强大的计算机,同时降低功耗,也就是说,新一代芯片的晶体管数量是上一代的两倍,但功耗却与上一代芯片相同。

现在摩尔定律已死,数据中心需要更智能、更高效的方案来满足应用的需求,如AI辅助设计、专用处理器加速特定应用、智能网络、容器化和边缘计算等。传统的计算方法依赖软件执行所有任务,所有软件都运行在通用 CPU 上,如 IntelAMD 的x86 CPU。软件开发人员只需将函数和实现简单地添加到应用程序(或者数据库、存储等),不必考虑优化效率问题。

如今,应用的发展要求软件必须增加新的功能,同时提升效率。让人逐行查看源代码以进行优化是一项乏味又耗时的工作,从 Perl 这样的高级语言转换到 C/C++ 这样的底层语言来提高效率也是如此。新的人工智能(AI)工具可以自动优化软件代码,快速降低数据中心的功耗。AI 还可以提高数据中心供电分布、风流和冷却的效率,减少应用在不同专用处理器(如 GPU,FPGA 或 SmartNICs等)之间切换所需的时间,相较 X86 CPU, 这些专用处理器往往能够更高效地运行特定的任务。

这突显出了智能网络的重要性,因为它在连接着各个分布式计算单元,如 CPU、GPU 和 FPGA等,当数据流过网络时, SmartNIC 和智能交换机本身同时也是计算单元。例如,许多安全、存储、虚拟化和网络等应用可在合适的SmartNIC 上得到比在 X86 CPU 上快 2 倍、3 倍、甚至 6 倍的性能(同时功耗更低),如基于Mellanox 的 ConnectX-5 和 ConnectX-6的智能网卡。

另一种使计算更绿色的方法是从虚拟化切换到容器化,因为容器不需要运行在 Hypervisor上,也不需要复制机器、操作系统、内核等整个软件包到每个应用的容器实例。但是,容器的安全性可能不及 VM,需要给裸金属服务器提供新一代防火墙和安全隔离等额外的安全保障。这些额外的安全需求将需要更多的计算资源,为绿色 IT的目标提出了新的挑战。但是如果将其卸载到 SmartNIC 和 I/O 处理单元(IPU)上,如 Mellanox 的BlueField,就可以使数据中心继续朝着绿色的目标前进。

最后,边缘计算通过将数据收集、处理和分析等任务转移到更靠近设备和用户的地方(数据产生和使用的地方),大大提升了效率。对比将所有数据移动到中央数据中心进行处理,再将要采取的行动或建议发回网络边缘端,更加高效节能的做法是在基站中分析和处理呼叫数据,在商店中分析和处理零售数据,在摄像头中分析和处理视频。
(责任编辑:fqj)

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据中心
    +关注

    关注

    18

    文章

    5767

    浏览量

    75206
  • IPU
    IPU
    +关注

    关注

    0

    文章

    35

    浏览量

    16003
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    双芯光缆:数据中心建设的理想之选

    在数字化时代,数据中心作为信息存储、处理和传输的核心枢纽,其重要性不言而喻。随着云计算、大数据、人工智能等技术的快速发展,数据中心面临着前所未有的挑战和机遇,对
    的头像 发表于 03-26 10:05 194次阅读

    三星SOCAMM2内存模组提升AI数据中心带宽与能效表现

    随着人工智能在全球范围内加速普及,数据中心的计算工作负载正经历爆炸式增长。随着大规模模型训练向持续推理的转变,挑战不再仅仅局限于性能一一能效对于维持下一代人工智能基础设施的运行也变得至
    的头像 发表于 03-16 10:28 604次阅读

    如何确保CAT.1模组的高性能低功耗

    。对于电池供电类设备(如智能水表、追踪器),这意味着续航时间可延长数年,大幅降低电池更换与设备维护成本。 快速唤醒技术:保证低功耗的同时,模组具备极速唤醒能力。从休眠状态到建立连接发
    发表于 03-05 11:41

    提高数据中心效率:探索PDU的作用

    数据中心是支撑我们数字世界的关键基础设施,承载着大量的服务器、网络设备和存储设备。高效的配电管理对于确保这些数据中心的平稳运行和最佳性能至关重要。配电单元 (PDU) 在
    的头像 发表于 02-24 17:57 1113次阅读

    1分钟带你了解数据中心供电架构 #电子元器件 #数据中心 #供电架构

    数据中心
    沛城芯动力
    发布于 :2026年02月03日 15:39:04

    CPO技术加速未来数据中心网络发展

    生成式 AI 的快速普及正在推动数据中心网络需求的指数级增长。光电一体化封装(CPO)技术以其高带宽密度、低功耗和可靠性优势,成为满足 AI 时代网络
    的头像 发表于 09-23 14:24 2249次阅读

    睿海光电以高效交付与广泛兼容助力AI数据中心800G光模块升级

    核心网络支撑。未来,随着1.6T光模块的落地,睿海光电将进一步推动数据中心向更高性能、更智能化演进,携手全球伙伴开启AI新时代。 睿海光电——AI
    发表于 08-13 19:01

    加速AI未来,睿海光电800G OSFP光模块重构数据中心互联标准

    定义数据中心互联的新范式。 一、技术实力:800G OSFP光模块的卓越性能表现 睿海光电800G OSFP光模块系列采用行业领先的PAM4调制技术,具备以下核心优势: 超高速率 :单模传输速率达
    发表于 08-13 16:38

    性能开关在快速发展的数据中心的应用

    。再加上智能手机的使用、云计算、物联网 (IoT) 和 5G 数据需求的增长,很容易看出电信和数据中心设备具备更大带宽的重要性。随着电信和数据中心的扩展,更多设备安装在机架中以满足不断
    的头像 发表于 08-04 11:23 2.2w次阅读
    高<b class='flag-5'>性能</b>开关在快速发展的<b class='flag-5'>数据中心</b>的应用

    PCIe协议分析仪在数据中心中有何作用?

    数据中心的整体可靠性。以下是其核心作用及具体应用场景的详细分析:一、性能优化:突破带宽瓶颈,提升计算效率 链路带宽利用率分析 场景:AI训练集群中,GPU通过PCIe与CPU交换
    发表于 07-29 15:02

    中型数据中心应用平台与差分晶体振荡器参数对照中型数据中心应用平台与差分晶体振荡器参数对照

    针对中型数据中心中网络交换、数据存储与边缘设备的时钟精度、低抖动、高温稳定性与功耗管理需求,FCO系列差分晶体振荡器提供了标准型、低抖动(UJ系列)与低功耗(PG系列)多个版本,支持多
    发表于 07-10 14:11

    CYBT-213043-MESH如何降低低功耗节点的电流消耗?

    LOW_POWER_NODE 之外 \"Mesh_Demo_Temperure_Sensor \" 的最佳设置是什么?\"= 1 \" 以尽可能降低低功耗节点的电流消耗。
    发表于 07-04 06:21

    中型数据中心中的差分晶体振荡器应用与匹配方案

    核心网络、存储、通信与计算节点。 通过精准选型与合理布线,这些高性能差分晶体振荡器可有效提升数据中心设备间的时钟一致性与传输效率,是构建稳定、可靠、高吞吐量
    发表于 07-01 16:33

    性能低功耗双核Wi-Fi6+BLE5.3二合一

    无线专业知识,最大限度地发挥Wi-Fi和BLE各种应用中的超低功耗优势。作为一款支持BLE模式和Wi-Fi 6双频连接的模块,它采用独立天线设计,互不干扰,为用户提供了更加稳定和可靠的无线连接性能
    发表于 06-28 21:42

    小型数据中心晶振选型关键参数全解

    的高精度时钟信号能够保证这些设备间的高效数据同步。 小型数据中心中,差分晶体振荡器(DCO)通常用于交换机、路由器的时钟同步、网络接口卡(NIC)、存储设备(如NAS、SAN)等多个
    发表于 06-11 13:37