0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

驱动 AI 的未来

Molex莫仕连接器 来源:Molex莫仕连接器 2023-12-07 15:10 次阅读

人工智能AI)性能的新突破,掀起了一场未来强大数据中心的竞赛。随着 AI 应用的复杂性不断提高,以及对计算的需求呈指数级增长,电源可能决定着哪些数据中心可提升到更高一级的处理水平并保持领先地位。

近年来,AI 在各行各业带来了翻天覆地的变化——从医疗保健和金融到交通运输。机器学习算法和深度神经网络已成为数据分析、模式识别和决策方面的强大工具。然而,这些 AI 应用需要大量的计算能力和能源才能有效运作。

训练大的 AI 模型可能会消耗大量电力,图形处理器 (GPU) 或张量处理器 (TPU) 等专用硬件常常被用来执行深度学习算法所需的复杂矩阵计算,这样的计算速度比传统 CPU 快得多。这些专用硬件单元旨在处理大量数据以及优化机器学习所需的处理。

当大模型开始扩展

近期的例子表明,训练模型可能需要多达数百千瓦的电力。例如,OpenAI 的大语言模型 (LLM) GPT-3 的训练使用了 1,750 亿个参数和来自互联网的 570GB 数据,据称消耗了 355 兆瓦的电力。

OpenAI 的下一个版本 GPT-4 比 GPT-3 强大数百倍,其训练集包括 170 万亿个参数,使其成为有史以来最强大的 AI 引擎——至少在目前是这样。

OpenAI 使用了 Microsoft Azure 数据中心来开展 GPT 项目。公司将会继续在自己的场所内打造并维护数据中心,以帮助提升自身知名度或迅速扩大用户群。但公司可能还需要依赖基于云的服务,例如 Microsoft Azure、Amazon Web Services 和 Google Cloud Platform,以提供额外计算能力来满足突然激增的需求。

这些大规模云平台一直引领着超大规模数据中心最佳实践的发展,并推动数据中心在计算速度和带宽方面的性能不断进步。

在这个竞争激烈的环境中,前景广阔 AI 项目将会在最大计算处理负载的可靠数据中心方面展开争夺。展望 AI 发展和数据中心升级的下一阶段,可能没有足够的优质数据中心服务供每个人使用。

造成瓶颈的原因在很大程度上可能是电力限制。一项以 800 多名设计工程师及其经理为调查对象的 Molex莫仕调查显示,40% 的受访者将电源管理列为在数据中心实施电源系统时面临的最大挑战。有 20% 的受访者认为,配电问题是第二大挑战。

让数据能力翻倍

当今一流的数据中心可提供高达 112 Gbps 的数据传输率。许多数据中心正在升级硬件和连接器,以期达到这种速度和性能水平。

打造224 Gbps-PAM4数据中心趋势已初现端倪,以满足不断增长的 AI 处理需求。然而,适用于 224G 的基础设施组件还处于上市的早期阶段,这意味着完全采用 224G 技术的设施要在几年后才会普及。

让全世界数据中心的数据传输率总体上翻倍将是一项艰巨的任务,因为这需要大幅增加发电量。鉴于如今 AI 消耗的能源量占了能源消耗总量的 2%,未来的升级可能相当于在这个世界新增几个大城市,每个城市需要有自己的发电厂。

事实上,典型 GPU 模块的电力需求已从 2018 年的每个模块 450W 增加到 2022 年的 1000W,OCP OAM 的电力需求从每个机箱 3600W 增加到 8000W——推动这种增长的因素是对更强计算能力的需求。这种电力增长带来了前所未有的高发热量,并促使需要能够耐受更高温度的散热片和组件。Molex莫仕 Mirror Mezz 连接器可满足更高的电力需求并实现相关的热管理。这些连接器可用于 450W 和 1000W GPU 型号,且具有出色的气冷和液冷性能。

适应未来发展趋势

AI 数据中心的电力需求成倍增长,这与现有设施的局限性形成了矛盾,解决这种矛盾需要创造性的解决方案。目前,一些超大规模数据中心可能只是因为地理位置不佳而无法进行下一代升级。某些地区可能不会选择将本已有限的发电量分配给云服务提供商。而且,老旧的电网(即使已开始过渡到使用可再生资源)可能会出现间歇性停电,事实证明,这种情况会导致数据服务出现问题。

随着数据中心从一种技术过渡到另一种技术并充分利用内部配电架构,数据中心内部也可能会出现瓶颈。除了硬件投资外,行业打造 AI 驱动的数据中心的趋势,数据中心还必须着眼于寻找新方法优化自身的功耗。优化功耗的方法可能包括使用先进的冷却系统、高效节能的硬件和创新的电源管理策略。对于想方设法优化现有资源的数据中心来说,AI 驱动的管理工具甚至可能是理想的未来解决方案。

AI 不断重塑计算世界,数据中心必须做出调整,以满足这些应用不断增长的需求。随着 AI 领域的发展,以及越来越多公司希望在业务中部署 AI 应用,对强大计算资源的争夺将愈演愈烈。数据中心运营商必须投资于最新的技术和策略,以在这个不断变化的环境中保持领先地位和竞争优势。因此,Molex莫仕投资于未来的技术,其中包括 224 Gbps-PAM4 功能以及一整套数据中心电源管理解决方案。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 连接器
    +关注

    关注

    96

    文章

    12641

    浏览量

    133139
  • AI
    AI
    +关注

    关注

    87

    文章

    26455

    浏览量

    264070
  • 机器学习
    +关注

    关注

    66

    文章

    8124

    浏览量

    130568
  • 莫仕
    +关注

    关注

    0

    文章

    88

    浏览量

    11312
收藏 人收藏

    评论

    相关推荐

    炬芯科技赵新中:无线音频SoC的AI算法未来和应用

    的平台。 炬芯科技算法研发中心高级总监赵新中受邀出席,于电声元器件及芯片专题论坛发表以《无线音频SoC的AI算法未来和应用》为主题的演讲,分享了炬芯科技的音频AI算法研究、应用经验和最新成果。 随着人工智能的迅猛发展,
    的头像 发表于 04-10 11:13 143次阅读
    炬芯科技赵新中:无线音频SoC的<b class='flag-5'>AI</b>算法<b class='flag-5'>未来</b>和应用

    NVIDIA数字人技术加速部署生成式AI驱动的游戏角色

    NVIDIA 在 GDC 2024 大会上宣布,Inworld AI 等领先的 AI 应用程序开发者,正在使用 NVIDIA 数字人技术加速部署生成式 AI 驱动的游戏角色。
    的头像 发表于 04-09 10:08 214次阅读
    NVIDIA数字人技术加速部署生成式<b class='flag-5'>AI</b><b class='flag-5'>驱动</b>的游戏角色

    AI芯片未来会控制这个世界吗?

    AI芯片行业资讯
    芯广场
    发布于 :2024年03月27日 18:21:28

    亿铸“芯”势力赋能AI未来

    对人类生产力的提升。如果说大模型的任务是让AI“够聪明”的话,那么算力的任务就是让AI“够便宜”,两者共同发展直到AI作为一个全新的生产要素在更大范围内参与生产和生活,真正惠及千行百业。亿铸科技正是在这样的浪潮中肩负起
    的头像 发表于 01-10 10:21 326次阅读

    【嵌入式AI简报20231117期】面对未来AI的三大挑战!

    AI 简报 20231117期 1.面对未来AI:三大挑战 当AI如ChatGPT在2022年末突然崭露头角时,不仅展现了AI的惊人进步,
    的头像 发表于 11-17 21:10 508次阅读
    【嵌入式<b class='flag-5'>AI</b>简报20231117期】面对<b class='flag-5'>未来</b><b class='flag-5'>AI</b>的三大挑战!

    百川智能崭露头角:A1轮融资3亿美元,助力AI领域的未来发展

    AI
    北京中科同志科技股份有限公司
    发布于 :2023年10月17日 10:39:24

    AI智能呼叫中心

    、数据驱动决策以及人力成本节约,旨在深入剖析其核心优势和对企业的重要意义。一、自动化处理AI智能呼叫中心通过引入自然语言处理(NLP)、机器学习和自动化技术,使得呼叫中心的处理过程更加高效和准确,AI
    发表于 09-20 17:53

    SIGGRAPH来袭 英伟达黄仁勋将发表“探索AI未来”主题演讲

    英伟达黄仁勋将发表“探索AI未来”为主题的演讲 2023年8月8日NVIDIA创始人黄仁勋将在SIGGRAPH现场发表NVIDIA主题演讲,SIGGRAPH作为一年一度的计算机图形学盛会
    发表于 08-07 17:05 474次阅读

    RISC-V和RISC-V AI未来(特邀讲座)

    主题演讲:RISC-V和RISC-V AI未来(特邀讲座)ppt分享
    发表于 07-14 17:15 11次下载

    AI驱动应用创新,携手开发者共建创新未来

    7月8日下午,在2023年华为开发者大会( Cloud )上,中软国际举办了《AI驱动应用创新,携手开发者共建创新未来》的专题论坛,中软国际副总裁、AIGC研究院院长、解放号总裁万如意博士在论坛
    的头像 发表于 07-09 14:05 248次阅读

    一文解读AI未来发展趋势、影响和挑战

    人工智能(AI)是一项重要的技术领域,已经在许多领域中取得了显著的进展。AI未来充满了无限的可能性和挑战,这篇文章将探讨AI未来发展趋势
    的头像 发表于 06-28 17:21 3189次阅读

    AI 人工智能的未来在哪?

    人工智能、AI智能大模型已经孵化;繁衍过程将突飞猛进,ChatGPT已经上线。 世界首富马斯克认为AI对人类是一种威胁;谷歌前CEO施密特认为AI和机器学习对人类有很大益处。 每个国家对核武器的运用有两面性,可造可控;但
    发表于 06-27 10:48

    AI设计芯片的未来在何方,我们和专家聊了聊

    的。 利用AI进行芯片设计如何发展至今?未来又何去何从? “设计领域AI的崛起——过往历程与未来展望” 讨论会吸引了各领域的专家,共同分享AI
    的头像 发表于 06-21 18:15 367次阅读
    <b class='flag-5'>AI</b>设计芯片的<b class='flag-5'>未来</b>在何方,我们和专家聊了聊

    《混合AIAI未来》| 高通AI白皮书发布

    高通技术公司发布白皮书《混合AIAI未来》,深入阐述混合AI架构的领先优势,终端侧AI将如何赋能生成式
    的头像 发表于 06-16 12:45 752次阅读
    《混合<b class='flag-5'>AI</b>是<b class='flag-5'>AI</b>的<b class='flag-5'>未来</b>》| 高通<b class='flag-5'>AI</b>白皮书发布

    中国开源未来发展峰会“问道 AI 分论坛”即将开幕!

    的模式出现。许多业内专家更是认为,开源是未来AI 领域技术工具产品存活于市场的必要条件。 然而,在备受追捧的现状背后,也隐藏着众多风险与挑战,比如数据安全和隐私保护的问题,我们该如何适合 AI 浪潮
    发表于 05-09 09:49