0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

OpenAI硬件负责人热议AI基础设施扩展与节能方案

要长高 2024-09-02 16:20 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在近日于斯坦福大学举办的Hot Chips 2024大会上,OpenAI的硬件设施负责人Trevor Cai发表了一场深入人心的演讲,其核心聚焦于“构建可扩展的AI基础设施”。Trevor Cai强调,OpenAI的一个核心洞察是,通过扩大规模能够显著提升AI的性能与实用性,这一观点为当前AI领域的发展指明了方向。

随着AI技术的迅猛发展,数据中心的数量急剧增加,随之而来的是对电力的巨大需求。摩根士丹利的一项最新研究预测,未来几年内,生成式AI的电力需求将每年飙升75%,预计到2026年,其能耗将与西班牙2022年的总消耗量相当。这一预测引发了业界对AI能源消耗问题的广泛关注。

为应对这一挑战,Hot Chips 2024大会上的讨论焦点不约而同地落在了节能技术上。Trevor Cai的演讲不仅阐述了算力提升对AI性能的积极影响,还暗示了大规模AI部署对基础设施的更高要求,特别是能源效率方面。

与此同时,各大科技公司纷纷亮出了自己的节能“杀手锏”。IBM展示了即将推出的Telum II处理器和Spyre加速器,这些新技术旨在通过优化AI集成和I/O技术来降低能耗和数据中心占用空间。英伟达则推出了Blackwell AI集群架构,并配套Quasar量化系统以减少计算和存储需求,从而提高能源效率。英特尔博通、海力士等公司也相继推出了各自的节能技术方案。

除了芯片层面的创新,科技公司还在数据中心的整体设计和能源供应上寻求突破。例如,亚马逊和微软正探索使用核能等清洁能源为数据中心供电,以减少对化石燃料的依赖。谷歌则致力于开发针对AI任务优化的专用芯片,如张量处理单元(TPU),以提高计算效率并降低能耗。

然而,尽管这些努力在一定程度上缓解了AI能耗问题,但威斯康星大学麦迪逊分校的教授辛克莱提醒我们,杰文斯悖论同样适用于当前的AI领域。即,虽然单次操作的能耗可能通过技术进步而降低,但整体使用率的增加最终仍可能导致总体能耗的上升。

因此,面对AI技术带来的能源挑战,科技公司需要在技术创新与可持续发展之间找到平衡点。通过不断优化算法、提升硬件效率、采用清洁能源等多种手段,共同推动AI技术的绿色、可持续发展。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    41156

    浏览量

    302609
  • OpenAI
    +关注

    关注

    9

    文章

    1250

    浏览量

    10281
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    不止手机!高通AI全面进击,芯片到加速卡,万卫星解读关键布局

    个人智能体今年的演进出现哪些趋势?在以OpenClaw(小龙虾)大的当下,芯片厂商如何考虑智能体在终端的应用前景和机会?这些热点问题在3月27日的CFMS MemoryS 2026 峰会上,来自高通公司AI产品技术中国区负责人
    的头像 发表于 03-30 10:37 1.6w次阅读
    不止手机!高通<b class='flag-5'>AI</b>全面进击,芯片到加速卡,万卫星解读关键布局

    为何CPU是AI基础设施的核心

    人工智能 (AI) 并非一种具有单一理想基础设施的单一工作负载。AI 涵盖了多样化的工作负载,需要系统层面的协同策略,才能高效且可扩展地提供性能。而在这一策略中,CPU 扮演着核心角色
    的头像 发表于 03-11 10:35 1361次阅读

    放弃 14 亿天价合同!前苹果 AI 负责人庞若鸣弃 Meta 转投 OpenAI

    电子发烧友网综合报道 2 月 26 日,一则震撼硅谷的消息在 AI 圈迅速传开:据多家权威媒体报道,前苹果 AI 基础模型团队负责人、上海交大校友庞若鸣(Ruoming Pang)在加盟 Meta
    的头像 发表于 02-27 09:35 2729次阅读

    三星电子相关业务负责人一行到访谷东智能参观交流

    12月23日,三星电子相关业务负责人一行到访谷东智能,围绕增强现实(AR)近眼显示核心光学技术及整机解决方案展开深入交流。来访团队包括三星电子CSS 部门长Richard Hwang、LEDoS中国负责人 Hang Wang等。
    的头像 发表于 12-29 15:44 506次阅读

    亚马逊云科技推出全新的Amazon AI Factories 将客户现有基础设施转化为高性能AI环境

    亚马逊云科技在2025 re:Invent全球大会上,宣布推出全新的Amazon AI Factories,助力企业将现有基础设施转化为高性能的AI环境。
    的头像 发表于 12-13 13:44 860次阅读

    德州仪器推出全新电源管理解决方案,支持可扩展AI 基础设施

    需求,并实现电源管理架构从 12V 到 48V 再到 800VDC的扩展 。新的解决方案于 10 月 13 日至 16 日在 加利福尼亚州圣何塞 举行的 开放计算峰会 (OCP)  上展出,这些新的解决方案及资料包括: 白皮书
    的头像 发表于 10-19 10:36 4.2w次阅读

    AI业界新闻:OpenAI官宣自研首颗芯片 黄仁勋时隔9年再次给马斯克“送货”

    设计、博通负责制造与系统集成。博通与OpenAI已经签署战略合作,OpenAI与博通就共同开发和供应AI芯片达成了长期协议。 据悉,这是一款专为Op
    的头像 发表于 10-14 18:42 2101次阅读

    GlobalData与华为探讨AI对网络基础设施的机遇与挑战

    GlobalData 研究总监Emir Halilovic 与华为数据通信产品线NCE数据通信领域总裁王辉共同探讨了人工智能(AI)对网络基础设施带来的机遇(高性能网络需求、AI增强的网络能力
    的头像 发表于 10-14 14:24 780次阅读

    NVIDIA携手OpenAI构建AI基础设施

    NVIDIA 首席执行官黄仁勋、OpenAI 首席执行官 Sam Altman 和 OpenAI 总裁 Greg Brockman 宣布了一项新的合作伙伴关系,旨在推动 OpenAI 的发展,并支持几乎所有行业和用户大规模使用
    的头像 发表于 09-23 14:38 1090次阅读

    科士达全栈解决方案亮相2025 ODCC,驱动绿色AI智算基础设施革新

    2025年开放数据中心大会(ODCC)于9月9日-11日在北京国际会议中心盛大启幕。本届峰会以“拥抱AI变革,点燃算网引擎”为主题,聚焦AI爆发背景下算力基础设施面临的能效、部署与可持续性挑战,汇聚
    的头像 发表于 09-17 15:40 1398次阅读
    科士达全栈解决<b class='flag-5'>方案</b>亮相2025 ODCC,驱动绿色<b class='flag-5'>AI</b>智算<b class='flag-5'>基础设施</b>革新

    FF任命李隽担任全球供应链负责人

    “公司”)今日宣布, 任命李隽为FF与FX全球供应链负责人。李隽将对供应链业务全面负责,并与各区域和各职能团队紧密合作,强化供应商合作关系、提升运营韧性、提升价值链效率。此次任命也体现了公司持续打造世界级供应链组织、支持创新与增长的长期承诺。
    的头像 发表于 09-03 14:47 1194次阅读

    Arm如何助力AI基础设施变革

    众所周知,人工智能 (AI) 有望革新人类活动的方方面面。然而,要充分释放这一潜力,就必须面对一个基本事实:支撑传统计算的基础设施已无法满足未来 AI 发展的需求。
    的头像 发表于 07-03 14:29 1144次阅读

    美国AI事务负责人警告:中国半导体设计能力最多只落后两年!

    白宫掌管加密货币和AI事务的负责人萨克斯(David Sacks)接受媒体访问时警告,中国半导体设计能力最多只落后美国两年。 萨克斯受访时指出,从DeepSeek年初推出突破性的AI模型,证明即使
    的头像 发表于 06-20 16:37 869次阅读

    欧洲联手NVIDIA打造AI基础设施

    NVIDIA 于近日宣布,其正在携手欧洲各国、科技和行业领导者,共同建造 NVIDIA Blackwell AI 基础设施,以强化数字主权、支撑经济增长,并推动欧洲大陆成为 AI 工业革命的领导者。
    的头像 发表于 06-16 14:25 1656次阅读

    人形机器人遇阻?特斯拉“擎天柱”项目负责人离职

    电子发烧友网报道(文/李弯弯)特斯拉“擎天柱”(Optimus)人形机器人项目负责人米兰·科瓦奇(Milan Kovac)周五表示,他将离开公司。   科瓦奇在X平台上发文称,“我不得不做出一生中
    的头像 发表于 06-10 00:07 6715次阅读
    人形机器人遇阻?特斯拉“擎天柱”项目<b class='flag-5'>负责人</b>离职