0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达缺货?OpenAI选择自研芯片

E4Life 来源:电子发烧友网 作者:周凯扬 2024-01-30 00:51 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/周凯扬)在生成式AI和大模型带来的AI洪流下,不少大厂都不约而同地选择了自研AI芯片。即便这意味着组建新的团队,花费大量的资金,但从长远发展的角度来看,自研芯片似乎成了势在必行。然而掀起这股AI洪流,或者说将其推向浪尖的“始作俑者”,OpenAI,却也已经在计划着自研芯片。

有了英伟达供应的前提下为何要走向自研之路

稍有关注OpenAI动向的话,想必也对2023年底OpenAI闹出的离职风波有所耳闻。据外网报道,在OpenAI闹剧期间,Sam Altman已经在秘密筹划一项数十亿美元的芯片项目(据称项目名为Tigris)。甚至其去年的中东之行,就是为了给这一项目筹集资金。

在各大公司都选择批量扫货的前提下,去年用于AI服务器的英伟达GPU处于一个极度缺货的状态,比如Meta就在月初宣布计划再购买35万块英伟达的H100 GPU。就连为OpenAI提供服务器的微软,也面临着扩大AI服务器规模的困难。为此微软也在加快内部AI芯片的研发进程,但微软的这一芯片必然不是单纯为了OpenAI打造的,而是面向所有Azure的客户。

更别说OpenAI面临着超高的运维成本,网传OpenAI每天的服务器运维费用高达70万美元。
在如此高昂的服务器硬件与运维成本下,OpenAI也开展了相关的订阅收费模式ChatGPT Plus,费用为20美元每月。

但据统计,去年10月份ChatGPT Plus的订阅用户只有20多万,这样的用户规模根本没法覆盖运维支出。更何况因为硬件资源的限制,OpenAI一直在限制ChatGPT Plus的订阅用户规模,以免出现服务器负载过高的情况。

为此,OpenAI要想进一步降本增效,并保证下一代GPT模型能有足够的算力支撑,走上自研这条路倒也情有可原。由OpenAI自研的芯片,自然会专为GPT模型作针对性的优化,也有利于未来的模型与硬件迭代。

从资金、设计到制造,OpenAI寻求外援

然而自研造芯不仅需要组建一个设计团队,也需要半导体制造厂商的支持,更别说打造高性能AI芯片的资金了。据了解,阿布扎比的G42和日本的软银已经与Sam Altman展开合作交谈,这些投资者将为OpenAI提供足够的资金来打造一个AI芯片的制造网络。

据传这一投资也拉到了台积电的合作,后者将为其提供芯片的支持。要知道目前用于AI芯片的CoWoS先进封装产能可是炙手可热,即便台积电在积极扩产,但在源源不断的制造订单下,可能仍然难以满足云服务厂商和互联网厂商们的AI芯片需求。

再者就是HBM的产能,除了算力对逻辑芯片提出的高要求外,AI应用所需的高带宽也对存储芯片提出了不少的要求,甚至在近年推出的一大批AI芯片中,HBM内存已经成了标配。可HBM有限的制造厂商们却面临着产能紧缺的问题,比如SK海力士就透露其2024年的HBM3和HBM3E产能已经全部售罄,甚至已经在和客户商讨2025年的订单。

其实早在去年6月,Sam Altman就曾访问韩国,并与韩国总统尹锡悦会面,并提议韩国应该多多关注芯片产能问题。上周,Sam Altman再度访韩,据悉其参观了三星电子的半导体产线,并会见了三星的芯片业务负责人,这之后又与SK海力士的CEO进行了会谈。此行的目的已经很明显了,这两大HBM厂商都已经打入了英伟达的AI芯片HBM内存供应链中,尤其是SK海力士。

OpenAI要想自研AI芯片,势必用上最新的HBM内存,那么与存储厂商直接预订产能是最好的选择。这也是自研AI芯片面临的难处之一,英伟达这类已经有大量订单和多年设计经验的厂商,在晶圆代工厂往往有着更大的话语权,能够抢占到更大的产能。如果OpenAI能够抛出大批量的订单的话,或许可以说动台积电、三星和SK海力士等厂商为其腾出额外的产能。

自研的其他捷径

对于OpenAI来说,自研AI芯片固然存在着很多阻碍,但在这个设计路线已经与过去大不相同的时期,也有不少捷径可走,比如Chiplet技术。谷歌TPU项目的负责人之一Richard Ho从去年11月起,已被OpenAI聘请为硬件部门的负责人。但从其公开招募的职位来看,OpenAI还没有大规模组建硬件设计团队。

即便如此,OpenAI依然有着缩短芯片设计周期的手段,那就是通过Chiplet技术,降低设计芯片的工程量。其自研的部门只需要涵盖芯片的逻辑计算部分,其余的I/O等模块,均可以靠第三方IP打造的Chiplet进行实现。

如此一来不仅可以充分利用异构集成的高性价比,也可以通过重复利用IP来避免反复造轮子的情况,也更容易实现芯片的迭代,不需要组建一整个大型硬件设计团队,从而将更多精力放在计算核心的设计,以及与软硬件的联调上。更重要的是KGD的优势保证了Chiplet的良率,也就直接提高最终AI芯片成品的良率,对于新晋芯片设计厂商而言,这能有效地降低制造分享。

写在最后

从OpenAI或将自研芯片的动向或传言来看,AI的框架和应用走向成熟和爆红,仅仅只是实现成功的第一步。要想实现可持续的商业化落地,还是少不了硬件的支撑,尤其是与模型契合的AI芯片。所以只要是可以负担得起大投入和高风险的AI公司,都会考虑自研专用AI芯片。

同时,我们也可以看出OpenAI的野心确实不小,不少AI模型/应用开发商并没有这个魄力去选择自研的道路,因为绝大多数竞争对手的运营方式还是靠服务器托管,以订阅制或Token数来进行收费,其用户量也还没达到云服务厂商难以维系的程度。而OpenAI凭借ChatGPT成为落地AI应用的领头羊,甚至不少云服务厂商亲自下场也没能实现ChatGPT的热度。或许对于OpenAI而言,自研芯片固然风险极高,却依然是推动公司进入下一阶段的最优解。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    23

    文章

    4040

    浏览量

    97669
  • OpenAI
    +关注

    关注

    9

    文章

    1238

    浏览量

    9813
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    英伟达到博通:OpenAI芯片版图浮出水面,开启推理效率革命

    电子发烧友网报道(文/莫婷婷)在人工智能大模型训练与推理成本高企、算力需求呈指数级增长的背景下,OpenAI与Broadcom(博通)于10月正式宣布达成一项史无前例的战略合作:共同部署总规模10
    的头像 发表于 10-15 09:05 7348次阅读
    从<b class='flag-5'>英伟</b>达到博通:<b class='flag-5'>OpenAI</b><b class='flag-5'>自</b><b class='flag-5'>研</b><b class='flag-5'>芯片</b>版图浮出水面,开启推理效率革命

    芯片霸主变身基建巨头:英伟千亿美元绑定OpenAI,首期部署明年上线

    电子发烧友网报道(文/莫婷婷)2025年,人工智能产业迎来一个具有里程碑意义的时刻:全球最大的GPU制造商英伟(NVIDIA)宣布将向OpenAI投资高达1000亿美元(约合7115亿元
    的头像 发表于 09-24 09:35 7436次阅读
    <b class='flag-5'>芯片</b>霸主变身基建巨头:<b class='flag-5'>英伟</b><b class='flag-5'>达</b>千亿美元绑定<b class='flag-5'>OpenAI</b>,首期部署明年上线

    成功点亮并上车!对标Orin X,Momenta芯片来了

    年时间,其芯片也终于接近落地。   对标Orin-X,接口兼容8650,目标快速上车   据透露,Momenta的智驾
    的头像 发表于 08-14 09:10 7626次阅读
    成功点亮并上车!对标Orin X,Momenta<b class='flag-5'>自</b><b class='flag-5'>研</b><b class='flag-5'>芯片</b>来了

    Arm芯片!从高通、英伟手中抢客户?

    电子发烧友网报道(文/梁浩斌)卖铲人终要下场挖矿?Arm要自己下场造芯片的消息在过去两年其实曾零星出现过,最新的消息称,Arm最早将会在今年夏天发布其首款芯片产品,Meta有望会成为Arm
    的头像 发表于 02-17 09:12 1749次阅读

    “端到端”智驾芯片英伟DRIVE Thor接棒,车企芯片对标行业领先

    。   在智驾芯片层面,不少厂商采用了英伟的DRIVE Orin芯片,以及下一代智能驾驶计算平台Thor进行开发,MDC610、地平线征程5、征程6
    的头像 发表于 12-09 09:05 4367次阅读

    AI业界新闻:OpenAI官宣首颗芯片 黄仁勋时隔9年再次给马斯克“送货”

    给大家带来一些AI业界新闻: OpenAI官宣首颗芯片 OpenAI宣布与博通合作
    的头像 发表于 10-14 18:42 1650次阅读

    今日看点:苹果认证中国快充品牌遭美调查;英伟拟向OpenAI投资最高1000亿美元

    英伟拟向OpenAI投资最高1000亿美元 近日,英伟OpenAI宣布达成合作,包括建设庞
    发表于 09-23 10:09 287次阅读

    OpenAI将与博通合作量产自AI芯片 博通第四财季AI芯片收入展望超预期

    据外媒《金融时报》的报道称 OpenAI 将与博通公司开启大规模的合作,希望能够借住博通推动OpenAI  AI 芯片的量产落地。 据称
    的头像 发表于 09-05 11:06 1495次阅读

    英伟HBM基础裸片

    电子发烧友网综合报道,据台媒消息,传闻英伟已开始开发自己的HBM基础裸片,预计英伟HB
    的头像 发表于 08-21 08:16 2530次阅读

    摆脱依赖英伟OpenAI首次转向使用谷歌芯片

    地使用非英伟芯片,更显示出其正在逐步摆脱对英伟芯片的深度依赖,在算力布局上迈出了重要战略调整
    的头像 发表于 07-02 00:59 7994次阅读

    今日看点丨小鹏芯片或5月上车;安森美将在重组期间裁员2400人

      1. 全面放弃英伟 Thor ,小鹏芯片或 5 月上车   据报道,小鹏
    发表于 02-26 10:55 413次阅读

    传DeepSeek芯片,厂商们要把AI成本打下来

    电子发烧友网报道(文/黄晶晶)日前业界消息称,DeepSeek正广泛招募芯片设计人才,加速芯片布局,其芯片应用于端侧或云侧尚不明朗。不少
    的头像 发表于 02-16 00:09 3890次阅读
    传DeepSeek<b class='flag-5'>自</b><b class='flag-5'>研</b><b class='flag-5'>芯片</b>,厂商们要把AI成本打下来

    OpenAIAI芯片即将面世

    OpenAI正加速推进其自主研发AI芯片的计划,旨在减少对外部芯片供应商,尤其是英伟的依赖。据消息人士透露,这家ChatGPT的开发者预计
    的头像 发表于 02-11 16:51 904次阅读

    OpenAIAI芯片即将进入试生产阶段

    据最新报道,OpenAI正加速推进其减少对英伟芯片依赖的战略计划,并即将迎来重大突破——其首款
    的头像 发表于 02-11 11:04 922次阅读

    苹果AI芯片,或终结与英伟多年合作

    苹果公司正加速推进AI芯片的步伐,旨在减少对外部供应商的依赖,这一战略调整或将彻底改变其与英伟长达数十年的合作关系。 尽管目前苹果仍在
    的头像 发表于 12-27 10:18 895次阅读