0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

字节跳动今年已经为AI购买了超10亿美元的GPU

半导体产业纵横 来源:半导体产业纵横 2023-06-20 15:03 次阅读

中国大型互联网公司英伟达的依赖度正在全方位增加。

中国科技巨头字节跳动(TikTok)、腾讯、百度和阿里巴巴无法获得足够的英伟达高性能计算(HPC)芯片。据中国媒体报道,进入2023年以来,仅TikTok的创造者字节跳动就已经赶上了(以纯美元计算)整个中国市场在2022年从英伟达订购的产品

到目前为止,字节跳动已经在2023年订购了价值10亿美元的英伟达GPU,数量大约为100000个,分别为A100(在美国政府告诉英伟达停止向中国大陆销售其性能最佳的 HPC 卡之前订购,早在 2022 年8月就开始了)和 H800 卡,后一个型号产品对应于英伟达为遵守出口限制而构建的基于 Hopper 的定制加速器,是H100的降级版本。无论如何,英伟达制定的平均销售价格(ASP)都不低于10000美元。

英伟达在出口限制首次实施时发出了一些声音,称它将损失大约400亿美元,这种损失可能会损害其H100芯片的开发。不过,我们永远不会知道H100加速器的开发是否会真正完成,因为美国政府将出口禁令推迟到了今年9月,允许英伟达出货更多的H100芯片。

考虑到其它中国科技巨头也大幅增加了对HPC硬件的投资,这种观点确实令人震惊。如果仅字节跳动就已经让英伟达在中国大陆的销售额黯然失色了整整一年,那么中国市场还能说些什么呢?据中国行业消息人士称,中国科技巨头的数量和产品需求太多,中国自己的分销商供应链已经无法处理,这就解释了为什么至少字节跳动和阿里巴巴被报道直接与英伟达谈判购买产品。

投资的增加是显而易见的,这也是其动机的一部分。中国不能让西方在人工智能领域完全占据主导地位,中国的兴趣不仅受到人工智能可以为世界经济带来的4.4万亿美元的承诺的提振(这是根据麦肯锡的说法)。中国的控制机构需要不断向其提供一系列高科技解决方案。我们可能会在生成式人工智能和大型语言模型的混战中忘记它们,但人工智能也为闭路电视分析和面部识别技术等提供动力(就像通过英伟达的FaceDetect技术提供的那样)。

这一点也很有趣,由于英伟达的H800显卡在今年3月才开始量产,因此英伟达交付的显卡比例还不大,预计H800的交付实际上将持续一整年。目前还不清楚前文报道中的10亿美元数字是指已经交付或仅订购的产品。当然,字节跳动去年确实花了30亿美元从投资者那里回购股票。有了这么多钱,多出一两亿又算什么?

英伟达GPU价格上涨40%,库存短缺预计将持续到12月

由于人工智能的繁荣,英伟达的A100和H100 GPU现在非常火爆,该公司可能无法跟上需求。

英伟达的GPU业务繁荣这是无数年来押注人工智能作为下一件大事的结果。借助ChatGPT和其他生成AI模型,看起来英伟达的赌注已经得到了回报,该公司正在获得来自科技行业各个角落的订单,以获得其全新的GPU,包括A100和H100。

多个报告现在暗示,尽管英伟达尽了最大努力,但可能无法跟上庞大的AI芯片需求。DigiTimes最近的一份报告表明,随着英伟达看到其最新GPU的订单增加,该公司已开始增加台积电芯片的产量。

据市场消息人士称,英伟达的A100和H100 AI GPU订单有所增加,导致台积电的晶圆开工增加。

ChatGPT带来的AI热潮导致对高计算GPU的需求飙升。再加上美国禁止向中国大陆销售AI芯片,百度等中国大公司正在收购英伟达的AI GPU。

A100采用台积电7nm工艺节点,而去年4月开始出货的H100则基于台积电5nm工艺节点。自推出以来,该公司已经看到了对其H100和DGX H100 GPU服务器的巨大需求。尽管英伟达试图跟上需求,但最近的人工智能热潮对该公司跟上需求的努力造成了巨大影响。

在中国大陆,该公司提供其A100和H100 GPU的修改版本,以绕过美国的制裁,称为A800和H800,这些芯片的价格比原来的建议零售价高出40%。中国目前对这些AI GPU的需求如此之大,即使是2018年推出的V100,也是第一款采用张量核心架构的GPU,售价也在10000美元或69000元人民币左右。A800的售价约为252000元人民币或36500美元。

交货周期也有据说受到影响,因为英伟达希望首先迎合其非中国技术合作伙伴。因此,英伟达GPU在中国大陆的交付时间增加到3个月,在某些情况下甚至更长。据悉,部分新订单可能要到6月才能完成,要等到今年12月。

英伟达希望为AI分配更多资源,并正在夜以继日地工作,以确保它仍然可以提供可观的供应芯片给其最大的合作伙伴。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    447

    文章

    47855

    浏览量

    409859
  • gpu
    gpu
    +关注

    关注

    27

    文章

    4427

    浏览量

    126777
  • 字节跳动
    +关注

    关注

    0

    文章

    266

    浏览量

    8732

原文标题:字节跳动今年已经为AI购买了超10亿美元的GPU

文章出处:【微信号:ICViews,微信公众号:半导体产业纵横】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    字节跳动加速AI布局,Flow部门拓展四大业务线

    字节跳动AI领域的布局持续提速,其最新推出的AI角色互动App“话炉”引起了业界对AI社交赛道的广泛关注。这款应用由
    的头像 发表于 03-27 11:21 332次阅读

    字节跳动加速AI布局,Flow部门吸引百度阿里人才

    去年11月,字节跳动宣布成立新部门Flow,专注于AI大模型应用层的研发。该部门隶属于字节跳动产品研发与工程部(PDI),目前下设四大业务线
    的头像 发表于 03-26 11:46 409次阅读

    字节跳动发布AI角色互动应用“话炉”,涉足AI社交赛道

     值得注意的是,字节跳动CEO梁汝波在2024年度全体会议上指出,尽管字节跳动在2023年才初步涉足GPT领域,然而同期众多先进的大模型创业企业已纷纷成立。
    的头像 发表于 03-25 16:40 603次阅读

    字节跳动开启新一轮期权回购

    字节跳动最近进行了新的期权回购,这次回购的价格对于现任员工和离职员工有所区别。据消息透露,现任员工的回购价格为170美元/股,而离职员工的回购价格则为145美元/股。这种差别待遇引发了
    的头像 发表于 03-07 10:04 295次阅读

    字节跳动被曝正秘密研发多个AI产品

    据多位知情人士透露,科技巨头字节跳动正在人工智能(AI)大模型领域秘密研发多个创新产品。其中,多模态数字人产品备受瞩目,该产品将结合先进的AI技术与虚拟形象,为用户提供全新的交互体验。
    的头像 发表于 03-05 11:22 457次阅读

    字节跳动去年Q3营收309亿美元

    在2023年第三季度的财报中,字节跳动再次展现了其强大的增长势头。据最新数据,该公司在这一季度的营收同比增长了约43%,达到了惊人的309亿美元。这一增长速度不仅远超行业平均水平,更是Meta(Facebook母公司)的两倍。
    的头像 发表于 03-05 11:13 520次阅读

    字节跳动推出AI聊天机器人Coze扣子

    近日,字节跳动正式推出了名为“Coze扣子”的AI聊天机器人开发平台。自2月1日起,这一平台已正式上线,为开发者和用户提供了一个全新的交互体验。
    的头像 发表于 02-03 09:31 776次阅读

    字节跳动或超越腾讯,年度营收预计超1100亿美元

    根据可靠消息来源透露,字节跳动今年的销售额可能比去年提高30%左右。如果这个预估可靠的话,那么它显然已经超越了包括腾讯、Facebook在内的其他主要社交媒体平台。
    的头像 发表于 12-21 10:21 265次阅读

    英伟达H100 GPU Q3售出50万块,科技巨头争抢

    这款产品最大购买客户是Meta与微软,各自购买了15万块;谷歌、亚马逊、甲骨文、腾讯各自购买了5万块,榜单中还出现了百度、阿里巴巴、字节跳动
    的头像 发表于 12-07 15:18 549次阅读
    英伟达H100 <b class='flag-5'>GPU</b> Q3售出50万块,科技巨头争抢

    字节跳动旗下PICO近半员工离职 但字节跳动表示会长期投入XR

    字节跳动旗下PICO近半员工离职 但字节跳动表示会长期投入XR 有媒体报道字节跳动旗下PICO
    的头像 发表于 10-24 17:38 1345次阅读

    中国4大互联网巨头下50亿美元AI芯片订单?

    多位知情人士向外国媒体表示,百度、字节跳动、腾讯已订购10亿美元,将从这家美国芯片制造商购买10
    的头像 发表于 08-14 09:53 483次阅读

    中国4大互联网巨头向英伟达下50亿美元AI订单

    据多位知情人士透露,百度(Baidu)、字节跳动(ByteDance)、腾讯(Tencent)和阿里巴巴(Alibaba)为从美国半导体制造商购买10万个a800处理器,订购了
    的头像 发表于 08-11 10:21 523次阅读

    字节跳动AI开启测试 代号“Grace”

    字节跳动AI开启测试 代号“Grace” 字节跳动AI开启测试;目前在内测阶段,需要邀请或授权的
    的头像 发表于 08-07 16:58 930次阅读

    Ai 部署的临界考虑电子指南

    虽然GPU解决方案对训练,AI部署需要更多。 预计到2020年代中期,人工智能行业将增长到200亿美元,其中大部分增长是人工智能推理。英特尔Xeon可扩展处理器约占运行
    发表于 08-04 07:25

    字节跳动订购英伟达10亿美元芯片!

    据了解,字节、腾讯、阿里、百度这四家中国最注重人工智能和云计算领域的科技公司,过去他们对A100型号的采购量累计已超过上万块。其中,字节公司的A100数最多,如果不算今年的新增订单,字节
    的头像 发表于 06-14 14:30 1386次阅读