0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

苹果转向谷歌芯片训练AI,或成弃用英伟达GPU首例

要长高 2024-07-30 16:06 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在7月29日这个令全球瞩目的日子里,苹果公司对外展示了其iPhone AI应用的首次预览版本,并同步发表了相关研究论文,而这篇论文十分明确地指出,苹果的深度学习人工智能模型正是在Google的TPU(张量处理单元)之上得到锻炼与提升的。在这篇论文中,我们可以详细了解到苹果为了支持其Apple Intelligence功能而精心打造的基础语言模型,其中包括一个专为在设备上高效运行而设计的大约三十亿参数模型以及一个基于私有云计算的云端大模型。

苹果公司在其官方发布的论文中对基础模型的建模过程进行了全面概述。

值得注意的是,苹果在发布的论文中明确表示,他们在八千一百九十二片TPU v4芯片上成功训练了云端AFM(Apple Foundation Model),并且采用了四千零九十六的序列长度和四千零九十六个序列的批量大小,完成了高达六点三万亿token的训练任务。同时,端侧AFM则在两千零四十八片TPU v5p芯片上进行了深度强化训练。由此可见,苹果此举无疑彰显了其在人工智能训练领域对包括英伟达图形处理单元在内的其他解决方案的探索意愿。

此外,根据某些具有影响力的芯片行业媒体报道,苹果此番举措其实已经拉开了其逐步脱离英伟达GPU依赖的序幕。分析师们在今年六月初对日本证券公司瑞穗证券做出的估算显示,英伟达在此前占据主导的AI芯片市场中,控制着用于训练和部署OpenAI的GPT等模型所需的AI芯片的70%-95%。虽然一些专家将这种市场份额形容为英伟达的“护城河”,但归根结底,他们还是认为这家实力雄厚的公司,凭借AI图形处理单元GPU(如标志性的H100)与自家独特的CUDA软件相结合的策略优势,才在这场激烈的竞争中抢占先机。

同样值得一提的是,包括谷歌、Meta(原Facebook),甲骨文及特斯拉在内的多家科技巨头也一直在倾力研发和打造自己的人工智能系统和产品。心智观察所的研究员潘攻愚先生对此表示,苹果宣布其Apple Foundation Model(AFM)在谷歌自主开发的Tensor处理单元(TPU)上进行训练,并且还租赁了谷歌的云服务。他进一步指出,苹果在AI训练方面的决策反映出了英伟达通用型AI加速器与谷歌的ASIC定制化AI服务体系之间的竞争愈发白热化。

始自2015年,谷歌一直依赖自主研发的TPU进行AI模型的训练与部署。其特殊之处在于并非以设计通用处理器见长,而是致力于打造具备矩阵处理能力的专用处理器,用于优化神经网络相关的大量运算与数据传输流程,无需直接访问内存,使得整体效率大幅提高。

今年五月份,谷歌发布公告,宣布推出全新的AI数据中心芯片Trillium。对比此前版型,该芯片性能实现了惊人的近乎5倍提速。公司透露,此款芯片将主要用于开发自身的AI模型,其中包括备受关注的Gemini以及Imagen项目。

谷歌方面公开表示,若早三年前预定,最新款TPU每小时使用费用甚至不足2美元。该产品最初于2015年应用于公司内部工作负载领域,随后于2017年公开对外销售,至今已成为专为AI量身定做且技术最为成熟的定制芯片之一。

然而,谷歌依然保持着对英伟达的高度忠诚,后者依然成为其最大的合作伙伴。利用英伟达的GPU和自家的TPU共同训练AI系统,同时在其云服务平台售卖英伟达技术的访问权限。

如同潘攻愚所分析的那样,“尽管英伟达在当前高端AI芯片市场拥有高达80%的份额,而谷歌等大型云服务商则占据了其余市场。特别值得一提的是,苹果今年采用的谷歌TPUv5虽在通用性上相较英伟达同类产品略显逊色,却主打性价比优势,总体拥有成本低于英伟达的四倍,且供货周期更短。现在,鉴于与谷歌之间微妙的竞争与合作关系,英伟达暂时不会轻易涉足ASIC领域。”

Meta首席执行官马克·扎克伯格及Alphabet首席执行官桑达尔·皮查伊在上周均发表观点,认为他们的企业以及业界同行可能在AI基础设施建设上投入过多,但同时也承认,如果不这样做,那么商业风险将会极高。一旦落伍,就意味着将失去未来10至15年内最具价值的技术主导权。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • Google
    +关注

    关注

    5

    文章

    1812

    浏览量

    60623
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5266

    浏览量

    136042
  • 苹果
    +关注

    关注

    61

    文章

    24611

    浏览量

    208729
  • AI
    AI
    +关注

    关注

    91

    文章

    40982

    浏览量

    302535
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    豪言自家芯片英伟GPU强10倍,这家AI公司再获融资

    电子发烧友网报道(文 / 吴子鹏)在 AI 算力需求呈指数级增长的今天,英伟凭借其 GPU 和 CUDA 生态构筑的 “护城河” 似乎坚不可摧。然而,一股由前
    的头像 发表于 03-01 06:41 1.2w次阅读

    硅光AI胜负手?英伟20亿美元战略投资Marvell

    纳入英伟 AI 生态体系,并在硅光子技术领域展开深度合作,旨在帮助客户更高效地搭建 AI 算力基础设施。   构建 “异构计算” 新范式 根据双方签署的战略协议,此次合作的核心围绕N
    的头像 发表于 04-06 07:02 1.1w次阅读

    GPU不是AI的唯一解:英伟Groq LPU证明,推理赛道需要“另一条腿”

    大会上,英伟CEO黄仁勋正式发布了Vera Rubin AI超级计算机平台。这一平台的问世,不仅标志着英伟战略从单一的
    的头像 发表于 03-24 11:27 5999次阅读
    <b class='flag-5'>GPU</b>不是<b class='flag-5'>AI</b>的唯一解:<b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>用</b>Groq LPU证明,推理赛道需要“另一条腿”

    英伟Rubin GPU采用钻石铜散热,解决芯片散热难题

    电子发烧友网综合报道 在AI算力狂飙的时代,芯片散热问题成为制约技术发展的关键瓶颈。英伟下一代Vera Rubin架构GPU,将全面采用“
    的头像 发表于 02-05 13:46 5353次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b>Rubin <b class='flag-5'>GPU</b>采用钻石铜散热,解决<b class='flag-5'>芯片</b>散热难题

    AI推理芯片需求爆发,OpenAI欲寻求新合作伙伴

    电子发烧友网综合报道,在人工智能迅猛发展的当下,AI推理芯片需求正呈爆发式增长。   AI推理,即支撑如ChatGPT这类AI模型响应用户问题和请求的计算过程。过去,
    的头像 发表于 02-03 17:15 3220次阅读

    黄仁勋:英伟AI芯片订单排到2026年 英伟上季营收加速增长62%再超预期

    AI芯片总龙头英伟的财报终于带来了惊喜;英伟公司发布财报数据显示,上季营收加速增长62%;再
    的头像 发表于 11-20 11:36 1444次阅读

    第四次工业革命AI将实现十亿倍增长 | 中国AI芯片英伟的角色

    内容提要:黄仁勋BG2专访:英伟、OpenAI、算力未来与美国梦AI规模定律与推理的革命:在传统的AI规模定律(预训练、后
    的头像 发表于 09-29 07:20 1323次阅读
    第四次工业革命<b class='flag-5'>AI</b>将实现十亿倍增长 | 中国<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>与<b class='flag-5'>英伟</b><b class='flag-5'>达</b>的角色

    今日看点:苹果认证中国快充品牌遭美调查;英伟拟向OpenAI投资最高1000亿美元

    系统建设并部署至少10吉瓦的人工智能(AI)数据中心,用于训练和运行下一代模型。这一耗电量相当于800万户美国家庭的用电量。 英伟CEO黄仁勋曾表示,10吉瓦相当于400万至500万
    发表于 09-23 10:09 500次阅读

    英伟战略转向SOCAMM1,全力推进SOCAMM2项目

    近日,半导体行业传出重磅消息,据韩媒ETNews援引匿名行业消息人士报道,英伟已决定取消第一代SOCAMM(系统级芯片附加内存模块)的推广计划,转而将研发重点完全倾注于新一代产品SOCAMM2
    的头像 发表于 09-17 17:34 954次阅读

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片的需求和挑战

    的我我们讲解了这几种芯片的应用场景,设计流程、结构等。 CPU: 还为我们讲解了一种算法:哈希表算法 GPU: 介绍了英伟H100GP
    发表于 09-12 16:07

    aicube的n卡gpu索引该如何添加?

    请问有人知道aicube怎样才能读取n卡的gpu索引呢,我已经安装了cuda和cudnn,在全局的py里添加了torch,能够调用gpu,当还是只能看到默认的gpu0,显示不了gpu1
    发表于 07-25 08:18

    摆脱依赖英伟!OpenAI首次转向使用谷歌芯片

    地使用非英伟芯片,更显示出其正在逐步摆脱对英伟芯片的深度依赖,在算力布局上迈出了重要战略调整
    的头像 发表于 07-02 00:59 8560次阅读

    英伟拟再推中国特供GPU,今年6月量产!

    电子发烧友网综合报道 近年来,美国政府对华半导体出口管制政策不断收紧,英伟等半导体企业面临严峻挑战。为保持在中国市场的竞争力,英伟推出了多款特供版
    发表于 05-27 00:03 4891次阅读

    GPU 维修干货 | 英伟 GPU H100 常见故障有哪些?

    上涨,英伟H100GPU凭借其强大的算力,成为AI训练、高性能计算领域的核心硬件。然而,随着使用场景的复杂化,H100服务器故障率也逐渐攀
    的头像 发表于 05-05 09:03 3347次阅读
    <b class='flag-5'>GPU</b> 维修干货 | <b class='flag-5'>英伟</b><b class='flag-5'>达</b> <b class='flag-5'>GPU</b> H100 常见故障有哪些?