0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

苹果转向谷歌芯片训练AI,或成弃用英伟达GPU首例

要长高 2024-07-30 16:06 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在7月29日这个令全球瞩目的日子里,苹果公司对外展示了其iPhone AI应用的首次预览版本,并同步发表了相关研究论文,而这篇论文十分明确地指出,苹果的深度学习人工智能模型正是在Google的TPU(张量处理单元)之上得到锻炼与提升的。在这篇论文中,我们可以详细了解到苹果为了支持其Apple Intelligence功能而精心打造的基础语言模型,其中包括一个专为在设备上高效运行而设计的大约三十亿参数模型以及一个基于私有云计算的云端大模型。

苹果公司在其官方发布的论文中对基础模型的建模过程进行了全面概述。

值得注意的是,苹果在发布的论文中明确表示,他们在八千一百九十二片TPU v4芯片上成功训练了云端AFM(Apple Foundation Model),并且采用了四千零九十六的序列长度和四千零九十六个序列的批量大小,完成了高达六点三万亿token的训练任务。同时,端侧AFM则在两千零四十八片TPU v5p芯片上进行了深度强化训练。由此可见,苹果此举无疑彰显了其在人工智能训练领域对包括英伟达图形处理单元在内的其他解决方案的探索意愿。

此外,根据某些具有影响力的芯片行业媒体报道,苹果此番举措其实已经拉开了其逐步脱离英伟达GPU依赖的序幕。分析师们在今年六月初对日本证券公司瑞穗证券做出的估算显示,英伟达在此前占据主导的AI芯片市场中,控制着用于训练和部署OpenAI的GPT等模型所需的AI芯片的70%-95%。虽然一些专家将这种市场份额形容为英伟达的“护城河”,但归根结底,他们还是认为这家实力雄厚的公司,凭借AI图形处理单元GPU(如标志性的H100)与自家独特的CUDA软件相结合的策略优势,才在这场激烈的竞争中抢占先机。

同样值得一提的是,包括谷歌、Meta(原Facebook),甲骨文及特斯拉在内的多家科技巨头也一直在倾力研发和打造自己的人工智能系统和产品。心智观察所的研究员潘攻愚先生对此表示,苹果宣布其Apple Foundation Model(AFM)在谷歌自主开发的Tensor处理单元(TPU)上进行训练,并且还租赁了谷歌的云服务。他进一步指出,苹果在AI训练方面的决策反映出了英伟达通用型AI加速器与谷歌的ASIC定制化AI服务体系之间的竞争愈发白热化。

始自2015年,谷歌一直依赖自主研发的TPU进行AI模型的训练与部署。其特殊之处在于并非以设计通用处理器见长,而是致力于打造具备矩阵处理能力的专用处理器,用于优化神经网络相关的大量运算与数据传输流程,无需直接访问内存,使得整体效率大幅提高。

今年五月份,谷歌发布公告,宣布推出全新的AI数据中心芯片Trillium。对比此前版型,该芯片性能实现了惊人的近乎5倍提速。公司透露,此款芯片将主要用于开发自身的AI模型,其中包括备受关注的Gemini以及Imagen项目。

谷歌方面公开表示,若早三年前预定,最新款TPU每小时使用费用甚至不足2美元。该产品最初于2015年应用于公司内部工作负载领域,随后于2017年公开对外销售,至今已成为专为AI量身定做且技术最为成熟的定制芯片之一。

然而,谷歌依然保持着对英伟达的高度忠诚,后者依然成为其最大的合作伙伴。利用英伟达的GPU和自家的TPU共同训练AI系统,同时在其云服务平台售卖英伟达技术的访问权限。

如同潘攻愚所分析的那样,“尽管英伟达在当前高端AI芯片市场拥有高达80%的份额,而谷歌等大型云服务商则占据了其余市场。特别值得一提的是,苹果今年采用的谷歌TPUv5虽在通用性上相较英伟达同类产品略显逊色,却主打性价比优势,总体拥有成本低于英伟达的四倍,且供货周期更短。现在,鉴于与谷歌之间微妙的竞争与合作关系,英伟达暂时不会轻易涉足ASIC领域。”

Meta首席执行官马克·扎克伯格及Alphabet首席执行官桑达尔·皮查伊在上周均发表观点,认为他们的企业以及业界同行可能在AI基础设施建设上投入过多,但同时也承认,如果不这样做,那么商业风险将会极高。一旦落伍,就意味着将失去未来10至15年内最具价值的技术主导权。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • Google
    +关注

    关注

    5

    文章

    1801

    浏览量

    60278
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5102

    浏览量

    134487
  • 苹果
    +关注

    关注

    61

    文章

    24586

    浏览量

    207482
  • AI
    AI
    +关注

    关注

    90

    文章

    38225

    浏览量

    297112
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    英伟战略转向SOCAMM1,全力推进SOCAMM2项目

    近日,半导体行业传出重磅消息,据韩媒ETNews援引匿名行业消息人士报道,英伟已决定取消第一代SOCAMM(系统级芯片附加内存模块)的推广计划,转而将研发重点完全倾注于新一代产品SOCAMM2
    的头像 发表于 09-17 17:34 621次阅读

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片的需求和挑战

    的我我们讲解了这几种芯片的应用场景,设计流程、结构等。 CPU: 还为我们讲解了一种算法:哈希表算法 GPU: 介绍了英伟H100GP
    发表于 09-12 16:07

    aicube的n卡gpu索引该如何添加?

    请问有人知道aicube怎样才能读取n卡的gpu索引呢,我已经安装了cuda和cudnn,在全局的py里添加了torch,能够调用gpu,当还是只能看到默认的gpu0,显示不了gpu1
    发表于 07-25 08:18

    摆脱依赖英伟!OpenAI首次转向使用谷歌芯片

    地使用非英伟芯片,更显示出其正在逐步摆脱对英伟芯片的深度依赖,在算力布局上迈出了重要战略调整
    的头像 发表于 07-02 00:59 8016次阅读

    GPU 维修干货 | 英伟 GPU H100 常见故障有哪些?

    上涨,英伟H100GPU凭借其强大的算力,成为AI训练、高性能计算领域的核心硬件。然而,随着使用场景的复杂化,H100服务器故障率也逐渐攀
    的头像 发表于 05-05 09:03 2496次阅读
    <b class='flag-5'>GPU</b> 维修干货 | <b class='flag-5'>英伟</b><b class='flag-5'>达</b> <b class='flag-5'>GPU</b> H100 常见故障有哪些?

    特朗普要叫停英伟对华特供版 英伟H20出口限制 损失55亿美元

    是“中国特供版”人工智能芯片;是英伟公司为符合美国出口规定专门为中国市场开发的定制芯片,H20芯片
    的头像 发表于 04-16 16:59 1896次阅读

    英伟发布Nemotron-CC大型AI训练数据库

    近日,英伟在其官方博客上宣布了一项重大进展,推出了一款名为Nemotron-CC的大型英文AI训练数据库。这一数据库的发布,标志着英伟
    的头像 发表于 01-14 14:14 798次阅读

    英伟台积电最大客户,推动AI相关营收增长

    近日,据台湾媒体报道,花旗分析师近期对英伟与台积电的合作前景持乐观态度,并预测英伟将助力台积电在人工智能(AI)相关领域的营收实现显著增
    的头像 发表于 01-03 14:22 1074次阅读

    英伟收购AI初创公司Run:ai

    全球领先的芯片制造商英伟近日正式完成了对以色列人工智能初创公司Run:ai的收购。这一收购案在经过欧盟反垄断机构的严格审查后,最终获得了批准,标志着
    的头像 发表于 12-31 10:46 879次阅读

    苹果自研AI芯片终结与英伟多年合作

    苹果公司正加速推进自研AI芯片的步伐,旨在减少对外部供应商的依赖,这一战略调整将彻底改变其与英伟
    的头像 发表于 12-27 10:18 902次阅读

    苹果加速AI芯片研发,终结与英伟合作关系

    近日,苹果公司正全力以赴地推进自研AI芯片的研发进程,旨在减少对于第三方芯片开发商的依赖。这一举措可能预示着,苹果
    的头像 发表于 12-26 11:07 1010次阅读

    微软英伟AI芯片最大客户,今年采购量激增

    近日,市场调研公司Omdia的最新报告揭示,2024年英伟AI芯片的最大采购方为微软公司,其采购量之巨令人瞩目。据统计,微软今年共购买了48.5万块
    的头像 发表于 12-23 10:48 1097次阅读

    微软大手笔采购英伟AI芯片

    据全球知名市场调研机构Omdia的最新估计,微软在2024年的英伟Hopper架构芯片采购计划上展现出了惊人的手笔。这一举动旨在帮助微软在构建下一代人工智能(AI)系统的激烈竞争中抢
    的头像 发表于 12-20 15:50 962次阅读

    GPU是如何训练AI大模型的

    AI模型的训练过程中,大量的计算工作集中在矩阵乘法、向量加法和激活函数等运算上。这些运算正是GPU所擅长的。接下来,AI部落小编带您了解GPU
    的头像 发表于 12-19 17:54 1364次阅读

    亚马逊转向Trainium芯片,全力投入AI模型训练

    近日,亚马逊宣布了一项重大决策,决定停止Inferentia AI芯片的开发,转而将全部精力投入到Trainium芯片的研发上,以此作为与英伟
    的头像 发表于 12-13 14:14 974次阅读