0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

以昇思为基,盘古生态引领中国AI未来

智能计算芯世界 来源:半导体行业观察 2023-04-13 10:18 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

尽管提倡在整个行业范围内停止人工智能训练,但据报道,埃隆·马斯克 (Elon Musk)已经在 Twitter 内启动了一个重大的人工智能项目。据Business Insider报道,该公司已经购买了大约 10,000 个 GPU,并从 DeepMind 招募了 AI 人才,用于涉及大型语言模型 (LLM) 的项目 。

以昇思为基,盘古生态引领中国AI未来

一位知情人士表示,马斯克的 AI 项目仍处于初始阶段。然而,根据另一个人的说法,获得大量额外的计算能力表明他致力于推进该项目。同时,生成人工智能的确切目的尚不清楚,但潜在的应用包括改进搜索功能或生成有针对性的广告内容。

目前,尚不清楚 Twitter 采购了哪些具体硬件。然而,据报道,尽管 Twitter 一直存在财务问题,但据报道 Twitter 在这些计算 GPU 上花费了数千万美元,马斯克将其描述为“不稳定的财务状况”。这些 GPU 预计将部署在 Twitter 剩余的两个数据中心之一,亚特兰大是最有可能的目的地。有趣的是,马斯克在 12 月下旬关闭了 Twitter 在萨克拉门托的主要数据中心,这显然降低了公司的计算能力。

除了为其生成式 AI 项目购买 GPU 硬件外,Twitter 还在招聘更多的工程师。今年早些时候,该公司从Alphabet 的子公司AI Research DeepMind招募了工程师 Igor Babuschkin 和 Manuel Kroiss。至少从 2 月开始,马斯克一直在积极寻找 AI 行业的人才,以与 OpenAI 的 ChatGPT 竞争。

OpenAI使用Nvidia 的 A100 GPU 来训练其 ChatGPT 机器人,并继续使用这些机器来运行它。到目前为止,Nvidia 已经推出了 A100 的后继产品,其H100计算 GPU 在大约相同的功率下速度快了几倍。

Twitter 可能会在其 AI 项目中使用 Nvidia 的 Hopper H100 或类似硬件,尽管我们在此进行推测。考虑到该公司尚未确定其 AI 项目的用途,因此很难估计它可能需要多少个 Hopper GPU。

通常Twitter 这样的大公司购买硬件时,他们会以特价购买,因为他们采购了数千台。与此同时,如果单独从 CDW 等零售商处购买,Nvidia 的 H100 主板单价可能超过 10,000 美元,由此可以看出该公司可能为其 AI 计划在硬件上花费了多少。

ChatGPT迈向商用,GPU需求上看3万颗

ChatGPT近期掀起云端与AI产业话题,Microsoft、Google、百度等相继推出基于生成式AI衍生的产品服务,根据集邦(TrendForce)最新报告「从AIGC看云端AI应用趋势与挑战」,未来迈向商用将上看3万颗;在此热潮下, GPU及AI芯片相关供应链业者可望受惠。

不过,集邦指出,市场普及度和产品服务的功能优化仍待考验,且由于AI是以用户体验为核心,涉及个资及内容提供的正确性,因此下个发展阶段或将还会面临法规问题。

TrendForce表示,生成式AI是透过GAN、CLIP、Transformer、Diffusion等演算法、预训练模型、多模态等AI技术的整合,在既有数据或资料中寻找规律,并在资料汇整、社交互动、文案产出等领域带出高效的内容产出,以及与用户互动体验。现行市面上已有不少生成式AI之应用,较常见的产出类别包括文字、图像、音乐、编码等。

集邦表示,数据、算力、算法是深耕生成式AI不可或缺的三大关键,且产品服务易做但优化困难,因此,握有相关资源的云端大厂在发展上将更具优势。就厂商角度而言,由于ChatGPT等生成式AI聊天机器人不仅能与用户自然对话,「类理解需求」的能力使其针对各式咨询能进一步提供建议,加上使用搜寻引擎已相当普遍,因此透过强化搜寻引擎已是各云端大厂的首要任务。

据TrendForce调查,目前全球搜寻引擎市场以超过9成的Google引擎为首,Microsoft Bing仅占3%,短期间不致造成威胁,但随着用户扩大、数据回馈与模型优化的循环,是否会产生服务差异甚或抢占广告商机,也是Google不得不预防的潜在风险。

集邦表示,由于生成式AI必须投入巨量资料进行训练,为缩短训练就得采用大量高效能GPU。以ChatGPT背后的GPT模型为例,其训练参数从2018年约1.2亿个到2020年已暴增至近1,800亿个,估GPU需求量预估约2万颗,未来迈向商用将上看3万颗。

集邦表示,生成式AI发展将成为趋势,将带动GPU需求显著提升,连带使相关供应链受惠,其中最大受益者是GPU芯片龙头的英伟达(NVIDIA),旗下可达到5 PetaFLOPS运算效能的DGX A100,几乎是目前用于大规模资料分析、AI加速运算的首选;此外,尚有推出MI100、MI200、MI300系列芯片的超微(AMD)。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    41107

    浏览量

    302586
  • 人工智能
    +关注

    关注

    1820

    文章

    50324

    浏览量

    266935
  • ChatGPT
    +关注

    关注

    31

    文章

    1600

    浏览量

    10393

原文标题:买10000个GPU,入局大模型

文章出处:【微信号:AI_Architect,微信公众号:智能计算芯世界】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    中兴通讯发布大中小屏系列AI云电脑与移动互联产品矩阵

    4月9日,中兴通讯在北京举办“和合兴业 智启未来”2026中国生态合作伙伴大会,会上发布了“大-中-小” 屏系列 AI 云电脑与移动互联产品矩阵,
    的头像 发表于 04-11 15:53 621次阅读

    IMS六代精研!盘古信息擘画“中国离散制造MES + AI数智平台”新蓝图

    盘古信息将以“中国离散制造 MES + AI 数智平台”新起点,长期主义的坚守、技术创新的决心、行业深耕的初心,与
    的头像 发表于 04-01 17:06 614次阅读
    IMS六代精研!<b class='flag-5'>盘古</b>信息擘画“<b class='flag-5'>中国</b>离散制造MES + <b class='flag-5'>AI</b>数智平台”新蓝图

    AI+FPGA助力生态新篇章|2025AI技术研讨会·杭州站成功举办

    中国·杭州2025年12月17日“华强筑链·腾万里”华为&华强半导体2025AI技术研讨会杭州站圆满落幕。本次研讨会由华为技术有限公司与深圳华强半导体集团联合主办,杭州市人工智能
    的头像 发表于 12-24 08:05 802次阅读
    <b class='flag-5'>AI</b>+FPGA助力<b class='flag-5'>昇</b>腾<b class='flag-5'>生态</b>新篇章|2025<b class='flag-5'>昇</b>腾<b class='flag-5'>AI</b>技术研讨会·杭州站成功举办

    2025AI技术研讨会·杭州站盛大开启!小眼睛科技诚邀您共同见证AI+FPGA赋能腾新生态

    在人工智能浪潮奔涌、产业智能化纵深跃迁的背景下,AI生态正成为推动中国AI产业自主创新的重要力量。小眼睛科技依托
    的头像 发表于 12-11 08:03 851次阅读
    2025<b class='flag-5'>昇</b>腾<b class='flag-5'>AI</b>技术研讨会·杭州站盛大开启!小眼睛科技诚邀您共同见证<b class='flag-5'>AI</b>+FPGA赋能<b class='flag-5'>昇</b>腾新<b class='flag-5'>生态</b>!

    国产AI芯片真能扛住“算力内卷”?海腾的这波操作藏了多少细节?

    最近行业都在说“算力是AI的命门”,但国产芯片真的能接住这波需求吗? 前阵子接触到海腾910B,实测下来有点超出预期——7nm工艺下算力直接拉到256 TFLOPS,比上一代提升了40%,但功耗
    发表于 10-27 13:12

    电子闪耀2025全国时间频率学术会议,中国芯”筑时频强国

    近日,第十九届全国时间频率学术会议在库尔勒圆满落幕。赛电子作为时频领域龙头企业,引领时频创新,筑牢强国之核心,携全系列“
    的头像 发表于 10-24 10:22 1105次阅读
    赛<b class='flag-5'>思</b>电子闪耀2025全国时间频率学术会议,<b class='flag-5'>以</b>“<b class='flag-5'>中国</b>芯”筑<b class='flag-5'>基</b>时频强国

    携手共赢,生态共建 | 盘古信息IMS OS首场生态接待日圆满举行

    金秋十月,聚势启新。10月10日,“携手共赢,生态共建”为主题的广东盘古信息科技股份有限公司(以下简称:盘古信息)IMS OS首场生态接待
    的头像 发表于 10-15 08:45 373次阅读
    携手共赢,<b class='flag-5'>生态</b>共建 | <b class='flag-5'>盘古</b>信息IMS OS首场<b class='flag-5'>生态</b>接待日圆满举行

    无界 设享未来|维谛技术(Vertiv)设计院高峰论坛

    9月5日,“无界设享未来一一2025维谛技术(Vertiv)设计院高峰论坛”在郑州盛大启幕。论坛汇聚设计院专家及行业领袖,全球视野聚焦AI基础设施变革,揭示高密智算中心的破局之道。
    的头像 发表于 09-08 16:57 1230次阅读
    <b class='flag-5'>思</b>无界 设享<b class='flag-5'>未来</b>|维谛技术(Vertiv)设计院高峰论坛

    逆战突围,共筑生态 盘古信息亮相SCEE 2025西南峰会,生态之力点燃制造数字化合作热潮

    2025年8月27-29日,“逆战”为主题的SCEE 2025中国软件渠道生态大会-西南峰会在贵阳盛大启幕。500+家软件厂商、渠道商、系统集成商及行业领袖齐聚黔中大地,共探数字化浪潮下的
    的头像 发表于 09-01 18:31 840次阅读
    逆战突围,共筑<b class='flag-5'>生态</b> <b class='flag-5'>盘古</b>信息亮相SCEE 2025西南峰会,<b class='flag-5'>以</b><b class='flag-5'>生态</b>之力点燃制造数字化合作热潮

    软通动力受邀出席MindSpore联席会

    在世界人工智能大会 2025(WAIC 2025)举办期间,软通动力高级副总裁谢睿、数字基础设施与集成战略生态部总监王伟佳受邀出席 MindSpore 开源社区理事会 & 技术委员会
    的头像 发表于 08-01 15:13 1491次阅读

    迅龙软件参加AI 开发者创享日・广东站,开发者打造沉浸式实操体验

    7月18日,线下顶尖人才汇聚的开发者盛会——AI开发者创享日・广东站在广州举行。活动“创未来享非凡”为主题,聚焦广东本地产业特点,分享前沿AI
    的头像 发表于 07-23 17:18 1431次阅读
    迅龙软件参加<b class='flag-5'>昇</b>腾 <b class='flag-5'>AI</b> 开发者创享日・广东站,<b class='flag-5'>为</b>开发者打造沉浸式实操体验

    CES Asia 2025蓄势待发,聚焦低空经济与AI引领未来产业新变革

    CES Asia 2025 第七届亚洲消费电子技术贸易展即将盛大开启,作为科技领域一年一度的盛会,今年的 CES Asia 承载着更多的期待与使命,致力于成为前沿科技与未来产业深度融合的引领
    发表于 07-09 10:29

    华为宣布开源盘古7B稠密和72B混合专家模型

    电子发烧友网综合报道 2025年6月30日,华为正式宣布开源盘古70亿参数的稠密模型、盘古Pro MoE 720亿参数的混合专家模型及基于腾的模型推理技术,此举标志着华为在AI技术
    的头像 发表于 07-06 05:51 7619次阅读

    华为正式开源盘古7B稠密和72B混合专家模型

    [中国,深圳,2025年6月30日] 今日,华为正式宣布开源盘古70亿参数的稠密模型、盘古Pro MoE 720亿参数的混合专家模型和基于腾的模型推理技术。 此举是华为践行
    的头像 发表于 06-30 11:19 1439次阅读

    华为开发者大会2025(HDC 2025)亮点:华为云发布盘古大模型5.5 宣布新一代AI云服务上线

    HarmonyOS、AI云服务、盘古大模型等最新科技创新成果。 在主题演讲中,华为常务董事、华为云计算CEO张平安宣布基于CloudMatrix384 超节点的新一代
    的头像 发表于 06-20 20:19 4668次阅读
    华为开发者大会2025(HDC 2025)亮点:华为云发布<b class='flag-5'>盘古</b>大模型5.5 宣布新一代<b class='flag-5'>昇</b>腾<b class='flag-5'>AI</b>云服务上线