0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AMD MI300X要量产了

要长高 来源:网络整理 作者:网络整理 2023-08-04 17:19 次阅读

MI300X是一款与NVIDIA旗舰显卡H100相媲美的产品。它拥有8个XCD核心,304组CU单元和8组HBM3核心。显存容量达到了192GB,相当于NVIDIA H100的2.4倍。同时,HBM内存带宽高达5.2TB/s,Infinity Fabric总线带宽也达到了896GB/s,远超NVIDIA H100。

MI300X在性能和容量方面达到了前所未有的水平,特别适合进行AI计算。一张显卡就能支持400亿参数的大型模型。

据悉,MI300X的HBM密度是英伟达H100的2.4倍,带宽则是H100的1.6倍。这使得MI300X在具体应用效果上表现出色。它可以支持400亿参数的Hugging Face AI模型,单块MI300X能够支持高达800亿参数规模的模型。

MI300X的硬件能力与市场上的英伟达产品相当。它拥有高达192GB的内存,超过了英伟达竞争对手H100所支持的120GB内存。这意味着MI300X可以承载比其他芯片更大规模的AI模型。

AMD公司表示,MI300X将在第三季度逐步推出,并在第四季度开始大规模生产,届时将配备192GB内存。

MI300X的问世将为市场带来更多选择,并提供强大的硬件能力,以满足不断增长的AI计算需求。除此之外,MI300A已经开始向客户销售。

编辑:黄飞

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • amd
    amd
    +关注

    关注

    25

    文章

    5197

    浏览量

    132636
  • NVIDIA
    +关注

    关注

    14

    文章

    4592

    浏览量

    101719
  • HBM
    HBM
    +关注

    关注

    0

    文章

    231

    浏览量

    14383
收藏 人收藏

    评论

    相关推荐

    人工智能市场风向转变,AMD Instinct MI300X GPU更受欢迎

    近一半的受访者表示对AMD的Instinct MI300X GPU持乐观态度。与英伟达的H100系列相比,MI300X不仅价格与性能比值更为优越,而且供应稳定,避免了货源紧张的问题。
    的头像 发表于 03-11 15:28 537次阅读

    AMD首批Instinct MI300X已开始交付

    AMD开始交付其首批用于AI和HPC的Instinct MI300X GPU。据LaminiAI首席执行官Sharon Zhou透露,该公司已经收到了这批GPU,并计划使用它们来运行大型
    的头像 发表于 01-24 16:57 354次阅读

    AMD Instinct MI300X已向LaminiAI批量供货

    LaminaAI作为AMD的长期合作伙伴,能够抢先体验到全新MI300X加速器的强大优势,实属正常。该公司首席执行官Sharon Zhou在社交媒体进行了公告,同时透露,已经接收到配置8个Instinct MI300X加速器的设
    的头像 发表于 01-23 09:53 221次阅读

    英伟达、AMD AI芯片今年将生产150万颗,先进封装设备商受惠

    据早前报道,NVIDIA的高端AI芯片H200和GH200以外,明年还将推出B100和GB200等下一代产品。同时,AMD今年主推的AI加速器已有MI300A、MI300X等成功出货,客户数量众多,表明
    的头像 发表于 01-08 14:11 272次阅读

    AMD Instinct MI300A获得德国订单

    先进微设备公司(AMD)于本月6日成功举办了"推进人工智能"(Advancing AI)主题活动,期间正式发布了专为数据中心设计的Instinct MI300系列计算卡,首批推出
    的头像 发表于 12-25 11:30 225次阅读
    <b class='flag-5'>AMD</b> Instinct <b class='flag-5'>MI300</b>A获得德国订单

    深入分析AMD MI300A的规格和设计方案

    MI300A 与 H100 SXM,同样是 APU(CPU + GPU)与仅 GPU 的比较,AMD 认为其芯片处于大致水平,但包含 CPU。
    发表于 12-21 14:41 851次阅读
    深入分析<b class='flag-5'>AMD</b> <b class='flag-5'>MI300</b>A的规格和设计方案

    AMD正式发布 MI300X AI 加速器,力压英伟达H100

    争夺剩余的市场而战。然而,MI300X对英伟达的H100构成了有力的竞争,甚至微软的首席技术官最近都表示,他认为AMD最终在这个市场上将非常有竞争力。
    的头像 发表于 12-10 11:30 636次阅读
    <b class='flag-5'>AMD</b>正式发布 <b class='flag-5'>MI300X</b> AI 加速器,力压英伟达H100

    AMD两大高性能 AI 芯片正式出货,剑指英伟达 H100

    电子发烧友网报道(文/周凯扬)近日 AMD 举办了Advancing AI大会,除了发布全新的锐龙 8040系列 AI PC 芯片以外,也终于宣布了 MI300X GPU以及 MI300A APU
    的头像 发表于 12-08 00:26 1879次阅读

    Meta、微软承诺购买AMD新型人工智能芯片Instinct MI300X

    amd的最新高端芯片instinct特mi300x明年年初上市开始,人工智能公司和有关云服务提供商的能满足,这是人工智能模型开发费用,降低英伟达在人工智能芯片的工作竞争压力将持续上升可以给予的。
    的头像 发表于 12-07 17:31 710次阅读

    AMD对抗英伟达的王牌,MI Instinct

    电子发烧友网报道(文/周凯扬)AMD在不久前发布了Instinct MI300,一个结合了CDNA3和Zen4架构的产品系列,比如率先公布的产品为128GB的MI300A。然而在这之后,AMD
    的头像 发表于 09-19 01:11 1492次阅读
    <b class='flag-5'>AMD</b>对抗英伟达的王牌,<b class='flag-5'>MI</b> Instinct

    AMD考虑将MI300和旧版MI250芯片产品调整性能参数以维持出口

    AMD考虑将MI300和旧版MI250芯片产品调整性能参数以维持出口 因为美国限制芯片出口,前有英伟达调整芯片规格之后再出口给我国,现在有AMD要加入这个行列。对于AI芯片的出口美国加
    的头像 发表于 08-02 15:24 872次阅读

    AMD发起AI芯片挑战,但英伟达依然独孤求败

    Instinct MI300有两个版本:MI300X仅有GPU,专为AI模型训练设计,封装了1530亿颗晶体管;MI300A则是集多个CPU、GPU和高宽带内存于一身的APU(AMD
    的头像 发表于 06-15 15:20 499次阅读
    <b class='flag-5'>AMD</b>发起AI芯片挑战,但英伟达依然独孤求败

    亚马逊高管称AWS云服务将考虑采用AMD MI300芯片

    目前,人工智能领域仍由英伟达的芯片主导,h100、a100等加速卡供不应求。amd将推出instint mi300系列产品,与英伟达竞争,抢占人工智能计算领域的市场份额。amd首席执行官(ceo)苏姿丰在接受路透社采访时表示,将
    的头像 发表于 06-15 10:39 543次阅读

    AMD推出MI300X,可运行多达800亿参数模型

      6月13日(星期二),AMD举行新品发布会,最重磅的新品当属于具有大模型训练功能的GPU Instinct MI300
    的头像 发表于 06-15 10:39 825次阅读

    AMD硬刚英伟达,推出Instinct MI300,单芯片可运行800亿参数

    在这次AMD的新品发布会中,核心产品无疑是用于训练大模型的GPU Instinct MI300。早在今年初,AMD便已经宣布了新一代Instinct MI300,是全球首款同时集成CP
    的头像 发表于 06-14 16:46 2072次阅读
    <b class='flag-5'>AMD</b>硬刚英伟达,推出Instinct <b class='flag-5'>MI300</b>,单芯片可运行800亿参数