AMD推出MI300X，可运行多达800亿参数模型
6月13日（星期二），AMD举行新品发布会，最重磅的新品当属于具有大模型训练功能的GPU Instinct MI300。
该芯片是针对LLM的优化版，拥有192gb的hbm3内存、5.2 tb/s的带宽和896gb/s的Infinity Fabric带宽。amd将1530亿个晶体管集成在12个5纳米芯片内。使用cdna 3 gpu结构、24个zen 4 cpu核心、128gb hbm3内存。与前作mi250、mi300相比，性能和效率分别提高了8倍和5倍。
mi300x提供的hbm与英伟达ai芯片h100的密度相比，最大2.4倍，带宽最大1.6倍。amd的芯片将可以运行比英伟达更大的模型。
amd首席执行官苏姿丰表示，mi300x支持400亿个hugging face ai模型运行，并演示llm可以写关于旧金山的诗。单一mi300x最多可运行一个参数800亿个模型，这是世界上第一次在单一gpu上执行如此大的模型。
审核编辑：郭婷
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
芯片
+关注
关注
462文章
53530浏览量
458867 -
amd
+关注
关注
25文章
5647浏览量
138999 -
cpu
+关注
关注
68文章
11216浏览量
222872
发布评论请先 登录
相关推荐
热点推荐
性能狂飙！AMD新品叫板英伟达GB200，角逐5000亿AI加速器赛道
电子发烧友原创 章鹰 当地时间6月12日，在美国旧金山圣何塞举办的“AMD Advancing AI 2025”大会上，AMD董事长兼首席执行官苏姿丰正式发布了开放式的AI平台，并且推出横跨芯片
vivo X300 Pro首发搭载瑞声科技超感振动马达
10月13日，vivo举行新品发布会，正式推出年度影像旗舰vivo X300系列，开启X系列新旅程！
SCE-MI协议简介
SCE-MI（Standard Co-Emulation API: Modeling Interface）是一种标准化的协同仿真建模接口协议，旨在为SoC设计验证提供高效的硬件仿真与软件模型协同工作环境。
重磅！AMD将恢复向中国出口MI308芯片！
电子发烧友网获悉，AMD向中国出口的MI308芯片将恢复出货。AMD方面表示，“我们最近收到特朗普政府的通知，向中国出口MI308产品的许可证申请将被推进至审核流程。我们计划在许可证获
AMD Power Design Manager 2025.1现已推出
AMD Power Design Manager 2025.1 版（PDM）现已推出——增加了对第二代 AMD Versal AI Edge 和 第二代 Versal Prime 系列的支持，并支持已量产的
华为助力中国石油发布3000亿参数昆仑大模型
5月28日，中国石油发布3000亿参数昆仑大模型，标志着中国石油在人工智能领域又迈出关键一步，全力推动“人工智能+”行动走深走实。 中国石油发布3000亿
技嘉推出 STEALTH ICE 系列 AMD X870/B850 背插主板
的高度需求，技嘉正式推出新一代 STEALTH ICE 系列，涵盖 AMD X870 与 B850 主板搭配 GIGABYTE C500 PANORAMIC STEALTH ICE 机箱，打造纯白外观
高通推动终端侧AI释放全新价值
通过蒸馏技术将百亿参数模型压缩至端侧设备可运行的创新，让AI推理成本大幅下降，为终端侧AI的爆发按下加速键。低成本、高灵活性的特性引发了行业对这一技术突破的深度思考，也验证了AI格局即将向大规模推理转变的趋势。
将SSD300模型转换为IR时收到错误的原因？
将 SSD300 模型转换为 IR 时收到错误：
[ FRAMEWORK ERROR ] Model Optimizer is not able to parse /OpenVINO
发表于 03-07 07:58
中科曙光推出DeepSeek人工智能一体机
SothisAI3.0，支持从10亿级参数模型推理到1000亿级参数模型训练的AI全场景需求，为科研机构、企业、政府等用户提供一站式、开箱即用的 AI 解决方案。
AMD将DeepSeek-V3模型集成至Instinct MI300X GPU
AMD近日宣布了一项重要进展，成功将全新的DeepSeek-V3模型集成到其Instinct MI300X GPU上。这一举措标志着AMD在AI推理优化方面迈出了重要一步。 据了解
消息称AMD Instinct MI400 AI加速器将配备8个计算芯片
近日，据外媒 videocardz 报道，参考 AMD 最新推出的 AMD - GFX 补丁程序，其中暗示 AMD 旗下的 Instinct MI
AMD集成DeepSeek-V3模型至Instinct MI300X GPU
AMD近日宣布了一项重要的技术进展，即将全新的DeepSeek-V3模型成功集成到其旗舰级GPU产品——Instinct MI300X上。这一举措标志着AMD在人工智能推理领域迈出了坚
AMD MI300X AI芯片面临挑战
力不从心。 Semianalysis的报告详细阐述了AMD所面临的问题。报告指出，由于AMD的软件存在显著缺陷，若未经过大量的调试和优化，使用MI300X进行AI模型的训练几乎是不可能
工商网监
评论