AMD推出MI300X，可运行多达800亿参数模型
6月13日（星期二），AMD举行新品发布会，最重磅的新品当属于具有大模型训练功能的GPU Instinct MI300。
该芯片是针对LLM的优化版，拥有192gb的hbm3内存、5.2 tb/s的带宽和896gb/s的Infinity Fabric带宽。amd将1530亿个晶体管集成在12个5纳米芯片内。使用cdna 3 gpu结构、24个zen 4 cpu核心、128gb hbm3内存。与前作mi250、mi300相比，性能和效率分别提高了8倍和5倍。
mi300x提供的hbm与英伟达ai芯片h100的密度相比，最大2.4倍，带宽最大1.6倍。amd的芯片将可以运行比英伟达更大的模型。
amd首席执行官苏姿丰表示，mi300x支持400亿个hugging face ai模型运行，并演示llm可以写关于旧金山的诗。单一mi300x最多可运行一个参数800亿个模型，这是世界上第一次在单一gpu上执行如此大的模型。
审核编辑：郭婷
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
芯片
+关注
关注
463文章
54432浏览量
469386 -
amd
+关注
关注
25文章
5708浏览量
140417 -
cpu
+关注
关注
68文章
11329浏览量
225903
发布评论请先 登录
相关推荐
热点推荐
性能狂飙！AMD新品叫板英伟达GB200，角逐5000亿AI加速器赛道
电子发烧友原创 章鹰 当地时间6月12日，在美国旧金山圣何塞举办的“AMD Advancing AI 2025”大会上，AMD董事长兼首席执行官苏姿丰正式发布了开放式的AI平台，并且推出横跨芯片
800 Watt医疗电源：性能卓越，设计精良
800 Watt医疗电源：性能卓越，设计精良 在医疗电子设备领域，可靠的电源供应是保障设备稳定运行的关键。今天，我们就来深入了解一款800 Watt的医疗电源，看看它有哪些出色的特性和技术参数
如何在NVIDIA Jetson AGX Thor上部署1200亿参数大模型
我们将尝试能否在 Jetson AGX Thor 上部署并成功运行高达 1,200 亿参数量的 gpt-oss-120b 大模型。
AMD获部分MI 308对华出口许可，拟缴15%费用破局地缘困局
电子发烧友网综合报道 2025年12月5日，AMD首席执行官苏姿丰（Lisa Su）当日确认，公司已获得向中国出口部分MI 308人工智能芯片的许可，并准备为此向美国政府缴纳相当于销售额15%的费用
vivo X300 Pro首发搭载瑞声科技超感振动马达
10月13日，vivo举行新品发布会，正式推出年度影像旗舰vivo X300系列，开启X系列新旅程！
米尔RK3576部署端侧多模态多轮对话,6TOPS算力驱动30亿参数LLM
2 亿参数模型的增量训练；
接入语音能力：在main.cpp中集成 VAD（语音活动检测）+ ASR（语音识别，如 Whisper-Tiny INT8）模块，将语音转换为文本后接入现有推理流水线，实现
发表于 09-05 17:25
纳芯微推出NS800RT737x系列高性能实时控制MCU
在实时性要求极高的电力电子与电力拖动领域，如新能源逆变器、工业伺服控制及车载电机驱动中，系统必须在毫秒甚至微秒级完成数据处理与响应。纳芯微全新推出的NS800RT737x系列MCU（DSP
Groq LPU 如何让万亿参数模型「飞」起来？揭秘 Kimi K2 40 倍提速背后的黑科技
Groq LPU 如何让万亿参数模型「飞」起来？揭秘 Kimi K2 40 倍提速背后的黑科技 最近，Moonshot AI 的千亿参数大模型 Kimi K2 在 GroqCloud 上
SCE-MI协议简介
SCE-MI（Standard Co-Emulation API: Modeling Interface）是一种标准化的协同仿真建模接口协议，旨在为SoC设计验证提供高效的硬件仿真与软件模型协同工作环境。
重磅！AMD将恢复向中国出口MI308芯片！
电子发烧友网获悉，AMD向中国出口的MI308芯片将恢复出货。AMD方面表示，“我们最近收到特朗普政府的通知，向中国出口MI308产品的许可证申请将被推进至审核流程。我们计划在许可证获
AMD Power Design Manager 2025.1现已推出
AMD Power Design Manager 2025.1 版（PDM）现已推出——增加了对第二代 AMD Versal AI Edge 和 第二代 Versal Prime 系列的支持，并支持已量产的
华为助力中国石油发布3000亿参数昆仑大模型
5月28日，中国石油发布3000亿参数昆仑大模型，标志着中国石油在人工智能领域又迈出关键一步，全力推动“人工智能+”行动走深走实。 中国石油发布3000亿
Mi-Wave千分尺型校准移相器
Mi-Wave千分尺型校准移相器在微波及毫米波系统中，相位控制的精确性直接决定了雷达、通信和测试测量等关键应用的性能。Mi-Wave推出的千分尺型校准移相器系列，凭借其卓越的精度和可靠性，成为业界
发表于 05-23 09:58
技嘉推出 STEALTH ICE 系列 AMD X870/B850 背插主板
的高度需求，技嘉正式推出新一代 STEALTH ICE 系列，涵盖 AMD X870 与 B850 主板搭配 GIGABYTE C500 PANORAMIC STEALTH ICE 机箱，打造纯白外观
评论