前沿观察_国产GPU突飞猛进，覆盖云边算力需求主题直播月

原厂入驻New

您现在的位置：首页>前沿观察

大模型时代，国产GPU面临哪些挑战

电子发烧友网报道（文/李弯弯）随着人工智能技术的快速发展，对GPU计算能力的需求也越来越高。国内企业也正在不断提升GPU性能，以满足日益增长的应用需求。然而，相较于国际巨头，国内GPU仍然存在差距，国产GPU在不断成长的过程中也存在诸多挑战。在大模型训练上存在差距大语言模型是基于深度学习的技术。这些模型通过在海量文本数据上的训练，学习语言的语法、语境和语义等多层次的信息，用于理解和生成自然语言文本。大语言模型是

发表于04-03 01:08 • 5668
国产GPU在AI大模型领域的应用案例一览

电子发烧友网报道（文/李弯弯）近一年多时间，随着大模型的发展，GPU在AI领域的重要性再次凸显。虽然相比英伟达等国际大厂，国产GPU起步较晚、声势较小。不过近几年，国内不少GPU厂商成长非常快，并且不断推出新品，产品也逐渐在各个领域取得应用，而且在大模型的训练和推理方面，也有所建树。国产GPU在大模型上的应用进展电子发烧友此前就统计过目前国内主要的GPU厂商，也介绍了这些厂商主要的产品及产品发布、量产进展情况。可以看到

发表于04-01 09:28 • 5942
AI算力GPU开始腾飞，背后是电源管理的持续支持

电子发烧友网报道（文/黄山明）近期，IDC出具了一份报告显示，AI PC在中国PC市场中新机的装配比例将在未来几年内快速攀升，预计2024年将迅速增长至55%，在2027年将达到85%，而今年也将成为AI PC元年。不仅是AI PC，还包括AI服务器、AI手机、AI汽车等，众多AI实际应用让算力GPU的需求大增，也在不断追求性能更高的GPU。而随着GPU性能的提升，其功耗与稳定性的难度也随之增加。这就需要电源管理在背后为其提供稳定的电力供应，让GPU提供更好的AI算力支持

发表于03-30 00:12 • 6327
盘点国产GPU在支持大模型应用方面的进展

电子发烧友网报道（文/李弯弯）目前谈到GPU，大家首先想到的应该就是英伟达了。近一年多时间来，随着大模型的发展，英伟达GPU的强大实力可谓无人不知。而相比之下，国产GPU的声势就小了许多。事实上，近些年国内也有不少GPU企业在逐步成长，虽然在大模型的训练和推理方面，与英伟达GPU差距极大，但是不可忽视的是，不少国产GPU企业也在AI的训练和推理应用上找到位置。景嘉微景嘉微是国产GPU市场的主要参与者，目前已经完成JM5、JM7和J

发表于03-29 00:27 • 9940
英伟达发布新一代H200，搭载HBM3e，推理速度是H100两倍！

电子发烧友网报道（文/李弯弯）日前，英伟达正式宣布，在目前最强AI芯片H100的基础上进行一次大升级，发布新一代H200芯片。H200拥有141GB的内存、4.8TB/秒的带宽，并将与H100相互兼容，在推理速度上几乎达到H100的两倍。H200预计将于明年二季度开始交付。此外，英伟达还透露，下一代Blackwell B100 GPU也将在2024年推出。英伟达预计在2024年推出H200和B100两款芯片。来源：英伟达官网首款搭载HBM3e 的GPU ，推理速度几乎是H100 的两倍与A100和H100相比，H200最

发表于11-15 01:15 • 5530
英伟达GH200、特斯拉Dojo超级算力集群，性能爆棚！算力之争加剧！

电子发烧友网报道（文/李弯弯）今年8月，在计算机图形学顶会SIGGRAPH 2023现场，英伟达发布了新一代GH200 Grace Hopper平台，该平台专为处理大语言模型、推荐系统、矢量数据库等全球最复杂的生成式 AI 工作负载而构建。日前，这款GH200 Grace Hopper超级芯片首次亮相MLPerf行业基准测试，在此次测试中，具有更高的内存带宽和更大的内存容量的GH200与H100 GPU相比，性能高出17%。要知道，英伟达的H100 GPU产品性能在业界已经是处于遥遥领先的水平。相比于H10

发表于09-14 09:10 • 4247