0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达最新一代AI芯片Blackwell GPU,AI算力能力较上代提升30倍!

中国半导体论坛 来源:国芯网 2024-03-19 13:39 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

3月19日上午,英伟达2024 GTC AI大会,黄仁勋发布了英伟达最新一代AI芯片Blackwell GPU,AI算力能力较上代提升30倍!

黄仁勋说:"我们已经来到了一个临界点,因此需要一种新的计算方式来加速整个行业的发展效率。那么英伟达能够做什么?当然,答案就是——更大的芯片。”接着,英伟达新一代图形计算平台Blackwell正式登场,它被英伟达称为 “新工业革命的引擎”。

采用全新Blackwell架构的B200和GB200系列芯片正式到来。

Blackwell以第一位入选美国国家科学院的黑人学者、数学家David Harold Blackwell的名字命名,它将允许客户能够在万亿参数大型语言模型上构建和运行实时生成人工智能

Blackwell平台引入了六项开创性技术来支持高达10万亿参数的AI模型训练和大语言模型的实时推理。有望在数据处理、工程模拟、电子设计自动化、计算机辅助药物设计、量子计算和生成人工智能等领域实现新的突破。用黄仁勋的原话来说,它就是“当今世界上最强大的芯片”。这六项技术分别为:

更大芯片:Blackwell 架构 GPU 拥有2080亿个晶体管,尺寸是Hopper(800亿晶体管)的两倍多。Blackwell B200不是传统的单一GPU,而是由两个紧密耦合的芯片组成,这两个芯片通过10 TB/秒的芯片到芯片链路连接成了一个统一的GPU 。

第二代Transformer引擎:配备了新的微张量缩放支持和先进的动态范围管理算法,通过创新的4位浮点AI推理功能使计算和模型大小加倍。

第五代 NVLink 网络技术:最新的NVLink迭代增强了数万亿参数AI模型的性能,为每个GPU提供了高达1.8TB/s的双向吞吐量,确保当今最复杂的大语言模型能在多达576个GPU之间实现无缝高速通信

RAS引擎:Blackwell驱动的GPU集成了专用引擎和基于人工智能的预防性维护功能,可确保可靠性、可用性和可维护性,从而最大限度地延长系统运行时间并最大限度地降低运营成本。

安全人工智能:全新的机密计算功能可在不影响性能的情况下保护人工智能模型和客户数据,并支持新的本机接口加密协议,在传输过程中、静止状态和计算时都能保证安全。

解压缩引擎:通过支持最新格式加速数据库查询,增强数据分析和数据科学性能,彻底改变数据处理。

英伟达表示,此前训练一个1.8万亿参数模型需要用到8000个Hopper GPU和 15兆瓦的功率。而如今,同样的训练量2000个Blackwell GPU就可以做到,功耗仅为4兆瓦。

基于Blackwell,此次英伟达还推出了其AI超级芯片GB2000。GB2000由两个B200 Blackwell GPU和一个基于Arm的Grace CPU组成,可以为大语言模型推理工作负载提供30倍的性能,而成本能耗要比其“前辈”Hopper低25倍。在具有1750亿个参数的GPT-3 LLM基准测试中,GB200的性能是H100的7倍,训练速度是H100的4倍。

GB200还将成为英伟达全新大型机架系统GB200 NVL72的基石。该系统拥有72个Blackwell GPU和36个Grace GPU,拥有1.4 exaflops的AI性能和30TB的快速内存。英伟达表示,该系统可以部署27万亿参数的模型,而目前最大的模型GPT-4仅约有1.7万亿个参数,因此能够加快释放生成式AI的能力。




审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1813

    文章

    49757

    浏览量

    261674
  • 英伟达
    +关注

    关注

    23

    文章

    4044

    浏览量

    97702
  • AI芯片
    +关注

    关注

    17

    文章

    2072

    浏览量

    36581
  • 大模型
    +关注

    关注

    2

    文章

    3455

    浏览量

    4974

原文标题:刚刚!英伟达发布“AI核弹”!

文章出处:【微信号:CSF211ic,微信公众号:中国半导体论坛】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    揭晓英伟最强芯片Blackwell Ultra、Rubin芯片亮相,新机器人压轴

    新一代芯片Blackwell Ultra(GB300)、数据中心超级芯片Grace Blackwell NVLink72、NVIDIA Dy
    的头像 发表于 03-19 09:05 3190次阅读
    揭晓<b class='flag-5'>英伟</b><b class='flag-5'>达</b>最强<b class='flag-5'>芯片</b>!<b class='flag-5'>Blackwell</b> Ultra、Rubin<b class='flag-5'>芯片</b>亮相,新机器人压轴

    亚马逊发布新一代AI芯片Trainium3,性能提升4

    Trainium 4的开发计划。亚马逊表示,这款芯片能够比英伟市场领先的图形处理单元(GPU)更便宜、更高效地驱动AI模型背后的密集计算。
    的头像 发表于 12-09 08:37 6159次阅读
    亚马逊发布<b class='flag-5'>新一代</b><b class='flag-5'>AI</b><b class='flag-5'>芯片</b>Trainium3,性能<b class='flag-5'>提升</b>4<b class='flag-5'>倍</b>

    英伟 Q3 狂揽 308 亿

    厂商季度合计 500 亿美元资本支出中,约 30% 流向了英伟新一代 Blackwell 芯片
    的头像 发表于 11-20 18:11 1073次阅读

    今日看点:特朗普:英伟Blackwell AI芯片不会广泛对海外开放;闪迪 NAND 闪存11 月报价涨幅高达 50%

    是否会允许向中国出口Blackwell芯片的疑问就直不断。当时,特朗普曾暗示可能会允许在中国销售英伟
    发表于 11-10 10:28 832次阅读

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片到AGI芯片

    能力 2)内存带宽 3)边缘设备的AI力 2、架构与形态 1)AGI芯片的基本架构 设计AGI芯片需考虑哪些因素: ①具身智能的大部分功能
    发表于 09-18 15:31

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片的需求和挑战

    的我我们讲解了这几种芯片的应用场景,设计流程、结构等。 CPU: 还为我们讲解了种算法:哈希表算法 GPU: 介绍了英伟H1
    发表于 09-12 16:07

    英伟最新B30A芯片曝光:力角逐中的新变数

    目前允许在中国销售的H20型号。这消息瞬间点燃了行业内外的关注热情,为本就竞争激烈的AI芯片领域增添了新的变数。 ​ 架构升级:站在巨人肩膀上的革新 B30A
    的头像 发表于 08-22 16:41 1202次阅读

    外媒:英伟正开发新款中国特供芯片B30A 或为旗舰AI芯品B300的阉割版

    A ;或为旗舰AI芯品B300的阉割版 ;估计性能只有B300的50%--70%。 据外媒路透社报道,为了中国市场;英伟正在加速研发基于最新Blackwell架构的
    的头像 发表于 08-20 15:19 3147次阅读
    外媒:<b class='flag-5'>英伟</b><b class='flag-5'>达</b>正开发新款中国特供<b class='flag-5'>芯片</b>B<b class='flag-5'>30</b>A 或为旗舰<b class='flag-5'>AI</b>芯品B300的阉割版

    AI 芯片浪潮下,职场晋升新契机?

    、新架构不断涌现。能够在工作中提出创新性的解决方案,推动 AI 芯片性能、功耗、成本等关键指标的优化,将极大提升在职称评审中的竞争力。例如,在芯片设计中引入新的计算范式,如存
    发表于 08-19 08:58

    睿海光电800G光模块助力全球AI基建升级

    SR8模块已实现规模化量产,并完成1.6T模块的实验室验证,为下一代力网络提前布局。 二、交付能力:智能制造基地+柔性供应链,交付周期领先行业2-3天 睿海光电的快速交付能力源于三
    发表于 08-13 19:05

    今日看点丨英伟将为中国市场推出新AI芯片 售价大幅低于H20;中科曙光与海光信息宣布战略重组

    的H20芯片,预计最快于6月开始量产。报道称,这款采用最新一代Blackwell架构的AI处理器,预计售价介于6500美元至8000美元之间,明显低于H20的定价。较低的售价通常意味着
    发表于 05-26 11:06 1579次阅读

    英伟GTC25亮点:NVIDIA Blackwell Ultra 开启 AI 推理新时代

    英伟GTC25亮点:NVIDIA Blackwell Ultra 开启 AI 推理新时代
    的头像 发表于 03-20 15:35 1227次阅读

    新思科技携手英伟加速芯片设计,提升芯片电子设计自动化效率

    宣布在英伟 Grace Blackwell 平台上实现高达 30 的预期性能提升,加速下
    发表于 03-19 17:59 437次阅读

    英伟Blackwell芯片机架出现故障 订单下滑

    Blackwell GB200机架订单。 些客户正在等待改进版本的机架,或者计划购买该公司旧款的AI芯片。 微软最初计划在其位于凤凰城的
    的头像 发表于 01-14 15:39 672次阅读

    英伟收购AI初创公司Run:ai

    全球领先的芯片制造商英伟近日正式完成了对以色列人工智能初创公司Run:ai的收购。这收购案在经过欧盟反垄断机构的严格审查后,最终获得了批
    的头像 发表于 12-31 10:46 871次阅读