0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达最新一代AI芯片Blackwell GPU,AI算力能力较上代提升30倍!

中国半导体论坛 来源:国芯网 2024-03-19 13:39 次阅读

3月19日上午,英伟达2024 GTC AI大会,黄仁勋发布了英伟达最新一代AI芯片Blackwell GPU,AI算力能力较上代提升30倍!

黄仁勋说:"我们已经来到了一个临界点,因此需要一种新的计算方式来加速整个行业的发展效率。那么英伟达能够做什么?当然,答案就是——更大的芯片。”接着,英伟达新一代图形计算平台Blackwell正式登场,它被英伟达称为 “新工业革命的引擎”。

采用全新Blackwell架构的B200和GB200系列芯片正式到来。

Blackwell以第一位入选美国国家科学院的黑人学者、数学家David Harold Blackwell的名字命名,它将允许客户能够在万亿参数大型语言模型上构建和运行实时生成人工智能

Blackwell平台引入了六项开创性技术来支持高达10万亿参数的AI模型训练和大语言模型的实时推理。有望在数据处理、工程模拟、电子设计自动化、计算机辅助药物设计、量子计算和生成人工智能等领域实现新的突破。用黄仁勋的原话来说,它就是“当今世界上最强大的芯片”。这六项技术分别为:

更大芯片:Blackwell 架构 GPU 拥有2080亿个晶体管,尺寸是Hopper(800亿晶体管)的两倍多。Blackwell B200不是传统的单一GPU,而是由两个紧密耦合的芯片组成,这两个芯片通过10 TB/秒的芯片到芯片链路连接成了一个统一的GPU 。

第二代Transformer引擎:配备了新的微张量缩放支持和先进的动态范围管理算法,通过创新的4位浮点AI推理功能使计算和模型大小加倍。

第五代 NVLink 网络技术:最新的NVLink迭代增强了数万亿参数AI模型的性能,为每个GPU提供了高达1.8TB/s的双向吞吐量,确保当今最复杂的大语言模型能在多达576个GPU之间实现无缝高速通信

RAS引擎:Blackwell驱动的GPU集成了专用引擎和基于人工智能的预防性维护功能,可确保可靠性、可用性和可维护性,从而最大限度地延长系统运行时间并最大限度地降低运营成本。

安全人工智能:全新的机密计算功能可在不影响性能的情况下保护人工智能模型和客户数据,并支持新的本机接口加密协议,在传输过程中、静止状态和计算时都能保证安全。

解压缩引擎:通过支持最新格式加速数据库查询,增强数据分析和数据科学性能,彻底改变数据处理。

英伟达表示,此前训练一个1.8万亿参数模型需要用到8000个Hopper GPU和 15兆瓦的功率。而如今,同样的训练量2000个Blackwell GPU就可以做到,功耗仅为4兆瓦。

基于Blackwell,此次英伟达还推出了其AI超级芯片GB2000。GB2000由两个B200 Blackwell GPU和一个基于Arm的Grace CPU组成,可以为大语言模型推理工作负载提供30倍的性能,而成本能耗要比其“前辈”Hopper低25倍。在具有1750亿个参数的GPT-3 LLM基准测试中,GB200的性能是H100的7倍,训练速度是H100的4倍。

GB200还将成为英伟达全新大型机架系统GB200 NVL72的基石。该系统拥有72个Blackwell GPU和36个Grace GPU,拥有1.4 exaflops的AI性能和30TB的快速内存。英伟达表示,该系统可以部署27万亿参数的模型,而目前最大的模型GPT-4仅约有1.7万亿个参数,因此能够加快释放生成式AI的能力。




审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1804

    文章

    48518

    浏览量

    245419
  • 英伟达
    +关注

    关注

    22

    文章

    3902

    浏览量

    92978
  • AI芯片
    +关注

    关注

    17

    文章

    1962

    浏览量

    35647
  • 大模型
    +关注

    关注

    2

    文章

    2965

    浏览量

    3718

原文标题:刚刚!英伟达发布“AI核弹”!

文章出处:【微信号:CSF211ic,微信公众号:中国半导体论坛】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐
    热点推荐

    英伟GTC25亮点:NVIDIA Blackwell Ultra 开启 AI 推理新时代

    英伟GTC25亮点:NVIDIA Blackwell Ultra 开启 AI 推理新时代
    的头像 发表于 03-20 15:35 534次阅读

    新思科技携手英伟加速芯片设计,提升芯片电子设计自动化效率

    宣布在英伟 Grace Blackwell 平台上实现高达 30 的预期性能提升,加速下
    发表于 03-19 17:59 179次阅读

    英伟Blackwell芯片机架出现故障 订单下滑

    Blackwell GB200机架订单。 些客户正在等待改进版本的机架,或者计划购买该公司旧款的AI芯片。 微软最初计划在其位于凤凰城的
    的头像 发表于 01-14 15:39 308次阅读

    英伟新一代AI芯片过热问题引关注

    近日,英伟新一代Blackwell AI芯片遭遇过热问题,这
    的头像 发表于 11-19 16:15 523次阅读

    英伟Blackwell GPU未来年订单爆满

    据摩根士丹利(大摩)透露,人工智能(AI芯片领域的领军企业英伟(NVIDIA)的管理层在近期的系列与投资人的会议中,分享了关于其下
    的头像 发表于 10-17 16:52 780次阅读

    英伟Blackwell GPU量产加速,Q4营收冲刺百亿美元大关

    近日,全球领先的图形处理单元(GPU)及人工智能芯片制造商英伟传来重大利好消息。据摩根士丹利最新发布的行业分析报告指出,英伟
    的头像 发表于 09-26 15:58 510次阅读

    英伟Blackwell可支持10万亿参数模型AI训练,实时大语言模型推理

    电子发烧友网报道(文/李弯弯)在近日的Hot Chips 2024大会上,英伟公布了下一代GPU架构Blackwell的更多细节信息,以及
    的头像 发表于 09-04 09:10 3478次阅读

    英伟Blackwell芯片延迟发货,台积电量产面临技术挑战

    近期,科技界传来消息,英伟备受瞩目的新一代人工智能(AI芯片Blackwell
    的头像 发表于 08-06 15:28 1790次阅读

    英伟回应AI芯片推迟发布传闻

    近日,英伟就外界广泛关注的AI芯片Blackwell推迟发布传闻作出正式回应。8月4日,英伟
    的头像 发表于 08-05 17:34 818次阅读

    英伟Blackwell芯片已投产,预告未来AI芯片发展

    英伟创始人兼CEO黄仁勋近日宣布,公司旗下的Blackwell芯片已正式投入生产。这款芯片英伟
    的头像 发表于 06-04 09:23 2168次阅读

    英伟加速AI芯片迭代,推出Rubin架构计划

    在近日举办的COMPUTEX 2024展会上,英伟CEO黄仁勋再次展现了公司在人工智能(AI芯片领域的雄心壮志。他公布了下一代
    的头像 发表于 06-03 11:36 1039次阅读

    英伟或将推出融合Arm与Blackwell内核的AI PC芯片

    近日,业内传出英伟正在研发款全新芯片的传闻。据悉,这款芯片将结合下一代Arm Cortex
    的头像 发表于 05-31 10:31 766次阅读

    英伟酝酿新芯片AI PC市场竞争升温

    据行业最新传言,英伟(Nvidia)正计划推出款融合最新技术的芯片。这款芯片将结合下一代Ar
    的头像 发表于 05-30 10:18 587次阅读

    英伟业绩强劲,Blackwell AI芯片助推下波增长 

     在与分析师的电话会议上,英伟首席执行官黄仁勋透露,公司即将推出的Blackwell AI芯片将于本季度发货,下季度产量将有所
    的头像 发表于 05-23 15:55 651次阅读

    步解读英伟 Blackwell 架构、NVlink及GB200 超级芯片

    能,加速模型的训练和推理过程。 2. 生成式 AI 解决方案 与英伟 Grace CPU、新一代网络芯片等产品
    发表于 05-13 17:16