0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达最新一代AI芯片Blackwell GPU,AI算力能力较上代提升30倍!

中国半导体论坛 来源:国芯网 2024-03-19 13:39 次阅读

3月19日上午,英伟达2024 GTC AI大会,黄仁勋发布了英伟达最新一代AI芯片Blackwell GPU,AI算力能力较上代提升30倍!

黄仁勋说:"我们已经来到了一个临界点,因此需要一种新的计算方式来加速整个行业的发展效率。那么英伟达能够做什么?当然,答案就是——更大的芯片。”接着,英伟达新一代图形计算平台Blackwell正式登场,它被英伟达称为 “新工业革命的引擎”。

采用全新Blackwell架构的B200和GB200系列芯片正式到来。

Blackwell以第一位入选美国国家科学院的黑人学者、数学家David Harold Blackwell的名字命名,它将允许客户能够在万亿参数大型语言模型上构建和运行实时生成人工智能

Blackwell平台引入了六项开创性技术来支持高达10万亿参数的AI模型训练和大语言模型的实时推理。有望在数据处理、工程模拟电子设计自动化、计算机辅助药物设计、量子计算和生成人工智能等领域实现新的突破。用黄仁勋的原话来说,它就是“当今世界上最强大的芯片”。这六项技术分别为:

更大芯片:Blackwell 架构 GPU 拥有2080亿个晶体管,尺寸是Hopper(800亿晶体管)的两倍多。Blackwell B200不是传统的单一GPU,而是由两个紧密耦合的芯片组成,这两个芯片通过10 TB/秒的芯片到芯片链路连接成了一个统一的GPU 。

第二代Transformer引擎:配备了新的微张量缩放支持和先进的动态范围管理算法,通过创新的4位浮点AI推理功能使计算和模型大小加倍。

第五代 NVLink 网络技术:最新的NVLink迭代增强了数万亿参数AI模型的性能,为每个GPU提供了高达1.8TB/s的双向吞吐量,确保当今最复杂的大语言模型能在多达576个GPU之间实现无缝高速通信

RAS引擎:Blackwell驱动的GPU集成了专用引擎和基于人工智能的预防性维护功能,可确保可靠性、可用性和可维护性,从而最大限度地延长系统运行时间并最大限度地降低运营成本。

安全人工智能:全新的机密计算功能可在不影响性能的情况下保护人工智能模型和客户数据,并支持新的本机接口加密协议,在传输过程中、静止状态和计算时都能保证安全。

解压缩引擎:通过支持最新格式加速数据库查询,增强数据分析和数据科学性能,彻底改变数据处理。

英伟达表示,此前训练一个1.8万亿参数模型需要用到8000个Hopper GPU和 15兆瓦的功率。而如今,同样的训练量2000个Blackwell GPU就可以做到,功耗仅为4兆瓦。

基于Blackwell,此次英伟达还推出了其AI超级芯片GB2000。GB2000由两个B200 Blackwell GPU和一个基于Arm的Grace CPU组成,可以为大语言模型推理工作负载提供30倍的性能,而成本能耗要比其“前辈”Hopper低25倍。在具有1750亿个参数的GPT-3 LLM基准测试中,GB200的性能是H100的7倍,训练速度是H100的4倍。

GB200还将成为英伟达全新大型机架系统GB200 NVL72的基石。该系统拥有72个Blackwell GPU和36个Grace GPU,拥有1.4 exaflops的AI性能和30TB的快速内存。英伟达表示,该系统可以部署27万亿参数的模型,而目前最大的模型GPT-4仅约有1.7万亿个参数,因此能够加快释放生成式AI的能力。




审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1776

    文章

    43845

    浏览量

    230600
  • 英伟达
    +关注

    关注

    22

    文章

    3327

    浏览量

    87768
  • AI芯片
    +关注

    关注

    17

    文章

    1652

    浏览量

    34380
  • 大模型
    +关注

    关注

    2

    文章

    1516

    浏览量

    1101

原文标题:刚刚!英伟达发布“AI核弹”!

文章出处:【微信号:CSF211ic,微信公众号:中国半导体论坛】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    超微电脑借助英伟Blackwell架构,打造顶尖生成式AI系统

    Grace Blackwell Superchip、B200和B100 Tensor Core GPU等尖端产品,专为优化AI训练和推理性能而设计。
    的头像 发表于 03-25 10:27 175次阅读

    英伟达最新AI芯片售价将超3万美元

    英伟达最新AI芯片Blackwell的售价引发了业界的广泛关注。据公司创始人黄仁勋透露,这款芯片的售价预计将在3万美元至4万美元之间。这一价
    的头像 发表于 03-21 10:50 289次阅读

    英伟达发布最强AI加速卡Blackwell GB200

    英伟达在最近的GTC开发者大会上发布了其最新、最强大的AI加速卡——GB200。这款加速卡采用了新一代AI图形处理器架构Blackwell
    的头像 发表于 03-20 11:38 417次阅读

    英伟达宣布推出新一代GPU Blackwell,SK海力士已量产HBM3E

    英伟达GTC 2024大会上,英伟达CEO黄仁勋宣布推出新一代GPU Blackwell,第一款Bla
    的头像 发表于 03-20 11:32 456次阅读
    <b class='flag-5'>英伟</b>达宣布推出<b class='flag-5'>新一代</b><b class='flag-5'>GPU</b> <b class='flag-5'>Blackwell</b>,SK海力士已量产HBM3E

    英伟达发布新一代AI芯片B200

    在美国加州圣何塞举办的英伟达GTC生态大会上,英伟达CEO黄仁勋以一场震撼人心的演讲,正式推出了公司的新一代GPU——Blackwell。作
    的头像 发表于 03-20 10:07 332次阅读

    英伟达发布性能大幅提升的新款B200 AI GPU

    英伟达宣称,B200在性能上比以往最好的GPU30倍不止。由它构成的服务器集群相比上一代,运算能力飞跃性提升,甚至能使大语言模型的训练速度
    的头像 发表于 03-20 09:37 209次阅读

    今日看点丨英伟达发布最强 AI 加速卡--Blackwell GB200;三星面临罢工 存储市场供需引关注

    1. 英伟达发布最强 AI 加速卡--Blackwell GB200 ,今年发货   3 月 19 日,英伟达发布最强 AI 加速卡--
    发表于 03-19 11:08 857次阅读

    英伟达预计2026年营收将超1300亿美元,AI领域仍居主导地位

    该分析师特别指出,英伟达已在AI GPU市场拥有绝对优势,现阶段主流产品H100 AI GPU表现强劲,预计明后年还将推出H200
    的头像 发表于 03-14 14:36 129次阅读

    英伟新一代AI芯片预计2025年亮相

    近日,服务器制造商戴尔在业界交流活动中透露了英伟达即将发布的新一代人工智能(AIGPU信息。这款代号为Blackwell
    的头像 发表于 03-05 10:26 295次阅读

    英伟将用AI设计AI芯片

    AI芯片行业资讯
    深圳市浮思特科技有限公司
    发布于 :2024年02月19日 17:54:43

    英伟达用AI设计GPU算术电路有何优势

    大量的算术电路阵列为英伟GPU提供了动力,以实现前所未有的AI、高性能计算和计算机图形加速。因此,改进这些算术电路的设计对于提升 GPU
    发表于 12-05 11:05 223次阅读

    英伟AI芯片将迎重大变革:Blackwell B100 GPU采用Chiplet设计

    到目前为止,英伟达已经证明业界不使用Chiplet也能发展,英伟达的hopper和ada lovelace gpu在提供公司历史上最高的瓦糖性能和最高收益方面非常卓越。但是,从布莱克威尔(bl
    的头像 发表于 09-19 14:36 1018次阅读

    鸿创基于瑞芯微RK3588的8K人工智能核心板

    RK3588是Rockchip全新一代旗舰AIoT芯片,采用了8nm LP制程;搭载八核64位CPU,主频高达2.4GHz;集成ARM Mali-G610 MP4四核GPU,内置AI
    发表于 09-11 20:25

    新一代Jetson Orin Nano来袭,40TOPS超强力,刷新你的想象! #Jetson #英伟

    英伟
    学习电子知识
    发布于 :2023年07月02日 13:27:15

    AMD全力追赶英伟达推出新一代AI芯片

    AMD在旧金山发布会上推出了新一代AI芯片、数据中心CPU和DPU。在生成式AI浪潮下,最受关注的新品是AI
    的头像 发表于 06-15 16:16 1338次阅读