0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

世界最强AI芯H200发布,英伟达:性能提升90%

微云疏影 来源:综合整理 作者:综合整理 2023-11-14 10:49 次阅读

英伟达在世界电脑会议(sc2023)上发布了最新ai芯片h200,对ai模型进行了训练。

英伟达大幅升级了热门的h100人工智能gpu。新高端芯片芯片h200基于英伟达的hopper架构,是第一个使用高带宽内存的gpu,速度更快。建立一个大的语言模型是必要的。推理或生成问题答案时性能比h100提高60 ~ 90%。

英伟达方面表示,以hbm3e为基础,h200每秒提供4.8tb、141gb的存储器,与a100相比,容量和带宽分别增加2倍和2.4倍。

在备受关注的人工智能领域,英伟达表示,h200将进一步提高性能。llama 2(700亿个llm)的推理速度是h100的两倍。未来的软件更新有望为h200带来更多的性能和改进。

h200由英伟达hgx h200服务器主板4频道和8频道组成,可与hgx h100系统的硬件和软件兼容。

据悉,大型计算机制造企业和云服务提供企业将从明年第二季度开始使用h200。亚马逊的aws、Alphabet公司的谷歌云、微软的azure、甲骨文的云基础设施已承诺从明年开始使用该新芯片。

英伟达表示,希望通过推出新产品,赶上人工智能(ai)模型和服务数据集规模的增加。随着内存容量的增加,h200向软件提供数据的速度将会加快,这一过程将训练人工智能来完成图像和语音识别等工作。

过去英伟达通常每两年更新一次芯片架构,而最新的芯片架构是hopper。但nvidia向投资者表示,随着上月对gpu的需求剧增,原本每2年推出新的架构,现在改为每1年推出新的架构。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储器
    +关注

    关注

    38

    文章

    7474

    浏览量

    163725
  • 人工智能
    +关注

    关注

    1791

    文章

    47090

    浏览量

    238067
  • 英伟达
    +关注

    关注

    22

    文章

    3765

    浏览量

    90949
收藏 人收藏

    评论

    相关推荐

    英伟H200性能显著提升,年内将推出B200新一代AI半导体

    同一天,NVIDIA发布H200性能评估报告,表明在与美国Meta公司的大型语言模型——LLM“Llama 2”的对比中,H200使AI
    的头像 发表于 04-01 09:36 1387次阅读

    英伟H200显卡参数是什么

    英伟H200显卡的参数非常出色,主要表现在以下几个方面。
    的头像 发表于 03-07 17:02 2628次阅读

    英伟H200显卡怎么样

    英伟H200显卡是一款表现出色的产品,其在性能、技术、应用等方面都有显著的优势。
    的头像 发表于 03-07 16:50 1892次阅读

    英伟H200上市时间

    英伟H200于2023年11月13日正式发布。然而,由于HBM3e芯片供应问题,其实际开售时间有所延迟。英伟
    的头像 发表于 03-07 16:46 2282次阅读

    英伟H200带宽狂飙

    英伟H200带宽的显著提升主要得益于其强大的硬件配置和先进的技术创新。H200配备了高达141GB的HBM3e显存,与前代产品
    的头像 发表于 03-07 16:44 925次阅读

    英伟H200性能怎么样

    英伟H200性能卓越,集成了高性能CPU和GPU,通过高速NVLink连接,消除了传统计算瓶颈。其配备了高达141GB的HBM3e高带宽内
    的头像 发表于 03-07 16:39 997次阅读

    英伟H200H800的区别

    英伟H200H800在多个方面存在一些关键性的区别。
    的头像 发表于 03-07 16:30 3577次阅读

    英伟H200和A100的区别

    英伟H200和A100两款芯片在性能、架构、内存以及应用场景等多个方面存在显著的区别。
    的头像 发表于 03-07 16:23 3543次阅读

    英伟H200和A100的差异

    英伟H200和A100在多个方面存在差异。
    的头像 发表于 03-07 16:18 2472次阅读

    英伟H200算力怎么样

    英伟H200的算力非常强大。作为新一代AI芯片,H200性能上有了显著的
    的头像 发表于 03-07 16:15 2056次阅读

    英伟H200能作为普通显卡使用吗

    英伟H200不能作为普通显卡使用。H200是一款专为AI计算设计的芯片,它并不具备普通显卡的图形渲染能力。
    的头像 发表于 03-07 16:13 1564次阅读

    英伟H200显卡价格

    英伟H200显卡的具体价格尚未公布。根据上一代H100显卡的价格范围,预计H200的单片价格将超过40000美元。由于新芯片通常定价较高,
    的头像 发表于 03-07 16:09 4640次阅读

    英伟H200什么时候上市

    英伟于2023年11月13日发布了新一代AI芯片H200,但具体的上市时间可能因各种因素有所调整。近期有消息传出,
    的头像 发表于 03-07 16:04 1072次阅读

    英伟H200H100的比较

    英伟H200H100是两款不同的AI芯片,它们各自具有独特的特点和优势。以下是关于这两款芯片的一些比较。
    的头像 发表于 03-07 15:53 4532次阅读

    英伟H200参数说明

    英伟H200是一款新一代AI芯片,于2023年11月14日正式发布,主要被设计用来处理生成式人工智能负载的海量数据。
    的头像 发表于 03-07 15:48 1784次阅读