0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

浪潮信息联合英特尔发布新一代AI服务器NF5698G7

浪潮AIHPC 来源:浪潮AIHPC 2023-07-13 09:43 次阅读

浪潮信息联合英特尔发布面向生成式AI领域创新开发的新一代AI服务器NF5698G7。该AI服务器支持8颗OAM高速互联的Gaudi2加速器,具备高性能、高扩展、高能效和开放生态等优点,将为AI客户提供强大的大模型训练和推理能力。

浪潮信息NF5698G7在6U空间支持8颗基于开放加速模组OAM高速互联的Gaudi2 AI加速器,每颗Gaudi2芯片配置96GB HBM高速内存,共提供2.1Tbps的P2P互联带宽,支持全互联拓扑,满足大模型训练张量并行的通信需求;搭载2颗第四代至强处理器,支持AMX/DSA等AI加速引擎。Gaudi2是英特尔推出的深度学习加速器,以多方位性能与能效比提升,为业界提供了高性能、高性价比的AI算力选项,在MLPerf的GPT-3、ResNet-50、Unet3D、BERT等基准测试中,均取得了优异的性能表现。

NF5698G7采用高扩展设计,支持12个PCIe5.0 X16的IO扩展,最大支持4800Gbps节点间互联带宽,满足大模型流水线并行和数据并行的通信需求,可扩展至万卡AI集群。NF5698G7通过精细化分区、智能散热调控、12V & 54V N+N双输入供电等创新设计,实现高功率负载动态匹配和低电源功率损耗,系统功耗降低8%。

NF5698G7基于全球开放计算OCP开放加速器规范 OAM/UBB进行产品设计,支持PyTorch、TensorFlow等主流AI框架和Megatron/DeepSpeed等流行开发工具,为生成式AI提供成熟、高性价比的开放生态产品方案。NF5698G7支持浪潮信息的AI算力资源平台AIStation,通过对计算资源、数据资源、深度学习软件栈资源进行统一管理,有效提升大模型算力平台的使用效率,助力客户加速AI大模型开发与部署。

浪潮信息高级副总裁、AI&HPC产品线总经理刘军表示:“NF5698G7为生成式AI应用提供了极具吸引力的AI算力平台,我们与英特尔紧密协作,优化了NF5698G7在多种生成式AI场景的性能表现,为AI客户提供强大的大模型训练和推理能力,加速AIGC创新步伐、赋力生成式AI产业创新。”

英特尔执行副总裁兼数据中心人工智能事业部总经理Sandra Rivera表示:“英特尔致力于提供基于至强处理器和 Gaudi 深度学习加速器的业界领先的人工智能解决方案,以及开放、安全且易于编程的软件,降低AI应用门槛,让AI惠及所有人。对寻求高性能和高性价比的客户来说,浪潮信息 NF5698G7 是绝佳选择。我们将继续与浪潮信息合作,在人工智能时代不断创新。”

浪潮信息是全球领先的AI服务器厂商。据IDC数据报告显示,浪潮信息在中国AI服务器市场份额连续六年保持第一。

审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英特尔
    +关注

    关注

    60

    文章

    9421

    浏览量

    168830
  • 服务器
    +关注

    关注

    12

    文章

    8116

    浏览量

    82518
  • 浪潮
    +关注

    关注

    1

    文章

    404

    浏览量

    23574
  • AI
    AI
    +关注

    关注

    87

    文章

    26443

    浏览量

    264061

原文标题:浪潮信息联合英特尔发布新一代AI服务器NF5698G7,支持8颗Gaudi2加速器

文章出处:【微信号:浪潮AIHPC,微信公众号:浪潮AIHPC】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    浪潮信息发布企业大模型开发平台“元脑企智”EPAI

    4月17日,在2024浪潮信息生态伙伴大会(IPF2024)上,浪潮信息重磅发布企业大模型开发平台“元脑企智”EPAI(Enterprise Platform of AI),为企业
    的头像 发表于 04-18 10:12 109次阅读
    <b class='flag-5'>浪潮信息</b><b class='flag-5'>发布</b>企业大模型开发平台“元脑企智”EPAI

    浪潮信息英特尔合作推出一种大模型效率工具“YuanChat”

    3月26日,浪潮信息英特尔正式宣布,浪潮信息“源2.0系列基础大模型”已和最新的英特尔® 酷睿™ Ultra处理器平台完成适配,本地推理速度提升100%。
    的头像 发表于 03-27 13:50 205次阅读
    <b class='flag-5'>浪潮信息</b>与<b class='flag-5'>英特尔</b>合作推出一种大模型效率工具“YuanChat”

    浪潮信息NE5260G7服务器适配第五代英特尔至强处理器

    浪潮信息近日宣布,其边缘服务器NE5260G7已成功适配第五代英特尔至强处理器,实现了平均性能21%的提升。这一创新产品不仅针对边缘AI算力场景支持了10余种加速芯片,还在存储场景上实
    的头像 发表于 03-06 09:29 266次阅读

    浪潮信息服务器NF5180G7荣获SPECjbb2015性能冠军

    近日,国际权威的标准性能评测机构(SPEC)公布了SPECjbb2015榜单,浪潮信息服务器NF5180G7凭借每秒558,626次企业应用业务处理的卓越成绩,蝉联性能冠军。这一出色的表现不仅刷新了算力记录,更标志着
    的头像 发表于 02-01 14:23 241次阅读

    浪潮信息英特尔联合发布全球首个全液冷冷板服务器参考设计

    北京2024年1月19日 /美通社/ -- 1月18日,浪潮信息英特尔联合发布全球首个全液冷冷板服务器参考设计,并面向业界开放,为全球液冷产业链上下游提供极具价值的参考样板,推动先进
    的头像 发表于 01-19 16:52 270次阅读
    <b class='flag-5'>浪潮信息</b>与<b class='flag-5'>英特尔</b><b class='flag-5'>联合发布</b>全球首个全液冷冷板<b class='flag-5'>服务器</b>参考设计

    浪潮信息八路服务器创SAP SD评测最高性能

    北京2024年1月17日 /美通社/ -- 1月15日,据全球领先的企业应用软件提供商SAP发布的最新SAP SD评测结果,浪潮信息TS860G7服务器创下1,659,970 SAPS的最高
    的头像 发表于 01-17 20:49 286次阅读
    <b class='flag-5'>浪潮信息</b>八路<b class='flag-5'>服务器</b>创SAP SD评测最高性能

    英特尔酷睿14处理系列发布,Arrowlake/LunarLake24年问世

    处理英特尔
    looger123
    发布于 :2024年01月10日 17:44:38

    IDC: 浪潮信息居全球服务器份额第二

    下降22.8%。在全球服务器市场增长乏力的背景下,浪潮信息服务器以21.8%的销售额增速,实现逆势增长,出货量和销售额均位居全球第二。
    的头像 发表于 12-12 12:27 686次阅读
    IDC: <b class='flag-5'>浪潮信息</b>居全球<b class='flag-5'>服务器</b>份额第二

    #高通 #英特尔 #Elite 高通X Elite芯片或终结苹果、英特尔的芯片王朝

    高通英特尔苹果
    深圳市浮思特科技有限公司
    发布于 :2023年10月27日 16:46:07

    东芝 MG10系列企业级SATA HDD获得浪潮信息澎湃技术兼容性认证

      点击蓝字 关注我们 近日,TOSHIBA(东芝) MG10系列企业级SATA HDD (MG10ACA) 完成与浪潮信息NF5280M6服务器平台的兼容性适配认证,获得浪潮信息澎湃
    的头像 发表于 09-22 19:35 452次阅读
    东芝 MG10系列企业级SATA HDD获得<b class='flag-5'>浪潮信息</b>澎湃技术兼容性认证

    浪潮信息NF5468系列AI服务器率先支持英伟达最新推出的L40S GPU

    浪潮信息宣布旗下NF5468系列AI服务器率先支持英伟达最新推出的L40S GPU,可为人工智能大模型训练和推理、元宇宙及图形视频处理等应用提供强大算力。实际测试表明,搭载8颗NVID
    的头像 发表于 09-22 11:20 1565次阅读

    浪潮信息NF5468服务器LLaMA训练性能

    浪潮信息宣布旗下NF5468系列AI服务器率先支持英伟达最新推出的L40S GPU,可为人工智能大模型训练和推理、元宇宙及图形视频处理等应用提供强大算力。实际测试表明,搭载8颗NVID
    的头像 发表于 09-22 11:16 1869次阅读

    浪潮信息发布大模型智算软件栈OGAI,为大模型创新打造高效生产力

    浪潮信息正式发布大模型智算软件栈 OGAI。OGAI (Open GenAI Infra)"元脑生智",是为大模型业务提供AI算力系统环境部署、算力调度保障及模型开发管理能力
    的头像 发表于 08-28 08:08 378次阅读

    浪潮信息联合中国信通院推出业界首个服务器碳排放评测标准

    浪潮信息"智算 开新局·创新机"全国巡展济南站开幕。会上,浪潮信息与中国信息通信研究院(以下简称中国信通院)联合发布了《绿色算力白皮书》(以下简称《白皮书》),对绿色算力的内涵
    的头像 发表于 06-05 09:22 592次阅读

    新一代浪潮K1 Power K8850G3关键应用服务器,敏捷高效多应用整合提供极致聚合算力

    在5月23日举办的浪潮信息“智算 开新局·创新机”全国巡展上海站上,新一代K1 Power G3服务器产品重磅发布
    的头像 发表于 05-31 14:27 598次阅读