浪潮信息NF5468服务器LLaMA训练性能
浪潮信息宣布旗下NF5468系列AI服务器率先支持英伟达最新推出的L40S GPU，可为人工智能大模型训练和推理、元宇宙及图形视频处理等应用提供强大算力。实际测试表明，搭载8颗NVIDIA L40S的浪潮信息NF5468服务器大幅提升了LLaMA大模型的微调训练性能。目前该产品已具备交付能力，客户可以进行下单采购。
本次浪潮信息推出的算力系统是兼具训练和推理能力的NF5468系列AI服务器，包括NF5468M6、NF5468A5、NF5468M7、NF5468A7等型号，产品可以在4U空间内搭载2颗高性能通用处理器、8张L40S GPU加速器及多颗高速互联网络，从而满足大模型计算对高算力、高互联的极致性能需求。在软件上，产品支持浪潮信息最新推出的OGAI大模型智算软件栈，为客户提供高效的大模型生产力支撑。
针对业界广泛使用的LLaMA开源大型语言模型，浪潮信息NF5468服务器搭载8颗L40S GPU进行了大模型训练性能测试，得益于浪潮信息在NF5468服务器的优秀设计和大模型算法上的专业经验，L40S GPU的强大性能得以充分发挥，实际测试数据表明LLaMA大模型微调训练性能优异。
浪潮信息NF5468系列AI服务器搭载L40S GPU可以很好地完成LLaMA大模型训练任务，并具备良好的性能扩展，将帮助客户迅速部署高性能的AI算力系统、采纳强大的GPU加速器和领先的软件生态，加速生成式AI的产业创新和发展。
审核编辑：汤梓红
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
服务器
+关注
关注
12文章
8120浏览量
82522 -
浪潮
+关注
关注
1文章
404浏览量
23576 -
AI
+关注
关注
87文章
26458浏览量
264072 -
大模型
+关注
关注
2文章
1532浏览量
1126
发布评论请先 登录
相关推荐
浪潮信息发布企业大模型开发平台“元脑企智”EPAI
4月17日，在2024浪潮信息生态伙伴大会（IPF2024）上，浪潮信息重磅发布企业大模型开发平台“元脑企智”EPAI（Enterprise Platform of AI），为企业AI大模型落地
浪潮信息服务器NF5180G7荣获SPECjbb2015性能冠军
近日，国际权威的标准性能评测机构（SPEC）公布了SPECjbb2015榜单，浪潮信息服务器NF5180G7凭借每秒558,626次企业应用业务处理的卓越成绩，蝉联
浪潮信息与英特尔联合发布全球首个全液冷冷板服务器参考设计
北京2024年1月19日 /美通社/ -- 1月18日，浪潮信息与英特尔联合发布全球首个全液冷冷板服务器参考设计，并面向业界开放，为全球液冷产业链上下游提供极具价值的参考样板，推动先进全液冷
浪潮信息八路服务器创SAP SD评测最高性能
北京2024年1月17日 /美通社/ -- 1月15日，据全球领先的企业应用软件提供商SAP发布的最新SAP SD评测结果，浪潮信息TS860G7服务器创下1,659,970 SAPS的最高性能
IDC: 浪潮信息居全球服务器份额第二
下降22.8%。在全球服务器市场增长乏力的背景下，浪潮信息服务器以21.8%的销售额增速，实现逆势增长，出货量和销售额均位居全球第二。
浪潮信息澎湃认证：浪潮信息集中式存储携手仪电云i-stack云操作系统软件完成兼容性认证
AS/HF系列产品完全兼容，满足功能需求，系统运行可靠稳定，性能表现优异。 浪潮信息澎湃技术认证 是浪潮信息基于自身多元、创新的通用计算平台，与供应链及软件服务等生态合作伙伴共同构建的
大普微与keyarchOS完成浪潮信息澎湃技术认证
云峦服务器操作系统keyarchOS满足兼容认证要求，整体运行稳定，在功能、性能及兼容性方面表现良好。 浪潮信息澎湃技术认证是基于多元、创新的通用计算平台，与供应链及软件服务等
国际权威算力评测SPEC榜单公布 浪潮信息创四路服务器整型和浮点性能纪录
北京2023年10月8日 /美通社/ -- 近日，国际标准性能评估组织SPEC发布最新整机性能测试结果，浪潮信息NF8260G7在4大类43个测试场景中表现优异，打破了SPEC CPU
浪潮信息澎湃认证：浪潮信息集中式存储携手达梦数据库管理系统V8完成兼容性认证
，满足功能需求，系统运行可靠稳定，性能表现优异。 浪潮信息澎湃技术认证 是浪潮信息基于自身多元、创新的通用计算平台，与供应链及软件服务等生态合作伙伴共同构建的产品兼容性认证体系，包含“
东芝 MG10系列企业级SATA HDD获得浪潮信息澎湃技术兼容性认证
点击蓝字 关注我们 近日，TOSHIBA（东芝） MG10系列企业级SATA HDD (MG10ACA) 完成与浪潮信息NF5280M6服务器平台的兼容性适配认证，获得浪潮信息澎湃
浪潮信息NF5468系列AI服务器率先支持英伟达最新推出的L40S GPU
的浪潮信息NF5468服务器大幅提升了LLaMA大模型的微调训练性能。目前该产品已具备交付能力，
浪潮NF5468A5 GPU服务器整体设计及性能深度测评解读
本文将围绕NF5468A5整体设计及性能测试进行深度测评解读，展现HPL、内存带宽、AI训练、AI推理、视频编解码、HASH等应用场景的各类测试数据，如对该AI服务器感兴趣可以申请参加
浪潮信息联合英特尔发布新一代AI服务器NF5698G7
浪潮信息联合英特尔发布面向生成式AI领域创新开发的新一代AI服务器NF5698G7。该AI服务器支持8颗OAM高速互联的Gaudi2加速器，具备高性
网迅科技与浪潮信息KOS完成兼容性认证
/WX1820AL万兆网络控制器，和浪潮信息服务器操作系统KOS V5。经测试，网迅科技两个系列产品在KOS上运行稳定，兼容性良好，满足用户的关键性应用需求，与浪潮信息KOS完全满足兼容认证要求。 网迅科技成立于2014
浪潮信息联合中国信通院推出业界首个服务器碳排放评测标准
浪潮信息"智算 开新局·创新机"全国巡展济南站开幕。会上，浪潮信息与中国信息通信研究院（以下简称中国信通院）联合发布了《绿色算力白皮书》（以下简称《白皮书》），对绿色算力的内涵
工商网监
评论