0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达发布AI模型 Llama-3.1-Nemotron-51B AI模型

A面面观 2024-09-26 17:30 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

英伟达公司宣布推出 Llama-3.1-Nemotron-51B AI 模型,这个AI大模型是源自 Meta 公司的 Llama-3.1-70B大模型,基于使用了神经架构搜索(NAS)方法,推理速度比原70B大模型提升2.2倍,具备更准确和更高效的运算效率;能够大幅降低运行成本。

通过NAS技术微调;大幅降低了内存消耗、计算复杂性;Llama-3.1-Nemotron-51B AI 模型在单个H100 GPU上的表现非常优秀,在推理过程中可以在单个 GPU 上运行 4 倍以上的工作负载。这使得单片H100 GPU即可处理更大型的推理任务;这无疑是显著的降低了训练成本。这为AI提供了高效、经济的方案。



声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    23

    文章

    4128

    浏览量

    99776
  • AI大模型
    +关注

    关注

    0

    文章

    419

    浏览量

    1054
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    航天地面站管控大模型系统已融合人工智能AI模型

    AI模型
    北京华盛恒辉科技
    发布于 :2026年05月11日 22:43:50

    航天空间环境监测大模型系统已融合人工智能AI模型

    AI模型
    北京华盛恒辉科技
    发布于 :2026年05月11日 22:40:42

    航天载荷应用大模型系统已融合人工智能AI模型

    AI模型
    北京华盛恒辉科技
    发布于 :2026年05月11日 22:38:54

    模型赋能钙钛矿电池系统已融合人工智能AI模型

    AI模型
    北京华盛恒辉科技
    发布于 :2026年05月11日 22:36:25

    航天仿真试验大模型系统已融合人工智能AI模型

    AI模型
    北京华盛恒辉科技
    发布于 :2026年05月11日 22:33:37

    AI模型微调企业项目实战课

    自主可控大模型:企业微调实战课,筑牢未来 AI 底座 在人工智能席卷全球商业版图的今天,企业对大模型(LLM)的态度已经从“新奇观望”转变为“全面拥抱”。然而,随着应用层面的不断深入,一个严峻
    发表于 04-16 18:48

    NVIDIA 成立由全球领先 AI 实验室组成的 Nemotron Coalition,推动开放前沿模型发展

    新闻摘要: ● NVIDIA Nemotron Coalition 是模型构建者和 AI 实验室的首个此类全球合作项目,致力于通过共享专业知识、数据和计算来推进开放前沿基础模型的发展。
    的头像 发表于 03-17 11:14 406次阅读
    NVIDIA 成立由全球领先 <b class='flag-5'>AI</b> 实验室组成的 <b class='flag-5'>Nemotron</b> Coalition,推动开放前沿<b class='flag-5'>模型</b>发展

    NVIDIA Jetson模型赋能AI在边缘端落地

    开源生成式 AI 模型不再局限于数据中心,而是开始深入到现实世界的各种机器中。从 Orin 到 Thor,NVIDIA Jetson 系列正在成为运行 NVIDIA Nemotron、Cosmos
    的头像 发表于 03-16 16:27 792次阅读
    NVIDIA Jetson<b class='flag-5'>模型</b>赋能<b class='flag-5'>AI</b>在边缘端落地

    利用NVIDIA Nemotron开放模型构建智能文档处理系统

    基于 NVIDIA Nemotron 开放模型AI 驱动文档智能,增强科学研究、金融和法律等领域工作流。
    的头像 发表于 02-25 11:21 790次阅读

    NVIDIA 推出 Nemotron 3 系列开放模型

    新闻摘要: ● Nemotron 3 系列开放模型包含 Nano、Super 和 Ultra 三种规模,具有极高的效率和领先的精度,适用于代理式 AI 应用开发。 ● Nemotron
    的头像 发表于 12-16 09:27 922次阅读
    NVIDIA 推出 <b class='flag-5'>Nemotron</b> 3 系列开放<b class='flag-5'>模型</b>

    【CIE全国RISC-V创新应用大赛】基于 K1 AI CPU 的大模型部署落地

    /llama-cli --version 第二步:获取 14B 的 Q2_K 模型 由于官方文档演示的是 0.6B模型,我们需要自己获
    发表于 11-27 14:43

    AI模型的配置AI模型该怎么做?

    STM32可以跑AI,这个AI模型怎么搞,知识盲区
    发表于 10-14 07:14

    NVIDIA Nemotron Nano 2推理模型发布

    NVIDIA 正式推出准确、高效的混合 Mamba-Transformer 推理模型系列 NVIDIA Nemotron Nano 2。
    的头像 发表于 08-27 12:45 2139次阅读
    NVIDIA <b class='flag-5'>Nemotron</b> Nano 2推理<b class='flag-5'>模型</b><b class='flag-5'>发布</b>

    使用 NPU 插件对量化的 Llama 3.1 8b 模型进行推理时出现“从 __Int64 转换为无符号 int 的错误”,怎么解决?

    安装了 OpenVINO™ GenAI 2024.4。 使用以下命令量化 Llama 3.1 8B 模型: optimum-cli export openvino -m meta-
    发表于 06-25 07:20