0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA 加快企业自定义生成式 AI 模型开发

NVIDIA英伟达企业解决方案 来源:未知 2023-11-16 21:15 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

开发者可以直接在浏览器中试用全新的 NVIDIA AI Foundation Models,使用 NVIDIA AI Foundation Endpoints 在应用程序中进行测试,然后使用专有的业务数据进行自定义。

wKgaomVWFwaAYyO_AADOYv2qyow798.jpg

如今,免费、开源的大语言模型对企业来说就像是一顿“自助餐”。但对于构建自定义生成式 AI 应用的开发者来说,这顿“大餐”可能会让他们应接不暇,因为他们需要满足各种不同的项目和业务需求,比如兼容性、安全性和用来训练模型的数据。 NVIDIA AI Foundation Models集企业级预训练模型之大成,为开发人员提供了针对企业应用定制生成式 AI 的良好开端。

NVIDIA 优化的基础模型加速创新

NVIDIA AI Foundation Models 可通过简单的用户界面或 API 直接在浏览器体验。此外,这些模型还可通过NVIDIA AI Foundation Endpoints进行访问,以便在企业应用中测试模型性能。

Llama 2、Stable Diffusion XL 和 Mistral 等现有的领先社区模型在格式化后,可帮助开发者利用其专有数据精简自定义过程。此外,这些模型还通过NVIDIA TensorRT-LLM进行了优化,以提供最高的吞吐量和最低的时延,同时支持在任一NVIDIA GPU加速堆栈上的大规模运行。例如,经过 TensorRT-LLM 优化的 Llama 2 模型在 NVIDIA H100 上的运行速度提高了近 2 倍。 新的NVIDIA Nemotron-3 8B基础模型系列可支持创建当今领先的企业聊天与问答应用,并适用于医疗、电信和金融服务等众多行业。 这一系列模型是客户构建安全且生产就绪的生成式 AI 应用的起点。这些模型在可靠的数据集上训练而成,其性能可媲美规模更大的模型,因此成为企业部署的理想之选。 多语言功能是 Nemotron-3 8B 系列模型的关键优势之一。这些开箱即用的模型精通 50 多种语言,包括英语、德语、俄语、西班牙语、法语、日语、中文、韩语、意大利语和荷兰语。

加快从自定义到部署的全过程

在跨业务功能中使用生成式 AI 的企业需要一个 AI foundry,以便为其独特的应用自定义模型。NVIDIA 的 AI foundry 具备三个要素:NVIDIA AI Foundation Models、NVIDIA NeMo框架和工具,以及NVIDIA DGXAI 超级计算服务。它们共同提供了端到端的企业级服务,以创建自定义生成式 AI 模型。

重要的是,企业拥有其定制化模型,也就可以通过NVIDIA AI Enterprise软件将其部署到几乎任何地点,并获得企业级的安全性、稳定性和支持。 NVIDIA AI Foundation Models 现已在NVIDIA NGC 目录https://catalog.ngc.nvidia.com/ai-foundation-models.ngc.nvidia.com/ai-foundation-models和 Hugging Face 上免费提供,并且也托管于 Microsoft Azure AI 模型目录中。

GTC 2024 将于 2024 年 3 月 18 至 21 日在美国加州圣何塞会议中心举行,线上大会也将同期开放。扫描下方海报二维码,立即注册 GTC 大会


原文标题:NVIDIA 加快企业自定义生成式 AI 模型开发

文章出处:【微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    23

    文章

    4126

    浏览量

    99774

原文标题:NVIDIA 加快企业自定义生成式 AI 模型开发

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    自定义卡片编辑组件

    自定义卡片编辑页面从左到右分为功能区、预览画布区和属性配置区。 开发者可以拖动左边组件图标到中间画布区域,选中中间画布上某个组件时,右边会展示该组件的属性配置,修改属性配置可以实时在画布上生效
    发表于 04-22 11:11

    使用Python/MyHDL创建自定义FPGA IP

    使用 Python/MyHDL 创建自定义 FPGA IP,与 Vivado 集成,并通过 PYNQ 进行控制——实现软件上的简单硬件设计。
    的头像 发表于 04-09 09:53 467次阅读
    使用Python/MyHDL创建<b class='flag-5'>自定义</b>FPGA IP

    MCUXpresso SDK创建自定义清单

    概述 MCUXpresso SDK 24.12 介绍塞德恩汉CED支持自定义清单,使开发人员能够精确定义其工作区中包含哪些组件、驱动程序、中间件和板支持包。此功能在极简主义、可重复性和 CI/CD
    发表于 04-07 07:11

    NVIDIA Jetson模型赋能AI在边缘端落地

    开源生成 AI 模型不再局限于数据中心,而是开始深入到现实世界的各种机器中。从 Orin 到 Thor,NVIDIA Jetson 系列正
    的头像 发表于 03-16 16:27 784次阅读
    <b class='flag-5'>NVIDIA</b> Jetson<b class='flag-5'>模型</b>赋能<b class='flag-5'>AI</b>在边缘端落地

    借助NVIDIA CUDA Tile IR后端推进OpenAI Triton的GPU编程

    NVIDIA CUDA Tile 是基于 GPU 的编程模型,其设计目标是为 NVIDIA Tensor Cores 提供可移植性,从而释放 GPU 的极限性能。CUDA Tile 的一大优势是允许
    的头像 发表于 02-10 10:31 630次阅读

    利用NVIDIA Cosmos开放世界基础模型加速物理AI开发

    NVIDIA 最近发布了 NVIDIA Cosmos 开放世界基础模型(WFM)的更新,旨在加速物理 AI 模型的测试与验证数据
    的头像 发表于 12-01 09:25 1619次阅读

    无图形界面模式下自定义检查工具的应用

    此前文章已介绍 ANSA 中的自定义检查工具。本文将探讨该功能在无图形界面(No-GUI)模式下的应用,旨在满足标准化工作流程的需求,适用于需要高度自动化的前处理场景。通过集成自定义检查,用户可实现工作流程的高效自动化运行。
    的头像 发表于 11-30 14:13 853次阅读
    无图形界面模式下<b class='flag-5'>自定义</b>检查工具的应用

    采用汇编指示符来使用自定义指令

    具体实现 1、采用.word .half .dword等汇编指示符直接插入自定义指令,这种方法需要自己指定寄存器。其中.word为插入一个字的数据即32位,.half为插入半字即16位
    发表于 10-28 06:02

    强实时运动控制内核MotionRT750(九):内置C语言的自定义机械手模型实现

    内置C语言的自定义机械手模型实现。
    的头像 发表于 10-27 14:14 1034次阅读
    强实时运动控制内核MotionRT750(九):内置C语言的<b class='flag-5'>自定义</b>机械手<b class='flag-5'>模型</b>实现

    智能硬件通过小聆AI自定义MCP应用开发操作讲解

    智能硬件通过小聆AI自定义MCP应用开发操作讲解 前言 MCP(Modular Communication Protocol,模块化通信协议)为智能硬件带来多方面显著优势:它通过标准化的通信接口
    发表于 10-14 15:50

    请问K210可以同时加载几个自定义模型

    K210可以同时加载几个自定义模型
    发表于 07-18 06:20

    大彩讲堂:VisualTFT软件如何自定义圆形进度条

    VisualTFT软件如何自定义圆形进度条
    的头像 发表于 07-07 17:10 2072次阅读
    大彩讲堂:VisualTFT软件如何<b class='flag-5'>自定义</b>圆形进度条

    KiCad 中的自定义规则(KiCon 演讲)

    “  Seth Hillbrand 在 KiCon US 2025 上为大家介绍了 KiCad 的规则系统,并详细讲解了自定义规则的设计与实例。  ”   演讲主要围绕 加强 KiCad 中的自定义
    的头像 发表于 06-16 11:17 2714次阅读
    KiCad 中的<b class='flag-5'>自定义</b>规则(KiCon 演讲)

    使用NVIDIA Earth-2生成AI基础模型革新气候建模

    NVIDIA 正通过 cBottle(Climate in a Bottle 的简称)为这项工作带来新的突破,这是全球首个专为以公里尺度分辨率模拟全球气候而设计的生成 AI 基础
    的头像 发表于 06-12 15:54 1521次阅读

    HarmonyOS应用自定义键盘解决方案

    自定义键盘是一种替换系统默认键盘的解决方案,可实现键盘个性化交互。允许用户结合业务需求与操作习惯,对按键布局进行可视化重构、设置多功能组合键位,使输入更加便捷和舒适。在安全防护层面,自定义键盘可以
    的头像 发表于 06-05 14:19 2743次阅读