0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AWS与NVIDIA通过嵌入式AI简化构建应用程序

姚小熊27 来源:TechWeb.com.cn 作者:TechWeb.com.cn 2020-12-25 10:26 次阅读

人工智能改变了我们的生活和工作方式,主要的AI供应商之一是图形处理单元(GPU)市场领导者NVIDIA。开发人员使用其工具和基础架构来构建支持AI的应用程序。该公司提供的产品可简化将AI集成到服务中的过程,这些服务包括语音识别,对话式AI,数据科学,机器人技术,推理等等。

NVIDIA工具已被AI开发人员和数据科学家广泛采用,但是将这些工具的使用扩展到更广泛的受众范围将需要简化工具的访问过程。如今,开发人员需要在一个平台(例如AWS)上构建,然后直接从NVIDIA访问AI工具。

AWS与NVIDIA合作伙伴通过嵌入式AI简化构建应用程序

最近,NVIDIA与亚马逊网络服务(AWS)通过在AWS Marketplace中提供NVIDIA店面,宣布了一项合作伙伴关系,旨在简化将AI功能嵌入应用程序的过程。总计,NVIDIA将免费提供21种软件工具,以帮助使用AWS的开发人员构建GPU加速的AI应用程序。这将在医疗保健,金融,零售,智慧城市等多个领域引起广泛关注。

自2017年以来,NVIDIA一直通过其NVIDIA GPU优化云(NGC)目录以及AWS Marketplace上的一些单独组件提供了GPU加速软件。但是,这是Nvidia的整个产品组合首次进入AWS Marketplace。NGC目录将NVIDIA的GPU加速软件工具集中在一起。它包含数百个机器学习(ML)框架和行业特定的软件开发套件,数据科学家和开发人员可以使用它们来构建AI解决方案。

伙伴关系创建了“一站式商店”

NGC软件经过容器化和优化,可在GPU云实例上运行,例如Amazon EC2 P4d,该实例由NVIDIA最新的A100 Tensor Core GPU提供支持。开发人员可以通过现成的程序包获得所需的一切,因此他们可以在混合云环境中运行容器,并轻松地跨平台移动GPU加速的工作负载。

NVIDIA声称250,000名用户已经从NGC目录中下载了超过100万个AI容器,预训练的模型,应用程序框架,Helm图表和其他ML资源。一些最受欢迎的NVIDIA GPU加速AI软件工具包括:

NVIDIA AI,一套框架和工具,例如MXNet和TensorFlow

NVIDIA Clara Imaging,一个针对领域优化的应用程序框架,用于医学成像中的深度学习培训和推理。

NVIDIA DeepStream SDK,一个用于在边缘和任何云上部署的多平台视频分析框架。

NVIDIA HPC SDK,一套用于高性能计算的库和软件工具。

NVIDIA Isaac Sim ML培训,这是面向机器人ML工程师的工具包,这些机器人ML工程师生成合成图像以训练对象检测深度神经网络

NVIDIA Merlin,一个开放的beta框架,用于构建大规模的深度学习推荐系统。

NVIDIA NeMo,一个用于构建对话AI模型的开源Python工具包。

RAPIDS,一套开源数据科学软件库。

通过与AWS的合作,NVIDIA希望加快软件发现的过程。只要NGC目录中有更新,开发人员就可以一键访问NVIDIA AI软件的最新版本。开发人员的另一个好处是软件部署更加简单。开发人员将能够在AWS控制台内的NVIDIA GPU实例上订阅并开始运行NGC软件。他们还可以访问NGC Helm图表以进行持续集成和开发。

随着AI推动高性能计算的突破,高级工具对于帮助组织可视化并与海量数据集进行交互是必不可少的。像NVIDIA和AWS这样的联盟可以消除部署GPU加速软件的复杂性。现在,开发人员无需花时间搜索最新的框架和补丁,而是可以在一个地方访问所有资源来构建,培训和部署AI应用。
责任编辑:YYX

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4598

    浏览量

    101775
  • AI
    AI
    +关注

    关注

    87

    文章

    26485

    浏览量

    264132
  • AWS
    AWS
    +关注

    关注

    0

    文章

    393

    浏览量

    23935
  • 嵌入式AI
    +关注

    关注

    0

    文章

    32

    浏览量

    774
收藏 人收藏

    评论

    相关推荐

    深度详解嵌入式系统专用轻量级框架设计

    MR 框架是专为嵌入式系统设计的轻量级框架。充分考虑了嵌入式系统在资源和性能方面的需求。通过提供标准化的设备管理接口,极大简化嵌入式应用开
    发表于 04-27 02:32 35次阅读
    深度详解<b class='flag-5'>嵌入式</b>系统专用轻量级框架设计

    NVIDIA Jetson为嵌入式计算领域探索AI可能

    自动化业务流程、通过数据分析获得洞察力、与客户和员工互动……如今 AI 正在大幅提高生产力,推动竞争优势。NVIDIA Jetson 是适用于自主机器和其他嵌入式应用的先进平台,具有出
    的头像 发表于 01-25 17:03 241次阅读
    <b class='flag-5'>NVIDIA</b> Jetson为<b class='flag-5'>嵌入式</b>计算领域探索<b class='flag-5'>AI</b>可能

    用C语言构建高效的嵌入式程序

    嵌入式工程师在编写C语言程序时,需要注重效率和清晰的思路。本文将通过解析经典问题“猴子选大王”来展示如何用C语言思维方式构建高效、清晰的程序
    的头像 发表于 12-21 09:27 302次阅读

    NVIDIA Jetson 的嵌入式系统AI应用

    在这个平台上可以使用多个不同的芯片 ,案例的主角是AIMobile AIM Edge Ncox,一款基于NVIDIA Jetson Orin NX的小型被动冷却嵌入式系统。该系统具有6-8个Arm内核和NVIDIA Ampere
    发表于 12-11 17:37 274次阅读

    嵌入式Linux应用程序开发详解-第3章

    电子发烧友网站提供《嵌入式Linux应用程序开发详解-第3章.pdf》资料免费下载
    发表于 11-16 11:19 0次下载
    <b class='flag-5'>嵌入式</b>Linux<b class='flag-5'>应用程序</b>开发详解-第3章

    嵌入式Linux应用程序开发详解-第2章

    电子发烧友网站提供《嵌入式Linux应用程序开发详解-第2章.pdf》资料免费下载
    发表于 11-16 11:18 0次下载
    <b class='flag-5'>嵌入式</b>Linux<b class='flag-5'>应用程序</b>开发详解-第2章

    嵌入式Linux应用程序开发详解-第1章

    电子发烧友网站提供《嵌入式Linux应用程序开发详解-第1章.pdf》资料免费下载
    发表于 11-16 11:17 0次下载
    <b class='flag-5'>嵌入式</b>Linux<b class='flag-5'>应用程序</b>开发详解-第1章

    什么是嵌入式Linux?

    Linux到底是什么呢? 嵌入式linux 是将日益流行的Linux操作系统进行裁剪修改,使之能在嵌入式计算机系统上运行的一种操作系统。简单来说,是除了电脑之外可以运行程序的设备,将CPU嵌入
    发表于 10-11 13:47

    107使用ADS v1.2进行嵌入式软件开发

    当开始为嵌入式应用程序开发软件时,ADS的用户可能不知道他们的目标硬件的技术规格。目标外围设备、内存映射甚至处理器本身的细节可能是未知或未确定的。 为了在知道或考虑此类细节之前进行软件开发,ADS
    发表于 08-30 06:27

    创建端到端零售愿景AI应用程序

    使用 NVIDIA DeepStream 和 NVIDIA TAO 工具包构建端到端零售分析应用程序
    的头像 发表于 07-05 16:30 261次阅读
    创建端到端零售愿景<b class='flag-5'>AI</b><b class='flag-5'>应用程序</b>

    使用Arduino Nano 33构建嵌入式语音识别应用程序

    电子发烧友网站提供《使用Arduino Nano 33构建嵌入式语音识别应用程序.zip》资料免费下载
    发表于 06-28 14:50 1次下载
    使用Arduino Nano 33<b class='flag-5'>构建</b><b class='flag-5'>嵌入式</b>语音识别<b class='flag-5'>应用程序</b>

    基于AWS的人群感知应用程序

    电子发烧友网站提供《基于AWS的人群感知应用程序.zip》资料免费下载
    发表于 06-19 15:47 0次下载
    基于<b class='flag-5'>AWS</b>的人群感知<b class='flag-5'>应用程序</b>

    嵌入式学习路线你知道吗?

    应用和驱动开发打下坚实的基础。 4学习嵌入式Linux应用程序开发 这一阶段主要学习上层的嵌入式Linux应用程序开发,包括基于Linux多进程、多线程、网络、文件与目录和QT编程。掌
    发表于 06-14 16:00

    如何构建我自己的嵌入式C编译器?

    只是为了获得如何构建我自己的嵌入式 C 编译器的知识,如预处理、汇编、链接器、生成 Hex 文件、elf 文件、映射文件。 任何有用的链接可用? 我是嵌入式软件工程师,并且具有 c 编程 python、bat 脚本方面的知识。
    发表于 06-08 08:10

    瑞萨嵌入式应用程序编程接口参考手册

    瑞萨嵌入式应用程序编程接口参考手册
    发表于 05-04 19:44 1次下载
    瑞萨<b class='flag-5'>嵌入式</b><b class='flag-5'>应用程序</b>编程接口参考手册