0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

怎样使用NVIDIA TAO为数万亿台设备开发和优化视觉AI模型呢?

NVIDIA英伟达企业解决方案 来源:NVIDIA英伟达企业解决方案 2023-12-14 15:55 次阅读

全球开发者正在使用 NVIDIA TAO 工具套件构建 AI 视觉感知和计算机视觉应用。如今,得益于显著的平台增强和生态对其的大力采用,这一过程比以往任何时候都更快、更容易。

NVIDIA TAO 工具套件支持 10 多种计算机视觉和视觉 AI 模式,包括图像分类、目标检测、三种类型分割、光学字符识别(OCR)、动作识别、关键点估计、人体姿态估计、嵌入模型、孪生网络等。

TAO 工具套件现在支持 NVIDIA NGC 上的 40 多个预训练模型,上手应用要比以往更快。同时,TAO 的使用方式随着各行业的模型调整工作流而持续扩展。如要了解更多信息,请参见利用 NVIDIA TAO 和视觉 AI 模型实现工业缺陷检测的变革自定义 AI 模型:使用 NVIDIA TAO 训练字符检测和识别模型。

大规模采用

TAO 的下载量已超过 10 万次,TAO 预训练模型的下载量已接近 100 万次。现在 TAO 已经开源,解决方案提供商能够以更加定制化的方式,将 TAO 集成到他们的服务中,并更加细致地探索平台的内部运作:https://github.com/nvidia?q=tao&type=all&language=&sort=

领先的 MLOps 和云服务正在使用 TAO 来改进其服务。与 MLOps 平台(如 Weights & Biases 和 ClearML 等)的集成有助于简化机器学习(ML)工作流,为模型训练提供更好的实验跟踪。TAO 还能与各种云 ML 和 Kubernetes 服务协同工作,如 Azure ML、GCP Vertex AI、Azure AKS、AWS EKS 和 GCP GKE 等。

大型企业也正在将 TAO 整合到自己的行业 AI 开发工作流中,这些企业包括消费供应链领域的百事可乐、制造业领域的和硕、西门子公司,以及能源领域的埃克森美孚。世界各地的大型城市和机场也在使用 TAO。

专为 AI 工作流打造

大型和小型企业都在使用 TAO 建立自己的视觉 AI 工厂和开发工作流,越来越需要 TAO 现有的以下三种功能:

TAO 可以处理最新的 AI 模型和算法,包括基础模型调优、生成式 AI 和视觉转换器等。

TAO 可以无缝连接 NVIDIA Omniverse Replicator 和 Stable Diffusion 等仿真方法生成的合成数据集。 

TAO 通过 NVIDIA AI Enterprise 提供开发工作流中必不可少的企业级支持。

在数万亿台设备上部署先进的 AI

借助 TAO,NVIDIA 通过 ONNX 和 TFLite 模型导出,以及来自全球领先供应商和边缘 AI 软件平台的强大生态系统,提供了在远端数万亿台设备上部署最新 AI 模型的灵活性。

ARM 正在使用 TAO 来优化 Ethos NPU 设备上的 AI 运行时。意法半导体首次在 STM32 微控制器上使用 TAO 来运行复杂的视觉 AI。Edge Impulse 和 Nota 等合作伙伴正在将 TAO 集成到其边缘 AI 平台中,为客户带来边缘优化的解决方案。







审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4597

    浏览量

    101750
  • 机器学习
    +关注

    关注

    66

    文章

    8130

    浏览量

    130573
  • OCR
    OCR
    +关注

    关注

    0

    文章

    137

    浏览量

    16130

原文标题:使用 NVIDIA TAO 为数万亿台设备开发和优化视觉 AI 模型

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    Edge Impulse发布新工具,助 NVIDIA 模型大规模部署

    借助 Edge Impulse 和 NVIDIA TAO 工具包的协同效应,工程师得以快速构建并部署至边缘优化硬件(如上述型号)的计算机视觉模型
    的头像 发表于 03-25 16:00 304次阅读

    NVIDIA 推出 Blackwell 架构 DGX SuperPOD,适用于万亿参数级的生成式 AI 超级计算

    日 ——  NVIDIA 于今日发布新一代 AI 超级计算机 —— 搭载 NVIDIA GB200 Grace Blackwell 超级芯片的 NVIDIA DGX SuperPOD
    发表于 03-19 10:56 106次阅读
    <b class='flag-5'>NVIDIA</b> 推出 Blackwell 架构 DGX SuperPOD,适用于<b class='flag-5'>万亿</b>参数级的生成式 <b class='flag-5'>AI</b> 超级计算

    NVIDIA TAO 5.2版本发布

    NVIDIA TAO 提供了一个低代码开源 AI 框架,无论你是初学者还是专业的数据科学家,都可以使用该框架加速视觉 AI
    的头像 发表于 01-03 10:11 255次阅读

    NVIDIA 加快企业自定义生成式 AI 模型开发

    开发者可以直接在浏览器中试用全新的 NVIDIA AI Foundation Models,使用 NVIDIA AI Foundation
    的头像 发表于 11-16 21:15 346次阅读
    <b class='flag-5'>NVIDIA</b> 加快企业自定义生成式 <b class='flag-5'>AI</b> <b class='flag-5'>模型</b><b class='flag-5'>开发</b>

    利用 NVIDIA Jetson 实现生成式 AI

    近日,NVIDIA 发布了 Jetson 生成式 AI 实验室(Jetson Generative AI Lab),使开发者能够通过 NVIDIA
    的头像 发表于 11-07 21:25 491次阅读
    利用 <b class='flag-5'>NVIDIA</b> Jetson 实现生成式 <b class='flag-5'>AI</b>

    研讨会回顾:NVIDIA 助力汽车行业大语言模型创新与发展

    开发者关系经理李博和英迈中国技术工程师李宁在现场探讨了汽车行业前沿趋势与未来风向标。下文将带领读者回顾嘉宾们在“NVIDIA 加速汽车行业大语言模型开发与应用”研讨会上的重点分享。
    的头像 发表于 11-03 19:10 386次阅读

    现已公开发布!欢迎使用 NVIDIA TensorRT-LLM 优化大语言模型推理

    NVIDIA 于 2023 年 10 月 19 日公开发布 TensorRT-LLM ,可在 NVIDIA GPU 上加速和优化最新的大语言模型
    的头像 发表于 10-27 20:05 536次阅读
    现已公<b class='flag-5'>开发</b>布!欢迎使用 <b class='flag-5'>NVIDIA</b> TensorRT-LLM <b class='flag-5'>优化</b>大语言<b class='flag-5'>模型</b>推理

    【KV260视觉入门套件试用体验】Vitis AI 构建开发环境,并使用inspector检查模型

    /vitis-ai-cpu:latest 第二步,可以使用了………完……… (^_^),当然不是这么简单,Vitis AI 不仅仅是一个工具,而是一个综合的 AI 推断开发平台,它包
    发表于 10-14 15:34

    在线研讨会 | 就在明天!NVIDIA TAO Toolkit 5.0 助力 OCR 视觉 AI 模型快速训练与优化

    技术的应用广泛,但构建和优化 OCR 的 AI 模型并非易事。它需要深厚的计算机科学知识,精细的编程技巧,以及对 AI 模型
    的头像 发表于 08-21 21:05 299次阅读
    在线研讨会 | 就在明天!<b class='flag-5'>NVIDIA</b> <b class='flag-5'>TAO</b> Toolkit 5.0 助力 OCR <b class='flag-5'>视觉</b> <b class='flag-5'>AI</b> <b class='flag-5'>模型</b>快速训练与<b class='flag-5'>优化</b>

    使用 Vision Transformer 和 NVIDIA TAO,提高视觉 AI 应用的准确性和鲁棒性

    了关键作用,而 NVIDIA 则通过 NVIDIA TAO Toolkit 和 NVIDIA L4 GPU ,使 应用集成  ViT 变得轻而易举。 ViT 的不同之处 ViT 是一种
    的头像 发表于 08-04 17:40 368次阅读
    使用 Vision Transformer 和 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>TAO</b>,提高<b class='flag-5'>视觉</b> <b class='flag-5'>AI</b> 应用的准确性和鲁棒性

    使用 NVIDIA TAO Toolkit 5.0 体验最新的视觉 AI 模型开发工作流程

    NVIDIA TAO 工具套件 提供了一个低代码 AI 框架,无论是新手还是数据科学专家都可以使用这个平台加速视觉 AI
    的头像 发表于 07-31 20:45 413次阅读
    使用 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>TAO</b> Toolkit 5.0 体验最新的<b class='flag-5'>视觉</b> <b class='flag-5'>AI</b> <b class='flag-5'>模型</b><b class='flag-5'>开发</b>工作流程

    即刻报名第三届 NVIDIA TensorRT Hackathon 生成式 AI 模型优化

    近日,由阿里云及 NVIDIA 联合举办的 “NVIDIA TensorRT Hackathon 2023 生成式 AI 模型优化赛”已正式
    的头像 发表于 07-17 19:45 337次阅读
    即刻报名第三届 <b class='flag-5'>NVIDIA</b> TensorRT Hackathon 生成式 <b class='flag-5'>AI</b> <b class='flag-5'>模型</b><b class='flag-5'>优化</b>赛

    NVIDIA 邀您参加 —— AI 软硬件协同开发技术交流与人才发展分享会

    软硬件协同开发以及 人才招聘分享会诚邀你参加! 我们将邀请多位 NVIDIA 深度学习领域专家与你分享 NVIDIA 的技术策略以及招聘信息。 AI workload 驱动的
    的头像 发表于 06-26 19:35 265次阅读
    <b class='flag-5'>NVIDIA</b> 邀您参加 —— <b class='flag-5'>AI</b> 软硬件协同<b class='flag-5'>开发</b>技术交流与人才发展分享会

    在线研讨会 | 释放 Vision Transformers、NVIDIA TAO 和最新一代 NVIDIA GPU 的潜力

    与  NVIDIA TAO 工具套件 和  NVIDIA L4 GPU  相结合,以实现更高的准确性和性能水平。 了解 将改变您业务的   Metropolis SDK  和开发者工
    的头像 发表于 06-16 11:45 349次阅读
    在线研讨会 | 释放 Vision Transformers、<b class='flag-5'>NVIDIA</b> <b class='flag-5'>TAO</b> 和最新一代 <b class='flag-5'>NVIDIA</b> GPU 的潜力

    NVIDIA AI 技术助力 vivo 文本预训练大模型性能提升

    vivo AI 团队与 NVIDIA 团队合作,通过算子优化,提升 vivo 文本预训练大模型的训练速度。在实际应用中, 训练提速 60% ,满足了下游业务应用对
    的头像 发表于 05-26 07:15 448次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> 技术助力 vivo 文本预训练大<b class='flag-5'>模型</b>性能提升