0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

【NVIDIA生态】具有100 TOPS强劲算力的AIBOX!

Firefly开源团队 2024-12-05 03:00 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近年来,AI 正在通过自动化、改进数据分析以及提升参与度来推动企业变革。借助强大的嵌入式 AI 计算机,为生成式 AI、计算机视觉和高级机器人技术打造新一代产品。

Firefly 推出搭载 NVIDIA 原装Jetson Orin 模组的高算力AI主机:AIBOX-OrinNano 和 AIBOX-OrinNX

英伟达系列 AIBOX

该系列可提供 40 或 100 TOPS的 AI 计算能力、大容量统一内存和全面的软件堆栈,能够以超高能效驱动 Transformer 架构下大模型,最新的生成式 AI 应用。

fb5e23ae-b271-11ef-8084-92fbcf53809c.jpg

边缘生成式 AI

支持目前主流大模型的本地化运行,包括LLaMa3,ChatGLM3,Qwen等语言大模型,SAM等视觉大模型,以及Stable Diffusion AI绘图。

嵌入式软件堆栈

借助全面的 AI 软件堆栈和生态系统,使边缘 AI 和机器人应用开发实现大众化。为 AI 应用提供端到端加速,并可利用驱动数据中心和云部署的技术能力,快捷推动更多 AI 产品上市。

fb87b426-b271-11ef-8084-92fbcf53809c.png

边缘计算的优势

物联网和移动设备采用嵌入式处理器收集数据,边缘计算将 AI 直接引入这些设备,在捕获数据的边缘端处理数据,而不是在云端或数据中心,从而加快实时决策和自主机器的 AI 工作流。

AIBOX在MLPerf‌的实测表现

MLPerf‌是一个用于衡量机器学习硬件、软件和服务性能的标准化基准测试平台,通过一系列标准化的基准测试任务和数据集,来评估和比较不同系统在执行机器学习任务时的性能,AIBOX-OrinNX 在该平台的实测中表现出卓越 AI 性能。

fbadbd6a-b271-11ef-8084-92fbcf53809c.png

支持多种深度学习框架

支持所有主流大模型深度学习框架,包括TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet,并支持自定义算子开发。

边缘 AI 应用场景

可广泛适用于边缘计算、机器人、大模型本地化、智慧城市、智慧医疗、智慧工业等行业领域。

产品参数

fbea78fe-b271-11ef-8084-92fbcf53809c.jpg

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 嵌入式
    +关注

    关注

    5186

    文章

    20151

    浏览量

    328875
  • NVIDIA
    +关注

    关注

    14

    文章

    5496

    浏览量

    109095
  • AI
    AI
    +关注

    关注

    89

    文章

    38120

    浏览量

    296660
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    湘军,让变成生产

    脑极体
    发布于 :2025年11月25日 22:56:58

    MWC Doha 2025|美格智能全新发布60 Tops AI、支持Linux系统的SNM982高AI模组

    11月25日,在MWCDoha展会期间,美格智能全新发布基于高通QCS8650平台研发设计的SNM982高AI模组。搭载Linux5.15系统,AI超过60
    的头像 发表于 11-25 16:34 573次阅读
    MWC Doha 2025|美格智能全新发布60 <b class='flag-5'>Tops</b> AI<b class='flag-5'>算</b><b class='flag-5'>力</b>、支持Linux系统的SNM982高<b class='flag-5'>算</b><b class='flag-5'>力</b>AI模组

    中科曙光以生态赋能行业创新

    近日,“橘洲”V1端侧版作为国内首个基于国产预训练的视觉基座大模型在长沙上线,惊艳四座。“橘洲”可在手机端实现1024×1024分辨率图像的秒级生成,具有成本低、质量高、速度快、轻量级、可离线
    的头像 发表于 09-24 09:26 824次阅读

    天玑9500 性能大爆发!NPU AI或达100TOPS

    机芯片中首发落地。而几家终端厂商今天迭代的新机也基于强做了一些AI新奇特的玩法。   据称,天玑9500搭载第九代AI处理器NPU,可提供100TOPS的AI
    的头像 发表于 08-21 11:12 3459次阅读
    天玑9500 性能大爆发!NPU AI<b class='flag-5'>算</b><b class='flag-5'>力</b>或达<b class='flag-5'>100TOPS</b>

    多达 48 个计算节点!Firefly 推出 CSC2-N48 AI 服务器

    Firefly最新推出CSC2-N48服务器,内置48个分布式计算节点,单节点可提供6TOPS-157TOPS,可选瑞芯微、
    的头像 发表于 08-20 16:37 1268次阅读
    多达 48 个计算节点!Firefly 推出 CSC2-N48 AI <b class='flag-5'>算</b><b class='flag-5'>力</b>服务器

    成本直降2美元/tops!国产芯如何颠覆割草机器人格局?

    平权革命来了! 欧洲老钱们靠百亩草坪彰显身份,如今平民家后院藏着更大野心——用10Tops统治草坪的每根草!全球智能割草机市场正爆发
    的头像 发表于 07-31 17:22 496次阅读
    成本直降2美元/<b class='flag-5'>tops</b>!国产芯如何颠覆割草机器人<b class='flag-5'>算</b><b class='flag-5'>力</b>格局?

    AIBOX 产品矩阵:支持主流大模型的私有化部署,满足个性化 AI 应用需求

    AIBOX系列产品具备高性能、低功耗、环境适应性强等特点,覆盖6-157TOPS,通过搭配多样化深度学习算法,体积小巧,能够支持主流大模型的私有化部署,为多个智慧行业进行数字化赋能
    的头像 发表于 06-25 16:32 1431次阅读
    <b class='flag-5'>AIBOX</b> 产品矩阵:支持主流大模型的私有化部署,满足个性化 AI 应用需求

    控一体新物种发布!百TOPS,地瓜为具身机器人量产“夯地基”

        电子发烧友网(文/莫婷婷)近期,地瓜机器人正式发布了RDK S100控一体化机器人开发套件,采用大小脑超级异构,提供80TOPS和128TOPS
    的头像 发表于 06-18 09:09 1.7w次阅读
    <b class='flag-5'>算</b>控一体新物种发布!百<b class='flag-5'>TOPS</b><b class='flag-5'>算</b><b class='flag-5'>力</b>,地瓜为具身机器人量产“夯地基”

    新品 | 26+6TOPS强悍!飞凌嵌入式FCU3501嵌入式控制单元发布

    飞凌嵌入式FCU3501嵌入式控制单元基于瑞芯微RK3588处理器开发设计,4xCortex-A76+4xCortex-A55架构,A76主频高达2.4GHz,A55核主频高达1.8GHz,支持8K编解码,NPU6TOPS
    的头像 发表于 05-15 11:57 2265次阅读
    新品 | 26+6<b class='flag-5'>TOPS</b>强悍<b class='flag-5'>算</b><b class='flag-5'>力</b>!飞凌嵌入式FCU3501嵌入式控制单元发布

    6TOPSNPU加持!RK3588如何重塑8K显示的边缘计算新边界

    与复杂运算。明远智睿推出的RK3588芯片,以6TOPS的NPU为核心,为这一难题提供了突破性的解决方案。 从硬件架构来看,RK3588的NPU采用了先进的神经网络处理器设计,支持多种主流深度学习
    发表于 04-18 15:32

    芯片的生态突围与革命

    据的爆发式增长,大芯片已成为科技竞争的核心领域之一。   大芯片的核心应用场景丰富多样。在人工智能训练与推理方面,大模型(如 GPT、Llama)的训练需要超大规模
    的头像 发表于 04-13 00:02 2611次阅读

    157 TOPS !AIO-OrinNX 主板助力边缘 AI 应用

    Firefly最新推出NVIDlAJetsonOrin主板,搭载JetsonOrin系列核心模组,最高可达157TOPS,支持大模型私有化部署,为边缘AI应用的开发与部署提供强劲
    的头像 发表于 04-02 16:33 2722次阅读
    157 <b class='flag-5'>TOPS</b> <b class='flag-5'>算</b><b class='flag-5'>力</b>!AIO-OrinNX 主板助力边缘 AI 应用

    ThinkPad X1 Carbon Aura:以120TOPS、986克重量打造行业新巅峰!

    方式。联想近期发布的ThinkPad X1 Carbon Aura AI元启版,便是在这一背景下推出的重磅之作。它以120TOPS的AI、重量低于1千克(986克)的轻薄设计,以及行业首创的跨
    的头像 发表于 12-30 15:26 1413次阅读

    AIBOX应用】通过 NVIDIA TensorRT 实现实时快速的语义分割

    NVIDIA系列AIBOXAIBOX-OrinNano和AIBOX-OrinNX均搭载NVIDIA原装JetsonOrin核心板模组,标配工业级全金属外壳,铝合金结构导热,顶盖外壳侧面采用条幅格栅
    的头像 发表于 12-18 16:33 1134次阅读
    【<b class='flag-5'>AIBOX</b>应用】通过 <b class='flag-5'>NVIDIA</b> TensorRT 实现实时快速的语义分割