0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

利用Hailo-8 TM推理芯片和插件模块扩展可行应用程序的数量

牵手一起梦 来源:振工链 作者:佚名 2020-10-14 17:20 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

Hailo-8 TM推理芯片通过消除内在因素,扩大了工业人工智能AI)应用程序的数量,可用于多种工业应用程序,包括生产,流程,跟踪和跟踪,物流,质量,机器功能以及预测性维护的优化边缘处理的服务器和云解决方案的局限性。服务器和云AI解决方案适用于广泛的应用程序,但是计算成本,网络通信速度和延迟因素对许多实时工业和流程应用程序构成了限制。Hailo-8 TM推理芯片和插件模块扩展了可行的应用程序数量。

Hailo由以色列国防军精锐技术部门的成员于2017年在以色列成立,它开发了用于边缘设备的AI处理器。该公司已获得NEC和ABB的包括战略投资在内的8,800万美元资金。该团队认为Hailo技术的定位是改变AI芯片行业,为更多应用程序带来新的计算可能性。AI处理器旨在适应各种行业和用例的智能设备,包括汽车,智能城市,零售和工业4.0。

Hailo-8是实时边缘计算如何增加以在应用程序中提供高性能和可靠性的另一个示例。工业自动化始于中央控制,随着时间的流逝,随着技术的进步使其实用化,已经慢慢往边缘计算发展。这导致可用性,可靠性和性能提高,并扩展了应用程序使用案例。

Hailo芯片是高性能工业级Edge AI处理器

Liran Bar讨论了市场上的其他产品,包括Nvidia,Intel Myriad-X和Google Edge TPU,并指出Hailo-8是唯一针对工业和汽车等低功耗和环保边缘应用而优化的芯片。Bar提供了详细的基准信息,以支持Hailo在坚固边缘应用程序中的优势。

Hailo业务开发和产品营销副总裁Liran Bar说:“ Hailo-8tm处理器通过使智能设备能够在边缘更有效地运行基于神经网络(NN)的应用程序,正在改变多个行业的视觉智能和感官知觉。” “我们的M.2和Mini PCIe高性能AI加速模块使客户能够将AI功能集成到边缘设备中,从而扩展了这些功能,从而提供了一种更加灵活和优化的解决方案,以高效地加速各种基于深度学习的应用程序,并以标准尺寸优化上市时间。”

附加模块

此外,还可以通过使用 在许多计算机(包括嵌入式工业PC)中使用的流行M.2 和mPCIe连接器标准提供的插件附加板模块来应用Hailo-8,而这些模块包括高性能的AI处理,而不会降低计算机中的其他应用程序。规格包括每秒26兆操作数(TOPS)的Hailo-8™处理器,具有3 TOPS / Watt的高功率效率,可满足工业环境要求。

这类似于早期的PC协处理器插件以实现高性能的浮点数学计算性能,而视频显示协处理器则实现了高分辨率/高性能的图形。例如,原始的 IBM PC 包含一个用于Intel 8087的插槽。浮点 协处理器(又名 FPU),对于使用PC进行计算机辅助设计 或数学密集型计算的人们来说,它是一种流行的选择 。

系统方法

Hailo设备受到Dataflow Compiler的支持,Dataflow Compiler是一个完整且可扩展的软件工具链,可与现有的深度学习开发框架无缝集成,从而可以轻松集成到现有的开发生态系统中。支持开放标准,包括TensorFlow和ONNX。

AI优化架构

Liran Bar解释了非常有趣的体系结构,因为该应用程序实质上是驱动芯片资源的动态配置以优化性能。Hailo-8芯片包含许多具有控制,内存和计算功能的处理元素集,这些元素被配置和分配为基于用户应用程序执行神经网络图的各个层。这与基于经典冯·诺依曼架构的通用计算机模型形成鲜明对比,该模型也被称为具有单个CPU,内存和控制的普林斯顿架构。

Hailo-8芯片具有许多控制,内存和计算元素集,可根据用户应用程序将其配置并分配给神经网络图的各个层,以实现高性能。

应用实例

富士康 已经在不同的生产线上部署了几种内部开发的AI解决方案,从而将报告准确性从95%提高到了99%,并将缺陷检查项目的运营成本至少降低了三分之一。创建标准化解决方案富士康将其高密度,无风扇的边缘计算机“ BOXiedge™”与Socionext的高效并行处理器“ SynQuacer™” SC2A11和Hailo-8™深度学习处理器相结合,创建了一个节能的独立AI推理节点边缘的视频分析。这款新产品能够实时在边缘处理和分析20多个流式摄像机输入提要,以进行视频分析和隐私保护,包括图像分类,检测,姿势估计和其他各种基于AI的应用程序。

巴尔说:“通过确保制造商不必在性能,成本或延迟方面进行折衷,边缘上的高效深度学习处理将迎来新一代的工业4.0。当前的解决方案通常运行在过时的处理架构上,无法跟上发展速度。满足智能工厂所需的计算需求,例如多设备自动化和连接性。Hailo-8 edge AI处理器可实时支持多个流式摄像机输入提要,从而确保视频分析的最佳性能,同时保持隐私。我们期待帮助将工业4.0引入新的数字时代。”

边缘计算趋势

Hailo-8是实时边缘计算如何增加以在应用程序中提供高性能和可靠性的另一个示例。工业自动化始于中央控制,随着技术的进步使其实用化,加班处理一直被推向边缘,从而提高了可用性,可靠性和性能,并扩展了应用程序用例。

责任编辑:gt

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    20384

    浏览量

    255652
  • 芯片
    +关注

    关注

    463

    文章

    54662

    浏览量

    471099
  • 人工智能
    +关注

    关注

    1821

    文章

    50530

    浏览量

    267808
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    OptoTEC TM系列热电模块:连接世界的创新科技

    OptoTEC TM系列热电模块:连接世界的创新科技 在电信和光子学行业,精确稳定敏感光学组件的温度至关重要。OptoTEC TM系列热电模块(TEM)就是为此需求诞生的创新产品,下面
    的头像 发表于 05-21 09:05 245次阅读

    XT 20 模块扩展与通信模块详解

    XT 20 模块扩展与通信模块详解 在电子设备的设计与应用中,模块扩展和通信功能至关重要。今天我们就来详细了解一下 XT 20
    的头像 发表于 05-12 14:40 165次阅读

    Cadence 与 Google 合作,利用 ChipStack AI Super Agent 在 Google Cloud 上扩展 AI 驱动的芯片设计

    ,打造一个代理驱动、可扩展、云原生的新一代芯片设计与验证平台。 Cadence ChipStack AI Super Agent 将先进的代理推理能力与 Cadence 的 EDA 解决方案相结合,可为数字设计、验证平台开发、验
    的头像 发表于 04-24 13:22 231次阅读

    RDMA设计56:如何设计基于RDMA的应用程序

    ,为时 1s,并同时调用 ibv_poll_cq()函数轮询完成队列处理工作完成事务(Work Completion,WC),该函数将返回应用程序可处理的完成队列条目数量。根据该数量,对每一个 WC
    发表于 04-05 09:54

    米尔RK3576+Hailo-8突破6 TOPS极限,让高帧率摄像头真正“实时”

    。 弹性算力,按需选择 :成本敏感项目可单独使用RK3576;高帧率、低延迟场景只需增加Hailo-8模块,无需更换主控。 突破架构局限,实现真正实时 :Hailo-8的数据流架构将有效算力
    发表于 04-02 18:03

    当6 TOPS不再是极限:RK3576+Hailo-8,让高帧率摄像头真正“实时”

    在边缘计算领域,算力与实时性之间的博弈从未停止。近期基于米尔MYD-LR3576开发板+PCIeM.2接口Hailo-8算力卡进行了一系列深度测试,一组实测数据,或许能帮你重新审视边缘AI的“性能
    的头像 发表于 04-02 08:02 9087次阅读
    当6 TOPS不再是极限:RK3576+<b class='flag-5'>Hailo-8</b>,让高帧率摄像头真正“实时”

    Hailo-8算力卡 + RK3588实测!26TOPS加持,助力AI视觉升级!

    近年来,AI视觉在边缘端应用广泛,行业对AI推理硬件的要求也日益提升。传统CPU在CNN等视觉模型推理任务中逐渐显露瓶颈,而专用AI加速器成为破局的关键。 Hailo-8 AI算力加速卡凭借“高效
    的头像 发表于 03-02 16:46 583次阅读
    <b class='flag-5'>Hailo-8</b>算力卡 + RK3588实测!26TOPS加持,助力AI视觉升级!

    如何在边缘AI应用场景中实现高性能、低功耗推理(下)

    应用程序所需的CPU内核、NPU、内存和外设集成在单个芯片上。应用程序会分析输入图像并为其分配预先分配的标签或类别。神经网络模型在庞大的图像数据集上进行训练(其中每张图像都标有类别),并部署在RA
    的头像 发表于 02-26 15:53 6471次阅读
    如何在边缘AI应用场景中实现高性能、低功耗<b class='flag-5'>推理</b>(下)

    CANFD总线多节点扩展技术:节点数量限制与突破方案

    总线节点数量限制的核心原因,提供切实可行扩展方案,并梳理科学的测试验证方法,为多节点系统设计提供技术支撑。
    的头像 发表于 12-15 17:35 1716次阅读
    CANFD总线多节点<b class='flag-5'>扩展</b>技术:节点<b class='flag-5'>数量</b>限制与突破方案

    欧洲之光!5nm,3200 TFLOPS AI推理芯片即将量产

    电子发烧友网综合报道 今年10月,欧洲芯片公司VSORA(总部位于法国巴黎)宣布开始生产其AI推理芯片Jotunn8,这也令VSORA成为欧洲唯一一家推出高性能AI
    的头像 发表于 11-29 13:52 6356次阅读
    欧洲之光!5nm,3200 TFLOPS AI<b class='flag-5'>推理</b><b class='flag-5'>芯片</b>即将量产

    TE Connectivity HDC HMN EMC模块插件技术分析

    TE Connectivity (TE) HDC HMN EMC模块插件设计用于在模块化系统中提供EMC保护解决方案。HDC HMN EMC模块插件
    的头像 发表于 11-09 14:21 1670次阅读

    EASY-EAI携手Hailo,推出高性能、高算力的边缘AI硬件组合

    工智能产品,以此满足高算力场景需求。随着人工智能的不断发展,各类使用场景中,大模型对算力提出更高需求。Hailo-8作为一款边缘AI/ML处理器,可达到每秒26万亿
    的头像 发表于 07-25 15:22 1547次阅读
    EASY-EAI携手<b class='flag-5'>Hailo</b>,推出高性能、高算力的边缘AI硬件组合

    研华科技推出紧凑型边缘AI推理系统AIR-120

    Hailo-8 AI加速器。这一强大的系统配置能够提供可扩展的性能,最多具备8个核心,AI计算能力高达26 TOPS,并且在性能、功耗效率和成本之间进行平衡,从而实现高吞吐量、低延迟的推理
    的头像 发表于 07-17 17:16 1245次阅读

    使用英特尔® NPU 插件C++运行应用程序时出现错误:“std::Runtime_error at memory location”怎么解决?

    使用OpenVINO™工具套件版本 2024.4.0 构建C++应用程序 使用英特尔® NPU 插件运行了 C++ 应用程序 遇到的错误: Microsoft C++ exception: std::runtime_err
    发表于 06-25 08:01

    使用 NPU 插件对量化的 Llama 3.1 8b 模型进行推理时出现“从 __Int64 转换为无符号 int 的错误”,怎么解决?

    /Meta-Llama-3.1-8B --weight-format int4 --sym --group-size 128 --ratio 1.0 INT4-llama-3.1-8B 使用 NPU 插件
    发表于 06-25 07:20