Deep Vision发布低延迟AI处理器

Deep Vision 是一家致力于为边缘计算解决方案打造人工智能推理芯片、成立至今已有六年的初创企业。该公司宣布推出了全新的 ARA-1 处理器，有望在低延迟、高效能、以及计算性能之间找到合适的平衡。Deep Vision 表示，该芯片可在相机传感器、到成熟的边缘计算服务器等领域发挥重要的作用。

采用 M.2 接口封装的 Deep Vision AI 处理器产品

得益于在实时视频分析方面的实力，该芯片主要面向智能零售领域的解决方案，比如无人收银的商店、智能城市、工业 4.0 / 机器人等领域。

此外该公司海域汽车行业的供应商合作，主要围绕自动驾驶之外的车内监测，以避免驾驶员分心或疲劳驾驶。

据悉，Deep Vision 由首席技术官 Rehan Hameed 和首席架构师 Wajahat Qadeer 携手创立，后又招募了曾在英特尔和闪迪工作过的 Ravi Annavajjhala 作为公司的首席执行官。

在斯坦福大学的博士学位论文中，Hameed 和 Qadeer 介绍了他们开发的 Deep Vision 体系架构。

采用 U.2 接口封装的 Deep Vision AI 处理器产品

该架构致力于最大程度地减少芯片内的数据移动，因而在 AI 工作负载上具有出色的每瓦特、每美元的性能和效率表现。

不过在推出可用硬件之前，Deep Vision 很早就将精力集中到了构建自家的编译器上，以确保该公司的解决方案可真正满足客户需求，然后才完成最终的芯片设计。

Rehan Hameed 表示，Deep Vision 特别强调减少 AI 计算的延迟，而市面上许多解决方案更乐于宣传有多高的数据吞吐量。

但是该团队认为，在边缘解决方案中，低延迟是一项更重要的性能指标。相比之下，吞吐量只有在数据中心等领域才显得有意义。

Deep Vision 首席技术官 Rehan Hameed 解释称，那些追求数据吞吐量的架构，要求加速器同时来处理大量的数据流（无论是通过批处理、还是管道执行），以充分发挥硬件的性能。

然而这也是竞争方案获得高吞吐量的唯一途径，且这么做会导致单个任务的延迟相当高，使之难以在更侧重于实时性能的边缘用例中发挥作用。

值得一提的是，Deep Vision 宣称其 AI 处理器的延迟要远低于谷歌 Edge TPU 和 Movidius 的 MyriadX 方案。

除了通过硬件架构优化来将芯片上的数据移动降至最低，还利用软件层面的工作负载优化，来改善架构内的整体数据流动。

责任编辑：haq