0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

有家人工智芯片初创公司对标Nvidia?

我快闭嘴 来源:半导体行业观察 作者:半导体行业观察 2020-11-26 16:14 次阅读

据enterpriseai报道,目前市场上有80多家AI芯片供应商和初创公司,每家公司都表示,在为广泛的行业和用途构建AI芯片时,他们都有一个更好的主意。

这样的情况同样出现在拥有3年历史的无晶圆厂AI芯片公司SimpleMachines身上。据报道,他们正在凭借自己独特的设计去挑战Nvidia和Marvell这样的芯片巨头。当然,像他们这样的初创公司也是其挑战对象。其说凭借的就是他们所说的不同方法去解决AI计算的难题。

SimpleMachines的创始人兼首席执行官Karu Sankaralingam说,这始于公司所谓的算法自适应AI芯片,程序员可以对其进行定制,以快速,无缝地满足其工作流程的需求。

这个想法催生了Mozart:该公司的首个AI芯片,该芯片针对推理进行了优化,在设计中使用了16纳米工艺,HBM2高带宽内存和PCIe Gen3x16尺寸。Sankaralingam告诉EnterpriseAI,公司的Mozart芯片现在正在送样,正在接受客户评估。他说,Mozart芯片是由芯片制造商台积电生产的,具有完整的软件和硬件堆栈,可让数据科学家运行程序而无需担心背后的问题。

Sankaralingam说,Mozart之所以能够在AI芯片领域脱颖而出,是因为它可以在一个芯片上同时运行多个AI模型。

他说:“之所以发生这种情况,是因为我们的芯片在内部分为64个不同的模块,如果有必要,程序员可以对其进行寻址并同时运行64个不同的应用程序或模型。” “然后,开发人员可以编写64个不同的模型,并且可以在一芯片硅片上同时运行64个模块(如果需要)。

Mozart的软件堆栈包括直接的TensorFlow支持以及C / C ++和Python的API,使程序员和数据科学家可以使用它。

Mozart可以以称为Accelerando的PCIe卡形式购买,也可以通过SimpleMachines的Symphony Cloud Service进行使用,该服务可以访问Azure,Google Cloud Platform和AWS等公有云,本质上是一种AI-as-a -服务交付模式。初始测试显示了可以同时运行的推荐引擎,语音和语言处理以及图像检测的用例。将来,带有Mozart芯片的Accelerando卡将在标准OEM厂商的系统中出售,例如Dell和Supermicro。

不同的方法

Moor Insights&Strategy的HPC和机器学习高级研究分析师Karl Freund表示,近年来他在AI芯片和软件的“寒武纪大爆发”中看到了十几种独特的AI芯片设计,但是SimpleMachines的Mozart设计不同于大多数设计。

“像所有的AI初创公司一样,他们声称性能出色,但是现在还不能断言他们的说法” Freund说。“他们的内存架构给人留下了深刻的印象,这种架构看上去优雅而简单,这将使繁重的软件工作变得更容易解决。在软件方面,他们还有很多工作要做,例如对PyTorch的支持。但是随着平台的成熟,他们似乎正在朝着正确的方向前进,这值得进一步跟踪。”

AI芯片要求不断变化

他说,新型Mozart AI芯片的灵感之一是Sankaralingam正在进行的研究,该研究指出需要一种新型的架构,以适应当今的大数据时代。Sankaralingam还是威斯康星大学麦迪逊分校的计算机科学教授,他在那里任教14年。

Sankaralingam说,当前的芯片平台,甚至包括为特定要求而构建的定制芯片,都无法满足这些需求。“应用呈爆炸式增长,因此,它不再只是处理图像了。它是文本到语音乘以重要数据的时间,并且变化迅速且不断增长,然后每六个月突破一次。公司的机会是市场需要大量的计算效率,而GPU却无法满足他们的需求。这些趋势使我们意识到,针对一个AI问题的专用定制芯片已经面世。”

他说,借助Mozart,这些挑战得以解决,因为可以通过使用芯片的深度软件堆栈即时重新编程来更改芯片上的项目需求。

他说:“我们正在与客户的讨论中,他们都说过不同的公司如何使用不同的模型,许多公司正在使用许多模型。” “这使我们再次审视了关于AI计算必要条件的假设。能力和效率并不是唯一的指标,另一个重要的指标是算法适应性。GPU之所以会出现,是因为它们具有很高的适应性。”

Sankaralingam说,使用另一种方法,SimpleMachines的策略是忽略应用正在尝试执行的操作,而转向算法。“我们观察到,许多或所有这些算法从根本上分解为四种行为:数据收集,计算,控制和同步。我们可以使用这些行为对算法进行分类。然后,我们构建一个个可以将应用分解为这些行为的编译器,并将该信息提供给我们的硬件。”

他说,然后硬件不再执行指令,获取,分支中断器和缓存,而是实现了这四种行为。

Sankaralingam说:“这就是我们需要对它们进行编程的全部,作为一名程序员,您可以在TensorFlow中编写这些代码,然后提取出这些行为并将其映射到我们的芯片上。” “这是一个很大的平行转变。”

Mozart的体系结构将任何软件应用程序抽象为少量已定义的行为,然后使用SimpleMachines自己的编译器集成到TensorFlow等标准AI框架的后端。据该公司称,这使得架构可以实时转换这些程序并重新配置硬件,从而产生一种芯片,其性能就像最初为该应用程序设计的一样。

SimpleMachines认为其Mozart AI芯片将在公共数据中心网络安全,金融和保险市场中看到机遇,并在未来的边缘和移动设备市场中为其路线图上即将推出的产品提供更多机遇。
责任编辑:tzh

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    446

    文章

    47655

    浏览量

    408571
  • 晶圆
    +关注

    关注

    52

    文章

    4490

    浏览量

    126369
  • AI
    AI
    +关注

    关注

    87

    文章

    26307

    浏览量

    263905
收藏 人收藏

    评论

    相关推荐

    NVIDIA携手初创公司引领气候AI创新

    在应对气候变化这一全球性挑战时,AI与可持续计算正成为关键工具。NVIDIA初创加速计划的成员公司Tomorrow.io、ClimaSens和north.io,均专注于极端天气预测领域,致力于推动全球气候行动。
    的头像 发表于 03-27 10:29 137次阅读

    NVIDIA 在 Microsoft Azure 上推出面向全球企业和初创公司的生成式 AI Foundry 服务

    AI Enterprise 软件进行部署 NVIDIA 于今日推出一项 AI foundry 服务,助力企业和初创公司在 Microsoft Azure 上开发、调优和部署其自定义生成式 AI
    的头像 发表于 11-16 21:15 291次阅读

    NVIDIA 在 Microsoft Azure 上推出面向全球企业和初创公司的 生成式 AI Foundry 服务

    初创公司在 Microsoft Azure 上开发、调优和部署其自定义生成式 AI 应用。   这项 NVIDIA AI foundry 服务整合了 NVIDIA AI Founda
    发表于 11-16 14:13 135次阅读
    <b class='flag-5'>NVIDIA</b> 在 Microsoft Azure 上推出面向全球企业和<b class='flag-5'>初创</b><b class='flag-5'>公司</b>的 生成式 AI Foundry 服务

    2023 NVIDIA 初创企业展示 · 半程展示圆满收官!

    10 月 19 日 - 10 月 20 日,由 NVIDIA 主办的 NVIDIA 初创企业展示 · 半程展示在雅安大数据产业园成功举办。 作为 NVIDIA 主办的系列活动, 202
    的头像 发表于 10-25 15:55 342次阅读
    2023 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>初创</b>企业展示 · 半程展示圆满收官!

    2023 NVIDIA 初创企业展示 · 半程展示圆满收官

    10 月 19 日 – 10 月 20 日,由 NVIDIA 主办的 NVIDIA 初创企业展示 · 半程展示在雅安大数据产业园成功举办。     今年,NVIDIA
    发表于 10-24 11:26 100次阅读
    2023 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>初创</b>企业展示 · 半程展示圆满收官

    2023 NVIDIA 初创企业展示深圳站圆满收官!

    9 月 15 日,2023 NVIDIA 初创企业展示华南分站(深圳)专场圆满收官。 NVIDIA 初创企业展示深圳站大合影 此次深圳站专场主要聚焦大语言模型、生成式 AI、元宇宙、智
    的头像 发表于 09-19 20:20 534次阅读
    2023 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>初创</b>企业展示深圳站圆满收官!

    2023 NVIDIA 初创企业展示武汉站圆满收官!

    主要聚焦大语言模型、生成式人工智能、元宇宙、生物医药、自动驾驶、智慧工厂、自主机器与边缘计算、金融科技等方向,围绕 NVIDIA 技术专家赋能、项目路演、需求交流、福利市场和投融资对接等展开。 NVIDIA
    的头像 发表于 09-12 20:40 551次阅读
    2023 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>初创</b>企业展示武汉站圆满收官!

    2023 NVIDIA 初创企业展示杭州站圆满收官!

    8 月 31 日,由 NVIDIA 主办的 2023 NVIDIA 初创企业展示华东分站(杭州)专场在阿里云谷园区成功举办。 作为 NVIDIA 主办的系列活动,2023
    的头像 发表于 09-08 17:40 322次阅读
    2023 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>初创</b>企业展示杭州站圆满收官!

    2023 NVIDIA 初创企业展示北京站圆满收官!

    9 月 5 日, 由 NVIDIA 主办的 2023 NVIDIA 初创企业展示北区分站(北京)专场在中关村科学城 · 东升科技园二期成功举办 。 NVIDIA
    的头像 发表于 09-07 19:35 1171次阅读
    2023 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>初创</b>企业展示北京站圆满收官!

    DolphinDB加入NVIDIA初创加速计划

    近日,DolphinDB 正式加入“NVIDIA 初创加速计划(NVIDIA Inception)”,该项目是 NVIDIA 提供的一个加速创业公司
    的头像 发表于 08-27 01:08 644次阅读

    2023 NVIDIA 初创企业展示上海站圆满收官!

    8 月 24 日,2023 NVIDIA 初创企业展示华东区的首站路演活动于上海圆满收官。 上海作为本次 NVIDIA 初创企业展示系列城市路演的首站,也为接下来在香港,杭州,武汉,深
    的头像 发表于 08-25 20:45 623次阅读
    2023 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>初创</b>企业展示上海站圆满收官!

    2023 NVIDIA 初创企业展示 —— 中西部地区热招中

    中西部地区(武汉站)专场聚焦大语言模型、生成式人工智能、元宇宙、生物医药、自动驾驶、智慧工厂、自主机器与边缘计算、金融科技等方向,等你来 Show! 2023 NVIDIA 初创企业展示现已正式开启
    的头像 发表于 08-17 19:10 278次阅读
    2023 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>初创</b>企业展示 —— 中西部地区热招中

    NVIDIA初创加速计划中国会员企业突破 2,000 家,2023 NVIDIA 初创企业展示蓄势待发

    NVIDIA 初创加速计划(NVIDIA Inception)是 NVIDIA初创企业所提供的一个加速平台,目前全球已有超过 15,00
    的头像 发表于 07-26 18:20 545次阅读
    <b class='flag-5'>NVIDIA</b><b class='flag-5'>初创</b>加速计划中国会员企业突破 2,000 家,2023 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>初创</b>企业展示蓄势待发

    NVIDIA 初创加速计划中国会员企业突破 2,000 家,2023 NVIDIA 初创企业展示蓄势待发

    NVIDIA 初创加速计划 (NVIDIA Inception)  是 NVIDIA初创企业所提供的一个加速平台,目前全球已有超过 15
    的头像 发表于 07-21 16:50 351次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>初创</b>加速计划中国会员企业突破 2,000 家,2023 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>初创</b>企业展示蓄势待发

    周五研讨会预告 | 回顾 GTC23 精彩内容,助力创业生态发展 — NVIDIA 初创加速计划 Omniverse 加速营

    前沿应用的精彩展示。 NVIDIA 初创加速计划 为免费会员制,旨在培养颠覆行业格局的优秀初创公司NVIDIA
    的头像 发表于 04-21 05:45 292次阅读
    周五研讨会预告 | 回顾 GTC23 精彩内容,助力创业生态发展 — <b class='flag-5'>NVIDIA</b> <b class='flag-5'>初创</b>加速计划 Omniverse 加速营