0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

有家人工智芯片初创公司对标Nvidia?

我快闭嘴 来源:半导体行业观察 作者:半导体行业观察 2020-11-26 16:14 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

据enterpriseai报道,目前市场上有80多家AI芯片供应商和初创公司,每家公司都表示,在为广泛的行业和用途构建AI芯片时,他们都有一个更好的主意。

这样的情况同样出现在拥有3年历史的无晶圆厂AI芯片公司SimpleMachines身上。据报道,他们正在凭借自己独特的设计去挑战Nvidia和Marvell这样的芯片巨头。当然,像他们这样的初创公司也是其挑战对象。其说凭借的就是他们所说的不同方法去解决AI计算的难题。

SimpleMachines的创始人兼首席执行官Karu Sankaralingam说,这始于公司所谓的算法自适应AI芯片,程序员可以对其进行定制,以快速,无缝地满足其工作流程的需求。

这个想法催生了Mozart:该公司的首个AI芯片,该芯片针对推理进行了优化,在设计中使用了16纳米工艺,HBM2高带宽内存和PCIe Gen3x16尺寸。Sankaralingam告诉EnterpriseAI,公司的Mozart芯片现在正在送样,正在接受客户评估。他说,Mozart芯片是由芯片制造商台积电生产的,具有完整的软件和硬件堆栈,可让数据科学家运行程序而无需担心背后的问题。

Sankaralingam说,Mozart之所以能够在AI芯片领域脱颖而出,是因为它可以在一个芯片上同时运行多个AI模型。

他说:“之所以发生这种情况,是因为我们的芯片在内部分为64个不同的模块,如果有必要,程序员可以对其进行寻址并同时运行64个不同的应用程序或模型。” “然后,开发人员可以编写64个不同的模型,并且可以在一芯片硅片上同时运行64个模块(如果需要)。

Mozart的软件堆栈包括直接的TensorFlow支持以及C / C ++和Python的API,使程序员和数据科学家可以使用它。

Mozart可以以称为Accelerando的PCIe卡形式购买,也可以通过SimpleMachines的Symphony Cloud Service进行使用,该服务可以访问Azure,Google Cloud Platform和AWS等公有云,本质上是一种AI-as-a -服务交付模式。初始测试显示了可以同时运行的推荐引擎,语音和语言处理以及图像检测的用例。将来,带有Mozart芯片的Accelerando卡将在标准OEM厂商的系统中出售,例如Dell和Supermicro。

不同的方法

Moor Insights&Strategy的HPC和机器学习高级研究分析师Karl Freund表示,近年来他在AI芯片和软件的“寒武纪大爆发”中看到了十几种独特的AI芯片设计,但是SimpleMachines的Mozart设计不同于大多数设计。

“像所有的AI初创公司一样,他们声称性能出色,但是现在还不能断言他们的说法” Freund说。“他们的内存架构给人留下了深刻的印象,这种架构看上去优雅而简单,这将使繁重的软件工作变得更容易解决。在软件方面,他们还有很多工作要做,例如对PyTorch的支持。但是随着平台的成熟,他们似乎正在朝着正确的方向前进,这值得进一步跟踪。”

AI芯片要求不断变化

他说,新型Mozart AI芯片的灵感之一是Sankaralingam正在进行的研究,该研究指出需要一种新型的架构,以适应当今的大数据时代。Sankaralingam还是威斯康星大学麦迪逊分校的计算机科学教授,他在那里任教14年。

Sankaralingam说,当前的芯片平台,甚至包括为特定要求而构建的定制芯片,都无法满足这些需求。“应用呈爆炸式增长,因此,它不再只是处理图像了。它是文本到语音乘以重要数据的时间,并且变化迅速且不断增长,然后每六个月突破一次。公司的机会是市场需要大量的计算效率,而GPU却无法满足他们的需求。这些趋势使我们意识到,针对一个AI问题的专用定制芯片已经面世。”

他说,借助Mozart,这些挑战得以解决,因为可以通过使用芯片的深度软件堆栈即时重新编程来更改芯片上的项目需求。

他说:“我们正在与客户的讨论中,他们都说过不同的公司如何使用不同的模型,许多公司正在使用许多模型。” “这使我们再次审视了关于AI计算必要条件的假设。能力和效率并不是唯一的指标,另一个重要的指标是算法适应性。GPU之所以会出现,是因为它们具有很高的适应性。”

Sankaralingam说,使用另一种方法,SimpleMachines的策略是忽略应用正在尝试执行的操作,而转向算法。“我们观察到,许多或所有这些算法从根本上分解为四种行为:数据收集,计算,控制和同步。我们可以使用这些行为对算法进行分类。然后,我们构建一个个可以将应用分解为这些行为的编译器,并将该信息提供给我们的硬件。”

他说,然后硬件不再执行指令,获取,分支中断器和缓存,而是实现了这四种行为。

Sankaralingam说:“这就是我们需要对它们进行编程的全部,作为一名程序员,您可以在TensorFlow中编写这些代码,然后提取出这些行为并将其映射到我们的芯片上。” “这是一个很大的平行转变。”

Mozart的体系结构将任何软件应用程序抽象为少量已定义的行为,然后使用SimpleMachines自己的编译器集成到TensorFlow等标准AI框架的后端。据该公司称,这使得架构可以实时转换这些程序并重新配置硬件,从而产生一种芯片,其性能就像最初为该应用程序设计的一样。

SimpleMachines认为其Mozart AI芯片将在公共数据中心,网络安全,金融和保险市场中看到机遇,并在未来的边缘和移动设备市场中为其路线图上即将推出的产品提供更多机遇。
责任编辑:tzh

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    462

    文章

    53534

    浏览量

    458997
  • 晶圆
    +关注

    关注

    53

    文章

    5344

    浏览量

    131680
  • AI
    AI
    +关注

    关注

    89

    文章

    38090

    浏览量

    296501
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    神眸进驻全球首家人工智能6S店,共创智能守护新未来

    年9月28日,全球首家人工智能6S店在深圳龙岗星河World正式启幕。当天现场成立湾区智能硬件产业联盟,杭州研极微电子有限公司(神眸)作为创始成员之一,副总经理许
    的头像 发表于 09-30 16:05 1238次阅读
    神眸进驻全球首<b class='flag-5'>家人工</b>智能6S店,共创智能守护新未来

    借助NVIDIA技术加速半导体芯片制造

    NVIDIA Blackwell GPU、NVIDIA Grace CPU、高速 NVIDIA NVLink 网络架构和交换机,以及诸如 NVIDIA cuDSS 和
    的头像 发表于 05-27 13:59 873次阅读

    Wandercraft借助NVIDIA技术开发个人外骨骼设备

    初创公司 Wandercraft 正借助 NVIDIA AI 和 NVIDIA Omniverse 仿真技术,开发个人外骨骼设备。这些外骨骼设备能够帮助脊髓损伤、中风以及其他严重行动能
    的头像 发表于 05-15 10:43 676次阅读

    Cognizant将与NVIDIA合作部署神经人工智能平台,加速企业人工智能应用

    -Cognizant将与NVIDIA合作部署神经人工智能平台,加速企业人工智能应用 Cognizant将在关键增长领域提供解决方案,包括企业级AI智能体、定制化行业大型语言模型及搭载NVIDI
    的头像 发表于 03-26 14:42 578次阅读
    Cognizant将与<b class='flag-5'>NVIDIA</b>合作部署神经<b class='flag-5'>人工</b>智能平台,加速企业<b class='flag-5'>人工</b>智能应用

    Amphitrite借助NVIDIA Earth-2平台优化船舶航线

    作为 NVIDIA 初创加速计划的成员,这家初创公司帮助船舶充分利用洋流和 AI 的力量,通过 NVIDIA Earth-2 平台缩短航行时
    的头像 发表于 02-14 10:04 952次阅读

    AI+PCB 初创公司

    近年来,人工智能(AI)与印刷电路板(PCB)设计的结合催生了多家初创公司,致力于通过AI技术提升PCB设计的效率和质量。以下是一些值得关注的AI+PCB初创
    的头像 发表于 02-08 15:09 3743次阅读

    艾睿电子携手印尼初创协会,助力科技初创公司

    的科技初创公司提供宝贵的资源和支持。通过艾睿电子的专业知识和技术实力,初创企业将有机会获得尖端的电子技术和重要的工程专业知识。这将有助于推动他们在AIoT(人工智能物联网)和EvTec
    的头像 发表于 01-17 10:52 670次阅读

    MediaTek与NVIDIA携手设计GB10 Grace Blackwell超级芯片

    ——NVIDIA® Project DIGITS上,为人工智能领域带来全新的解决方案。 作为智能手机、智能电视、Android平板电脑、语音助理设备以及基于Arm架构Chromebook的芯片出货量领先企业
    的头像 发表于 01-13 10:48 886次阅读

    MediaTek与NVIDIA携手打造超级芯片

    近日,在即将举行的CES2025消费电子展上,MediaTek宣布了一项重大合作——与NVIDIA共同设计NVIDIA GB10 Grace Blackwell超级芯片。这款芯片将应用
    的头像 发表于 01-10 13:49 808次阅读

    MediaTek与NVIDIA携手打造GB10 Grace Blackwell超级芯片

    MediaTek近日正式宣布与NVIDIA携手合作,共同设计NVIDIA GB10 Grace Blackwell超级芯片。这款芯片将被应用于NVI
    的头像 发表于 01-08 15:32 1301次阅读

    联发科与NVIDIA合作 为NVIDIA 个人AI超级计算机设计NVIDIA GB10超级芯片

    联发科近日宣布与NVIDIA合作设计NVIDIA GB10 Grace Blackwell超级芯片,将应用于NVIDIA 的个人AI超级计算机NVI
    的头像 发表于 01-07 16:26 829次阅读

    ASIC芯片会成为AI的下一件大事吗

    芯片和平台的领先供应商NVIDIA、AMD、Intel等其它公司以及许多希望进入这个利润丰厚市场的初创公司
    的头像 发表于 01-02 09:33 935次阅读
    ASIC<b class='flag-5'>芯片</b>会成为AI的下一件大事吗

    英伟达收购AI初创公司Run:ai

    全球领先的芯片制造商英伟达近日正式完成了对以色列人工智能初创公司Run:ai的收购。这一收购案在经过欧盟反垄断机构的严格审查后,最终获得了批准,标志着英伟达在AI领域的布局又迈出了重要
    的头像 发表于 12-31 10:46 862次阅读

    马斯克人工智能初创公司xAI完成60亿美元C轮融资

    近日,特斯拉CEO埃隆·马斯克旗下的人工智能初创公司xAI,在社交媒体X上正式对外宣布,公司已经成功完成了高达60亿美元的C轮融资。 此次融资不仅彰显了xAI在
    的头像 发表于 12-26 11:10 1022次阅读

    喜报丨阿丘科技荣获「2024 NVIDIA 创业企业展示——年度“荣耀企业”」称号!

    在备受瞩目的「2024NVIDIA创业企业展示」中,阿丘科技以其卓越的创新能力和深远影响力,荣获年度“荣耀企业”称号,再次证明阿丘科技在人工智能领域的优秀成绩。NVIDIA创业企业展示(即
    的头像 发表于 12-17 15:41 1348次阅读
    喜报丨阿丘科技荣获「2024 <b class='flag-5'>NVIDIA</b> 创业企业展示——年度“荣耀企业”」称号!