电子发烧友网报道(文/黄晶晶)随着人工智能从云端向边缘端加速落地,AI硬件设计热潮已经来临。AI玩具、AI眼镜等电子产品率先出圈,例如AI玩具通过AI大模型实现在线语音交互、知识问答,AI眼镜实现在线翻译、图像视频识别等等功能,为用户带来了全新的交互体验。
然而AI硬件包罗万象,传统终端设备的AI化带来了新的需求。苏州春芽萌发半导体科技有限公司CEO温晓宇在日前举办的湾芯展上接受媒体采访时表示,我们从客户端了解到的情况来看,有些电子产品对于语音交互、翻译等并不需要太复杂的计算,这类产品并不需要高功耗和性能强大的GPU或CPU来处理任务,对于端侧计算,市面上并没有合适的芯片。这便是春芽萌牙的机会所在。
据介绍,春芽萌发的端侧AI芯片能够在不联网情况下本地运行AI模型,实现文字和语音交互,具有体积小、运算快速快、低功耗和低延迟的特性。该芯片已经完成FPGA验证,预计2026年4月流片。
温晓宇分析,通常AI设备上云端进行AI数据处理需要一定的ASR成本,例如在国外接谷歌流式ASR的API每天的使用成本在1-2美金左右,按分钟收费。这对终端客户来说是一笔巨大的成本支出,并且产品卖得越多成本越高。
春芽萌发的端侧AI芯片设计是将AI大模型移植到芯片上本地化部署。这样做的好处,一是节省云端使用成本,二是端侧AI芯片在本地推理速度更快,体验更好。温晓宇说道,理论上云端处理速率会有500-800毫秒的延迟,并且受限于实际联网的状态,例如蓝牙和WiFi可能的丢失现场,延迟或将高达2-3秒。一些玩具的实测数据甚至达到8-10秒,严重影响客户体验。而在本地推理,节省文件上传的数据量、减少丢包现象,大幅降低延迟(春芽萌发端侧AI芯片在FPGA测试延迟仅30毫秒。),从而令整体语音交互更流畅。
春芽萌发成立于2025年4月,作为一家初创芯片企业,其团队实力不可小觑。据介绍,该公司由来自剑桥大学、伦敦大学国王学院、上海交通大学等知名高校的AI芯片专家创立,核心团队在半导体设计和AI算法领域拥有深厚的技术积累。
温晓宇表示,春芽萌发基于先进的神经网络处理架构开展AI芯片内核、SoC芯片和解决方案设计。在端侧AI芯片设计上拥有自研Transformer core以及小模型和交互算法等技术优势。通过跨区设计有针对性地对内核的各个模块进行优化,提供精简的模型,以满足端侧AI芯片轻量化的需求。
客户将终端产品AI化面临各种know-how以及工程师人力成本等问题,例如可能需要嵌入式设计以及算法工程师等。而春芽萌发能够提供模块化解决方案,用户无需下载复杂工具链、自行移植整套模型、调试量化参数,以此为客户提供产品研发上的便利。
目前春芽萌发首推的语音转录(STT/ASR)专用芯片,面向智能穿戴、陪伴类玩具、智能家居、AIoT设备和消费电子等领域,提供业界领先的端侧AI推理产品。据透露,已经有三家客户正在与春芽萌发密切合作,其产品都非常有创新性,另外国内某头部企业也在接洽春芽萌发。这也反映出在AI硬件市场上,低功耗、低延迟、轻量化的端侧AI芯片需求比较迫切。
数据显示,预计2024-2030年全球端侧AI芯片市场规模将从180亿美元增长到850亿美元,年均复合增长率达24.8%。未来,春芽萌发还将针对端侧场景的垂直领域AI硬件,为客户提供完全本地化的人工智能推理、交互解决方案,其中包括本地推理LLM芯片,语音转录翻译,交互/控制芯片,YOLO及SLAM芯片,机器人-LLM接口/控制模组,来实现机器和现实物理世界交互。
发布评论请先 登录
半导体领域:端侧 AI 芯片成产业化核心引擎
【「AI芯片:科技探索与AGI愿景」阅读体验】+半导体芯片产业的前沿技术
【「AI芯片:科技探索与AGI愿景」阅读体验】+可期之变:从AI硬件到AI湿件
【「AI芯片:科技探索与AGI愿景」阅读体验】+内容总览
WAIC 上,国产 6nm ARM 架构 CPU 在端侧 AI 领域遍地开花
端侧AI需求大爆发!安谋科技发布新一代NPU IP,赋能AI终端应用
端侧 AI 芯片:终端智能落地的核心引擎
炬芯科技探索端侧AI技术与应用
AI大模型端侧部署正当时:移远端侧AI大模型解决方案,激活场景智能新范式

春芽萌发半导体:端侧AI芯片的极致设计,迎接AI终端遍地开花
评论