芯原股份近日宣布与谷歌联合推出面向始终在线、超低能耗端侧大语言模型应用的Coral NPU IP。该IP基于谷歌在开放机器学习编译器方面的基础研究成果,并结合AI的安全特性进行了强化,为开发者提供统一的开源技术平台,以构建强大的边缘AI生态系统。
Coral NPU基于RISC-V开放指令集架构标准构建,引入原生张量处理能力,支持主流机器学习框架,如JAX、PyTorch和TensorFlow Lite(TFLite),并采用基于开放标准的工具,例如来自低级虚拟机(LLVM)项目的多级中间表示(MLIR),作为编译器基础设施。其设计面向始终在线、超低能耗的边缘AI应用,尤其适用于可穿戴设备和泛在感知系统。
Coral NPU IP已在谷歌开发者网站开源,面向全球开发者开放。芯原将提供商业化的企业级IP版本,并结合自身丰富的IP储备以及芯片设计与验证能力,为客户的相关芯片提供一站式芯片定制等服务。目前,芯原正在开发基于Coral NPU IP的验证芯片,面向AI/AR眼镜与智能家居等应用,以加速大语言模型在边缘端的部署。
芯原执行副总裁,定制芯片平台事业部总经理汪志伟表示:“此次项目基于我们在Open Se Cura开源项目上的既有经验,也标志着谷歌开源技术与芯原在芯片设计和产业化支持上的持续深度合作。芯原将继续发挥在芯片设计、验证及系统级优化方面的优势,推动边缘AI生态建设,助力开源技术在实际终端产品中的落地应用,并为行业创新提供有力支持。”
审核编辑 黄宇
-
AI
+关注
关注
89文章
38073浏览量
296299 -
芯原
+关注
关注
0文章
127浏览量
11793 -
NPU
+关注
关注
2文章
358浏览量
20823
发布评论请先 登录
福州移动与华为联合推出国内首个端到端智能化体验经营系统
季丰电子联合芯玮为客户提供双面导电盖带
芯驰科技与立锜联合开发车载SoC参考设计
芯原超低能耗NPU可为移动端大语言模型推理提供超40 TOPS算力
灿芯半导体推出28HKC+工艺平台TCAM IP
F1®与亚马逊云科技联合推出全新在线体验 车迷可亲手打造专属赛道
国芯科技与信大壹密联合推出抗量子密码芯片
爱芯通元NPU适配Qwen2.5-VL-3B视觉多模态大模型

芯原与谷歌联合推出开源Coral NPU IP
评论