0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

昆仑芯科技产业级AI模型部署全攻略

昆仑芯科技 来源: 昆仑芯科技 作者: 昆仑芯科技 2022-12-28 10:27 次阅读

12月28日,昆仑芯科技将联合百度飞桨FastDeploy团队带来“产业级AI模型部署全攻略 -昆仑芯科技专场”直播课程,就产业AI硬件部署解决方案进行交流,届时会详细讲解昆仑芯AI加速卡R200特性,并实战昆仑芯科技硬件与FastDeploy如何快速完成AI模型部署。

共同探讨AI部署相关话题

关于FastDeploy

为了解决AI部署落地难题,百度飞桨发布了新一代面向产业实践的推理部署工具FastDeploy,旨在为AI开发者提供模型部署最优解。FastDeploy具备全场景、简单易用、极致高效两大特点,可满足开发者对高性能部署的需求,大幅提升AI产业部署的开发效率。

全场景:多端部署,统一部署API,一行代码切换不同推理后端和推理硬件;多框架支持,一行命令实现其他深度学习框架到飞桨以及ONNX的相互转换;多硬件适配,目前支持X86 CPU、NVIDIA GPU、Jetson、昆仑芯XPU、GraphcoreIPU、ARM CPU(联发科瑞芯微树莓派高通等硬件)、瑞芯微NPU、晶晨NPU、恩智浦NPU等十多类AI硬件。

简单易用:多语言统一模型API,三行代码搞定AI模型部署。模型丰富,预置飞桨和生态的150+产业级SOTA模型,覆盖Text、Vision、Speech、Cross-modal四大领域;覆盖20+主流应用场景,算法场景包括图像分类、图像分割、语义分割、物体检测、字符识别(OCR)、人脸检测、人脸关键点检测、人脸识别、人像扣图、视频扣图、图像超分、姿态估计、文本分类、信息抽取、文图生成、行人跟踪、语音合成等。

极致性能:联合自动压缩工具与推理引擎深度联动的能力以及AI模型前后预处理加速库的优化,实现AI模型端到端极致的推理性能。

关于昆仑芯科技

昆仑芯科技深耕AI加速领域10余年,专注打造拥有强大通用性、易用性和高性能的通用人工智能芯片。目前,昆仑芯科技已实现两代通用AI芯片产品的量产及落地应用,在互联网、智能制造、智慧交通、智慧金融等领域均已实现规模部署。在云端推理训练均有完备覆盖的基础上,应用于边缘场景的昆仑芯AI加速卡R100已正式发布,进一步扩充落地场景。更先进的第三代、第四代芯片产品正在研发中。

昆仑芯科技致力于构建软硬一体化的AI芯片生态,打造从芯片到终端、应用、云端、服务的生态闭环。此前,昆仑芯2代AI芯片及AI加速卡与飞桨完成III级兼容性测试,兼容性表现良好。

昆仑芯和飞桨的适配自2018年启动,目前双方已共同完成框架层面的适配,支持XPU Device及大部分算子。在双方合作的训练部分中,昆仑芯XPU和飞桨的适配在一些场景下能够做到通过仅切换一行代码便可指定到昆仑芯XPU的后端,低成本地从CPU/GPU切换到昆仑芯,满足绝大部分用户的需求。目前,昆仑芯软件栈已集成到飞桨上,完成对接与支持。此外,双方已经完成了多款主流CPU及操作系统的适配,方便广大开发者和用户更高效、更便捷地开发。

昆仑芯科技的使命是“让计算更智能”,愿景是“成为划时代,全球领先的智能计算公司”。昆仑芯科技始终致力于成为芯片创新链、产业链的“赋能者”,与上下游企业携手,通过用算力赋能不同场景中的AI应用,驱动千行百业的智能化转型。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • API
    API
    +关注

    关注

    2

    文章

    1382

    浏览量

    60991
  • AI
    AI
    +关注

    关注

    87

    文章

    26443

    浏览量

    264044
  • NPU
    NPU
    +关注

    关注

    2

    文章

    210

    浏览量

    18083
  • 飞桨
    +关注

    关注

    0

    文章

    32

    浏览量

    2085
  • 昆仑芯科技
    +关注

    关注

    0

    文章

    27

    浏览量

    379

原文标题:直播预告|明晚20:30锁定『产业级AI模型部署全攻略 - 昆仑芯科技专场』

文章出处:【微信号:昆仑芯科技,微信公众号:昆仑芯科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    重磅揭秘!智能手表选购全攻略,让你秒变科技达人!

    。在这个琳琅满目的智能手表世界里,怎么找到你的“真命天表”呢?别急,跟着这篇选购宝典,让你轻松选到最适合自己的智能手表,就让我们一起探索智能手表的选购全攻略,让你秒变科技达人! 一、明确需求:我为什么需要智能手
    的头像 发表于 04-19 17:24 148次阅读

    安筱鹏:AI模型重构产业竞争力的五种模式

    今天讨论AI模型,最重要的一个议题是,AI对一个产品、服务、产业意味着什么?对于一个个体、企业、区域、国家的竞争力意味着什么?未来3-5年,哪些
    的头像 发表于 04-08 09:29 611次阅读
    安筱鹏:<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>重构<b class='flag-5'>产业</b>竞争力的五种模式

    2024中国AI模型产业发展报告

    日前,人民网财经研究院、至顶科技联合发布《开启智能新时代:2024年中国AI模型产业发展报告》(以下简称《报告》),对于AI模型
    的头像 发表于 03-30 08:26 417次阅读
    2024中国<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>产业</b>发展报告

    使用CUBEAI部署tflite模型到STM32F0中,模型创建失败怎么解决?

    看到CUBE_AI已经支持到STM32F0系列芯片,就想拿来入门嵌入式AI。 生成的模型很小,是可以部署到F0上的,但是一直无法创建成功。 查阅CUBE
    发表于 03-15 08:10

    昆仑万维发布新版MoE大语言模型天工2.0

    昆仑万维科技今日震撼发布全新升级的「天工2.0」MoE大语言模型以及配套的新版「天工AI智能助手」APP。此次更新标志着国内首个搭载MoE架构的千亿级参数大语言模型
    的头像 发表于 02-06 16:19 827次阅读

    【爱派 Pro 开发板试用体验】部署派官方YOLOV5模型

    继上文开箱后,本文主要依托爱元智官方的实例,进行官方YOLOV5模型部署和测试。 一、环境搭建 由于8核A55的SoC,加上目前Debian OS的工具齐全,所以决定直接在板上编译程序
    发表于 12-12 22:58

    消费级路由器选购全攻略

    ​随着家庭网络的普及,消费级路由器的选择也变得越来越重要。在市场上,有许多品牌和型号的消费级路由器,各种功能和价格也是琳琅满目,让人有些不知所措。本文为您提供消费级路由器选购的全面攻略,帮助您选择最适合自己需求的消费级路由器。
    的头像 发表于 11-20 16:31 166次阅读

    介绍一款基于昆仑AI加速卡的高效模型推理部署框架

    昆仑芯科技公众号全新栏目“用芯指南”重磅推出!面向AI行业技术从业者,系列好文将提供手把手的昆仑芯产品使用指南。第一期围绕昆仑芯自研效能工具——昆仑
    的头像 发表于 10-17 11:16 938次阅读
    介绍一款基于<b class='flag-5'>昆仑</b>芯<b class='flag-5'>AI</b>加速卡的高效<b class='flag-5'>模型</b>推理<b class='flag-5'>部署</b>框架

    【KV260视觉入门套件试用体验】Vitis AI 构建开发环境,并使用inspector检查模型

    量化 七、Vitis AI 通过迁移学习训练自定义模型 八、Vitis AI 将自定义模型编译并部署到KV260中 铺垫 Vitis
    发表于 10-14 15:34

    无感无刷直流电机之电调设计攻略

    无感无刷直流电机之电调设计全攻略电子档,使用STM8开发,无感方波比较器算法
    发表于 10-07 06:55

    GPS设计全攻略

    GPS 主系统是居心叵测的老美发射运行的卫星系统,包含了 27 颗能持续发送地理位置海拔高度和时间信号的卫星,24 个正常使用,3 个备用,这些卫星平均分布运行在六个轨道上。一般来说,在地面上的 GPS 接收器能接收 5~12 个卫星信号,而为了获得地面上的定位坐标,GPS 导航至少需要 4 个卫星信号,三个用来确定 GPS 接收器的纬度、经度和海拔高度,第四个则提供同步校正时间。全球定位系统由三部分构成:太空卫星部份:由 24 颗绕极使用卫星所组成,分成六个轨道,运行于约 20200 公里的高空,绕行地球一周约 12 小时。每个卫星均持续着发射载有卫星轨道数据及时间的无线电波,提供地球上的各种接收机来应用。地面管制部份:这是为了追踪及控制上述卫星运转,所设置的地面 管制站,主要工作为负责修正与维护每个卫星能保持正常运转的各项参数数据,以确保每个卫星都能提供正确的讯息给使用者接收机来接收。使用者接收机:追踪所有的 GPS 卫星,并实时地计算出接收机所在 位置的坐标、移动速度及时间,各种蓝牙 GPS 即属于此部份。
    发表于 09-21 06:08

    昆仑芯科技携手生态伙伴领跑大模型产业落地

    近日,2023百度云智大会于北京圆满落幕。众多人工智能领域专家、行业精英、意见领袖等齐聚一堂,共同站在大模型重构未来的新起点,展望大模型创新发展之路。 作为百度四层架构的坚实算力底座,昆仑芯携两代
    的头像 发表于 09-08 10:32 935次阅读

    生态合作再度升级!昆仑芯已入驻飞桨AI Studio硬件生态专区

    8月16日,昆仑芯在Wave Summit 2023深度学习开发者大会上正式宣布与百度联合发起飞桨+文心大模型硬件生态共创计划。双方将强强联合,进一步推进在昆仑芯硬件上与飞桨+文心大模型
    的头像 发表于 08-18 10:12 1530次阅读

    边缘AI应用越来越普遍,AI模型在边缘端如何部署

    电子发烧友网报道(文/李弯弯)在人工智能时代,越来越多的AI应用需要从云端扩展到边缘端,比如智能耳机、智能摄像机、智能手环、物流机器人等,在边缘端部署AI已经成为趋势。如今AI
    的头像 发表于 07-04 00:11 1938次阅读
    边缘<b class='flag-5'>AI</b>应用越来越普遍,<b class='flag-5'>AI</b><b class='flag-5'>模型</b>在边缘端如何<b class='flag-5'>部署</b>?

    中国大模型为什么更关注产业?#AI技术 #大模型 #AI产业

    ai技术
    脑极体
    发布于 :2023年05月30日 12:08:54