0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

2024北京国际车展:黑芝麻智能展示了一套自研的开发工具BST-DAL

黑芝麻智能 来源:黑芝麻智能 2024-04-28 09:20 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

伴随高阶自动驾驶技术发展,智能汽车车载传感器数量越来越多,自动驾驶神经网络模型算法复杂度越来越高,相关功能也越来越丰富,感知算法也从传统的2D视觉向更先进的3D融合感知范式转变,这在为客户带来更加安全的自动驾驶体验的同时,对开发效率提出了更高的挑战。怎么降低模型优化和适配的复杂性,提高开发效率和模型性能,已成为智能驾驶技术开发关键。

2024北京国际车展,黑芝麻智能展示了一套自研的开发工具BST-DAL(Deep-learning Acceleration Library),它是一个基于PyTorch的加速库,支持在多种预训练模型上使用,旨在简化复杂任务的模型适配和优化,可显著提高模型在华山、武当系列SoC芯片上的运行速度,用户只需修改几行代码,提供一些基本的超参数,就可实现在自己的原始训练环境中剪枝,降低整体开发成本。该库支持模块化设计和扩展性,通过统一API,用户只需少量代码即可轻松集成到训练环境中。

多样优化,轻松部署,运行效率提升

黑芝麻智能BST-DAL集成了多种优化算法,包括剪枝、量化、训练、蒸馏和硬件匹配,支持主流模型结构如CNN、Transformer等,涵盖分类、检测、语义分割等多种任务。在训练阶段,BST-DAL可以自动寻找最佳模型配置,一键完成剪枝和量化,支持混合加速引擎和复杂模型拓扑,其核心功能包含:

520e00cc-0488-11ef-a297-92fbcf53809c.png

黑芝麻智能山海开发工具链

剪枝(Pruning): 集成先进的SOTA剪枝算法,能够自动确定最优剪枝策略,以满足特定硬件需求,从而在保持模型精度的同时显著减少计算和I/O开销

量化(Quantization): 当前车载领域深度学习模型复杂多变,在异构硬件上量化繁琐,部署过程中为了降低精度损失需投入大量精力。为了降低用户量化部署开发成本,BST-DAL量化支持多引擎混合精度量化,用户改动极少代码即可在训练环境中适配QAT功能

训练(Training):采用模块化设计,与PyTorch生态无缝对接,简单易用,保证量化和剪枝后模型精度

蒸馏+硬件匹配(Distillation+Fitting): 结合蒸馏技术自动搜索最优轻量化模型结构,支持参数、layer剪枝和Transformer结构轻量化

性能与精度兼得,开发效率优化

黑芝麻智能BST-DAL深度学习加速库工具,相比于众多开源项目,拥有更快的收敛速度、更高的精度、更适应芯片特性的加速算法、更简便的API及更友好的用户体验。

以华山系列A1000芯片为例为例,使用BST-DAL深度学习加速库处理主流模型ResNet50、Yolov5和LaneAF,可以在保证剪枝后模型精度的同时,减少超过20%的I/O数据流,提升模型性能。

5257cc70-0488-11ef-a297-92fbcf53809c.png

同时,使用BST-DAL的混合精度量化功能可以极大保证模型量化后精度,使其基本与原始浮点一致。

52622760-0488-11ef-a297-92fbcf53809c.png

黑芝麻智能BST-DAL加速库还有如下功能的亮点;

集成多种SOTA优化算法,在保证模型精度的同时提升模型性能,确保性能与精度兼得,使得模型在各种复杂任务和场景下都能表现出色。

DAL训练模型可实现最高可达10倍的性能提升,同时维持模型精度,为大模型训练和部署提供了更好的解决方案。

在PC端即可进行模型精度验证,加速开发周期,开发者可以更快地进行模型迭代和调试,从而加快了产品上市速度和响应市场需求的能力 。

自动化的模型配置搜索,简化了优化流程 ,降低了人工干预的需求,确保了模型的最佳性能和稳定性。

基于静态图的QAT量化,只需少量代码即可实现,降低用户使用量化工具的学习成本,提高了模型在嵌入式和移动设备上的部署效率。

支持混合加速引擎,可一次性对多段模型进行优化,更好地适应复杂任务和多模态数据处理需求 。

支持复杂的模型拓扑结构,特别是Transformer模型。 黑芝麻智能BST-DAL为深度学习研究者和开发者提供了一个全面、高效的解决方案,显著降低了模型优化和适配的复杂性,同时提高了开发效率和模型性能。

全面赋能客户,助力部署落地一体化流程

作为中国本土智能汽车芯片的供应商之一,黑芝麻智能深知软硬协同的重要性,以“芯片+开发工具链”的配套模式支持客户提升研发效率,降低综合成本,加速产品量产。工具链及软件是否完善是体现自动驾驶芯片易用性的重要指标。配合华山系列自动驾驶计算芯片,黑芝麻智能发布的山海开发工具链能够提供全面的开发包及算法开发所需的可视化软件工具,满足模型量化、优化、编译、仿真、部署、调试等各个开发环节的需要,并纳入深度学习参考模型库转换用例,大幅降低算法开发门槛,帮助客户进行灵活的模型迁移、部署和整合。目前,山海开发工具链已支持的算子数量已超过140个。

黑芝麻智能与合作伙伴最快仅耗时5周即完成了包含感知算法部署在内的所有上车适配工作的联合开发,使用山海工具链可快速灵活适配第三方感知算法,配套技术开发团队也有效提升了产品落地速度。得益于自主研发的IP核与通用计算加速的设计理念,山海工具链在逐步支持BEV和Transformer模型的部署和硬件加速,以支撑目前行业对无高精地图、城市领航等功能的迫切需求。



审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4829

    浏览量

    106819
  • 自动驾驶
    +关注

    关注

    791

    文章

    14673

    浏览量

    176636
  • 深度学习
    +关注

    关注

    73

    文章

    5591

    浏览量

    123917
  • 车载传感器
    +关注

    关注

    0

    文章

    48

    浏览量

    4689
  • 黑芝麻智能
    +关注

    关注

    1

    文章

    220

    浏览量

    4177

原文标题:黑芝麻智能BST-DAL深度学习加速库:提升算法模型开发效率,释放SOC极致性能

文章出处:【微信号:BlackSesameTech,微信公众号:黑芝麻智能】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    携手行业领军企业,磐时深度赋能黑芝麻智能高端智驾芯片安全

    ,通过开创性的分析方法与工具链,成功助力客户攻克在高端半导体前沿领域的功能安全难题,不仅确保芯片产品的安全可靠性,更填补了该领域在安
    的头像 发表于 11-12 09:03 476次阅读
    携手行业领军企业,磐时深度赋能<b class='flag-5'>黑芝麻</b><b class='flag-5'>智能</b>高端智驾芯片安全

    黑芝麻智能亮相2025德国国际汽车及智慧出行博览会

    9月9日,2025德国国际汽车及智慧出行博览会(IAA Mobility 2025)在慕尼黑正式开幕。黑芝麻智能再度登上这“预演”未来出行面貌的
    的头像 发表于 09-11 17:36 858次阅读

    黑芝麻智能携手Nullmax打造辅助驾驶主流量产方案

      黑芝麻智能与Nullmax联合打造的辅助驾驶主流量产方案,基于单颗武当C1236芯片,集成Nullmax软件架构与视觉感知算法,实现城区记忆领航、高速领航辅助及记忆泊车等功能。
    的头像 发表于 06-26 18:36 1184次阅读
    <b class='flag-5'>黑芝麻</b><b class='flag-5'>智能</b>携手Nullmax打造辅助驾驶主流量产方案

    黑芝麻智能受邀参加新加坡亚洲科技展

    黑芝麻智能受邀参加新加坡亚洲科技展,重磅展示面向机器人、辅助驾驶及边缘计算领域的全栈解决方案,彰显深耕东南亚市场的战略决心。
    的头像 发表于 05-29 18:03 1066次阅读

    Arm携手黑芝麻智能推动汽车产业协同发展

    车规级高性能辅助驾驶芯片,以及专为多域融合、舱驾体应用场景设计的武当 C1200 家族跨域融合计算芯片。此次展示不仅彰显黑芝麻智能技术
    的头像 发表于 04-28 14:26 961次阅读

    黑芝麻智能发布行业首创的安全智能底座

    近日,在全球瞩目的2025上海国际车展上,黑芝麻智能正式发布行业首创的安全智能底座,基于其武当C1200家族跨域融合芯片打造。安全
    的头像 发表于 04-27 11:08 1159次阅读

    黑芝麻智能联合东风汽车、均联智行实现舱驾体方案量产突破,东风多款车型搭载C1296芯片

    上海2025年4月24日 /美通社/ -- 4月23日,上海国际车展现场,黑芝麻智能科技有限公司(以下简称“黑芝麻
    的头像 发表于 04-24 10:40 513次阅读
    <b class='flag-5'>黑芝麻</b><b class='flag-5'>智能</b>联合东风汽车、均联智行实现舱驾<b class='flag-5'>一</b>体方案量产突破,东风多款车型搭载C1296芯片

    黑芝麻智能上海车展发布全场景技术矩阵,加速智能汽车生态升级

    在2025上海国际车展首日,黑芝麻智能科技有限公司(以下简称“黑芝麻智能”)举办媒体发布会,重磅
    的头像 发表于 04-24 10:37 433次阅读
    <b class='flag-5'>黑芝麻</b><b class='flag-5'>智能</b>上海<b class='flag-5'>车展</b>发布全场景技术矩阵,加速<b class='flag-5'>智能</b>汽车生态升级

    黑芝麻智能与Dirac签署合作备忘录

    1月21日,黑芝麻智能与Dirac签署合作备忘录,双方将基于黑芝麻智能武当C1200家族芯片共同探索汽车高品质音频体验的创新。
    的头像 发表于 01-21 10:48 1051次阅读

    黑芝麻智能与Elektrobit联手推出武当系列解决方案

    近日,在CES 2025展会上,黑芝麻智能展示其华山系列与武当系列芯片的强劲实力,并宣布与产业链伙伴的合作新进展。1月8日,
    的头像 发表于 01-14 11:23 1117次阅读

    Nullmax携手黑芝麻智能,基于C1200家族芯片联合发布量产级高阶智驾功能

    测试验证,并在客户项目中进行量产部署。 在2024国际消费电子展(CES 2024)期间,Nullmax与黑芝麻智能签署
    的头像 发表于 01-13 09:46 985次阅读

    黑芝麻智能与Nullmax发布量产级高阶智驾功能

    黑芝麻智能与Nullmax达成重要合作里程碑,双方基于黑芝麻智能武当C1200家族芯片推出BEV无图方案。
    的头像 发表于 01-10 16:30 1242次阅读

    黑芝麻智能、NESINEXT、傅利叶联合发布“灵巧手”

    黑芝麻智能、NESINEXT以及傅利叶联合展示基于黑芝麻智能C1200家族芯片的通用人形机器人“灵巧手”具身
    的头像 发表于 01-09 15:13 1638次阅读

    黑芝麻智能与Elektrobit推出Classic AUTOSAR解决方案

    黑芝麻智能与Elektrobit联合发布基于武当系列C1296芯片的完整的Classic AUTOSAR解决方案。
    的头像 发表于 01-09 09:53 1271次阅读

    普华基础软件与黑芝麻智能完成芯片适配

    (AUTOSAR AP),已成功适配黑芝麻智能的武当C1200家族芯片。 此次适配合作意义重大,标志着普华车用操作系统成为首个与武当C1200家族芯片完成适配的国产AUTOSAR车用操作系统。这成果不仅
    的头像 发表于 01-06 14:37 808次阅读