0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

硬杠TensorFlow/PyTorch,这家中国初创企业,乘开源东风、领跑AI赛道

晶芯观察 来源:电子发烧友网 作者:黄晶晶 2021-07-16 18:18 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

目前比较主流的AI深度学习框架主要由国际巨头领衔,比如谷歌的TensorFlow和Facebook的PyTorch等。2017年中国的一家初创团队悄悄成立,他们做的是对标这些主流框架的技术开发。今年初,这家公司声名鹊起,并获得了由高瓴创投领投的5000万元A轮融资。这家公司叫一流科技,他们的深度学习框架叫做OneFlow,今年7月31日,OneFlow即将迎来自己的开源一周年纪念日。

对框架的超前定位,有力支撑了深度学习领域的创业

一流科技创始人袁进辉在创办公司之前,在微软研究院工作多年,主要从事机器学习、分布式系统的研发。“当时我们认为随着AI数据和算力需求的不断增加,现有的深度学习框架在未来会遇到瓶颈,几年前我多次在公开演讲中提到过这个观点,但当时业界不以为然。”袁进辉说道。

袁进辉分析,从机器视觉到人机对话,再到认知智能,AI不断突破能力边界,同时伴随着模型参数的指数级提升,AI模型加速膨胀导致训练成本攀升,预计2025年最先进的AI训练模型成本将达到1亿美元。

而单芯片存在算力天花板,单芯片在物理层面存在性能极限,先进制程发展已难以维持摩尔定律;分布式硬件难以高效协同运转,分布式方案芯片间传输带宽低于片上带宽,多芯片集群难以像“超级芯片”一样高效工作。

针对内存墙、用户接口不友好和定制化成本高等AI分布式训练痛点,OneFlow从底层机制提出Actor机制、一致性视角和自动并行技术加以解决。

袁进辉表示,随着大规模参数模型爆发,OneFlow需求匹配程度愈发提高,将超过TensorFlow和PyTorch逐渐占据更多的市场空间。

近两年,一些国内科技巨头也纷纷推出深度学习框架,例如百度飞桨PaddlePaddle、华为的MindSpore等。他们大多拥有自己的生态圈,能够将硬件和软件搭配使用。相比之下,一流科技的OneFlow属于独立的第三方框架,更具有中立性,可以广泛地与芯片厂商进行适配。

GPU芯片巨头英伟达在美国的软件栈团队对我们的深度学习框架表示了密切关注,每两个星期我们会就框架优化与合作问题进行探讨。”袁进辉透露。

虽然TensorFlow和PyTorch等深度学习框架为也英伟达的芯片所适配,不过显然,英伟达注意到OneFlow这个由独立的软件公司研发的框架的好处和价值。

开源与良好的商业模式并不冲突

去年OneFlow框架开源之后获得了非常高的关注。OneFlow的开源代码发布到了Github,开源让全球开发者能够直观接触、下载、使用OneFlow。开源十个月Star数量超过2500,超过华为Mindspore。

袁进辉直言,“在开源社区里面,有很多基础软件,胜出的不是大公司,而是初创团队,比如主导Spark的Databricks等。一些互联网大公司都在用的软件,刚开始都是小团队做的。只要技术上过硬,就有机会。”显然,一流科技有这个技术实力,在其框架开源之后,获得了谷歌、Facebook、华为、百度等同行的关注,也受到了资本的青睐。

但是,一个问题是,开源与公司的商业模式是否冲突呢?公司又如何建立自己的商业价值?

袁进辉分析,开源的商业模式主要有两种,一种是虽然一些有技术能力的互联网公司或开发者自行下载开源软件,进行项目开发,但是对于没有开发能力的用户,他们需要付费购买开源软件的商业版来使用。

另一种是云上托管。如今很多企业将数据计算在云上进行,在用某个软件处理大数据、AI计算的任务时他可以把开源工具下载下来在云上部署,这种方式下公司必须自己雇用工程师对这一流程进行调优,需要承担较高的人力成本。但也可以直接从云上使用开源公司部署的软件,这种做法用户需要承担的成本较低,也更方便省事。

目前开源云托管是最好的商业模式,在美国已经运用相对成熟。相信在中国也将有越来越多的用户接受这一模式。

OneFlow用起来不仅是快,下一步打通易用性

OneFlow选择自上向下占领市场,占据技术制高点,从高效性向易用性和完备性延伸。以高效性作为突破口,切入市场打破竞争格局。

目前,用OneFlow训练比其他框架快的口碑已经在业内传开。一个数据是,OneFlowv0.2.0实现了多达17个性能优化,使得CNN和BERT的自动混合精度(AMP)训练速度大幅提升,不仅远超其他各个主要框架的官方实现,同时也超过了NVIDIA深度优化过的版本,成为在主流旗舰显卡(V100 16G)上训练ResNet50-v1.5和BERT-base模型最快的框架。OneFlow ResNet50-v1.5 AMP单卡比NVIDIA深度优化过的PyTorch快80%,比TensorFlow2.3快35%。

袁进辉表示,我们即将发布新的版本,将重点提升软件的易用性体验,首先在单卡代码上保证和PyTorch的体验一致,而同时在多卡场景下推出了全新的接口设计,将给用户带来革命性的开发体验。相信这个版本的发布将极大地带动开发者群体,扩大OneFlow的使用数量和应用范围。

在铺设高效性和易用性之后,OneFlow还将打造完备性,从而形成自上而下、三位一体的布局。袁进辉有信心,在不久的将来和TensorFlow、PyTorch是三分天下的市场格局。

AI软件生态,OneFlow需当此重任

在移动端,开源的安卓系统形成强大的生态而成功。深度学习框架就像AI的操作系统一样,它是模型算法和硬件资源之间的接口,是AI系统资源的管理者,实现对底层硬件资源的调度,让开发者无需关心实现细节。

袁进辉认为,生态建设就是0和1的问题,OneFlow必然建设强大的生态才能实现更多的可能,取得最终的成功。

目前,OneFlow的硬核创新在核心AI开发圈树立了口碑,得到全球框架专家的高度认可,国内外深度学习框架产品已在积极跟进OneFlow所开创的设计理念。一流科技已与北京智源人工智能研究院、粤港澳大湾区数字经济研究院、之江实验室、中关村智用人工智能研究院等顶尖AI科研院所开展深度合作。同时,联合芯片、云厂商等上下游企业加强配合,已与寒武纪、燧原科技等推进超大模型训练方案。下一步将推动与更多芯片厂商和广大开发者的合作,打造AI平台的繁荣生态。

开源生态已经得到国家层面的重视,“开源”写进了今年的十四五规划,而开源将是中国占领科技高地的机会。例如硬件方面现在大力发展的RISC-V开源指令集架构,软件方面OneFlow做为中国的深度学习框架,也将借助开源的力量进一步壮大其AI生态。

基于深度学习的软件2.0时代将打开30万亿美元的市场,袁进辉表示,中国拥有大量的基础软件人才,积累了丰富的AI应用场景,OneFlow有机会在这个AI时代乘风而行。

本文为电子发烧友网原创文章,作者黄晶晶,微信号kittyhjj,转载请注明以上来源。如需入群交流,请添加微信elecfans999,投稿发邮件到huangjingjing@elecfans.com。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    42239

    浏览量

    303282
  • pytorch
    +关注

    关注

    2

    文章

    813

    浏览量

    14963
  • OneFlow
    +关注

    关注

    0

    文章

    9

    浏览量

    9070
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    直播预告|玄铁 x Canonical:从本地推理到 AI 工厂,基于 RISC-V 的 AI 基础设施创新路径探讨

    剖析玄铁自研张量计算引擎的架构设计思想,解读其如何以通用指令集的灵活性,逼近专用加速器的能效表现,为高性能 RISC-V 注入原生 AI 算力基因。 开源系统蓝图|Canonical:From
    发表于 05-15 12:15

    旋极星源入选2026成都科技企业扑克牌榜单

    2026年4月18日,以“崛起的科技力量”为主题的成都科技年会在蓉隆重举行。会上,“2026成都科技企业扑克牌”榜单正式揭晓,54家覆盖先进能源、生物医药、人工智能、集成电路、低
    的头像 发表于 04-22 15:26 388次阅读

    AI大模型微调企业项目实战课

    数据、懂业务的“AI 架构师”。当企业真正掌握了从开源基座到专属模型的转化能力时,就拥有了抵御外部不确定性的最强护城河。筑牢自主可控的 AI 底座,
    发表于 04-16 18:48

    PyTorch 中RuntimeError分析

    ? 错误原因 这个 RuntimeError 是因为在 PyTorch 中,upsample_nearest2d_out_frame(最近邻2D上采样)操作尚未对 BFloat16 数据类型提供
    发表于 03-06 06:02

    上汽大众荣膺2025中国工业碳达峰“领跑者”企业

    12月27日,由中国工业经济联合会主办的第四届中国工业碳达峰论坛在青岛召开。上汽大众凭借在绿色低碳转型中的卓越实践,荣膺2025中国工业碳达峰“领跑者”
    的头像 发表于 01-06 10:07 515次阅读

    突发,美国拟再制裁3家中国传感器公司!(附信件原文)

    中国知名高科技公司,其中,包括3家中国激光雷达传感器企业(文末附信件原文)。 这些公司分布于生物技术、基因组与生命科学;传感、监控、机器人与具身AI;消费电子与智能终端;大模型
    的头像 发表于 12-24 18:02 2125次阅读
    突发,美国拟再制裁3<b class='flag-5'>家中国</b>传感器公司!(附信件原文)

    成都汇阳投资关于国产开源模型持续突破,国产AI 竞争力增强

           国产开源模型领跑AI 生态有望加速繁荣 根据独立 AI 基准测试与分析平台 Artificial Analysis 最新榜单 , 国产模型 KimiK2Thinkin
    的头像 发表于 11-24 14:01 847次阅读

    家中企业莅临东风汽车调研交流

    为深入贯彻国务院国资委关于全面实施“AI+”专项行动的部署,近日,东风汽车协同中央企业人工智能协同创新平台,开展 “走进东风”调研与交流活动,推进各中央
    的头像 发表于 09-25 14:40 850次阅读

    东风柳汽亮相2025中国-东盟博览会

    近日,第22届中国—东盟博览会在广西南宁隆重开幕,东风柳汽携旗下乘龙、东风风行两大商品牌明星产品强势参展,展台面积达400平米,此次参展是东风
    的头像 发表于 09-19 09:45 787次阅读

    睿海光电:以敏捷交付与全域兼容领跑AI光模块赛道,赋能智算新时代

    睿海光电:以敏捷交付与全域兼容领跑AI光模块赛道,赋能智算新时代
    的头像 发表于 08-15 16:51 1679次阅读

    A股龙头入股东莞传感器初创企业,核心团队来自大疆!(这条赛道太火)

        如果问2025年上半年中国传感器产业最火热的投融资赛道是哪条?那毫无疑问是触觉传感器。   近期,我们披露了多条国产触觉传感器企业的融资信息,投资方涉及小米、比亚迪、TCL、高瓴等众多
    的头像 发表于 07-13 17:07 2119次阅读
    A股龙头入股东莞传感器<b class='flag-5'>初创</b><b class='flag-5'>企业</b>,核心团队来自大疆!(这条<b class='flag-5'>赛道</b>太火)

    这家线材企业如何跻身AI服务器赛道

    在华南磁性元器件产业链峰会人潮涌动的展示区,《磁性元件与电源》记者在线材行业企业开联电业的展台前等了整整三拨客户访谈间隙,才终于抓住销售经理王振岗的空档——他刚送走某磁性元件企业的采购总监,西装口袋
    的头像 发表于 07-09 10:51 746次阅读

    任正非说 AI已经确定是第四次工业革命 那么如何从容地加入进来呢?

    TensorFlowPyTorch用于构建和训练神经网络。以Python为例,通过编写简单的程序来处理数据,如读取数据集、进行数据清洗和预处理,这是进入AI领域的基本技能。 学习机器学习和深度学习
    发表于 07-08 17:44

    Nordic收购 Neuton.AI 关于产品技术的分析

    生成比传统框架(如 TensorFlowPyTorch 等)小 10 倍的模型,模型体积可低至个位数 KB,并且推理速度更快、功耗更低。此次收购将 Neuton 的自动化 TinyML 平台
    发表于 06-28 14:18

    企业开源战略培训交流会议成功举办

    此前,5月28日至29日,由开放原子开源基金会主办的“企业开源战略培训交流会议”在北京成功举行。来自政府部门、科研机构、央国企、互联网企业初创
    的头像 发表于 06-05 14:21 1277次阅读