0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

硬杠TensorFlow/PyTorch,这家中国初创企业,乘开源东风、领跑AI赛道

花茶晶晶 来源:电子发烧友网 作者:黄晶晶 2021-07-16 18:18 次阅读

目前比较主流的AI深度学习框架主要由国际巨头领衔,比如谷歌的TensorFlow和Facebook的PyTorch等。2017年中国的一家初创团队悄悄成立,他们做的是对标这些主流框架的技术开发。今年初,这家公司声名鹊起,并获得了由高瓴创投领投的5000万元A轮融资。这家公司叫一流科技,他们的深度学习框架叫做OneFlow,今年7月31日,OneFlow即将迎来自己的开源一周年纪念日。

对框架的超前定位,有力支撑了深度学习领域的创业

一流科技创始人袁进辉在创办公司之前,在微软研究院工作多年,主要从事机器学习、分布式系统的研发。“当时我们认为随着AI数据和算力需求的不断增加,现有的深度学习框架在未来会遇到瓶颈,几年前我多次在公开演讲中提到过这个观点,但当时业界不以为然。”袁进辉说道。

袁进辉分析,从机器视觉到人机对话,再到认知智能,AI不断突破能力边界,同时伴随着模型参数的指数级提升,AI模型加速膨胀导致训练成本攀升,预计2025年最先进的AI训练模型成本将达到1亿美元。

而单芯片存在算力天花板,单芯片在物理层面存在性能极限,先进制程发展已难以维持摩尔定律;分布式硬件难以高效协同运转,分布式方案芯片间传输带宽低于片上带宽,多芯片集群难以像“超级芯片”一样高效工作。

针对内存墙、用户接口不友好和定制化成本高等AI分布式训练痛点,OneFlow从底层机制提出Actor机制、一致性视角和自动并行技术加以解决。

袁进辉表示,随着大规模参数模型爆发,OneFlow需求匹配程度愈发提高,将超过TensorFlow和PyTorch逐渐占据更多的市场空间。

近两年,一些国内科技巨头也纷纷推出深度学习框架,例如百度飞桨PaddlePaddle、华为的MindSpore等。他们大多拥有自己的生态圈,能够将硬件和软件搭配使用。相比之下,一流科技的OneFlow属于独立的第三方框架,更具有中立性,可以广泛地与芯片厂商进行适配。

GPU芯片巨头英伟达在美国的软件栈团队对我们的深度学习框架表示了密切关注,每两个星期我们会就框架优化与合作问题进行探讨。”袁进辉透露。

虽然TensorFlow和PyTorch等深度学习框架为也英伟达的芯片所适配,不过显然,英伟达注意到OneFlow这个由独立的软件公司研发的框架的好处和价值。

开源与良好的商业模式并不冲突

去年OneFlow框架开源之后获得了非常高的关注。OneFlow的开源代码发布到了Github,开源让全球开发者能够直观接触、下载、使用OneFlow。开源十个月Star数量超过2500,超过华为Mindspore。

袁进辉直言,“在开源社区里面,有很多基础软件,胜出的不是大公司,而是初创团队,比如主导Spark的Databricks等。一些互联网大公司都在用的软件,刚开始都是小团队做的。只要技术上过硬,就有机会。”显然,一流科技有这个技术实力,在其框架开源之后,获得了谷歌、Facebook、华为、百度等同行的关注,也受到了资本的青睐。

但是,一个问题是,开源与公司的商业模式是否冲突呢?公司又如何建立自己的商业价值?

袁进辉分析,开源的商业模式主要有两种,一种是虽然一些有技术能力的互联网公司或开发者自行下载开源软件,进行项目开发,但是对于没有开发能力的用户,他们需要付费购买开源软件的商业版来使用。

另一种是云上托管。如今很多企业将数据计算在云上进行,在用某个软件处理大数据、AI计算的任务时他可以把开源工具下载下来在云上部署,这种方式下公司必须自己雇用工程师对这一流程进行调优,需要承担较高的人力成本。但也可以直接从云上使用开源公司部署的软件,这种做法用户需要承担的成本较低,也更方便省事。

目前开源云托管是最好的商业模式,在美国已经运用相对成熟。相信在中国也将有越来越多的用户接受这一模式。

OneFlow用起来不仅是快,下一步打通易用性

OneFlow选择自上向下占领市场,占据技术制高点,从高效性向易用性和完备性延伸。以高效性作为突破口,切入市场打破竞争格局。

目前,用OneFlow训练比其他框架快的口碑已经在业内传开。一个数据是,OneFlowv0.2.0实现了多达17个性能优化,使得CNN和BERT的自动混合精度(AMP)训练速度大幅提升,不仅远超其他各个主要框架的官方实现,同时也超过了NVIDIA深度优化过的版本,成为在主流旗舰显卡(V100 16G)上训练ResNet50-v1.5和BERT-base模型最快的框架。OneFlow ResNet50-v1.5 AMP单卡比NVIDIA深度优化过的PyTorch快80%,比TensorFlow2.3快35%。

袁进辉表示,我们即将发布新的版本,将重点提升软件的易用性体验,首先在单卡代码上保证和PyTorch的体验一致,而同时在多卡场景下推出了全新的接口设计,将给用户带来革命性的开发体验。相信这个版本的发布将极大地带动开发者群体,扩大OneFlow的使用数量和应用范围。

在铺设高效性和易用性之后,OneFlow还将打造完备性,从而形成自上而下、三位一体的布局。袁进辉有信心,在不久的将来和TensorFlow、PyTorch是三分天下的市场格局。

AI软件生态,OneFlow需当此重任

在移动端,开源的安卓系统形成强大的生态而成功。深度学习框架就像AI的操作系统一样,它是模型算法和硬件资源之间的接口,是AI系统资源的管理者,实现对底层硬件资源的调度,让开发者无需关心实现细节。

袁进辉认为,生态建设就是0和1的问题,OneFlow必然建设强大的生态才能实现更多的可能,取得最终的成功。

目前,OneFlow的硬核创新在核心AI开发圈树立了口碑,得到全球框架专家的高度认可,国内外深度学习框架产品已在积极跟进OneFlow所开创的设计理念。一流科技已与北京智源人工智能研究院、粤港澳大湾区数字经济研究院、之江实验室、中关村智用人工智能研究院等顶尖AI科研院所开展深度合作。同时,联合芯片、云厂商等上下游企业加强配合,已与寒武纪、燧原科技等推进超大模型训练方案。下一步将推动与更多芯片厂商和广大开发者的合作,打造AI平台的繁荣生态。

开源生态已经得到国家层面的重视,“开源”写进了今年的十四五规划,而开源将是中国占领科技高地的机会。例如硬件方面现在大力发展的RISC-V开源指令集架构,软件方面OneFlow做为中国的深度学习框架,也将借助开源的力量进一步壮大其AI生态。

基于深度学习的软件2.0时代将打开30万亿美元的市场,袁进辉表示,中国拥有大量的基础软件人才,积累了丰富的AI应用场景,OneFlow有机会在这个AI时代乘风而行。

本文为电子发烧友网原创文章,作者黄晶晶,微信号kittyhjj,转载请注明以上来源。如需入群交流,请添加微信elecfans999,投稿发邮件到huangjingjing@elecfans.com。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    25945

    浏览量

    263568
  • pytorch
    +关注

    关注

    2

    文章

    756

    浏览量

    12787
  • OneFlow
    +关注

    关注

    0

    文章

    9

    浏览量

    8735
收藏 人收藏

    评论

    相关推荐

    新火种AI|在AI赛道上,这家中国初创总是和OpenAI“不期而遇”

    中美AI之间的差距,没有想象中的大。
    的头像 发表于 03-16 11:13 168次阅读

    微软携手法国AI初创企业Mistral推动AI模型商业化

    微软近日与法国人工智能初创企业Mistral达成合作协议,旨在推动AI模型的商业化应用。据悉,微软将提供全方位支持,帮助这家成立仅10个月的公司将其先进的
    的头像 发表于 02-28 10:23 112次阅读

    李开复初创AI公司拟融资2亿美元,估值已超10亿美元

    此外,01.AI在11月成功收获开源领域LLM社区的认可,其所研发的Yi-34B模型在Huggingface排行榜排名居首,成为首个登顶的中国LLM。该平台依托生成式AI的发展势头,许
    的头像 发表于 12-15 09:56 206次阅读

    XLA和PyTorch的链接代码示例

    XLA (Accelerated Linear Algebra)是一个开源的机器学习编译器,对PyTorchTensorflow、JAX等多个深度学习框架都有支持。最初XLA实际上
    的头像 发表于 11-17 10:54 277次阅读

    PyTorchTensorFlow的优点和缺点

    转载自:冷冻工厂   深度学习框架是简化人工神经网络 (ANN) 开发的重要工具,并且其发展非常迅速。其中,TensorFlowPyTorch 脱颖而出,各自在不同的机器学习领域占有一席之地
    的头像 发表于 10-30 09:56 396次阅读
    <b class='flag-5'>PyTorch</b>与<b class='flag-5'>TensorFlow</b>的优点和缺点

    PyTorchTensorFlow的区别分析

    PyTorch是一个开源的深度学习框架,建立于Torch之上,底层为C++,并标榜Python First,强调其为Python 语言量身打造的,使用上就与Python项目的撰写并没有太大的差异,也能够与Python的套件相整合。
    发表于 10-27 10:41 458次阅读
    <b class='flag-5'>PyTorch</b> 与 <b class='flag-5'>TensorFlow</b>的区别分析

    阿里平头哥发布首个 RISC-V AI 软硬全栈平台

    HHB 实现了在典型网络性能比第三方工具平均提升 88%,并增加支持运行 Transformer、TensorFlowPyTorch 等 170 余个主流框架 AI 模型。 基于此,平头哥发布了首个
    发表于 08-26 14:14

    英特尔加入PyTorch基金会,通过PyTorch*推动AI普及

    不久前,英特尔宣布以Premier会员的身份加入PyTorch*基金会,并期待与各行各业的领军企业开源PyTorch框架和生态系统上开展合作。Py
    的头像 发表于 08-19 11:15 315次阅读

    NVIDIA 初创加速计划中国会员企业突破 2,000 家,2023 NVIDIA 初创企业展示蓄势待发

    ,NVIDIA 初创加速计划成员遍 布 100 余 个国家。今年,NVIDIA 初创加速计划 中国会员企业数量 正式突破 2,000 家 !伴随这一里程碑的到来,2023 NVIDIA
    的头像 发表于 07-21 16:50 329次阅读
    NVIDIA <b class='flag-5'>初创</b>加速计划<b class='flag-5'>中国</b>会员<b class='flag-5'>企业</b>突破 2,000 家,2023 NVIDIA <b class='flag-5'>初创</b><b class='flag-5'>企业</b>展示蓄势待发

    生态伙伴 | 华秋创联合湾加速,共同加速企业发展

    ,大赛始于2015年由深圳华秋电子有限公司主办,面向科技初创企业及团队的赛事。大赛将协同科技产业生态伙伴,搭建创业项目与资本之间的桥梁,挖掘孵化行业未来领军
    发表于 06-16 16:00

    科技,创未来!第十五届深创赛福田预选赛-华秋第九届创大赛正式启幕

    2015年,由深圳市福田区科技创新局指导,深圳华秋电子有限公司主办,面向科技初创企业及团队的专业赛事。大赛举办以来,影响了超过40万工程师群体,吸引了30000多名创先锋报名参加线
    发表于 05-16 11:45

    AI助力初创企业:运用机器学习解决问题

    初创企业将一些最具创新性的产品和服务推向市场,但通常要少量工具、手动操作以及不断拓展专业知识的人员。人工智能 (AI),尤其是机器学习 (ML) 和深度学习 (DL),正在通过自动化流程和减少工作量
    的头像 发表于 05-16 10:46 413次阅读
    <b class='flag-5'>AI</b>助力<b class='flag-5'>初创</b><b class='flag-5'>企业</b>:运用机器学习解决问题

    生态伙伴 | 创大赛新起航!携手华强科创广场,助力科技创业者

    )是新时代硬件创业者综合性服务平台,大赛始于2015年由深圳华秋电子有限公司主办,面向科技初创企业及团队的赛事。大赛将协同科技产业生态伙伴,搭建创业项目与资本之间的桥梁,挖掘孵化行
    发表于 05-16 09:51

    中国开源未来发展峰会“问道 AI 分论坛”即将开幕!

    的发展,一个好的 AI 技术产品该如何迭代与运营…… 为了能够与广大开发者一起更好地拥抱 AI 技术的发展,5 月 13 日,由天工开物开源基金会、开源
    发表于 05-09 09:49

    S32G-GoldVip上的PytorchTensorflow如何启用?

    大家好,我想在 Goldbox 上运行我的 ML 模型,我看到 Goldvip 有一个可用的库 eIQ Auto,它提供内部使用 TensorflowPytorch/Keras 2.x,请帮助我了解这些库在哪里可用以及如何启用它们在我开发 ML 模型部署时。
    发表于 03-30 07:05