0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

阿里云分布式深度学习框架帮助千亿多模态训练模型快速迭代训练

科技绿洲 来源:阿里云 作者:阿里云 2022-06-23 16:53 次阅读

日前,国际权威研究机构Gartner发布2022年《云AI开发者服务魔力象限》。

凭借达摩院领先的AI算法和阿里云丰富的产品体系,继2021年入围远见者象限之后,阿里云进一步跃升至挑战者象限,且成为报告中执行能力最强的中国企业。

Gartner报告显示:

到2025年,AI软件市场规模将达到1348亿美元,届时,企业研发的70%的新应用将集成AI模型。

报告进一步指出,“尽管 ModelOps 实践日趋成熟,但大多数软件工程团队需要更便捷的AI服务来开发应用。因此,云AI开发者服务是软件工程团队必不可少的工具”。

当前,AI已逐步成为各类应用的基础能力,云上AI服务可大幅降低AI开发的门槛,中小企业既可以借助阿里云的算力进行AI算法的训练推理,也可以通过阿里云的机器学习平台、语音语义和视觉算法模型开发属于自己的AI应用。

2022年《云AI开发者服务魔力象限》报告从执行能力、愿景完整性两大维度对全球厂商的云AI开发者服务能力进行全面考察分析,考核范围语音语义、视觉、机器学习三大领域的AI模型。

过去几年,阿里云与达摩院的AI算法能力逐步深度融合,构建了一套完整的AI云服务产品体系:

Gartner报告显示,阿里云在该领域为开发者提供了1600多种模型服务,涵盖语言、视觉和机器学习服务,尤其在大规模预训练语言模型的实力强劲,并在数字人、手语翻译等领域取得了一系列进展。

2021年云栖大会,阿里云发布大数据+AI一体化产品体系“阿里灵杰”,包含机器学习平台PAI、云原生大数据计算服务MaxCompute等产品,其中PAI自研的Whale分布式深度学习训练框架,可以帮助千亿多模态预训练模型快速迭代训练。

基于阿里灵杰的分布式优化技术,达摩院成功研发多模态大模型、多语言大模型,其中,多模态大模型M6是全球首个实现10万亿参数的AI预训练模型,规模超越谷歌、微软万亿级模型。

目前,阿里AI每天被调用超1万亿次,服务全球10亿人;阿里还积极拥抱开源,已开源深度语言模型体系AliceMind、通用多模态预训练框架M6-OFA等AI能力。

审核编辑:彭静
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 阿里云
    +关注

    关注

    3

    文章

    883

    浏览量

    42602
  • 大数据
    +关注

    关注

    64

    文章

    8632

    浏览量

    136568
  • 深度学习
    +关注

    关注

    73

    文章

    5224

    浏览量

    119866
  • AI算法
    +关注

    关注

    0

    文章

    212

    浏览量

    12096
收藏 人收藏

    评论

    相关推荐

    如何基于深度学习模型训练实现工件切割点位置预测

    Hello大家好,今天给大家分享一下如何基于深度学习模型训练实现工件切割点位置预测,主要是通过对YOLOv8姿态评估模型在自定义的数据集上
    的头像 发表于 12-22 11:07 334次阅读
    如何基于<b class='flag-5'>深度</b><b class='flag-5'>学习</b><b class='flag-5'>模型</b><b class='flag-5'>训练</b>实现工件切割点位置预测

    如何基于深度学习模型训练实现圆检测与圆心位置预测

    Hello大家好,今天给大家分享一下如何基于深度学习模型训练实现圆检测与圆心位置预测,主要是通过对YOLOv8姿态评估模型在自定义的数据集上
    的头像 发表于 12-21 10:50 651次阅读
    如何基于<b class='flag-5'>深度</b><b class='flag-5'>学习</b><b class='flag-5'>模型</b><b class='flag-5'>训练</b>实现圆检测与圆心位置预测

    深度学习如何训练出好的模型

    算法工程、数据派THU深度学习在近年来得到了广泛的应用,从图像识别、语音识别到自然语言处理等领域都有了卓越的表现。但是,要训练出一个高效准确的深度
    的头像 发表于 12-07 12:38 642次阅读
    <b class='flag-5'>深度</b><b class='flag-5'>学习</b>如何<b class='flag-5'>训练</b>出好的<b class='flag-5'>模型</b>

    基于PyTorch的模型并行分布式训练Megatron解析

    NVIDIA Megatron 是一个基于 PyTorch 的分布式训练框架,用来训练超大Transformer语言模型,其通过综合应用了数
    的头像 发表于 10-23 11:01 957次阅读
    基于PyTorch的<b class='flag-5'>模型</b>并行<b class='flag-5'>分布式</b><b class='flag-5'>训练</b>Megatron解析

    视觉深度学习迁移学习训练框架Torchvision介绍

    Torchvision是基于Pytorch的视觉深度学习迁移学习训练框架,当前支持的图像分类、对象检测、实例分割、语义分割、姿态评估
    的头像 发表于 09-22 09:49 441次阅读
    视觉<b class='flag-5'>深度</b><b class='flag-5'>学习</b>迁移<b class='flag-5'>学习</b><b class='flag-5'>训练</b><b class='flag-5'>框架</b>Torchvision介绍

    模型分布式训练并行技术(一)-概述

    数据并行是最常见的并行形式,因为它很简单。在数据并行训练中,数据集被分割成几个碎片,每个碎片被分配到一个设备上。这相当于沿批次(Batch)维度对训练过程进行并行化。每个设备将持有一个完整的模型副本,并在分配的数据集碎片上进行
    的头像 发表于 08-24 15:17 627次阅读
    大<b class='flag-5'>模型</b><b class='flag-5'>分布式</b><b class='flag-5'>训练</b>并行技术(一)-概述

    深度学习框架连接技术

    深度学习框架连接技术 深度学习框架是一个能够帮助机器
    的头像 发表于 08-17 16:11 464次阅读

    深度学习框架pytorch介绍

    。PyTorch具有易于使用的API和文档,并强制执行Python编码标准。这使得它成为机器学习从业者的首选框架之一。PyTorch支持CPU和GPU计算以及分布式训练
    的头像 发表于 08-17 16:10 1110次阅读

    深度学习框架区分训练还是推理吗

    模型,以便将来能够进行准确的预测。推理是指在训练完成后,使用已经训练好的模型进行新的预测。然而,深度学习
    的头像 发表于 08-17 16:03 1022次阅读

    深度学习框架是什么?深度学习框架有哪些?

    深度学习框架是什么?深度学习框架有哪些?  深度
    的头像 发表于 08-17 16:03 1706次阅读

    Gaudi Training系统介绍

    上进行网络训练可能需要不切实际的长时间。幸运的是,我们不局限于一台机器。为了实现深度神经网络的高效分布式训练,已经进行了大量的研究和开发。本白皮书对Gaudi Training系统进行
    发表于 08-04 06:48

    基于预训练模型和语言增强的零样本视觉学习

    在一些非自然图像中要比传统模型表现更好 CoOp 增加一些 prompt 会让模型能力进一步提升 怎么让能力更好?可以引入其他知识,即其他的预训练模型,包括大语言
    的头像 发表于 06-15 16:36 316次阅读
    基于预<b class='flag-5'>训练</b><b class='flag-5'>模型</b>和语言增强的零样本视觉<b class='flag-5'>学习</b>

    ICLR 2023 Spotlight|节省95%训练开销,清华黄隆波团队提出强化学习专用稀疏训练框架RLx2

    模型时代,模型压缩和加速显得尤为重要。传统监督学习可通过稀疏神经网络实现模型压缩和加速,那么同样需要大量计算开销的强化学习任务可以基于稀疏
    的头像 发表于 06-11 21:40 389次阅读
    ICLR 2023 Spotlight|节省95%<b class='flag-5'>训练</b>开销,清华黄隆波团队提出强化<b class='flag-5'>学习</b>专用稀疏<b class='flag-5'>训练</b><b class='flag-5'>框架</b>RLx2

    什么是预训练AI模型

    训练 AI 模型是为了完成特定任务而在大型数据集上训练深度学习模型。这些
    的头像 发表于 05-25 17:10 629次阅读

    利用OpenVINO™部署HuggingFace预训练模型的方法与技巧

    作为深度学习领域的 “github”,HuggingFace 已经共享了超过 100,000 个预训练模型
    的头像 发表于 05-19 15:57 589次阅读
    利用OpenVINO™部署HuggingFace预<b class='flag-5'>训练</b><b class='flag-5'>模型</b>的方法与技巧