0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

昇腾基于AI基础软硬件平台为运营商AI赛道保驾护航

7riU_gh_3a181fa 来源:华为计算 作者:华为计算 2022-07-21 09:33 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

东数西算正在成为各行业的普遍机遇,对于运营商来说也是如此。

东数西算带来了全新的算力网络建设需求,以及各行业普遍的网络升级需求。在这一大背景下,运营商还需要一系列细分的价值节点来推动业务进步,打开市场空间。换言之,东数西算的路有了,运营商接下来更需要关注路上跑哪些车。

在东数西算的整体架构中,AI预训练大模型的价值值得关注。近年来,大模型可谓是AI领域最受关注的方向。高鲁棒性的模型效果,卓越的数据集表现,以及跨模态等领域的不可替代性,让大模型成为产业界与学界共同关注的对象。一时间,“炼大模型”成为了AI产业的共同需求,为此也衍生出配套产业的全新机遇。

大模型的算力要求非常严苛,并且需要一系列软硬件基础设施的支撑,比如基于昇腾AI的人工智能计算中心。不过,单个的计算中心之间算力供给存在差异,因此在东数西算的背景下,将东部算力需求有序引导到西部,优化数据中心建设布局,促进东西部协同联动,能更好地促进大模型产业发展。

对于运营商来说大模型带来了一系列全新的AI市场空间。

运营商帮助大模型进行跨地域训练,完成算力资源适配,构成了新的服务机会;

而运营商本身运用大模型,也可以提升服务能力与产业效率。

运营商的新赛道

大模型训练带来的市场想象力

OpenAI在2018年发布了一份著名的调查报告,从2012年开始,全球AI算力在六年间增长了30万倍,并且还在持续增长。而当大模型时代正式到来,全球AI算力需求进一步加大。AI算力成为了限制产业智能化发展的主要挑战。

OpenAI打造的GPT-3在多项任务中实现了跨越级的表现,推动全球大模型迎来了爆发式的发展,模型参数呈现了指数级的增长。“大数据+大模型”成为了AI产业最受重视的发展之路。

但在实践过程里,我们却可以发现大模型在训练与部署中存在着诸多挑战。比如部署场景中存在的模型性能不足问题;不同场景下大模型的泛化能力不强;预训练大模型参数多、计算量大,训练成本高企等等。其中,如何低成本、高效率地完成大模型训练,成为了首当其冲需求解决的问题。在这种背景下,将大模型在东数西算背景体系下进行模型训练,正在成为越来越多企业与学术机构的选择:

比如中国科学院自动化研究所在 2021 世界人工智能大会上发布了跨模态通用人工智能平台——“紫东。太初”。其依托面向超大规模的高效分布式训练框架,构建了具有性能优良的中文预训练模型、语音预训练模型和视觉预训练模型,并开拓性地通过跨模态语义关联实现了视觉-文本-语音三模态统一表示,构建了三模态预训练大模型,赋予跨模态通用人工智能平台多种核心能力。从应用层面上看,“紫东。太初”兼具跨模态理解和生成能力,在“以图生音”和“以音生图”等方向上具有广泛的应用空间,可以实现AI为视频配音、AI语音播报、AI海报创作等应用场景。

2022年,千博信息基于昇腾AI和昇思MindSpore AI框架,利用“紫东。太初”三模态大模型,打造了手语教考一体机。开创性地实现手语动作与示意图片和文字的联动。目前,该一体机已在湖南数十个学校陆续上线,一定程度上缓解了手语师资短缺问题,带来了重要的社会价值。

而在“紫东。太初”大模型的训练过程中,就非常能够展现出东数西算背景下,大模型进行“东数西训”的典型逻辑。这一模型由中科院自动化所相关团队主导,基于昇腾AI基础软硬件平台,在武汉人工智能计算中心完成训练。可以说提前替更多大模型尝试了东部数据-中西部算力训练-东部应用的产学研结合方式。

以此为案例,我们可以看到运营商的AI新市场正在快速打开。而能够让运营商服务大模型的新市场打开,产业底座的完善性至关重要。

昇腾底座

为运营商AI赛道保驾护航

大模型走上“东数西训”之路,有几个必要的产业条件:算法、数据、算力、训练所需的软硬件基础设施、算力网络。

大模型的训练算法

从目前阶段来看,大模型的训练算法已经日益完善,国际与国内的大模型训练基础门槛不断降低。

数据

接下来是数据,东部地区的企业、高校、科研机构积累了丰富的数据,可以有效投入到大模型的训练当中。这也是中国在大模型之路上虽然后起,却能够奋起直追的原因。

算力

接下来是算力,随着各地人工智能计算中心的拔地而起,以集群化、集中化的AI算力来完成大模型训练,已经成为了可能。昇腾AI提供的AI算力体系,既可以作为人工智能计算中心的建设基础,也可以通过多种方式赋能产学研各界,带来充沛、完整的AI算力供给。

软硬件配套设施

而在软硬件配套设施层面,昇腾AI基础软硬件平台,包括Atlas系列硬件和伙伴硬件、异构计算架构CANN、全场景AI框架昇思MindSpore、昇腾应用使能MindX、全流程开发工具链MindStudio 和一站式AI开发平台ModelArts等。可以从训练到部署全方位使能大模型落地。为了能够满足越来越多企业与学术机构的大模型训练需求,昇腾AI已经打造了大模型的全流程使能体系。该体系包含从大模型规划、大模型开发到大模型产业化的全流程,可以实现端到端加速大模型产业落地。

人工智能底座

为支持大模型与其他AI技术落地,昇腾AI坚持“硬件开放、软件开源、使能伙伴、发展人才”的原则,深耕AI根技术,为产业提供极简易用,极致性能的人工智能底座。

极简易用方面,为原生开发者提供了便捷的开发平台、使能平台,支持了大量的算子模型以及沉淀的行业模型和开发套件,大幅降低应用开发成本;同时开发者、软件企业、生态伙伴可以将已有业务便捷的迁移到昇腾AI生态上来。

昇腾AI也具有极致的性能,在以昇腾AI基础软硬件平台建设的鹏城云脑II的性能业界领先,在AIPerf、IO500等国际大型测试基准中获得了全球第一的成绩。

生态体系

大模型与AI产业的有效落地,不仅需要技术体系的支撑,同时需要生态体系的支持。华为一直致力于构筑昇腾AI产业,打造AI技术生态与商业生态,实现双轮驱动,共同建设共生共赢共享的智能世界。与高校、科研机构、伙伴广泛合作,推进AI的技术创新,使AI成为科研创新的倍增器,共建AI技术生态。与商业伙伴和客户一起,赋能产业应用,加快产业升级,共建AI商业生态。与此同时,华为还联合业界领先的算法厂家、行业应用伙伴和系统集成伙伴,深入探索大模型等人工智能领先成果,共同打造各个行业智能化解决方案,使能人工智能落地千行百业。

我们可以看到,在大模型的需求与基础技术崛起后,以昇腾AI为代表的规模化、产业化AI基座已经走向完善。大模型不但是能训,更加走上了简单、高效、低门槛可训的新周期。

算力网络

大模型的最后一个关键需求就是网络与网络配套服务,而这可以成为运营商的重大机遇。可以说,昇腾为运营商的AI赛道起到了保驾护航的价值。

以AI拓展未来

运营商创新正当时

AI技术在运营商业务版图中的重要性正在不断上升。早在2020年,Omdia的ICT-Enterprise Insights就公布了一项调查数据,有近80%的全新运营商认为使用AI技术是一项“重要”或“非常重要”的IT项目,其中近60%的运营商计划增加对AI工具的投资。

我们可以看到,如今在运营商使用AI、应用AI的场景与价值已经非常广泛。比如面对5G网络复杂的运维管理需求,主流运营商都已经使用AI技术来实现网络的智能分析、实时预测和自动化运维。在智能客服与智能外呼平台中,NLP与多轮对话技术已经成为提升运营商服务触达效率的关键。AI技术也是运营商专网服务等新模式的重要助力,比如在冬奥期间,中国联通就通过AI、云计算区块链技术与5G结合,护航智慧冬奥。与此同时,运营商在AI技术上的投入与建设水准也在不断加强。

在这个大背景下,用好AI技术,以及服务客户用好AI技术都成为了运营商的关键需求。而昇腾底座恰好可以为运营商带来广泛且关键的支撑作用。比如说,浙江移动就依托九天平台+昇腾底座,构建了全栈自主创新的行业AI赋能试验平台,提供面向行业的人工智能基础设施,可实现数据赋能、算法赋能、应用赋能。该平台预置了900+算法和800+预训练模型,可快速定制算法模型,以满足城市多样化的场景应用需求。通过开放标准化接口,模块化方案组合,为城市管理提供多场景的AI服务,全力推进算力成为像水电一样“一点接入,即用即取”的公共服务。

面向未来,我们可以看到更行业、产学研各界都在涌现出大模型的训练与部署需求。进一步来看,大模型属于产业级AI能力与应用的一部分。除了一般意义上的预训练大模型,还有更多重度AI模型、AI能力需要践行跨地域的训练。

与此同时,运营商本身也是大模型与重型AI能力的需求主体。5月16日,浙江移动在电信日发布的 “杭小忆”就是基于紫东。太初,叠加杭州特色景点——南宋御街的场景,进行高效的本地化增量训练,打造而成的文旅数智人。

面向未来,会有越来越多的大模型踏上东数西算之路。不久之前,中国算力网-智算网络正式上线,这是中国算力网络建设迈出的重要一步。接下来,会有包括大模型在内的大量AI任务在算力网络中完成训练与部署。而运营商可以在算力网络的基础上,共同参与建设算力网络统一大市场,实现全程全网的社会级算力服务。这对于运营商来说是一个巨大机遇。运营商既可以成为算力网络建设的主力军,也将从AI带来的网络增量中主要获益。

这些趋势与变化,正在构成运营商的全新赛道。大模型训练带来网络需求增加,配套网络服务更加复杂。这些特点都可以为运营商带来极高的价值增量,并且助力打开东数西算大背景下的连续性市场空间。

大模型的产业纪元面前,运营商手中掌握着大模型产业化的最后一块拼图。运营商关注、发力这一市场,也有助于大模型走向规模化应用与产业级繁荣。

未来,大模型训练者、昇腾AI、运营商与产业需求的“四方联动”,将构成一个高效率、低门槛的产业范式,推动AI黄金时代的到来。

原文标题:以昇腾AI为底座,以大模型为机遇:解析运营商的创新赛道

文章出处:【微信公众号:华为计算】欢迎添加关注!文章转载请注明出处。

审核编辑:彭静
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    41972

    浏览量

    303061
  • 软硬件
    +关注

    关注

    1

    文章

    332

    浏览量

    20232
  • 昇腾
    +关注

    关注

    1

    文章

    189

    浏览量

    7570

原文标题:以昇腾AI为底座,以大模型为机遇:解析运营商的创新赛道

文章出处:【微信号:gh_3a181fa836b6,微信公众号:华为计算】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    摩尔线程首批加入上海人工智能实验室AI全环节软硬件验证平台工作组

    第二届浦江AI学术年会期间,上海人工智能实验室(上海AI实验室)联合多家科研机构、运营商和大模型企业,共同发起AI全环节软硬件验证合作计划,
    的头像 发表于 05-20 09:36 396次阅读

    燧原科技首批加入上海人工智能实验室AI全环节软硬件验证平台工作组

    2026年5月14日,上海人工智能实验室(上海AI实验室)组织召开了AI全环节软硬件验证平台首次推进交流会,并正式成立验证平台工作组。燧原科
    的头像 发表于 05-19 16:24 358次阅读

    加码企业龙虾和AI超节点!华为AI芯片和方案助力国产算力设备落地

    针对三大核心场景,高算力场景、中算力场景和小算力场景,华为推出了AI超节点方案、AI一体机方案和边缘设备端方案。
    的头像 发表于 05-11 11:46 1.5w次阅读
    加码企业龙虾和<b class='flag-5'>AI</b>超节点!华为<b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b>芯片和方案助力国产算力设备落地

    上海AI实验室携手中科曙光启动国产软硬件适配验证合作计划

    在近日举行的第二届浦江AI学术年会上,备受行业瞩目的“国产软硬件适配验证合作计划”正式启动。作为该计划的核心发起方之一,中科曙光受邀出席“AI全环节软硬件验证
    的头像 发表于 04-03 11:17 594次阅读

    【硬核发布】310B算力盒上新赋能2026集创赛华强x赛道玩转新创意!

    -TECHNOLOGICALPROGRESS-310BAIBOX上新全栈全场景AI高能效算力底座Part01基于310BAIBOX算
    的头像 发表于 03-27 17:12 1483次阅读
    【硬核发布】<b class='flag-5'>昇</b><b class='flag-5'>腾</b>310B算力盒上新赋能2026集创赛华强x<b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>赛道</b>玩转新创意!

    联想硬核科技2026 FORMULA 1大奖赛保驾护航

    合作伙伴”及“全球技术合作伙伴”,凭借领先的 AI 终端、AI基础设施与创新服务,联想为F1赛事运营提供全方位的技术支持,全程F1 2026赛季
    的头像 发表于 03-16 17:05 1012次阅读

    华为深度适配智谱AI全新开源模型GLM-5

    ,在真实编程场景的使用体验逼近Claude Opus 4.5,更擅长复杂系统工程与长程Agent任务。一直同步支持智谱GLM系列模型,此次GLM-5模型一经开源发布,
    的头像 发表于 02-25 14:41 1551次阅读
    华为<b class='flag-5'>昇</b><b class='flag-5'>腾</b>深度适配智谱<b class='flag-5'>AI</b>全新开源模型GLM-5

    香橙派系列开发板如何部署OpenClaw

    构想从容落地。 别止步于“能够运行”,去追求“极致高效”。选择香橙派系列,就是选择你的数字员工配备一个更强大的“大脑”。立即行动,用真正的AI算力,重构你对生产力的一切想象。
    发表于 02-25 10:13

    AI+FPGA助力生态新篇章|2025AI技术研讨会·杭州站成功举办

    和杭州人工智能计算中心共同承办。会议聚焦AI技术创新、行业解决方案落地及生态链协同发展三大核心议题。内容涵盖底层
    的头像 发表于 12-24 08:05 931次阅读
    <b class='flag-5'>AI</b>+FPGA助力<b class='flag-5'>昇</b><b class='flag-5'>腾</b>生态新篇章|2025<b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b>技术研讨会·杭州站成功举办

    2025AI技术研讨会·杭州站盛大开启!小眼睛科技诚邀您共同见证AI+FPGA赋能新生态!

    在人工智能浪潮奔涌、产业智能化纵深跃迁的背景下,AI生态正成为推动中国AI产业自主创新的重要力量。小眼睛科技依托
    的头像 发表于 12-11 08:03 930次阅读
    2025<b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b>技术研讨会·杭州站盛大开启!小眼睛科技诚邀您共同见证<b class='flag-5'>AI</b>+FPGA赋能<b class='flag-5'>昇</b><b class='flag-5'>腾</b>新生态!

    AI赋能未来:2025AI技术研讨会·深圳站圆满召开!

    涵盖了边缘计算的底层软硬件技术,边缘AI应用场景和生态链建设等精彩内容,吸引了来自中山大学、深圳大学、深圳技术大学、深圳职业技术大学、华强方特、华强电子产业研究所、云
    的头像 发表于 10-31 11:00 2638次阅读
    <b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b>赋能未来:2025<b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b>技术研讨会·深圳站圆满召开!

    国产AI芯片真能扛住“算力内卷”?海思的这波操作藏了多少细节?

    最近行业都在说“算力是AI的命门”,但国产芯片真的能接住这波需求吗? 前阵子接触到海思910B,实测下来有点超出预期——7nm工艺下算力直接拉到256 TFLOPS,比上一代提升了40%,但功耗
    发表于 10-27 13:12

    智能客服驱动效率和体验升级,上海电信+AI的一次民生应用实践

    上海电信+AI的一次民生应用实践
    的头像 发表于 07-30 23:44 3139次阅读
    智能客服驱动效率和体验升级,上海电信+<b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b>的一次民生应用实践

    迅龙软件参加 AI 开发者创享日・广东站,开发者打造沉浸式实操体验

    AI软硬件平台,与开发者共同点亮人工智能的未来方向。作为APN钻石合作伙伴,迅龙软件受邀出席并发表《基于OrangePiAIStudio
    的头像 发表于 07-23 17:18 1485次阅读
    迅龙软件参加<b class='flag-5'>昇</b><b class='flag-5'>腾</b> <b class='flag-5'>AI</b> 开发者创享日・广东站,<b class='flag-5'>为</b>开发者打造沉浸式实操体验

    华为AI WAN解决方案加速运营商承载网价值变现

    “智启未来:AI WAN加速承载网价值变现”的主题演讲,他表示:“全球运营商加速AI与网络融合迈向AI WAN,华为AI WAN解决方案以
    的头像 发表于 06-23 16:05 1878次阅读