0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

昇腾基于AI基础软硬件平台为运营商AI赛道保驾护航

7riU_gh_3a181fa 来源:华为计算 作者:华为计算 2022-07-21 09:33 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

东数西算正在成为各行业的普遍机遇,对于运营商来说也是如此。

东数西算带来了全新的算力网络建设需求,以及各行业普遍的网络升级需求。在这一大背景下,运营商还需要一系列细分的价值节点来推动业务进步,打开市场空间。换言之,东数西算的路有了,运营商接下来更需要关注路上跑哪些车。

在东数西算的整体架构中,AI预训练大模型的价值值得关注。近年来,大模型可谓是AI领域最受关注的方向。高鲁棒性的模型效果,卓越的数据集表现,以及跨模态等领域的不可替代性,让大模型成为产业界与学界共同关注的对象。一时间,“炼大模型”成为了AI产业的共同需求,为此也衍生出配套产业的全新机遇。

大模型的算力要求非常严苛,并且需要一系列软硬件基础设施的支撑,比如基于昇腾AI的人工智能计算中心。不过,单个的计算中心之间算力供给存在差异,因此在东数西算的背景下,将东部算力需求有序引导到西部,优化数据中心建设布局,促进东西部协同联动,能更好地促进大模型产业发展。

对于运营商来说大模型带来了一系列全新的AI市场空间。

运营商帮助大模型进行跨地域训练,完成算力资源适配,构成了新的服务机会;

而运营商本身运用大模型,也可以提升服务能力与产业效率。

运营商的新赛道

大模型训练带来的市场想象力

OpenAI在2018年发布了一份著名的调查报告,从2012年开始,全球AI算力在六年间增长了30万倍,并且还在持续增长。而当大模型时代正式到来,全球AI算力需求进一步加大。AI算力成为了限制产业智能化发展的主要挑战。

OpenAI打造的GPT-3在多项任务中实现了跨越级的表现,推动全球大模型迎来了爆发式的发展,模型参数呈现了指数级的增长。“大数据+大模型”成为了AI产业最受重视的发展之路。

但在实践过程里,我们却可以发现大模型在训练与部署中存在着诸多挑战。比如部署场景中存在的模型性能不足问题;不同场景下大模型的泛化能力不强;预训练大模型参数多、计算量大,训练成本高企等等。其中,如何低成本、高效率地完成大模型训练,成为了首当其冲需求解决的问题。在这种背景下,将大模型在东数西算背景体系下进行模型训练,正在成为越来越多企业与学术机构的选择:

比如中国科学院自动化研究所在 2021 世界人工智能大会上发布了跨模态通用人工智能平台——“紫东。太初”。其依托面向超大规模的高效分布式训练框架,构建了具有性能优良的中文预训练模型、语音预训练模型和视觉预训练模型,并开拓性地通过跨模态语义关联实现了视觉-文本-语音三模态统一表示,构建了三模态预训练大模型,赋予跨模态通用人工智能平台多种核心能力。从应用层面上看,“紫东。太初”兼具跨模态理解和生成能力,在“以图生音”和“以音生图”等方向上具有广泛的应用空间,可以实现AI为视频配音、AI语音播报、AI海报创作等应用场景。

2022年,千博信息基于昇腾AI和昇思MindSpore AI框架,利用“紫东。太初”三模态大模型,打造了手语教考一体机。开创性地实现手语动作与示意图片和文字的联动。目前,该一体机已在湖南数十个学校陆续上线,一定程度上缓解了手语师资短缺问题,带来了重要的社会价值。

而在“紫东。太初”大模型的训练过程中,就非常能够展现出东数西算背景下,大模型进行“东数西训”的典型逻辑。这一模型由中科院自动化所相关团队主导,基于昇腾AI基础软硬件平台,在武汉人工智能计算中心完成训练。可以说提前替更多大模型尝试了东部数据-中西部算力训练-东部应用的产学研结合方式。

以此为案例,我们可以看到运营商的AI新市场正在快速打开。而能够让运营商服务大模型的新市场打开,产业底座的完善性至关重要。

昇腾底座

为运营商AI赛道保驾护航

大模型走上“东数西训”之路,有几个必要的产业条件:算法、数据、算力、训练所需的软硬件基础设施、算力网络。

大模型的训练算法

从目前阶段来看,大模型的训练算法已经日益完善,国际与国内的大模型训练基础门槛不断降低。

数据

接下来是数据,东部地区的企业、高校、科研机构积累了丰富的数据,可以有效投入到大模型的训练当中。这也是中国在大模型之路上虽然后起,却能够奋起直追的原因。

算力

接下来是算力,随着各地人工智能计算中心的拔地而起,以集群化、集中化的AI算力来完成大模型训练,已经成为了可能。昇腾AI提供的AI算力体系,既可以作为人工智能计算中心的建设基础,也可以通过多种方式赋能产学研各界,带来充沛、完整的AI算力供给。

软硬件配套设施

而在软硬件配套设施层面,昇腾AI基础软硬件平台,包括Atlas系列硬件和伙伴硬件、异构计算架构CANN、全场景AI框架昇思MindSpore、昇腾应用使能MindX、全流程开发工具链MindStudio 和一站式AI开发平台ModelArts等。可以从训练到部署全方位使能大模型落地。为了能够满足越来越多企业与学术机构的大模型训练需求,昇腾AI已经打造了大模型的全流程使能体系。该体系包含从大模型规划、大模型开发到大模型产业化的全流程,可以实现端到端加速大模型产业落地。

人工智能底座

为支持大模型与其他AI技术落地,昇腾AI坚持“硬件开放、软件开源、使能伙伴、发展人才”的原则,深耕AI根技术,为产业提供极简易用,极致性能的人工智能底座。

极简易用方面,为原生开发者提供了便捷的开发平台、使能平台,支持了大量的算子模型以及沉淀的行业模型和开发套件,大幅降低应用开发成本;同时开发者、软件企业、生态伙伴可以将已有业务便捷的迁移到昇腾AI生态上来。

昇腾AI也具有极致的性能,在以昇腾AI基础软硬件平台建设的鹏城云脑II的性能业界领先,在AIPerf、IO500等国际大型测试基准中获得了全球第一的成绩。

生态体系

大模型与AI产业的有效落地,不仅需要技术体系的支撑,同时需要生态体系的支持。华为一直致力于构筑昇腾AI产业,打造AI技术生态与商业生态,实现双轮驱动,共同建设共生共赢共享的智能世界。与高校、科研机构、伙伴广泛合作,推进AI的技术创新,使AI成为科研创新的倍增器,共建AI技术生态。与商业伙伴和客户一起,赋能产业应用,加快产业升级,共建AI商业生态。与此同时,华为还联合业界领先的算法厂家、行业应用伙伴和系统集成伙伴,深入探索大模型等人工智能领先成果,共同打造各个行业智能化解决方案,使能人工智能落地千行百业。

我们可以看到,在大模型的需求与基础技术崛起后,以昇腾AI为代表的规模化、产业化AI基座已经走向完善。大模型不但是能训,更加走上了简单、高效、低门槛可训的新周期。

算力网络

大模型的最后一个关键需求就是网络与网络配套服务,而这可以成为运营商的重大机遇。可以说,昇腾为运营商的AI赛道起到了保驾护航的价值。

以AI拓展未来

运营商创新正当时

AI技术在运营商业务版图中的重要性正在不断上升。早在2020年,Omdia的ICT-Enterprise Insights就公布了一项调查数据,有近80%的全新运营商认为使用AI技术是一项“重要”或“非常重要”的IT项目,其中近60%的运营商计划增加对AI工具的投资。

我们可以看到,如今在运营商使用AI、应用AI的场景与价值已经非常广泛。比如面对5G网络复杂的运维管理需求,主流运营商都已经使用AI技术来实现网络的智能分析、实时预测和自动化运维。在智能客服与智能外呼平台中,NLP与多轮对话技术已经成为提升运营商服务触达效率的关键。AI技术也是运营商专网服务等新模式的重要助力,比如在冬奥期间,中国联通就通过AI、云计算区块链技术与5G结合,护航智慧冬奥。与此同时,运营商在AI技术上的投入与建设水准也在不断加强。

在这个大背景下,用好AI技术,以及服务客户用好AI技术都成为了运营商的关键需求。而昇腾底座恰好可以为运营商带来广泛且关键的支撑作用。比如说,浙江移动就依托九天平台+昇腾底座,构建了全栈自主创新的行业AI赋能试验平台,提供面向行业的人工智能基础设施,可实现数据赋能、算法赋能、应用赋能。该平台预置了900+算法和800+预训练模型,可快速定制算法模型,以满足城市多样化的场景应用需求。通过开放标准化接口,模块化方案组合,为城市管理提供多场景的AI服务,全力推进算力成为像水电一样“一点接入,即用即取”的公共服务。

面向未来,我们可以看到更行业、产学研各界都在涌现出大模型的训练与部署需求。进一步来看,大模型属于产业级AI能力与应用的一部分。除了一般意义上的预训练大模型,还有更多重度AI模型、AI能力需要践行跨地域的训练。

与此同时,运营商本身也是大模型与重型AI能力的需求主体。5月16日,浙江移动在电信日发布的 “杭小忆”就是基于紫东。太初,叠加杭州特色景点——南宋御街的场景,进行高效的本地化增量训练,打造而成的文旅数智人。

面向未来,会有越来越多的大模型踏上东数西算之路。不久之前,中国算力网-智算网络正式上线,这是中国算力网络建设迈出的重要一步。接下来,会有包括大模型在内的大量AI任务在算力网络中完成训练与部署。而运营商可以在算力网络的基础上,共同参与建设算力网络统一大市场,实现全程全网的社会级算力服务。这对于运营商来说是一个巨大机遇。运营商既可以成为算力网络建设的主力军,也将从AI带来的网络增量中主要获益。

这些趋势与变化,正在构成运营商的全新赛道。大模型训练带来网络需求增加,配套网络服务更加复杂。这些特点都可以为运营商带来极高的价值增量,并且助力打开东数西算大背景下的连续性市场空间。

大模型的产业纪元面前,运营商手中掌握着大模型产业化的最后一块拼图。运营商关注、发力这一市场,也有助于大模型走向规模化应用与产业级繁荣。

未来,大模型训练者、昇腾AI、运营商与产业需求的“四方联动”,将构成一个高效率、低门槛的产业范式,推动AI黄金时代的到来。

原文标题:以昇腾AI为底座,以大模型为机遇:解析运营商的创新赛道

文章出处:【微信公众号:华为计算】欢迎添加关注!文章转载请注明出处。

审核编辑:彭静
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    89

    文章

    38091

    浏览量

    296602
  • 软硬件
    +关注

    关注

    1

    文章

    318

    浏览量

    20077
  • 昇腾
    +关注

    关注

    1

    文章

    175

    浏览量

    7295

原文标题:以昇腾AI为底座,以大模型为机遇:解析运营商的创新赛道

文章出处:【微信号:gh_3a181fa836b6,微信公众号:华为计算】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    AI赋能未来:2025AI技术研讨会·深圳站圆满召开!

    涵盖了边缘计算的底层软硬件技术,边缘AI应用场景和生态链建设等精彩内容,吸引了来自中山大学、深圳大学、深圳技术大学、深圳职业技术大学、华强方特、华强电子产业研究所、云
    的头像 发表于 10-31 11:00 1110次阅读
    <b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b>赋能未来:2025<b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b>技术研讨会·深圳站圆满召开!

    国产AI芯片真能扛住“算力内卷”?海思的这波操作藏了多少细节?

    最近行业都在说“算力是AI的命门”,但国产芯片真的能接住这波需求吗? 前阵子接触到海思910B,实测下来有点超出预期——7nm工艺下算力直接拉到256 TFLOPS,比上一代提升了40%,但功耗
    发表于 10-27 13:12

    智能客服驱动效率和体验升级,上海电信+AI的一次民生应用实践

    上海电信+AI的一次民生应用实践
    的头像 发表于 07-30 23:44 2705次阅读
    智能客服驱动效率和体验升级,上海电信+<b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b>的一次民生应用实践

    迅龙软件参加 AI 开发者创享日・广东站,开发者打造沉浸式实操体验

    AI软硬件平台,与开发者共同点亮人工智能的未来方向。作为APN钻石合作伙伴,迅龙软件受邀出席并发表《基于OrangePiAIStudio
    的头像 发表于 07-23 17:18 1102次阅读
    迅龙软件参加<b class='flag-5'>昇</b><b class='flag-5'>腾</b> <b class='flag-5'>AI</b> 开发者创享日・广东站,<b class='flag-5'>为</b>开发者打造沉浸式实操体验

    华为AI WAN解决方案加速运营商承载网价值变现

    “智启未来:AI WAN加速承载网价值变现”的主题演讲,他表示:“全球运营商加速AI与网络融合迈向AI WAN,华为AI WAN解决方案以
    的头像 发表于 06-23 16:05 1166次阅读

    中软国际推出金融AI解决方案和一体机v1.0

    近日,中软国际重磅推出金融AI解决方案和一体机v1.0,该方案基于AI基础
    的头像 发表于 03-28 17:05 1002次阅读

    创思远达与合作推动AI PC应用创新

    近日,端侧智能领域创新者创思远达携手,基于算力平台正式发布一系列AIPC应用。双方深度融合了
    的头像 发表于 03-25 10:22 1062次阅读

    软通动力携手吉布森生物科技推出智能医疗诊断平台

    华为中国合作伙伴大会2025期间,软通动力联合吉布森生物科技有限公司正式发布“智能医疗诊断平台”,该平台基于
    的头像 发表于 03-24 15:47 789次阅读

    华为依托AI打造蛋白结构预测工具

    蛋白质结构预测一直是“21世纪的生物物理学”最重要的课题之一,北京昌平实验室联合伙伴基于全场景AI框架“思MINDSPORE”开发的蛋白质结构预测模型在CAMEO竞赛拿下第一并霸榜四周,填补了中国AI基础
    的头像 发表于 03-03 13:52 850次阅读

    充电桩“耐力大考验”:老化负载研究,持久续航保驾护航

    虚拟仿真技术,模拟各种复杂环境下的老化过程,缩短测试周期,降低测试成本。 充电桩老化负载研究,是保障充电桩安全可靠运行的重要环节,也是推动充电桩行业健康发展的重要力量。让我们共同期待,更智能、更可靠的充电桩,绿色出行保驾护航! 关注我们,了解更多充电桩相关知识!
    发表于 02-28 14:42

    一文速览 30KPA48A:快速响应,电路安全保驾护航

    一文速览 30KPA48A:快速响应,电路安全保驾护航
    的头像 发表于 02-22 10:15 876次阅读
    一文速览 30KPA48A:快速响应,<b class='flag-5'>为</b>电路安全<b class='flag-5'>保驾护航</b>

    安科瑞蓄电池在线监控系统铁塔基站的稳定运行保驾护航

    简婷 安科瑞电气股份有限公司 上海嘉定 201801  安科瑞蓄电池在线监控系统铁塔基站的稳定运行保驾护航 技术支持18701998775     国家大力实施网络强国战略,移动通信行业的持续
    的头像 发表于 02-20 16:54 632次阅读
    安科瑞蓄电池在线监控系统<b class='flag-5'>为</b>铁塔基站的稳定运行<b class='flag-5'>保驾护航</b>

    玄武智算云平台智能计算保驾护航

    玄武智算云平台是基于原生打造的智算平台,它支持全系列
    的头像 发表于 02-18 10:06 1405次阅读
    玄武智算云<b class='flag-5'>平台</b><b class='flag-5'>为</b>智能计算<b class='flag-5'>保驾护航</b>

    AI创新大赛2024总决赛圆满落幕

    12月19日,AI创新大赛2024全国总决赛在福建厦门成功举办。本届赛事历时8个月,吸引了全国25个赛区的开发者踊跃报名参赛。经过层层遴选,来自企业赛道和高校
    的头像 发表于 12-24 17:08 1408次阅读
    <b class='flag-5'>昇</b><b class='flag-5'>腾</b><b class='flag-5'>AI</b>创新大赛2024总决赛圆满落幕

    云天励飞携手华为打造智算中心解决方案

    当前,人工智能技术正在加速向各行业深度渗透,成为驱动产业转型和社会进步的重要引擎。构建开放协作的AI生态体系、推动技术和应用深度融合,已成为行业发展的重要趋势。 云天励飞基于AI
    的头像 发表于 12-12 16:05 2651次阅读