0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

与行业客户共创,软通动力大模型生态开辟新路径

软通动力 来源:未知 2023-08-31 12:25 次阅读

“大模型的未来在于行业应用”,对此业界已经达成了共识,下一步则是如何将大模型在行业中落地。

于是,我们能够看到,既前一阶段的基础大模型之后,近来又掀起了行业大模型的热潮。据粗略统计,仅在国内,已经和计划发布的大模型就达到上百个。

那么,对于有志于大模型业务的IT企业来说,是不是只有这两条路可走,是否存在第三条可达路径呢?

软通动力给出的答案是:不做通用大模型,而是为行业客户提供平台工具、专业人才和技术服务,与他们共创定制化的私有大模型,以此推动大模型行业应用的快速落地。

行业头部企业将扮演重要角色

在第一波热潮中,大模型的发布者主要是ICT企业,尤其以互联网公司为主导。最近一段时间,各个行业的头部企业也开始参与其中。

IDC前不久发布的报告预测,金融行业、能源行业等头部机构,会率先在1年内在相对成熟的场景中尝试引入大模型。而且,随着技术的普及,行业头部企业在该市场的角色,也不再只是最终用户,而有望成为新一代AI技术的提供商。

无论作为最终用户还是技术提供商,头部企业参与行业大模型的趋势已经建立,因为他们已经看到大模型能够为企业降本增效,建立起业务竞争优势。这些行业头部企业,正是软通动力所长期服务的客户,也在大模型领域走在前列。

软通动力数字化创新服务线副总裁霍宇认为,要做好行业大模型,企业需要在两个方面加大投入,一是算力,二是语料。对于算力的重要性,大家已经都认识到了,其实语料对于行业大模型的训练更为重要。

他表示,相比国外,国内的语料多集中在企业内部,可以公开获得的则比较少。因此,他建议,行业客户应该先“补数据的课”,把更多预算投入到提升大模型的输入质量上,这样不仅不耽误时间,反而可以节省成本。

当然,在这一过程中,如何治理数据、如何把数据语料化、如何更好地训练模型,都将是对企业能力的考验。软通动力正致力于帮助企业提升这些方面的能力,从而利用大模型来升级数智化转型战略,在外部产业链和内部企业管理两个领域实现全面数字化。

坚持走与客户共创的路径

在过去半年时间里,ICT企业都纷纷加入到大模型产业当中,发挥自身专长来获取一席之地。目前,围绕大模型的产业生态正逐步形成,虽然这一生态体系仍不稳定,处于快速发展演化的过程中。

霍宇认为,软通动力不做通用基础大模型,因为这需要巨额投入,是行业头部企业才能做的;也不会做通用行业大模型,因为软通动力虽然懂行业,但缺乏相应的数据资源。因此,在行业大模型赛道里,软通动力坚持走与客户共创的路径,为行业客户提供数学建模、规则设定、模型优化等服务,帮助他们定制自己的私有大模型。这也可以充分发挥软通动力的优势:定制开发能力强、技术服务能力强。

在这一路径中,软通动力也坚持生态合作,在底层基础设施和基础大模型方面,与微软、华为、亚马逊、阿里云等巨头合作——他们原本就是软通动力的长期战略伙伴。

在行业选择方面,霍宇介绍说,金融、零售两个行业是当前的重点。选择这两个行业,是因为他们的客户是个人消费者,数据量比较充足,同时也是软通动力长期服务的行业,对其业务逻辑非常熟悉。

在大模型的规模方面,软通动力则侧重在六七十亿到一百多亿参数量的行业大模型,因为这个规模的大模型最具性价比。

对于大模型这个新鲜事物,很多行业头部企业都表达出了强烈的兴趣,但需求并不明确,目前仍处于尝试阶段。对此,软通动力决定自己先探路,今年在基础算力方面预计会投入近亿元,同时,搭建服务工具平台,让工程师们去“练手”。“未来还会继续加大投入力度。”霍宇表示。

目前,行业大模型相对成熟的应用场景是软件开发和知识管理,其中软件开发是公司的主要业务。软通动力正在利用大模型,来优化软件工程研发及测试效率,争取在年内实现提效30%的目标。在知识管理方面,软通动力则开发了律师行业助手类应用LawCopilot,帮助律师进行文献检索、案例分析、录音分析和法律咨询。

不过,霍宇强调说,目前to B大模型的行业应用都处于Copilot的阶段,即辅助人工进行驾驶,而达不到脱离人工的完全自动驾驶

围绕工具和人才进行能力打造

与传统ICT生态类似,在大模型生态系统中,技术服务商扮演着为客户提供贴身服务的关键角色。

IDC也认为,提供各种工具和服务,是大模型技术厂商的集中发力方向,包括模型训练、部署和推理,以及相关的数据集、API和工具软件等,以帮助开发者更加高效地使用大型模型,从而快速实现各种应用场景的落地。

软通动力前不久发布了自己的模型即服务平台——软通天璇2.0 MaaS平台。这一平台包括三层,底层的大模型技术底座(L0级)、中间层的行业大模型(L1级)及管理、顶层的场景大模型应用(L2级);除此之外,软通动力还为客户提供大模型一站式运营服务、数据治理及安全服务

wKgZomTwF0-AWRdIAAKylimGLpg503.png

在天璇2.0中,软通动力训推一体化平台发挥了核心作用。其基于昇腾硬件底座+昇思MindSporeAI框架,采用软通G420K训练平台和G210K推理平台,整合欧拉操作系统等组件,搭载软通自有AI中台,为客户提供多种交互式AI模型,深度适配不同AI应用场景,支持多模态场景,提供了涵盖大模型训练、测评、部署的一整套端到端的安全可信体系。

霍宇介绍说,软通动力训推一体化平台,同时提供对商用和开源大模型的支持,客户既可以直接接入商用大模型,也可以基于开源大模型进行本地化部署。实际上,大模型的开源化趋势已经非常明显,正在成为大模型生态的主流。

除了工具平台,软通动力也加紧致力于AI专业人才的培养,这也成为其在大模型生态中的核心竞争优势之一。

毫无疑问,大模型的流行将带来人才结构的变革,未来会需要大量的AI训练师、机器学习工程师、数据科学家等新型人才。在霍宇看来,未来的AI人才,不仅需要懂AI,也需要懂架构。基于过去的业务积累,软通动力已经储备了一大批相关人才,目前正在加紧培训及在内部的算力平台上实践,帮助他们实现从编码逻辑到提示词逻辑的转换。

这些专业人才,将会帮助软通动力的行业客户构建自己的大模型,并最大程度地发挥大模型的作用,将其付诸落地实践。

当下,基础大模型的热潮正在逐渐消退,但定制化大模型和大模型应用才刚刚开始。随着应用的普及,大模型将带来新的服务范式和商业模式。霍宇也认为,未来SaaS会被基于大模型的SaaS所取代。整个软件领域甚至ICT行业生态的变革正在路上。


原文标题:与行业客户共创,软通动力大模型生态开辟新路径

文章出处:【微信公众号:软通动力】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 软通动力
    +关注

    关注

    1

    文章

    596

    浏览量

    14934

原文标题:与行业客户共创,软通动力大模型生态开辟新路径

文章出处:【微信号:isoftstone-group,微信公众号:软通动力】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    湖南机场集团与YOGO ROBOT共同探索智慧民航建设的新路径

    在数智时代的浪潮下,湖南机场集团与YOGO ROBOT强强联手,共同探索智慧民航建设的新路径
    的头像 发表于 04-26 09:58 214次阅读
    湖南机场集团与YOGO ROBOT共同探索智慧民航建设的<b class='flag-5'>新路径</b>

    行业路径,为商业筑壁垒,解码容联云的大模型“方法论”

    行业路径,为商业筑壁垒,解码容联云的大模型“方法论”
    的头像 发表于 12-21 21:56 978次阅读
    为<b class='flag-5'>行业</b>找<b class='flag-5'>路径</b>,为商业筑壁垒,解码容联云的大<b class='flag-5'>模型</b>“方法论”

    软通动力携手华为云ROMA Connect成立行业生态联盟,共创企业应用新未来

    平台和行业软件合作新生态,为客户数字化转型提供更专业的联合解决方案。作为本届大会唯一最高级别(钻石级)赞助合作伙伴与华为云“同舟共济”战略合作伙伴,软通动力受邀出席成立仪式,成为首批加
    的头像 发表于 09-27 23:55 446次阅读

    加速IoT通信方案落地共创行业生态

    内容包含:广和通无线通信模组、广和通&ST通信解决方案和生态合作三个部分。
    发表于 09-05 08:08

    中科曙光与百度飞桨共同发起飞桨+文心大模型硬件生态共创计划

    近日,WAVE SUMMIT 2023深度学习开发者大会在北京举行。会上,中科曙光与百度飞桨宣布共同发起飞桨+文心大模型硬件生态共创计划。双方将共同在中科曙光硬件上实现飞桨+文心大模型
    的头像 发表于 08-22 09:47 1291次阅读

    天数智芯与百度联合发起飞桨+文心大模型硬件生态共创计划

    生态共创计划,天数智芯作为重要合作伙伴参与此次发布仪式。 飞桨+ 文心大模型硬件生态共创计划发布仪式 天数智芯是国内首家实现通用GPU量产的
    的头像 发表于 08-17 22:15 930次阅读
    天数智芯与百度联合发起飞桨+文心大<b class='flag-5'>模型</b>硬件<b class='flag-5'>生态</b><b class='flag-5'>共创</b>计划

    壁仞科技与百度联合发起飞桨+文心大模型硬件生态共创计划

    8月16日, 壁仞科技在Wave Summit 2023深度学习开发者大会上正式宣布与百度联合发起飞桨+文心大模型硬件生态共创计划 。双方将共同推进在壁仞科技壁砺系列通用GPU产品
    发表于 08-17 10:52 256次阅读
    壁仞科技与百度联合发起飞桨+文心大<b class='flag-5'>模型</b>硬件<b class='flag-5'>生态</b><b class='flag-5'>共创</b>计划

    MediaTek 联合百度发起飞桨和文心大模型硬件生态共创计划,以 AI 大模型赋能终端设备

    MediaTek 正式宣布与百度联合发起飞桨和文心大模型硬件生态共创计划,双方将共同推进 MediaTek 硬件平台与飞桨和文心大模型的适配。目前双方正在合作优化文心大
    的头像 发表于 08-16 17:40 359次阅读
    MediaTek 联合百度发起飞桨和文心大<b class='flag-5'>模型</b>硬件<b class='flag-5'>生态</b><b class='flag-5'>共创</b>计划,以 AI 大<b class='flag-5'>模型</b>赋能终端设备

    软通动力与华秋达成生态共创合作,共同推动物联网硬件创新

    7月11日,在2023慕尼黑上海电子展现场,软通动力信息技术(集团)股份有限公司(以下简称“软通动力”)与深圳华秋电子有限公司(以下简称“华秋”)签署了生态共创战略合作协议,共同推动物
    的头像 发表于 07-31 22:33 347次阅读
    软通<b class='flag-5'>动力</b>与华秋达成<b class='flag-5'>生态</b><b class='flag-5'>共创</b>合作,共同推动物联网硬件创新

    润开鸿与华秋电子签约生态共创合作

    7月11日,在2023慕尼黑上海电子展现场,江苏润开鸿数字科技有限公司(以下简称“润开鸿”)与华秋电子有限公司(以下简称“华秋")签署了生态共创战略合作协议,共同推动物联网硬件生态繁荣发展
    的头像 发表于 07-31 22:11 449次阅读
    润开鸿与华秋电子签约<b class='flag-5'>生态</b><b class='flag-5'>共创</b>合作

    软通动力与华秋达成生态共创合作,共同推动物联网硬件创新

    7月11日,在2023慕尼黑上海电子展现场,软通动力信息技术(集团)股份有限公司(以下简称“软通动力”)与深圳华秋电子有限公司(以下简称“华秋”)签署了生态共创战略合作协议,共同推动物
    的头像 发表于 07-18 11:06 330次阅读
    软通<b class='flag-5'>动力</b>与华秋达成<b class='flag-5'>生态</b><b class='flag-5'>共创</b>合作,共同推动物联网硬件创新

    生态伙伴 | 软通动力与华秋达成生态共创合作,共同推动物联网硬件创新

    7月11日,在2023慕尼黑上海电子展现场,软通动力信息技术(集团)股份有限公司(以下简称“软通动力”)与深圳华秋电子有限公司(以下简称“华秋”)签署了生态共创战略合作协议,共同推动物
    的头像 发表于 07-17 19:35 327次阅读
    <b class='flag-5'>生态</b>伙伴 | 软通<b class='flag-5'>动力</b>与华秋达成<b class='flag-5'>生态</b><b class='flag-5'>共创</b>合作,共同推动物联网硬件创新

    HDC.Cloud 2023 | 软通动力携手华为云盘古大模型 释放保险行业大“模”力

    模型开发伙伴生态,携手华为云盘古大模型,共同打造了保险行业模型,以联合创新的方式为保险行业
    的头像 发表于 07-10 18:55 477次阅读
    HDC.Cloud 2023 | 软通<b class='flag-5'>动力</b>携手华为云盘古大<b class='flag-5'>模型</b> 释放保险<b class='flag-5'>行业</b>大“模”力

    华为云盘古大模型3.0发布,一个完全面向行业的大模型

    三层架构,L0层包括自然语言、视觉、多模态、预测、科学计算五个基础大模型;L1层是N个行业模型;L2层为客户提供了更多细化场景的模型,更加
    的头像 发表于 07-07 16:30 1407次阅读

    软通动力成为文心千帆大模型平台生态伙伴

    在2023百度智能云合作伙伴大会·广州站,28家合作伙伴与百度智能云签约。软通动力签约文心千帆大模型平台生态伙伴,软通动力副总裁王峰出席并参与签约仪式。软通
    的头像 发表于 05-22 17:50 453次阅读