0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

亚马逊云科技携手西门子运用生成式AI之力,打破数据孤岛

电子产品技术与应用 来源:科技新思路 作者:科技新思路 2023-09-20 15:15 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

2023年,以基于GPT模型对话应用为代表的生成式AI浪潮席卷全球,引起企业广泛关注。自此,由生成式AI引导的企业变革序幕全面展开,企业向数智化转型迈出了坚实的一步。

西门子股份公司(以下简称“西门子”)是一家专注于工业、基础设施、交通和医疗领域的科技公司。从更高效节能的工厂、更具韧性的供应链、更智能的楼宇和电网,到更清洁、更舒适的交通以及先进的医疗系统,西门子致力于让科技有为,为客户创造价值。

出于企业战略考虑,在结合业务具体需求的前提下,西门子中国与亚马逊云科技合作开发了基于生成式人工智能技术的智能会话机器人“小禹”,在生成式AI领域迈出了可喜的一步。目前,西门子中国使用的亚马逊云科技服务包括:Amazon EKS、Amazon RDS、Amazon Lambda、Amazon S3、Amazon OpenSearch Service、Amazon ElastiCache、Amazon SageMaker等。

机会:运用生成式AI之力

打破数据孤岛,重塑数据价值

作为一家拥有全球视野、独具未来前瞻思考的公司,西门子中国认为科技创新是企业韧性成长、保持领先的关键。因此,如何运用新兴科技更好地发掘数据价值,是西门子中国持续发力的方向。西门子中国大禹团队应用大数据技术、机器学习、云技术、低代码来组建数据分析系统,专注于创新领域,借助AI能力更好地发挥数据的价值。

在构建知识库的过程中,大禹团队通过调研认识到,长期以来企业内部资源的检索和调用都存在结构散乱、检索速度慢、交互不便等问题。由于横跨多个不同领域、涉及多个不同业务单元,如若以传统方式打造知识库,这些问题将一直是横亘在部门间的长久之痛。因此,大禹团队决定将大数据库和生成式AI应用于一个全新的“智能知识库”,从根本上提升知识库的可用性。

长期以来亚马逊云科技一直是西门子中国的重要合作伙伴,双方在多个项目上有着紧密合作,因此,西门子大禹团队决定再度与亚马逊云科技携手,在亚马逊云的技术支持下,开发这款为西门子中国量身打造的以人工智能生成的方式进行交互的智能聊天机器人。

解决方案:高完成度解决方案指南,

生成式对话机器人小禹敏捷落地

由于公司体量庞大,智能数据库的构建需面向多个不同业务部门,势必涉及大量的业务数据和文本数据。因此,智能知识库的存储架构,成为亚马逊云科技设计智能知识库时的首要考虑。

亚马逊云科技认为,智能知识库的架构设计,实质上是大语言模型(LLM,Large Language Model)在知识检索领域如何得到充分利用的问题。以往要让LLM在特定领域发挥作用,通常依靠的方法是提示工程(Prompt Engineering),通过不断完善提问关键字,获得对大语言模型的深入理解。但提示工程在知识库这种相对具体的应用场合,效果不甚理想,对模型进行微调(Fine-tune)又可能导致成本过高。为此,亚马逊云科技决定采取检索增强生成(RAG,Retrieval Augment Generation)方式增强模型,使之具有来自存档知识源的增强上下文的模型架构。

通过深思熟虑,最终亚马逊云科技为大禹团队提供的,是一个智能知识库暨智能会话机器人的解决方案指南,其中包括预训练大语言模型,Amazon OpenSearch Service的向量数据服务,以及相关系统集成等。该解决方案指南具备自然语言处理能力、知识库检索能力、甚至是以数据去训练大语言模型的能力,这些核心关键能力让解决方案指南能实现目标知识库约80%功能,西门子中国根据企业内部需求再做20%定制化开发,最终形成完整的解决方案。

整个解决方案指南中,最大的亮点在于“RAG架构+向量数据库”设计:核心主体知识库以向量方式构建,能够存储超大规模的向量数据。通过对数据进行向量嵌入处理,跨部门、跨业务、跨场景的数据之间也能够进行关系考量。而Amazon OpenSearch Service的k近邻(kNN)插件为它提供了核心向量数据库功能,现在向量嵌入可以与单个混合请求中基于文本的关键字组合,查询时在几毫秒内就可获得数十亿向量的上下文相关响应。

另一方面,RAG架构极大地拓展了大模型的可用性。普通情况下当知识库新增内容时,相应的大模型必须进行微调,甚至是重新训练。而RAG允许对新增部分使用相同的模型处理,无需调整模型。这就相当于知识库在不影响访问速度的前提下,拥有了近乎无限的可扩展性。由向量数据库保障的杰出性能,再加上RAG架构提供的无限潜力,这就是智能会话机器人“小禹”能够在用户以简单语言进行提问的前提下,快速反馈生成式回答的秘密。

并且,由于亚马逊云科技提供了包括向量数据库、生成式AI在内的一系列核心技术,整个解决方案指南完成度高达80%,而Amazon OpenSearch Service的无服务器特性,让开发人员不需要管理集群或担心生产规模,可以快速推动部署。

Amazon SageMaker也为架构的伸缩性以及大语言模型持续迭代提供了很大帮助。借助SageMaker Endpoint的弹性伸缩能力,系统可以自动按照负载调整用于实时推理的资源,保证访问需求的同时提升整体性价比。Amazon SageMaker上提供了丰富的模型开发和训练工具,保证客户可以在云端轻松实现大语言模型的调优以及测试更多不同类型的开源模型。

最终大禹团队完成后续开发和整套系统的部署时间大大缩短,整体开发与部署仅用三个月就圆满完成。

wKgaomUKnBWAUcsKAAGB8DY1A5Y448.png

大模型对于很多企业用户而言都是新生事物,从接受、熟悉到使用大模型,往往是一个漫长的过程。亚马逊云科技不仅为企业客户提供充裕的多样化算力、以及包括向量数据服务在内的数据基础设施来满足和支撑大模型,更提供解决方案指南并与企业用户共同进行后续开发。这让客户无需再花费时间在重复性的基础建设上,从而能够在非常短的时间内把垂直的、定制化的企业解决方案落地并投入应用。这在人工智能高速发展,日新月异的今天,有重要的意义。

业务成果:首周超过4000用户使用,12000个问题被解答

相对于传统机器人,“小禹”智能会话机器人的回答内容不仅生成速度更快,其对搜索关键词的命中率也更高,整体使用体验远超传统机器人。

西门子中国专属智能知识库上线后,首周就有超过4000位内部用户参与使用,超过12000个问题被提出并解答。作为智能知识库,它不但解决了各业务部门之间需求相似、重复开发的问题,更以云上弹性资源和托管的Amazon OpenSearch Service、Amazon SageMaker等服务节约了系统在运维和扩展方面的投入成本。后续西门子大禹团队仍将不断完善智能知识库与“小禹”智能会话机器人,与亚马逊云科技团队以“联合创新”模式合作,共同探讨产品所需要的功能和实现方法,打造更优秀的产品功能与体验。

未来,西门子中国将与亚马逊云科技在人工智能领域展开更为深度的合作,在数字孪生、工业元宇宙等多个方面进一步发挥人工智能的作用。此前亚马逊云科技的一些产品和功能已被运用到西门子中国成都灯塔工厂,用于废料分拣、产品自检等关键的生产制造环节。可以想像在将来,人工智能技术一定能够以多种多样的方式,发挥更大价值。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    42158

    浏览量

    303136
  • 亚马逊
    +关注

    关注

    8

    文章

    2746

    浏览量

    85952
  • 大模型
    +关注

    关注

    2

    文章

    3877

    浏览量

    5300
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    西门子硬件辅助验证解决方案助力Arm打造可扩展AI基础设施

    西门子与 Arm 合作,为 Arm AGI CPU 提供验证支持,并验证其在下一代代理式 AI 工作负载下的性能,助力打造可扩展、可投入生产的基础设施。
    的头像 发表于 05-25 09:22 673次阅读

    西门子携手Xometry:原生AI重塑供应链智能,打通设计到采购全链路

    近日,西门子正式宣布与全球原生AI制造平台Xometry达成战略合作。双方将围绕供应链智能展开深度协同,西门子计划将自身在可制造性分析、智能定价、采购优化及生命周期管理等领域积累的专有智能,直接嵌入
    的头像 发表于 05-13 09:15 1339次阅读

    西门子与 Xometry 达成战略合作

    近日,工业软件巨头西门子正式宣布与全球AI驱动制造平台Xometry达成战略合作,同时以约5000万美元购入Xometry少数股权。这不仅是西门子AI制造领域最大的一笔投资,更标志着
    的头像 发表于 05-09 09:43 1528次阅读

    通过西门子平台API获取搜索列表数据的技术实践

    ​  西门子平台为开发者提供了丰富的API接口,方便集成其服务与数据。其中,搜索列表数据的API是获取特定信息集合的重要途径。本文将介绍如何调用该API,并解析返回结果。 1. API端点与认证
    的头像 发表于 02-24 16:10 523次阅读
    通过<b class='flag-5'>西门子</b>平台API获取搜索列表<b class='flag-5'>数据</b>的技术实践

    西门子宣布收购Canopus AI

    西门子宣布收购 Canopus AI。Canopus AI 是一家计算和人工智能(AI)驱动的量测解决方案创新企业,致力于帮助半导体制造商在晶圆和掩膜检测流程中实现更高精度和效率。此次
    的头像 发表于 02-09 10:14 550次阅读
    <b class='flag-5'>西门子</b>宣布收购Canopus <b class='flag-5'>AI</b>

    ​​​​​​​通过西门子平台 API 接口高效获取 XMZ 详情数据

    数据集合)详情数据是许多应用场景(如状态监控、数据分析、报表生成)所需的关键信息。本文将介绍如何调用西门子平台提供的 RESTful API
    的头像 发表于 01-27 11:25 372次阅读
    ​​​​​​​通过<b class='flag-5'>西门子</b>平台 API 接口高效获取 XMZ 详情<b class='flag-5'>数据</b>

    西门子字库文件使用手册

    西门子字库文件使用手册
    发表于 12-23 09:54 2次下载

    西门子EDA与Arm携手合作加速系统设计验证进程与软件启动

    对芯片设计而言,加速产品的上市流程至关重要。为此,西门子EDA与Arm携手合作,为Arm的合作伙伴提供了一系列基于Arm Neoverse CSS与Arm Zena CSS平台的验证加速方案。期望通过西门子的工具帮助Arm的合作
    的头像 发表于 12-19 09:06 992次阅读
    <b class='flag-5'>西门子</b>EDA与Arm<b class='flag-5'>携手</b>合作加速系统设计验证进程与软件启动

    西门子携手上海汽车芯片工程中心构建汽车系统数字孪生模型

    西门子日前宣布,汽车芯片与系统设计服务的领军者——上海汽车芯片工程中心(SAICEC)基于西门子 PAVE360 软件,助其构建复杂的汽车架构数字孪生,推动汽车零部件实现从系统级到芯片级的全面验证。
    的头像 发表于 11-21 16:11 1912次阅读

    西门子推出Tessent IJTAG Pro

    硬件读写访问的能力。这款全新软件引入了高带宽的内部 JTAG(IJTAG)与通用数据流功能,依托西门子 Tessent 流扫描网络(SSN)软件的宽总线架构提升数据传输效率,进而帮助客户降低测试成本、缩短测试周期。
    的头像 发表于 11-03 09:23 849次阅读

    2025西门子EDA技术峰会圆满落幕

    近日,西门子 EDA 年度技术峰会“2025 Siemens EDA Forum”在上海成功举办。这场汇聚西门子全球技术专家、产业伙伴与核心客户的行业盛会,以“AI 驱动半导体变革”为核心议题,深度探讨软件定义时代下,如何破解验
    的头像 发表于 09-05 17:22 4593次阅读

    西门子SMART200脉冲指令资料

    西门子SMART200脉冲指令
    发表于 07-29 17:29 0次下载

    西门子S7-200 PLC:数据采集与远程调试上下载解决方案

    在工业自动化领域,西门子S7-200PLC 凭借其可靠性和性价比,广泛应用于各类生产场景。然而,传统的数据采集和调试方式存在诸多局限,如需技术人员现场操作、设备分布广导致运维成本高、数据孤岛
    的头像 发表于 06-10 11:55 1287次阅读

    西门子Smart200网口穿透教程

    2021_昆仑通态_物联网_穿透教程_西门子Smart200网口穿透_V1.0_0414
    发表于 06-09 15:04 3次下载

    Dify携手亚马逊科技加速全球企业生成AI应用规模化落地

    简单易用的AI应用开发平台Dify通过深度集成亚马逊科技的生成AI技术与
    的头像 发表于 06-07 16:00 1085次阅读