电子发烧友网报道(文/吴子鹏)近日,又一科技巨头加入到了禁用ChatGPT类工具的行列,它就是三星。据报道,三星近期推出了一项新政策,禁止员工在工作场所使用生成式人工智能工具,包括OpenAI的ChatGPT和谷歌Bard等。
此前,三星发现有员工将敏感的代码上传到ChatGPT,不慎将其泄漏。据悉,三星并不清楚此次泄露的敏感代码具体内容是什么,不过该公司随后启动了内部调查。三星表示,调查中公司65%的受访者认为此类工具构成安全风险。
泄密事件一是一名三星员工让ChatGPT帮助修复半导体设备测量资料库中下载的软件;泄密事件二是一名三星员工让其帮助优化用于识别产品良率的程序代码;泄密事件三是一名三星员工把会议纪要发给了ChatGPT让其帮助整理。
三星泄密事件表明,生成式AI会让人在不经意间就导致泄密。当然,这主要还是和生成式AI的工作原理有关。生成式AI本质通过处理大量视觉或语言数据来生成新数据,其主要分为训练阶段和生成阶段,用户主要接触到的就是生成阶段。在这一阶段里,为生成新数据,模型将根据给定的输入提示(如关键词、图像或文本片段等)生成新图像或文本。模型利用所学规律和模式生成新数据,并将其输出给用户。
因此不难看出,生成式AI在实际的使用阶段和传统搜索引擎很类似,有输入才有输出,但由于ChatGPT类工具过于强大,其能够处理很复杂的句式和指令,这就导致一些在职人员可能采用ChatGPT类工具走捷径,将工作任务输入到工具里,进而造成泄密。
目前,很多巨头公司都意识到这一点。在三星之前,韩国另一大科技巨头SK海力士也已经宣布,“除必要时刻外”,几乎禁止公司内部网使用ChatGPT类工具;韩国面板巨头LG为了防止员工使用ChatGPT类工具发生泄密,已经通过公司内部帖子和教育、活动等,随时强调公司内部信息保护和防止泄漏等信息安全认识。
更为谨慎的是银行领域。据不完全统计,目前包括瑞穗金融集团、三菱UFJ银行、三井住友银行、摩根大通、美国银行和花旗等大型银行都已经对人工智能下了禁令,这些公司是首批限制员工访问ChatGPT类工具的公司。
生成式AI工具的价值是巨大的,它能够给各行各业带来四大创新性改变。首先,生成式AI可以创造新内容,可用于艺术、音乐和其他形式的创造性表达等方面;其次,生成式AI可以提高效率和生产力,可以显著减少新闻、内容创作、数据注释和分析等领域的人工投入;第三,生成式AI可以提高生成内容的质量,这是让机器和人类自如交流的关键所在;最后,生成式AI可以实现新的应用和用途,可用于打造各种个性化的创新方案。
据波士顿咨询公司预测,生成式AI市场规模将在2027年达到1210亿美元,是2022年的13倍多。
价值大、前景好,那么行业该如何利用好生成式AI呢?
首先需要有专门的法规限制。目前,全球各国都在加紧制定针对生成式AI的法律法规。在国内,4月11日,国家网信办起草《生成式人工智能服务管理办法(征求意见稿)》,明确国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作。当然,征求意见稿也对生成内容、算法框架、知识产权和商业道德等方面做出了明确的限制。每一个健康发展的行业都需要有完善法规的引导,生成式AI也不例外。目前,美国、英国、日本和欧盟等国家和地区都在积极推动生成式AI相关法规的落地。
其次,推出ChatGPT类工具的公司需要进一步增强工具的安全性和脱敏属性。比如,谷歌表示,将通过自动化工具帮助删除用户的个人身份信息,来改进Bard的隐私安全。显然这还不够,基于开放数据库训练而来的ChatGPT类工具,进化的源泉就是新的数据,那么如何保证新数据的安全是一个大挑战。
第三是各行各业针对使用ChatGPT类工具需要进行专业的员工培训,要明确哪些是员工可以做的,那么是员工不能做的。
第四是针对高科技行业以及金融证券等保密性要求严格的公司,全面杜绝ChatGPT类工具肯定是不可取的,这些行业需要一套自己的ChatGPT类工具,也就是从源头构建自己的工具,使得数据从最开始就被保护,没有对外的接口可以泄露。目前,行业也在探索轻量级的ChatGPT类工具,这些工具具备基本的功能,能够在企业私有云上去部署,如果可以实现将大幅降低数据泄露的风险。
此前,三星发现有员工将敏感的代码上传到ChatGPT,不慎将其泄漏。据悉,三星并不清楚此次泄露的敏感代码具体内容是什么,不过该公司随后启动了内部调查。三星表示,调查中公司65%的受访者认为此类工具构成安全风险。
巨头公司纷纷禁用ChatGPT类工具
根据此前的报道,虽然三星没有透露泄露信息的内容,不过有用户在ChatGPT上发现了该公司半导体设备测量资料、产品良率等机密内容,相关内容出现在ChatGPT的学习资料库中。并且,该报道指出,三星的泄密并不是由一个工程师造成的,而是出现了三个典型的泄密事故。泄密事件一是一名三星员工让ChatGPT帮助修复半导体设备测量资料库中下载的软件;泄密事件二是一名三星员工让其帮助优化用于识别产品良率的程序代码;泄密事件三是一名三星员工把会议纪要发给了ChatGPT让其帮助整理。
三星泄密事件表明,生成式AI会让人在不经意间就导致泄密。当然,这主要还是和生成式AI的工作原理有关。生成式AI本质通过处理大量视觉或语言数据来生成新数据,其主要分为训练阶段和生成阶段,用户主要接触到的就是生成阶段。在这一阶段里,为生成新数据,模型将根据给定的输入提示(如关键词、图像或文本片段等)生成新图像或文本。模型利用所学规律和模式生成新数据,并将其输出给用户。
因此不难看出,生成式AI在实际的使用阶段和传统搜索引擎很类似,有输入才有输出,但由于ChatGPT类工具过于强大,其能够处理很复杂的句式和指令,这就导致一些在职人员可能采用ChatGPT类工具走捷径,将工作任务输入到工具里,进而造成泄密。
目前,很多巨头公司都意识到这一点。在三星之前,韩国另一大科技巨头SK海力士也已经宣布,“除必要时刻外”,几乎禁止公司内部网使用ChatGPT类工具;韩国面板巨头LG为了防止员工使用ChatGPT类工具发生泄密,已经通过公司内部帖子和教育、活动等,随时强调公司内部信息保护和防止泄漏等信息安全认识。
更为谨慎的是银行领域。据不完全统计,目前包括瑞穗金融集团、三菱UFJ银行、三井住友银行、摩根大通、美国银行和花旗等大型银行都已经对人工智能下了禁令,这些公司是首批限制员工访问ChatGPT类工具的公司。
如何安全使用ChatGPT类工具
竟然行业巨头带头,那么商业公司真的要全面禁止ChatGPT类工具吗?笔者的答案是大可不必。生成式AI工具的价值是巨大的,它能够给各行各业带来四大创新性改变。首先,生成式AI可以创造新内容,可用于艺术、音乐和其他形式的创造性表达等方面;其次,生成式AI可以提高效率和生产力,可以显著减少新闻、内容创作、数据注释和分析等领域的人工投入;第三,生成式AI可以提高生成内容的质量,这是让机器和人类自如交流的关键所在;最后,生成式AI可以实现新的应用和用途,可用于打造各种个性化的创新方案。
据波士顿咨询公司预测,生成式AI市场规模将在2027年达到1210亿美元,是2022年的13倍多。
价值大、前景好,那么行业该如何利用好生成式AI呢?
首先需要有专门的法规限制。目前,全球各国都在加紧制定针对生成式AI的法律法规。在国内,4月11日,国家网信办起草《生成式人工智能服务管理办法(征求意见稿)》,明确国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作。当然,征求意见稿也对生成内容、算法框架、知识产权和商业道德等方面做出了明确的限制。每一个健康发展的行业都需要有完善法规的引导,生成式AI也不例外。目前,美国、英国、日本和欧盟等国家和地区都在积极推动生成式AI相关法规的落地。
其次,推出ChatGPT类工具的公司需要进一步增强工具的安全性和脱敏属性。比如,谷歌表示,将通过自动化工具帮助删除用户的个人身份信息,来改进Bard的隐私安全。显然这还不够,基于开放数据库训练而来的ChatGPT类工具,进化的源泉就是新的数据,那么如何保证新数据的安全是一个大挑战。
第三是各行各业针对使用ChatGPT类工具需要进行专业的员工培训,要明确哪些是员工可以做的,那么是员工不能做的。
第四是针对高科技行业以及金融证券等保密性要求严格的公司,全面杜绝ChatGPT类工具肯定是不可取的,这些行业需要一套自己的ChatGPT类工具,也就是从源头构建自己的工具,使得数据从最开始就被保护,没有对外的接口可以泄露。目前,行业也在探索轻量级的ChatGPT类工具,这些工具具备基本的功能,能够在企业私有云上去部署,如果可以实现将大幅降低数据泄露的风险。
后记
目前很多行业、学校、国家都在推动全面禁止ChatGPT类工具,笔者认为这样做并不可取。生成式AI作为一次革命性的科技升级创新,有着颠覆各行各业的巨大潜力。而且,这种颠覆更多是正向的、积极的,帮助各行各业完成数智化升级。当然,作为一项创新技术,在完善的过程中会露出它的獠牙。正确的做法是将这只猛兽关在圈子里进行驯化,让其不再具有攻击性。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
-
AI
+关注
关注
87文章
26459浏览量
264079 -
三星
+关注
关注
0文章
1142浏览量
30186 -
ChatGPT
+关注
关注
27文章
1409浏览量
4757
发布评论请先 登录
相关推荐
三星电子员工拟参与罢工,人数或超25000人
据悉,全国三星电子工会已正式告知三星电子总经理李在镕以及韩正熙副董事长等人关于罢工一事。此举意味着自1969年设立至今,三星电子首次面临员工罢工。
在FPGA设计中是否可以应用ChatGPT生成想要的程序呢
当下AI人工智能崛起,很多开发领域都可看到ChatGPT的身影,FPGA设计中,是否也可以用ChatGPT辅助设计呢?
发表于 03-28 23:41
【国产FPGA+OMAPL138开发板体验】(原创)6.FPGA连接ChatGPT 4
嗨,亲爱的工程师、学生和爱好者们,我来啦!欢迎来到神秘的星嵌世界!如果你是一位FPGA工程师或者对嵌入式异构技术感兴趣,那么你来到的地方绝对没错!今天,我们将一起探索一个令人惊叹的星嵌基于TI
发表于 02-14 21:58
突发 !微软员工被禁止使用ChatGPT
许多大公司都限制访问ChatGPT,通常是为了防止员工与其共享机密数据。经过广泛的互联网数据训练,ChatGPT可以对人们的聊天信息做出类似真人的回应。该服务拥有超过1亿用户。
微软内部禁止员工使用ChatGPT
近期消息报道,微软内部禁止员工使用OpenAI产品ChatGPT。最新的微软内部网站消息显示,:“出于安全和数据方面的考虑,许多AI工具不再供员工
ChatGPT Plus怎么支付 开通ChatGPT plus有什么功能?
,为全球的专业人士提供了强大的工具。如果你也想体验这一创新的AI技术,下面是关于如何开通ChatGPT 4.0付费服务的教程: 1️⃣ 访问OpenAI官方网站 首先,你需要访问OpenAI的官方网站
chatgpt是什么软件
。ChatGPT是人工智能技术驱动的自然语言处理工具,它能够通过理解和学习人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流,甚至能完成撰写邮件、视频脚本、文案、翻译、代码,写论文
发表于 06-27 13:51
•1040次阅读
ChatGPT 可替代?以下7 种 AI 工具更专注于编码
作者 | Mary G athoni 译者|陈静琳 责编 | 屠敏 出品 | CSDN(ID:CSDNnews) 导读 ChatGPT并不是唯一能帮助你编码的人工智能工具,使用下面这些
评论