0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

芯盾时代如何应对AI滥用带来的数据泄露风险

芯盾时代 来源:芯盾时代 2025-06-06 15:37 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

都2025年了,不会还有人没用AI辅助办公吧?

让DeepSeek、ChatGPT帮忙撸代码、写文案、做报表,甚至生成海报、渲染视频,能大幅提高工作效率。一时间,企业大力倡导使用AI,员工纷纷学习使用AI,一片勃勃生机、万物竞发的景象。

但广东的一位老板却“不合时宜”地唱起了反调,不但要求全部员工禁止在工作中使用所有AI产品,还让员工签署“AI禁用承诺书”。让这位老板“逆潮流”原因,竟是一名员工为图省事,将公司销售数据上传至外部GenAI(生成式人工智能)平台,让AI生成、优化表格,使公司陷入泄密危机。

其实,早在两年前就有公司发生过类似事件。世界500强、电子通信巨头三星的员工直接将半导体设备数据、源代码等敏感信息“投喂”给ChatGPT,导致这些机密数据进入了AI学习数据库,瞬间外泄且无法收回。

更为可怕的是,很多企业根本不知道员工将哪些敏感数据“投喂”给了外部AI工具。Verizon《2025数据泄露调查报告》显示,15%的员工会定期利用公司设备访问GenAI(至少每15天一次),其中72%的人会使用非公司电子邮件作为账户标识,导致企业难以监控员工对外部AI工具的使用情况,也难以阻断员工将敏感数据“投喂”给AI。

这些触目惊心的案例和数据,无不给企业敲响警钟:AI在带来巨大便利的同时,也带来了新的数据泄露风险。如果企业缺乏有效的管控手段,AI极有可能成为企业的“数据黑洞”。

AI滥用带来数据安全新挑战

员工滥用AI带来的数据安全挑战,相较传统数据泄露更加隐蔽、更加难以防范:

1.敏感数据“投喂”失控

员工为了获得AI的帮助,可能将大量企业敏感信息、商业机密甚至源代码直接上传至外部AI平台。一旦提交,这些数据就脱离了企业的掌控范围,有可能被泄露或窃取。

2.交互过程中的“隐蔽泄露”

员工在使用外部AI工具辅助办公时,如撰写邮件、市场分析、代码生成、客服问答等,会将企业内部的敏感信息作为上下文提供给AI。这些交互数据可能被AI服务提供商记录、分析或用于进一步的模型优化,增加了泄露风险。

3. 第三方AI服务的安全盲区

企业难以对外部通用AI服务提供商的数据处理方式、安全措施进行有效审计和控制。这些AI模型本身可能存在未被发现的安全漏洞,或其数据隐私政策不足以保护企业数据的机密性。

4.内部员工行为管控缺失

企业普遍缺乏对员工如何使用外部AI工具、输入了哪些数据的有效监控和管理手段 。复制、截屏、直接上传等行为难以被及时阻断,数据泄露后也难以追踪溯源。

当员工将企业机密数据“投喂”给不受控的外部AI工具,一旦发生泄密,不但会给企业造成经济损失,更可能引发合规风险、商誉受损乃至损害企业的核心竞争力。因此,构建一套行之有效的防护体系,规范和保护员工使用通用AI工具时的企业数据安全,已成为企业在AI时代必须攻克的关键课题。

芯盾时代零信任数据安全解决方案

面对员工使用外部AI工具带来的泄密难题,“持续验证、永不信任”的零信任理念提供了全新的解题思路。零信任以“身份”为核心实施动态访问控制,能够从源头管控数据访问,强化终端安全,并对用户行为进行持续监控和审计,有效应对员工使用外部AI工具带来的数据安全挑战。

芯盾时代作为领先的零信任业务安全产品方案提供商,拥有丰富的零信任安全产品线。芯盾时代基于用户身份与访问管理平台(IAM)、零信任业务安全平台(SDP)等产品,打造的零信任数据安全解决方案,能够帮助企业强化对员工操作行为的管控,防范员工将敏感数据“投喂”给外部AI,防范因AI滥用导致的数据泄露。

借助芯盾时代零信任数据安全解决方案,企业能够在业务应用低改造、甚至0改造的情况下,一站式实现以下功能:

1.统一管控身份信息,实现闭环访问控制

芯盾时代IAM能够帮助企业整合各个业务应用中分散的身份数据,为员工生成唯一可信的数字身份,让员工用一个身份访问所有业务应用,进而实现对身份信息、身份认证、访问权限、访问日志的统一管理。

借助IAM,企业能够实现对员工访问行为的跨应用追溯,精准记录员工访问了哪些数据资源、进行了哪些操作,从而实现对员工访问的闭环管控,便于在数据泄露之后进行追踪溯源。

2.落实“最小化授权”,实时阻断风险访问

芯盾时代IAM具备全面的身份管理能力,支持RBAC、ABAC、ACL等多种权限管理模型,权限管理能力细至URL,能够帮助企业实现“最小化授权”,精准管控数据资源的访问权限,杜绝越权访问。

借助芯盾时代SDP的动态访问控制能力,企业能够结合登录时间、设备状态等上下文信息,灵活设置访问控制策略,当员工大量下载机密文件、在非工作时间访问数据时,自适应执行阻断、权限收敛等控制策略,并发出预警。

3.管控员工操作行为,保证数据可追溯

借助芯盾SDP客户端,企业可以在终端设备中构建与本地空间完全隔离的安全工作空间,实现数据不落地,并实施禁止复制、禁止截屏、禁止打印、外发审批等行为管控,避免员工将敏感数据“投喂”给AI。针对Web应用,SDP可以在无改造的情况下为Web页面添加明水印或暗水印,对员工进行安全教育、安全震慑和安全追溯,降低拍照截屏外发风险,提升数据的可溯源性。

芯盾时代SDP具备动态数据脱敏功能,企业可以对业务应用中的手机号、银行卡、身份证号等敏感数据进行动态脱敏。针对不同人群,企业可以自定义脱敏内容、脱敏长度,精确控制敏感数据的访问范围。

4.强化终端设备管控,杜绝非法设备入网

芯盾时代SDP采用设备指纹技术,能够为每一台终端设备生成唯一的识别码,实现账号和设备的强绑定。借助此功能,企业能够识别非常用设备登录等风险行为。当员工使用未经认证的私人设备发起访问时,SDP自动执行权限收敛、阻断等访问控制策略。

芯盾时代SDP的客户端内置终端威胁态势感知模块,能够识别终端设备是否运行了指定软件,是否开启了远程控制软件、屏幕共享软件等程序,持续监测终端安全态势、用户操作行为,保证访问安全可控。

AI应用,安全为基。芯盾时代零信任数据安全解决方案,通过“持续验证、永不信任”的安全机制,帮助企业消除“AI滥用”带来的数据泄露风险,让AI真正为企业所用,成为企业发展的新引擎。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    89

    文章

    38153

    浏览量

    296825
  • 芯盾时代
    +关注

    关注

    0

    文章

    327

    浏览量

    2510
  • DeepSeek
    +关注

    关注

    2

    文章

    824

    浏览量

    2822

原文标题:AI办公=数据裸奔?来看这套数据防泄漏解决方案

文章出处:【微信号:trusfort,微信公众号:芯盾时代】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    时代中标某银行账户风险监测系统建设项目

    时代中标某银行,通过自研的智能风控决策平台,并深度融合AI大模型,为其搭建账户风险监测系统,实现账户全生命周期的安全防护,进一步提升银行
    的头像 发表于 11-20 16:34 826次阅读

    时代中标南光集团身份管理与访问控制系统项目

    时代承建南光(集团)有限公司(以下简称:南光)身份管理与访问控制系统项目!时代基于零信任
    的头像 发表于 11-13 13:42 321次阅读
    <b class='flag-5'>芯</b><b class='flag-5'>盾</b><b class='flag-5'>时代</b>中标南光集团身份管理与访问控制系统项目

    时代助力辽宁某银行提升移动端安全防护能力

    时代中标辽宁某银行!时代设备指纹技术具备高精度的设备识别能力,通过基于自主研发的算法,结
    的头像 发表于 10-31 09:48 281次阅读
    <b class='flag-5'>芯</b><b class='flag-5'>盾</b><b class='flag-5'>时代</b>助力辽宁某银行提升移动端安全防护能力

    时代再次中标湖北省农村信用社联合社

    时代再次中标湖北省农村信用社联合社(简称“湖北省农信联社”)!时代基于一期项目的建设基础
    的头像 发表于 10-22 10:10 441次阅读

    时代再度中标某省级银行

    时代再度中标某省级银行!时代通过自研的智能风控决策平台(IRD),结合
    的头像 发表于 07-25 15:26 926次阅读

    时代中标全球家居品牌企业

    时代中标全球家居品牌企业!时代运用零信任网络访问等技术,基于客户现有账号体系,对用户、设
    的头像 发表于 07-17 10:05 864次阅读

    AI安全风险监测:构筑智能时代的“数字免疫系统”

    AI技术飞速渗透各行业核心领域的当下,其伴生的安全风险已不再是理论推演,而是悬在数字化转型头顶的达摩克利斯之剑。数据泄露、算法偏见、模型窃取、恶意
    的头像 发表于 06-25 16:29 500次阅读
    <b class='flag-5'>AI</b>安全<b class='flag-5'>风险</b>监测:构筑智能<b class='flag-5'>时代</b>的“数字免疫系统”

    时代助力四川银行电子渠道实时交易监测系统升级

    时代再度中标四川银行!时代通过自研的智能风控决策平台(IRD),结合
    的头像 发表于 06-05 17:38 1030次阅读

    时代助力赣州银行构建全渠道数字安全防护体系

    时代中标赣州银行,基于自主研发的设备指纹产品,通过集成运营商UAID能力实现跨渠道设备ID统一,并具备实时风险监测、反欺诈拦截等功能,有效解决 “
    的头像 发表于 05-22 09:21 727次阅读

    时代设备指纹技术全新升级

    在数字经济高速发展的今天,黑灰产攻击如影随形,个人隐私泄露、金融欺诈、电商刷单等风险事件频发。时代 “觅迹” 设备指纹全新升级,以跨渠道
    的头像 发表于 05-07 16:23 973次阅读

    时代全场景身份治理解决方案助力企业提升业务安全

    时代中标某人寿保险,持续深化业务安全项目合作。时代为客户建设IAM系统,为PC端和移动端
    的头像 发表于 05-07 10:29 699次阅读

    时代助力打造金融安全新范式

    时代中标吉林省农村信用社(以下简称“吉林农信”)‌设备指纹平台,交易安全保护系统等项目‌。时代
    的头像 发表于 04-15 17:41 890次阅读

    时代助力打造智慧医疗安全新标杆

    时代中标‌安徽医科大学第二附属医院(以下简称“安医二附院”)!时代基于零信任安全理念,融
    的头像 发表于 04-02 17:18 968次阅读

    时代中标新疆银行反电信网络诈骗风险监控系统

    时代中标新疆银行,‌建设覆盖全渠道交易场景的反电信网络诈骗风险监控系统,整合线上线下交易数据,动态部署监测规则,通过规则引擎实现
    的头像 发表于 03-04 11:23 1012次阅读

    时代再度中标江西银行

    时代再度中标江西银行,基于一期建设的全渠道交易风控系统,升级优化风控监测范围,实现多渠道、跨场景的风险协同,建立从事前、事中、事后全方位风险
    的头像 发表于 12-10 16:47 1090次阅读