0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

生成式AI之下,软件供应链安全的升级更迫切

花茶晶晶 来源:电子发烧友网 作者:黄晶晶 2024-05-31 18:05 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/黄晶晶)AI大模型不仅能够文生图、文生视频、人机对话等,还能够帮助开发人员写代码,但这又出现另一个问题,ChatGPT产生的代码也可能存在漏洞。可以说,全球软件供应链安全正面临着更大的挑战,AI爆发、大量应用程序的出现以及企业内部应用AI等诸多新事物无不考验着软件开发者的抗风险能力。

软件安全又面临新的问题


近日,JFrog公司的研究团队专门针对全球供应链安全问题经过CVE公共漏洞披露分析,并委托第三方机构调研1224名安全、开发、运维相关的从业人员,总结发布全球软件供应链发展报告。JFrog中国技术总监王青在媒体活动上进行了报告的专业解读。

报告指出,AI大模型不仅是前端的内容生成,还包括模型、数据集、Python脚本等在容器环境里的运行,这就需要后端软件供应链的支撑。王青表示,例如以前主要用C和C++语言进行开发,现在使用多种开发语言。那么企业会关注到很多语言包使用时隐藏的风险,以及面对已知的安全风险需要花费多长时间和成本进行安全修复等。

根据JFrog Catalog数据,Docker 和npm 是对包类型贡献最大的。软件包的数量不断增长,从而形成了一个日益庞大的软件供应链。垃圾邮件、恶意软件包和相关风险是新软件包和库中的自然组成部分,新版本的快速引入需要付出大量努力才能正确管理。

调研显示,92%的专业人士认为,他们的企业至少有一个解决方案监测恶意的开源包,89%的受访者表示,他们已经采用了OpenSSF SLSA的框架。这个框架为谷歌主导,是由开源软件安全基金会(OpenSourceSecurityFoundation)推广的一个软件供应链安全标准,该标准目前在国际上接受程度较高。在国内,目前也有一些企业在逐渐落地中。

在开发人员里,42%的人表示最好在代码编写期间执行安全扫描。此外,48%的受访者表示,他们代码扫描时是通手动检查代码,并非自动扫描。只有1%的受访者表示代码审查实现完全的自动化。



在报告中的安全实践部分,59%的企业在构建时进行安全扫描,编码时进行安全扫描的企业占比同样为59%,可见在开发阶段进行安全扫描的比例比较高。

最常用的应用程序安全解决方案部分,静态应用程序安全测试最多,占比61%。动态应用程序安全测试,由于耗时比较长,有58%的公司进行这一安全测试;同时,软件构成分析测试占比58%;56%的企业实现API安全扫描。



在互联网、Docker Hub上,JFrog调研了212个CVE样本。JFrog安全团队将85%的严重CVE和73%的高危CVE下调了评级。这就意味着研发团队能够避免付出额外精力关注漏洞分数虚高的漏洞。

JFrog在Docker Hub里分析了最受欢迎的100个镜像,比如Tomcat、 Ubuntu、GDK这样的下载量最高的镜像,里面有很多CVSS评分的漏洞。在这些CVE漏洞中,JFrog的研究团队发现了一个重大的数据,74%的漏洞实际是不可被利用的。这74%经过JFrog扫描之后,显示这些漏洞可以被忽略,从而让研发从这些修复漏洞的工作中解放出来。

在对大模型AI领域进行调研时,90%的受访者表示他们的扫描工具支持AI;90%的受访者在某种程度上支持AI的工具来协助安全扫描或修复;有32%的企业受访者表示大部分人可以使用Copilot等AI工具协助代码生成,但是因为ChatGPT产生的代码可能存在漏洞,超过半数的人认为这一行为有风险。



王青说道,现在已有黑客利用大模型的“幻觉”来植入恶意的包。黑客会预置一些恶意的包,上传到Docker Hub去训练GPT模型,告诉它在回答什么样问题的时候,去把答案的链接指向恶意包的位置。通过这样的恶意训练,用户在不知情的情况下,可能会被引导到恶意的仓库去下载这个恶意包,因此它是有风险的。

JFrog安全扫描,阻断恶意内容


JFrog与Docker公司联合进行的调研后,进行了Docker Hub的恶意无镜像存储库的数据发布。JFrog在Docker Hub仓库里发现了460万个没有容器数据的Docker Hub 存储库(又名“无镜像”)。这些镜像存储库里没有镜像,但是绝大多数都是带着恶意目的,它们的概述页面试图欺骗用户访问钓鱼网站或托管着危险恶意软件的网站。比如,存储库在描述中包含了几个链接,引导用户访问一个钓鱼网站。该网站欺骗毫无戒心的访问者,承诺为他们购买处方药,但随后却窃取他们的信用卡信息。



JFrog识别到了近300万个存储库托管过恶意内容,包括通过自动生成的账户上传的用于推广盗版内容的垃圾邮件,以及恶意软件和钓鱼网站等极度恶意的实体。在使用Docker镜像时,一定不能从Docker Hub随心所欲地下载。可以使用JFrog的Curation和Xray进行Docker扫描,保证镜像安全性和合规性。

JFrog Curation能够将Docker Hub的镜像恶意包阻断在公司内网之外,程序员无法下载恶意包进入到组织内部。若不小心进入到公司内网,还可以启用JFrog Xray安全扫描,立刻对有漏洞的镜像进行诊断。它是一种基于上下文的风险分析扫描,若漏洞不可被利用,则可以放行这个镜像的使用,因为它不会引起内部使用的安全问题。

与市面上传统的安全扫描公司不同,JForg的安全能力一路左移到开发者,从运维测试左移到开发者,甚至到开发者的工具(IDE)。同时,由于设置不同级别的阻断,开发人员可基于公司策略的阻断升级修复漏洞的版本,避免将漏洞传递到应用后端。

王青表示,JFrog为制品库平台加上安全扫描工具,管理的是整个软件供应链的安全和软件供应链的提供商。也就是说客户研发团队用了JFrog的制品库,就会自动获得安全扫描的能力。这就给客户减少了工具安全扫描维护和采购的成本。另外,JFrog不限制用户数,切实地能够帮助企业在安全扫描、制品管理、供应链管理上提供统一的解决方案,且极具性价比。

JFrog针对汽车、信创以及企业出海等提供定制化支持


JFrog提供端到端的支持全语言的开发运维平台,在全球服务7400多家客户,在东亚区的中国及日本,服务了超过500家客户,以各领域的头部企业居多。超过83%的财富100强企业应用了JFrog的软件。在中国及日本地区,JFrog客户主要分布于金融、制造业和互联网行业。过去几年,JFrog在全球实现了25%的业务增长,中国是亚太区增长最快的市场。

JFrog大中华和日本地区总经理董任远表示,JFrog在中国的战略是“in China,for China”。过去几年,中国市场越来越多的基础架构类产品都已经支持了国产化,其中包括芯片、服务器、数据库以及中间件等。对于JFrog来说,在中国的战略就是以更合适的解决方案适配这些产品。过去的一年,JFrog已经完成了在中国的全线产品针对于国产信创产品的适配,我们也有很多客户现在已经直接将JFrog应用到其信创环境当中。

JFrog针对中国市场提供产品的优化以及定制化的支持。比如JFrog针对汽车行业提出了一些新的解决方案,尤其是在制品库以及在安全领域上,为了更好地满足中国企业的高速发展以及企业出海的需求,JFrog都提供定制化的支持。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    90

    文章

    38234

    浏览量

    297137
  • ChatGPT
    +关注

    关注

    31

    文章

    1596

    浏览量

    10080
  • 生成式AI
    +关注

    关注

    0

    文章

    537

    浏览量

    1023
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    2025开放原子开发者大会开源安全AI供应链治理分论坛成功举办

    当前,开源软件AI 技术已深度嵌入产业数字化转型核心场景,但供应链安全隐患、AI大模型安全
    的头像 发表于 11-27 14:47 403次阅读

    2025开放原子开发者大会开源软件供应链AI安全分论坛即将启幕

    为推动开源与数字产业的高质量发展,2025开放原子开发者大会中,一场聚焦“开源软件供应链AI安全”的专业论坛即将启幕!
    的头像 发表于 11-20 11:36 520次阅读

    智慧物流与供应链追踪

    。例如,冷物流利用IoT确保疫苗等敏感物品全程可控。 人工智能(AI)与生成AIAI优化路
    的头像 发表于 11-05 15:00 126次阅读

    鲲云科技助力中通服供应链筑牢智能仓储安全防线

    在大安全大应急成为经济社会发展重要支撑的当下,中国通服供应链股份有限公司积极践行“锻造可信赖智慧供应链,助力数字基建,护航数字中国”的企业使命,在智能仓储安全领域取得突破性进展。
    的头像 发表于 10-27 15:53 372次阅读

    京东零售在智能供应链领域的前沿探索与技术实践

    受邀出席并担任《AI+智慧物流与供应链分享会》联席主席,联合发表《AI科技助力供应链产业升级》主题演讲,深入介绍了京东零售在智能
    的头像 发表于 08-04 16:10 841次阅读
    京东零售在智能<b class='flag-5'>供应链</b>领域的前沿探索与技术实践

    API在快时尚电商的供应链管理

    。API(应用程序接口)作为连接不同软件系统的桥梁,正在革命性地重塑供应链管理流程。通过API,企业能实现数据无缝流动,自动化关键操作,从而提升整体运营效率。本文将逐步探讨API在快时尚电商供应链管理中的应用、优势及实施
    的头像 发表于 07-22 14:31 402次阅读

    SAP与亚马逊云科技推出AI联合创新计划,打造生成AI解决方案,助力客户应对市场波动与供应链复杂性

    企业认识到生成AI具有变革业务的潜力,却苦于无从入手。通过将先进的生成AI技术与核心系统中的
    的头像 发表于 05-26 16:54 441次阅读

    SAP与亚马逊云科技推出AI联合创新计划,打造生成AI解决方案, 助力客户应对市场波动与供应链复杂性

    认识到生成AI具有变革业务的潜力,却苦于无从入手。通过将先进的生成AI技术与核心系统中的企业
    发表于 05-26 11:44 1102次阅读

    万里红推出供应链软件安全解决方案

    上,正式发布了万里红供应链软件安全解决方案,为数字时代信息安全提供体系化的软件供应链
    的头像 发表于 05-19 16:13 775次阅读

    安博电子:全路品控体系赋能供应链安全

    检测、智能交付的全路品控体系,安博电子不仅能确保电子元器件的高可靠性与一致性,更以高透明的供应链管理模式,助力客户降低风险、提升运营效率,推动行业标准升级,与全球
    的头像 发表于 04-07 17:03 699次阅读
    安博电子:全<b class='flag-5'>链</b>路品控体系赋能<b class='flag-5'>供应链</b><b class='flag-5'>安全</b>

    安富利:供应链强则企业强

    外围局势风云变幻的当下,供应链安全与稳定受到前所未有的重视。对于注重持续创新的硬科技企业而言,情况更是如此。面对复杂多变的市场环境,硬科技企业能够破浪前行、韧性增长的“武功秘籍”之一,正是供应链
    发表于 03-25 18:09 329次阅读
    安富利:<b class='flag-5'>供应链</b>强则企业强

    AI大模型在工业领域的供应链管理方向的应用

    AI 大模型在工业领域的供应链管理中具有精准预测、个性化需求预测、动态实时调整和供应商管理风险评估与预警等功能,帮助企业提高供应链效率和应对市场变化。
    的头像 发表于 02-14 11:40 1085次阅读
    <b class='flag-5'>AI</b>大模型在工业领域的<b class='flag-5'>供应链</b>管理方向的应用

    东软获《电信和互联网软件供应链安全能力成熟度模型》第三等级认证

    近日,东软凭借其在软件供应链安全领域的卓越表现,成功通过了《电信和互联网软件供应链安全能力成熟度
    的头像 发表于 01-15 17:31 1222次阅读

    利用Minitab应对供应链中断问题

    供应链中断是不可避免的,但积极的措施和数据驱动的战略可以减轻其影响。Minitab全面的数据分析和问题解决工具使组织能够分析、优化和调整其供应链,以应对不可预见的挑战,确保面对中断时的弹性和连续性。
    的头像 发表于 01-02 17:16 699次阅读

    紫光同芯荣获金融科技供应链安全示范机构

    的创新引领作用。紫光同芯荣获由北京国家金融科技认证中心颁发的“金融科技供应链安全示范机构”证书,在金融科技供应链安全管理和安全生态建设中发挥
    的头像 发表于 12-25 17:08 840次阅读