0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

生成式人工智能将如何影响网络安全领域的技能差距

IEEE电气电子工程师 来源:IEEE电气电子工程师 2023-08-08 16:55 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

网络安全领域的工作很热门,而且需要合格的员工。根据美国国家标准与技术研究所汇编的数据,2022年全球网络安全工作者短缺340万。仅在美国就有超过663000个网络安全职位空缺。

ChatGPT等生成性人工智能工具的兴起引发了新的问题,即这些工具是否有助于缩小或加剧就业差距。因此,许多专家将其视为一把双刃剑。

一方面,攻击者可以使用生成人工智能“大大降低网络安全中的作恶成本”,IEEE高级会员林道庄说。

另一方面,生成型人工智能可能能够加速软件代码和新工具的开发,以挫败网络攻击。

“这些大型语言模型是一个根本的范式转变,”IEEE会员Yale Fox近日在《数据中心知识》杂志上如此表示。“反击人工智能驱动的恶意攻击的唯一方法是在防御中使用人工智能。数据中心的安全经理需要提高现有网络安全资源的技能,并寻找专门从事人工智能的新人群。”

目前,生成性人工智能对寻求招聘的网络安全高管来说是福是祸的问题基本上是无法回答的。这并没有阻止关于它可能如何改变网络安全专业人员工作的更广泛讨论。

以下是专家们对生成性人工智能可能塑造网络安全工作性质的看法:

1. 软件开发人员可能需要对人工智能生成的代码进行更多的验证和测试,更加强调质量控制技能。IEEE高级会员Amol Gulhane指出,质量控制人员需要获得与评估生成人工智能模型性能相关的知识和技能。

Gulhane说:“他们需要了解与这些模型相关的局限性和偏见,识别潜在的漏洞,并根据预定义的标准和安全要求测试生成的输出。”

2. 生成型人工智能可以减轻网络安全专业人员面临的文书工作和文件负担。尽管网络安全分析师的键盘技能以及他们细节能力在很大程度上得到了提升,但人们对该角色可能需要的大量文件却关注较少。

IEEE高级会员Kayne McGladrey说:“这份文件可以采取多种形式,包括在误报警报上进行标注到写下如何进行新型调查的文档。虽然这些文档具有巨大的组织价值,但它也是分析师执行的最不受欢迎和耗时的任务之一。通过使用人工智能自动化任务,如根据预定义格式汇总文本和生成报告,分析师可以显著节省时间。”

3. 它可以加速新产品的安全缺陷测试,内部安全专家试图以开发人员没有预料到的方式“破解”产品,这一过程被称为red teaming。

“作为组织软件开发生命周期的一部分,red teamers偶尔会被要求评估软件组件的安全性,”McGladrey说,“不幸的是,这带来了日程压力;red teamers需要的时间越长,软件发布到通用状态的时间就越长,因此并非所有组织都遵循这种模式。”

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 网络安全
    +关注

    关注

    11

    文章

    3449

    浏览量

    62961
  • 自动化
    +关注

    关注

    30

    文章

    5886

    浏览量

    89249
  • 人工智能
    +关注

    关注

    1813

    文章

    49734

    浏览量

    261509

原文标题:生成式人工智能将如何影响网络安全领域的技能差距

文章出处:【微信号:IEEE_China,微信公众号:IEEE电气电子工程师】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    人工智能时代,如何打造网络安全“新范式”

    在当今信息化迅速发展的时代,5G、大数据、云计算、深度学习等新兴技术的广泛应用,带来了前所未有的网络安全挑战。人工智能技术的崛起,为网络安全领域提供了新的解决方案,尤其在威胁识别、告警
    的头像 发表于 12-02 16:05 143次阅读

    制造商利用人工智能加强网络安全防护

    作为工业自动化、信息化和数字化转型领域的全球领先企业之一,罗克韦尔自动化发布了第十版年度《智能制造现状报告》的网络安全调研结果。该报告汇集了来自全球 17 个主要制造业国家和地区的 1,500 多位
    的头像 发表于 09-19 15:46 465次阅读

    思必驰一鸣智能客服大模型通过生成人工智能服务备案

    近日,江苏网信发布新一批生成人工智能服务备案信息,其中,由思必驰控股子公司驰必准自主研发的一鸣智能客服大模型通过《生成
    的头像 发表于 09-16 18:08 963次阅读

    中车斫轮大模型通过国家生成人工智能服务备案

    9月14日,国家互联网信息办公室发布最新公告,“中车斫轮”大模型通过“生成人工智能服务”备案,标志着其在数据安全治理、模型机制透明度、内容生成
    的头像 发表于 09-16 09:16 620次阅读

    挖到宝了!人工智能综合实验箱,高校新工科的宝藏神器

    和生态体系带到使用者身边 ,让我们在技术学习和使用上不再受制于人。 三、多模态实验,解锁AI全流程 它嵌入了2D视觉、深度视觉、机械手臂、语音识别、嵌入传感器等多种类AI模块,涵盖人工智能领域主要
    发表于 08-07 14:30

    理想汽车荣获汽车大模型安全证书

    2025中国汽车论坛举行“智舱安言计划——汽车生成人工智能安全测评”颁证仪式。理想汽车车载大模型荣获由CCIA汽车网络安全工作委员会颁发的
    的头像 发表于 07-18 16:10 796次阅读

    生成人工智能认证:解锁AI时代个人与组织的进化密码

    当人类站在智能革命的奇点回望,会发现技术迭代的速度早已超越个体认知的进化节奏。生成人工智能的爆发式发展,不仅重构了知识生产与传播的方式,更在职业
    的头像 发表于 05-23 09:47 440次阅读

    生成人工智能认证:重构AI时代的人才培养与职业跃迁路径

    当人类站在生成人工智能(Generative AI)的技术奇点上回望,会发现这场革命早已超越了工具迭代的范畴——它正在重新定义人类与技术的协作模式,重塑职业世界的运行逻辑。生成
    的头像 发表于 05-23 09:29 609次阅读

    生成人工智能认证:重塑AI时代职业版图的钥匙

    在科技浪潮席卷全球的今天,人工智能(AI)已从科幻概念进化为驱动社会变革的核心力量。其中,生成人工智能(Generative AI)作为技术突破的前沿
    的头像 发表于 05-23 09:18 529次阅读

    生成人工智能认证:重塑AI职业生态的底层逻辑

    人工智能技术渗透至社会毛细血管的今天,生成人工智能(Generative AI)的崛起正在改写人类与技术的协作范式。从ChatGPT引爆的全球热潮,到Sora模型推动的文生视频革命
    的头像 发表于 05-23 09:17 550次阅读

    生成人工智能认证(GAI认证)官网 - 全国统一认证中文服务平台上线

    在科技日新月异的今天,人工智能(AI)正以前所未有的速度改变着我们的生活和工作方式。其中,生成人工智能作为AI领域的一颗璀璨新星,正逐渐成
    的头像 发表于 05-14 17:30 961次阅读

    声智APP通过北京市生成人工智能服务登记

    近日,声智APP已正式通过北京市第二批生成人工智能服务登记,成为《生成人工智能服务管理暂行办
    的头像 发表于 03-19 16:33 820次阅读

    我国生成人工智能的发展现状与趋势

    作为信息化、数字化、智能化的新型技术基座,生成人工智能对于提升国家战略地位与国际竞争力具有重要意义。2022年11月以来,随着以ChatGPT为代表的大语言模型迅速发展,
    的头像 发表于 02-08 11:31 2121次阅读

    生成人工智能模型的安全可信评测

    近些年来,生成人工智能技术取得了飞跃发展。随着各式各样的大模型不断迭代升级,从一般通用生成能力,到各种专有领域的细分能力,再到更注重与用户
    的头像 发表于 01-22 13:55 1550次阅读
    <b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b>模型的<b class='flag-5'>安全</b>可信评测

    【「具身智能机器人系统」阅读体验】+数据在具身人工智能中的价值

    嵌入人工智能(EAI)将人工智能集成到机器人等物理实体中,使它们能够感知、学习环境并与之动态交互。这种能力使此类机器人能够在人类社会中有效地提供商品及服务。 数据是一种货币化工具 数据是互联网
    发表于 12-24 00:33