0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI技术的潜在安全威胁和相关建议

EdXK_AI_News 2018-04-07 11:41 次阅读

外媒DefenseOne网站报道称,来自14家业界、学术界机构的26名人工智能专家撰写了《人工智能的恶意使用:预测、预防和缓解》报告。这份长达100页的报告指出AI技术是一把“双刃剑”,具有“双重用途”属性,即该技术能够每秒做出成千上万个复杂的决策,这种能力既可用于造福人类,也可用于扰乱秩序,完全取决于设计该系统的人。报告中,专家们探讨了现存的或可能在未来五年内出现的人工智能的恶意用例,及其所带来的潜在安全威胁,并将其分成数字威胁、物理威胁和政治威胁三组进行了研究,最后提出了更好地预测、预防和减轻这些威胁的方法。

1. AI技术的潜在安全威胁

(1)数字威胁:①通过自动钓鱼或创建虚假电子邮件、网站、链接等手段窃取信息;②通过自动发现软件漏洞进行更快速的黑客攻击;③利用人工智能对于外界的理解缺陷,欺骗人工智能系统。

(2)物理威胁:①利用商用无人机无人驾驶车辆作为武器,实现恐怖主义的自动化;②机器人集群,即由许多自主机器人围绕共同目标开展行动;③远程攻击,由于自动机器人无需在任何设置距离内进行控制,因此得以实施远程攻击。

(3)政治威胁:①通过易于生成的假图像和视频进行宣传;②通过自动查找、删除文本或图像等技术自动清除异议;③个人观点说服,利用公开的信息针对个人观点进行说服。

2.相关建议

随着人工智能技术的日益强大和普及,报告预测,人工智能系统带来的威胁将不断变化,如现有威胁的扩大、新威胁的产生、典型威胁的特征发生变化等。为了应对不断变化的威胁环境,报告提出了四项高级建议:

(1)决策者应与技术研究人员紧密合作,调查、预防和减轻人工智能的潜在恶意使用;

(2)人工智能的研究人员和工程师应认真看待其工作的“双刃剑”性质,考虑误用等因素的影响,调整相应研究重点和规范,并在可预见有害应用程序时主动联系相关组织;

(3)对于能够成熟妥当地解决“双刃剑”问题的研究领域,如计算机安全等,应识别最佳实践案例,并将其引入人工智能领域加以应用;

(4)扩大利益相关方与领域专家的范围,积极探讨相关挑战。

此外,报告还建议在四个优先研究领域内探讨开放性问题和潜在的干预措施:向网络安全社区学习;探索不同的开放模式;营造负责的文化氛围;制定技术和政策解决方案。

报告指出,对AI双重用途的干预行动不仅需要人工智能研究人员和企业的关注和行动,还需要立法者、公务人员、监管机构、安全研究人员和教育工作者的关注和行动。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1773

    文章

    43356

    浏览量

    230126
  • ai技术
    +关注

    关注

    1

    文章

    1037

    浏览量

    23633

原文标题:人工智能的恶意使用:预测、预防和缓解

文章出处:【微信号:AI_News,微信公众号:人工智能快报】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    知语云全景监测技术:现代安全防护的全面解决方案

    全景监测技术能够实时监测网络流量、用户行为、系统日志等多维度数据,通过大数据分析和人工智能技术,快速识别异常行为,发现潜在安全威胁。 智能
    发表于 02-23 16:40

    知语云智能科技揭秘:无人机威胁如何破解?国家安全新防线!

    随着科技的飞速发展,无人机技术已经深入到各个领域,给我们的生活带来了极大的便利。然而,与此同时,无人机也带来了潜在安全威胁。知语云智能科技作为国内领先的智能科技公司,一直致力于研究无
    发表于 02-27 10:41

    AI:对物联网安全的影响

    在研究了高性能处理从云端到网络边缘的转变如何使物联网(IoT)蓬勃发展,并因此在本博客文章中为人工智能奠定了基础之后,还有一个需要AI的方面需要我们全神贯注:人工智能的进步与网络威胁的发展密切相关
    发表于 05-29 10:47

    嵌入式设备安全的关键是什么

    嵌入式系统面临着前所未有的安全威胁,而这些威胁的危害性也越来越高。没有设备是百分百安全的,但是通过仔细分析危害,找出潜在的漏洞并清晰明细的记
    发表于 07-30 06:06

    安全工具全身扫描怎么解决潜在威胁

    全身扫描是一种常用的安全工具,可以帮助克服这些挑战和解决潜在威胁。这种设备非常重要,被广泛用在机场、火车站和***大楼中。它们对进出建筑物的人员进行扫描以查明是否藏有武器、爆炸物和其他违禁物品。
    发表于 08-01 08:02

    【HarmonyOS HiSpark AI Camera】边缘计算安全监控系统

    项目名称:边缘计算安全监控系统试用计划:理由:本人热爱嵌入式技术,希望通过嵌入式智能技术改善人们生活。希望基于鸿蒙系和linux统构建一个边缘计算的智能监控平台,来保证工厂运行的安全
    发表于 09-25 10:11

    ARM安全技术介绍

    ARM安全技术-使用***技术构建安全系统(翻译)**第一章 介绍**本章提供了一些与嵌入式系统安全相关
    发表于 07-26 07:39

    使用安全非接触式技术与 RFID 的建议

    使用安全非接触式技术与 RFID 的建议
    发表于 06-30 01:00 20次下载

    AI对人类有潜在威胁分析

    AI 对人类是威胁吗 有新闻报道称,人工智能(AI) 研究尽管在未来可能取得成功且前途 不可限量,但潜在的长期风险正逐 渐显示出来。奥伦埃齐奥尼(Oren Etzioni)是一位知名的
    发表于 09-13 20:42 2次下载

    几种VoIP安全上的潜在威胁和存在的攻击的方式了解与分析

    威胁,本文分析了几种安全上的潜在威胁和存在的攻击的方式:窃听(Eavesdropping)和嗅探(Sniffing)VoIP呼叫,中间人(ManintheMiddle)攻击,拒绝服
    发表于 12-12 14:01 1875次阅读

    IT行业潜在威胁和漏洞

    IT行业发展到现在,安全问题已经变得至关重要,从以前的“棱镜门”事件中,折射出了很多安全问题,信息安全问题已变得刻不容缓,而做为运维人员,就必须了解一些安全运维准则,同时,要保护自己所
    的头像 发表于 06-05 13:16 4297次阅读

    如何减少网络安全潜在威胁安全漏洞

    在大型公司会受到安全攻击是家常便饭的时代,即使投入了大量保护资金,较小型公司也更容易受到攻击。许多企业仍然没有将网络安全视为减少潜在威胁的强制性措施。在几乎所有的
    的头像 发表于 12-16 17:45 2476次阅读

    识别 AI 安全威胁

    组 (ISG SAI) 分析了保护 AI的问题和相应的缓解措施;最近发布了两个小组报告。 ML 的生命周期在 ETSI ISG SAI GR-004报告中捕获,如图 1 所示。积极研究实施和部署的安全影响。该报告还确定并描述了四种攻击类型,以提高人们对
    的头像 发表于 07-15 16:19 917次阅读
    识别 <b class='flag-5'>AI</b> <b class='flag-5'>安全</b><b class='flag-5'>威胁</b>

    威胁情报在安全分析中的作用和未来位置如何

    威胁情报,也称为网络威胁情报,是网络安全的一个分支,专注于收集和分析有关组织可能面临的潜在威胁和漏洞的信息。这些信息有多种形式,从原始的、未
    的头像 发表于 07-31 22:16 1070次阅读
    <b class='flag-5'>威胁</b>情报在<b class='flag-5'>安全</b>分析中的作用和未来位置如何

    蓝牙会被取代?NFC、WiFi是潜在威胁

    电子发烧友网站提供《蓝牙会被取代?NFC、WiFi是潜在威胁.pdf》资料免费下载
    发表于 11-10 15:01 0次下载
    蓝牙会被取代?NFC、WiFi是<b class='flag-5'>潜在</b><b class='flag-5'>威胁</b>