0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

如何确保人工智能为我们的利益服务

姚小熊27 来源:搜狐 作者:搜狐 2021-01-14 09:15 次阅读

对于超级人工智能的出现,我们是期待的,因为它的出现意味着不少工作可以以高效率的方式来完成。可是,作为一款号称智慧远超最聪明、最有才华的人类的AI,关于它可能带来的灾难性风险的讨论并没有停止脚步。

近期,一群科学家组成的研究团队使用理论计算来证明遏制类算法并不能控制超级人工智能,这个研究主要是为了解决牛津哲学家尼克·博斯特罗姆(Nick Bostrom)提出的控制问题:我们如何确保超级人工智能为我们的利益服务?

根据超级人工智能的假设问题,研究人员构设一种理论上的遏制算法,该算法可以模拟AI的行为,并在AI程序的动作存在有害行为时自动停止程序来解决该问题。

在尝试运行该试验模型时,分析人员通过分析结果,发现建立一种可以控制超级人工智能的机器算法从根本性质上来说是不可能的。

该团队成员伊亚德·拉万(Iyad Rahwan)表示,如果将问题分解为理论计算机科学的基本规则,就会发现,命令AI不破坏世界的遏制算法存在无意中止其自身运行的可能性。

若发生这种情况,用户其实并不知道遏制算法是否仍在分析超级人工智能可能存在的威胁,或者它是否已经顺利停止有害的AI。因此,这种状况的出现会导致遏制算法无法得到有效使用。

根据研究发现,由于计算的基本局限性,目前暂时没有一种算法可以顺利计算出超级AI是否会危害世界。

假设超级人工智能将包含一个程序,该程序包含通用图灵机在输入时可能会像世界级状况一样复杂地执行所有程序,按照这么高的标准建立围堵遏制算法,基于这个基础对该超级AI程序进行仿真,这在理论上是不可能的。

到目前为止,这种类型的超级AI仍仅限于幻想领域,不过,研究人员表示,AI技术的发展正朝着科幻小说作家所设想的超级智能系统的类型迈进。

研究团队里面的成员之一、来自马克斯·普朗克人类发展研究所的曼努埃尔·塞布里安(Manuel Cebrian)表示,已经有AI机器可以实现独立执行某些重要任务,而程序员并没有完全了解它们是如何学习做到的。

因此,基于这个存在而提出一个问题,在某个时候这是否可能变得不可控制并对人类构成危险。

不管如何,发展超级人工智能的趋势并不会按下暂停键,只是,关于遏制超级人工智能的方式还是要保持跟进的,只有类似法律指引人类日常规范一般对超级人工智能形成一个制约,才可以让AI为我们服务,而不是造成灾难。
责任编辑:YYX

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    26153

    浏览量

    263716
  • 人工智能
    +关注

    关注

    1773

    文章

    43373

    浏览量

    230136
收藏 人收藏

    评论

    相关推荐

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 在新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷在嵌入式人工智能领域布局
    发表于 02-26 10:17

    2024人工智能四大趋势

    2023年,世人见证了ChatGPT在全球范围的大火。以生成式人工智能为代表的新一代人工智能问世,改变了人工智能(AI)技术与应用的发展轨迹,加速了人与AI的互动进程,是人工智能发展史
    的头像 发表于 01-05 10:37 595次阅读

    ai人工智能机器人

    随着时间的推移,人工智能的发展越来越成熟,智能时代也离人们越来越近,近几年人工智能越来越火爆,人工智能的应用已经开始渗透到各行各业,与生活交融,成为人们无法拒绝,无法失去的一个重要存在
    发表于 09-21 11:09

    《通用人工智能:初心与未来》-试读报告

    作者给出的结论。整体读下来,可以给我们关于通用人工智能全面的了解。作者也反复强调了通用人工智能与专用智能的区别。尤其是人们错误的认为一堆专用智能
    发表于 09-18 10:02

    如何将人工智能应用到效能评估系统软件中去解决

    我们可以将其应用到效能评估系统中,进一步提高效能评估的准确性和实用性。   华盛恒辉可以利用人工智能技术,通过对大量数据的分析,来识别和评估各个业务环节的表现,从而对效能进行评估和监测。此外,我们还可
    发表于 08-30 12:58

    新一代人工智能发展规划

    新一代人工智能发展规划 随着时代的进步,人工智能(AI)已经成为一项热门技术,并且已经逐渐渗透到我们的生活中,为我们提供了许多便利。然而,人工智能
    的头像 发表于 08-15 16:07 4349次阅读

    什么是生成式人工智能 中国出台《生成式人工智能服务管理暂行办法》

    根据国家网信办联合国家发展改革委、教育部、科技部等7个部门公布的《生成式人工智能服务管理暂行办法》,该办法将于2023年8月15日起生效。这一举措旨在促进生成式人工智能的健康发展和规范应用,维护国家安全和社会公共
    的头像 发表于 07-24 16:20 1801次阅读

    胡厚崑:让人工智能服务好千行百业,服务好科学研究

    有两个着力点:第一,打造强有力的算力底座,支撑中国人工智能产业的发展。第二,从通用大模型到行业大模型,让人工智能服务好千行百业,服务好科学研究。 发言全文 ChatGPT的出现,使
    的头像 发表于 07-06 18:25 257次阅读
    胡厚崑:让<b class='flag-5'>人工智能</b><b class='flag-5'>服务</b>好千行百业,<b class='flag-5'>服务</b>好科学研究

    人工智能能给我们提供什么?

    人工智能能给我们提供什么
    的头像 发表于 06-30 16:34 719次阅读

    什么是人工智能 人工智能应用

    人工智能也就是我们常说的AI,在现如今,大家对人工智能也是耳熟能详。为增进大家对人工智能的认识,本文将对人工智能以及人工智能的2个应用予以介
    的头像 发表于 06-28 16:54 1151次阅读

    AI 人工智能的未来在哪?

    人工智能、AI智能大模型已经孵化;繁衍过程将突飞猛进,ChatGPT已经上线。 世界首富马斯克认为AI对人类是一种威胁;谷歌前CEO施密特认为AI和机器学习对人类有很大益处。 每个国家对核武器的运用有两面性,可造可控;但AI智能
    发表于 06-27 10:48

    【书籍评测活动NO.16】 通用人工智能:初心与未来

    已经变得越来越复杂而强大,但计算机科学还远未创造出通用人工智能(General AI)。作者结合人类自然智能的认知机理以及人工智能发展的初心与使命,带我们从不同方面细致分析了当前
    发表于 06-21 14:41

    人工智能一例

    这句话里边有几个参数? 如果x=1则执行a 如果是单计算的话只有1这一个参数。 但如果是人工智能的话有如下几个参数, 逻辑门,如果则 未知数,符号x 常量,1 函数,a 很多复杂的智能都可以如此拆分
    发表于 06-10 01:05

    【EASY EAI Nano人工智能开发套件试用体验】EASY EAI Nano人工智能开发套件开箱及硬件初体验

    。 来看看我们的主角EASY EAI Nano人工智能开发板。 简单介绍一下这个开发板的功能: EASY EAI Nano是灵眸科技的硬件产品。基于瑞芯微RV1126 处理器设计,具有四核
    发表于 05-31 19:18

    机器学习和人工智能有什么区别?

    机器学习和人工智能有什么区别?当今唯一可用的软件选项是 ML 系统。在十年左右的时间里,当计算能力和算法开发达到可以显着影响结果的地步时,我们将见证第一个真正的人工智能。是人工智能软件
    发表于 04-12 08:21