0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

艾伦人工智能研究所和研究人员发布了AllenNLP Interpret

倩倩 来源:新经网 2020-03-22 16:49 次阅读

来自加利福尼亚州欧文分校的艾伦人工智能研究所和研究人员发布了AllenNLP Interpret,该工具包用于解释自然语言处理(NLP)模型的结果。可扩展的工具包包括用于解释和可视化组件的几种内置方法,以及使用AllenNLP Interpret解释包含BERT和RoBERTa的最新NLP模型的结果的示例。

在arXiv上发表的一篇论文中,研究团队更详细地描述了该工具包。AllenNLP Interpret使用两种基于梯度的解释方法:显着性图,确定输入句子中的每个单词或“标记”对模型的预测有多大作用;以及对抗攻击,尝试删除或更改输入中的单词,同时仍保持来自模型的相同预测。这些技术可用于各种NLP任务和模型架构。这些实现使用一组通用的API和可视化组件,为将来开发其他技术和模型支持提供了框架。

随着公司越来越多地使用AI来自动提供问题的答案,用户想知道为什么 AI会给出给定的答案。例如,在检测到信用卡交易欺诈的情况下,该交易特别暗示欺诈吗?

对模型如何产生答案的解释对于模型开发人员了解面对新数据时系统将如何泛化的能力也很重要。AllenNLP Interpret研究人员Sameer Singh经常引用该模型来区分狼和狗,但实际上只是学会了检测雪。

对于某些机器学习算法,解释很简单:例如,决策树只是一系列if / then规则。但是,深度学习模型的输出可能更难以解释。

辛格的先前工作包括LIME,它使用线性逼近来解释更复杂模型的预测。AllenNLP Interpret使用基于梯度的方法,该方法可测量输入要素对输出的影响。由于计算此梯度是深度学习培训的关键组成部分,因此这些方法可以应用于任何深度学习模型。

尽管这些技术是通用的,但AllenNLP Interpret旨在用于NLP。NLP系统的输入是文本字符串,通常是句子或整个文档,然后将文本解析为其组成词或标记。AllenNLP Interpret包括显着性图,显示每个标记对模型预测的贡献;一个用例可能是解释句子中的哪些单词导致其情感被分为正面或负面。

该工具包还包括两个对抗方法,这些方法显示了更改输入中的标记如何影响输出。第一,HotFlip,用其他单词替换斜率最高的输入单词,直到模型输出更改。另一种攻击是输入缩减,它会反复删除坡度最小的单词,而不会更改输出。这导致输入文本“通常是无意义的,但会引起高置信度预测”。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1773

    文章

    43356

    浏览量

    230123
  • 自然语言处理

    关注

    1

    文章

    506

    浏览量

    13091
收藏 人收藏

    评论

    相关推荐

    嵌入式人工智能的就业方向有哪些?

    于工业、农业、医疗、城市建设、金融、航天军工等多个领域。在新时代发展背景下,嵌入式人工智能已是大势趋,成为当前最热门的AI商业化途径之一。
    发表于 02-26 10:17

    谷歌发布轻量级开源人工智能模型Gemma

    谷歌近日宣布推出开源人工智能(AI)模型系列Gemma,旨在为开发人员研究人员提供一个负责任的AI构建平台。这一举措标志着自2022年OpenAI的ChatGPT引领AI聊天机器人热潮后,谷歌首次
    的头像 发表于 02-23 11:38 367次阅读

    艾伦人工智能研究所发布全球首个100%开源大模型

    艾伦人工智能研究所近日宣布,与多所大学合作,成功开发出全球首个100%开源大模型OLMo,包括权重、代码、数据集和训练全过程。这一创新性项目旨在推动人工智能领域的开放研究,为全球
    的头像 发表于 02-05 09:34 436次阅读

    商汤科技联合发布《新一代人工智能基础设施白皮书》

    近日,商汤科技智能产业研究院携手中国信息通信研究院云计算与大数据研究所、中国智能算力产业联盟以及人工智能
    的头像 发表于 01-03 14:28 305次阅读

    ai人工智能机器人

    随着时间的推移,人工智能的发展越来越成熟,智能时代也离人们越来越近,近几年人工智能越来越火爆,人工智能的应用已经开始渗透到各行各业,与生活交融,成为人们无法拒绝,无法失去的一个重要存在
    发表于 09-21 11:09

    《通用人工智能:初心与未来》-试读报告

    取代人类了吗? 很多人都担心这个问题,其实这个就是有点杞人忧天人工智能是服务人类,而不是取代人类。人类是不知道多少万年进化的结果,而计算机是基于逻辑和推理的理论建立的,人类是复杂的是社会的,关于情感
    发表于 09-18 10:02

    人工智能研究内容(1)#人工智能

    网络人工智能
    未来加油dz
    发布于 :2023年07月27日 11:45:44

    智能感知与物联网技术研究所2021级硕士研究生中期报告(五)

    原文标题:智能感知与物联网技术研究所2021级硕士研究生中期报告(五) 文章出处:【微信公众号:智能感知与物联网技术研究所】欢迎添加关注!文
    的头像 发表于 07-24 15:15 289次阅读

    智能感知与物联网技术研究所2021级硕士研究生中期报告(四)

    原文标题:智能感知与物联网技术研究所2021级硕士研究生中期报告(四) 文章出处:【微信公众号:智能感知与物联网技术研究所】欢迎添加关注!文
    的头像 发表于 07-21 07:35 319次阅读

    智能感知与物联网技术研究所2021级硕士研究生中期报告(三)

    原文标题:智能感知与物联网技术研究所2021级硕士研究生中期报告(三) 文章出处:【微信公众号:智能感知与物联网技术研究所】欢迎添加关注!文
    的头像 发表于 07-20 07:35 356次阅读

    智能感知与物联网技术研究所2021级硕士研究生中期报告(二)

    原文标题:智能感知与物联网技术研究所2021级硕士研究生中期报告(二) 文章出处:【微信公众号:智能感知与物联网技术研究所】欢迎添加关注!文
    的头像 发表于 07-19 07:25 291次阅读

    智能感知与物联网技术研究所2021级硕士研究生中期报告(一)

    原文标题:智能感知与物联网技术研究所2021级硕士研究生中期报告(一) 文章出处:【微信公众号:智能感知与物联网技术研究所】欢迎添加关注!文
    的头像 发表于 07-18 07:20 269次阅读

    人工智能赋能超构光子学研究

    现象,为完全控制光提供了更广泛深入的见解和更有用的工具。 人工智能(Artificial intelligence, AI)研究、模拟和扩展以类人类智能的方式进行计算和完成复杂工作的系统及方法,已迅速融入各类学科的前沿
    的头像 发表于 07-17 11:06 445次阅读
    <b class='flag-5'>人工智能</b>赋能超构光子学<b class='flag-5'>研究</b>

    【书籍评测活动NO.16】 通用人工智能:初心与未来

    之后的达特茅斯研讨会开始,用机器来模仿人类学习及其他方面的智能,即实现“人工智能”(Artificial Intelligence,AI)便成为计算机领域持续的研究热点。时至今日,以深度学习为代表
    发表于 06-21 14:41

    机器学习和人工智能有什么区别?

    机器学习和人工智能有什么区别?当今唯一可用的软件选项是 ML 系统。在十年左右的时间里,当计算能力和算法开发达到可以显着影响结果的地步时,我们将见证第一个真正的人工智能。是人工智能软件吗?软件构成
    发表于 04-12 08:21