0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

如何解决NER覆盖和不连续问题

深度学习自然语言处理 来源:深度学习自然语言处理 作者:zenRRan 2021-09-08 10:48 次阅读

论文:A Span-Based Model for Joint Overlapped and DiscontinuousNamed Entity Recognition

链接:https://aclanthology.org/2021.acl-long.372.pdf

代码:https://github.com/foxlf823/sodner

提取摘要

由于普通的NER问题被研究的透透的了,本文主要解决一种稍微复杂些问题:一种带有覆盖和不连续(Overlapped and Discontinuous)的命名实体识别任务。

而在这两者研究上来说,前人只是要么解决覆盖问题,要么解决不连续问题,但是本文提出一种联合解决这两种问题的span-based方法。

span-based方法昨天也提到过了,所以关于实体+关系抽取的任务都可以尝试。

本文通过两个步骤构建模型:

通过列举所有可能的text span来识别出实体片段(entity fragments);

在这些entity fragments上预测是两种关系overlapping or succession。

这样,我们不仅可以识别Discontinuous的实体,同时也可以对Overlapped的实体进行双重检查。

通过上述方法轻松将NER装换成RE(Relation Extraction)任务。最终实验在很多数据集上比如CLEF, GENIA andACE05上展现除了很强劲的性能。

该模型的步骤为

input一方面通过pre-train模型获取word rep,一方面通过dependency parsing获取句法信息

GCN集合LSTM的输出和句法输入,得到syntax-enhanced的新的表达;

获取所有span表示;

通过两个MLP预测span是否为实体,以及实体时间是否有关系;

最后每个loss加上权重,为最终优化目标。

关键分类

AGGCN用来融入句法信息

attention-guided GCN (AGGCN)比普通GCN要强一些,所以这里选用该方法。传统的GCN:

124ac384-1003-11ec-8fb8-12bb97331649.png

而AGGCN就是使用self-attention,替换以前的邻接矩阵A,最后通过线性方法将multi head生成的结果合一:

12545908-1003-11ec-8fb8-12bb97331649.png

Span的表示

解码先预测实体片段,再预测关系。

12860e4e-1003-11ec-8fb8-12bb97331649.png

解码公式

损失计算

实验实验数据介绍

在数据上的表现

在其他数据上与前人的对比,虽然性能不如SOTA,但是这种Span-based方式和SOTA差不了多少,是个新颖的想法。

责任编辑:haq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 模型
    +关注

    关注

    1

    文章

    2701

    浏览量

    47663
  • nlp
    nlp
    +关注

    关注

    1

    文章

    463

    浏览量

    21812

原文标题:ACL2021 | 一种巧妙解决NER覆盖和不连续问题的方法

文章出处:【微信号:zenRRan,微信公众号:深度学习自然语言处理】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    PCB设计阻抗不连续的原因及解决方法

    一站式PCBA智造厂家今天为大家讲讲如何解决pcb设计阻抗不连续的问题?解决PCB设计中的阻抗不连续的方法。当涉及到PCB(Printed Circuit Board)设计时,阻抗一直是一个非常重要
    的头像 发表于 03-21 09:32 157次阅读

    何解决修复立磨摇臂轴承位磨损问题

    何解决修复立磨摇臂轴承位磨损问题
    发表于 03-15 15:41 0次下载

    4260纸机烘缸轴磨损是如何解决的

    电子发烧友网站提供《4260纸机烘缸轴磨损是如何解决的.docx》资料免费下载
    发表于 03-14 15:09 0次下载

    煤气柜泄漏问题如何解

    电子发烧友网站提供《煤气柜泄漏问题如何解决.docx》资料免费下载
    发表于 03-05 17:49 0次下载

    tasking生成的应用程序SRE文件地址连续是怎么回事?

    我在做XC2234L的bootloader,将boot地址划为0XC0 0000-0XC0 5000,APP地址为0XC05000起的所有地址,我做了一个小的APP程序,但是最后生成的SREC文件的地址连续,地址从0XC05200直接跳到了0XC20000,请问这个要怎
    发表于 02-06 06:06

    何解决键槽滚键磨损问题

    电子发烧友网站提供《如何解决键槽滚键磨损问题.docx》资料免费下载
    发表于 02-04 14:24 0次下载

    水环真空泵轴磨损问题如何解

    电子发烧友网站提供《水环真空泵轴磨损问题如何解决.docx》资料免费下载
    发表于 01-19 14:02 0次下载

    什么原因会导致ADP7118工作?如何解决?

    ,没有异常。初步怀疑是ADP7118的问题,但是换了其他同样封装的LDO,现象相同,还是有一定几率+5V产生。请问这是什么问题,如何解决,是不是应该选择具有软启动功能的LDO?
    发表于 01-08 06:47

    印刷锡膏时出现少锡的问题该如何解决?

    印刷锡膏时出现少锡的问题该如何解决?
    的头像 发表于 12-11 09:38 722次阅读
    印刷锡膏时出现少锡的问题该如<b class='flag-5'>何解</b>决?

    何解决直插差模电感异响问题

    13、如何解决直插差模电感的异响
    发表于 11-20 09:35 3次下载

    增加扩展芯片,如何解决51单片机端口不够用的问题?

    为了实现51单片机的多功能控制,增加扩展芯片要如何解决51单片机端口不够用的情况?
    发表于 10-26 07:41

    emwin显示文本被元件覆盖何解决?

    例如我在(0,0)坐标创建了一个100*100的TEXT的控件并设置了背景颜色,然后我想GUI_DispString在(50,50)的坐标显示一字符串,实际操作中,该字符串被TEXT控件覆盖了,显示不出来,我想把字符串叠在这个TEXT控件上需要怎么操作??
    发表于 09-28 06:30

    SPI公共代码不支持连续使用CS信号怎么解决?

    /spi/spi-fsl-lpspi.txt 它说: - fsl,spi-only-use-cs1-sel : spi 通用代码不支持 连续使用 CS 信号。i.MX8DXL-EVK 板只使用 CS1
    发表于 05-29 07:31

    斩波电路把电压调成一段一段连续的直流电有什么作用呢?

    斩波电路把电压调成一段一段连续的直流电有什么作用呢?
    发表于 05-11 17:13

    斩波电路把电压调成一段一段连续的直流电有什么作用呢?

    斩波电路把电压调成一段一段连续的直流电有什么作用呢?
    发表于 05-11 17:12