在本文中,我们探索了一种简单的方法,为每个方面自动生成离散意见树结构。用到了RL。

首先为每个方面生成离散意见树,设方面词的位置为[b,e],则首先将方面跨度[b, e]作为根节点,然后分别从跨度[1,b−1]和[e+1, n]构建它的左子节点和右子节点。为了构建左子树或右子树,我们首先选择span中「得分最大的元素」作为子树的根节点,然后递归地对相应的span分区使用build_tree调用。(除了方面词外其他node都是单个词)。
关于得分分数的计算,选择将""作为BERT的输入得到特殊于方面词的句子表达H,然后按照如下计算得分:

其中h是H中方面词部分的平均池化,构建树的这部分包含的参数有三个以及BERT参数部分。
构建树的这一部分称为,输入为x和a(用于打分),输出为一棵树,参数 ϕ 包括上述参数。这一部分参数使用RL进行更新而不是最终损失函数的反向传播。
生成树以后开始正式执行预测任务,模型非常简单。
将上面得到的树生成邻接矩阵,经过GCN(可能多层),取最后一层GCN的输出结果的方面词部分以及[CLS]这个token的表达之和作为query,与GCN的输入的初始向量特征(也就是原句子经过句子编码器得到的)做注意力机制,用输入去表达最终的方面级分类特征。

最后输出分类结果

损失函数:

注意这个论文分为两个模块,第一个是生成树,利用得到t;第二部分是预测, ,这里的 θ 包括GCN模块的参数和输出(等式5)的部分,PS注意力模块没有引进参数哦。
第二部分使用上述损失函数进行优化,由于树的采样过程是一个离散的决策过程,因此它是不可微的,第一部分使用的是RL进行优化。
强化学习实现训练部分还没看。
实验效果和分析

MAMS 开发集效果

在MAMS数据上和多语言评论数据的结果

SemEval数据集上的效果

和span-based RL作对比
图3a和图3b分别显示了方面术语“scallops”的induced tree和dependency parse:

图4a和图4b显示了两个情绪极性不同的方面术语的induced tree:

aspect 和 opinion word的距离分析:

基于MAMS的测试集分类精度与训练集中各方面频率的关系:

审核编辑:郭婷
-
编码器
+关注
关注
45文章
3903浏览量
141440
原文标题:ACL'22 | 西湖大学提出:面向Aspect情感分析的离散意见树归纳方法
文章出处:【微信号:zenRRan,微信公众号:深度学习自然语言处理】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
Aspect 将云端人力资源体验与开发者工具拓展至新区域,推出人工智能驱动的预测功能
语法纠错和testbench的自动生成
改进wallance树乘法器优化方法
广和通发布端侧情感对话大模型FiboEmo-LLM
小红书:通过商品标签API自动生成内容标签,优化社区推荐算法
用快手电商 API 实现快手小店商品评论情感分析
生成式 AI 重塑自动驾驶仿真:4D 场景生成技术的突破与实践
推进电机端盖结构的抗冲击分析及优化
PanDao:实际约束条件下成像系统的初始结构的生成
设备保养计划自动生成?这5个功能你必须知道
基于Raspberry Pi 5的情感机器人设计

面向Aspect情感分析的自动生成离散意见树结构
评论