资料介绍
众多自然语言处理( Natural Language Processing,NLP)任务受益于在大规模语料上训练的词向量。由于预训练的词向量具有大语料上的通用语义特征,因此将这些词向量应用到特定的下游任务时,往往需要通过微调进行一定的更新和调整,使其更适用于目标任务。但是,目标语料集中的低频词由于缺少训练样夲,导致在微调过程中无法获得稳定的梯度信息,使得词向量无法得到有效更新。而在短文本分类任务中,这些低频词对分类结果同样有着重要的指示性。因此,在具体的短文本分类任务上获得一个更妤的低频词词向量表示是有必要的。针对这个问题,文中提出了一种与下游任务模型无关的低频词词向量更新算法,通过基于K近邻的词向量偏移计算方法,利用通用词向量中与低频词相似的高频词所获得的任务特征信息,来指导低频词的信息更新,从而获得更准确的且适用于当前任务语境的低频词词向量表示;并以 Textcnn作为基准模型,基于word2vec和 Glove得到的两个通用预训练词向量,在3个公开的短文本数据集上进行了优化算法的效果验证。实验结果表明,使用优化算法更新低频词词表示后,模型分类准确率能达到84.3%~94%,较更新前提升了0.4%%,体现了优化算法的有效性,也进一步证明了短文本分类任务中低频词对分类结果的影响,为短文本分类的研究工作提供了一定的借鉴。
- 基于LSTM的表示学习-文本分类模型 18次下载
- 面向短文本的中文真词错误检测与修复 6次下载
- 面向短文本的中文真词错误检测与修复 2次下载
- 基于主题分布优化的模糊文本分类方法 5次下载
- 基于双通道词向量的卷积胶囊网络文本分类算法 6次下载
- 基于不同神经网络的文本分类方法研究对比 49次下载
- 基于主题相似度聚类的文本分类算法综述 6次下载
- 基于单词贡献度和Word2Vec词向量的文档表示方法 2次下载
- 基于BERT+Bo-LSTM+Attention的病历短文分类模型 13次下载
- 融合BERT词向量与TextRank的关键词抽取方法 18次下载
- 集成WL-CNN和SL-Bi-LSTM的旅游问句文本分类算法 6次下载
- 一种基于神经网络的短文本分类模型 10次下载
- 结合BERT模型的中文文本分类算法 6次下载
- 基于微博文本的词对主题演化模型 14次下载
- 融合词语类别特征和语义的短文本分类方法 0次下载
- 卷积神经网络在文本分类领域的应用 1.7k次阅读
- 人工智能中文本分类的基本原理和关键技术 3.4k次阅读
- ElasticSearch同义词代码解析 1.6k次阅读
- 机器学习相关介绍:支持向量机(低维到高维的映射) 3.1k次阅读
- 如何才能自己做词云图 9.5k次阅读
- 文本分类中处理样本不均衡和提升模型鲁棒性的trick 1.6k次阅读
- 带你从头构建文本分类器 4.6k次阅读
- 训练一个机器学习模型,实现了根据基于文本分析预测葡萄酒质量 6.8k次阅读
- 如何表示一个词语的意思?神经网络词嵌入的基本思路 4.4k次阅读
- 词对嵌入技术,可以改善现有模型在跨句推理上的表现 3.7k次阅读
- Python数据挖掘:WordCloud词云配置过程及词频分析 4.4k次阅读
- 如何为文本分类任务选择正确的模型,这里有一个完整流程图! 1.4w次阅读
- 文本分类任务介绍和传统机器学习方法 1w次阅读
- 一种改变标准的谷歌关键词搜索的新方式 7.3k次阅读
- 自然语言处理技术入门之基于关键词生成文本的技术实现过程 1.1w次阅读
下载排行
本周
- 1矽力杰 Silergy SY7215A 同步升压调节器 规格书 Datasheet 佰祥电子
- 1.12 MB | 5次下载 | 免费
- 2HT81696H 内置升压的30W立体声D类音频功放数据手册
- 1.21 MB | 1次下载 | 免费
- 3HTA6863 3W超低噪声超低功耗单声道D类音频功率放大器数据手册
- 0.87 MB | 次下载 | 免费
- 4南芯 Southchip SC8802C 充电控制器 规格书 Datasheet 佰祥电子
- 88.16 KB | 次下载 | 免费
- 5矽力杰 Silergy SY7065 同步升压转换器 规格书 Datasheet 佰祥电子
- 910.67 KB | 次下载 | 免费
- 6矽力杰 Silergy SY7066 同步升压转换器 规格书 Datasheet 佰祥电子
- 989.14 KB | 次下载 | 免费
- 7WD6208A产品规格书
- 631.24 KB | 次下载 | 免费
- 8NB685 26 V,12 A,低静态电流,大电流 同步降压变换器数据手册
- 1.64 MB | 次下载 | 2 积分
本月
- 1EMC PCB设计总结
- 0.33 MB | 12次下载 | 免费
- 2PD取电芯片 ECP5702规格书
- 0.88 MB | 5次下载 | 免费
- 3矽力杰 Silergy SY7215A 同步升压调节器 规格书 Datasheet 佰祥电子
- 1.12 MB | 5次下载 | 免费
- 4氮化镓GaN FET/GaN HEMT 功率驱动电路选型表
- 0.10 MB | 3次下载 | 免费
- 5PD取电芯片,可取5/9/12/15/20V电压ECP5702数据手册
- 0.88 MB | 3次下载 | 免费
- 6SY50655 用于高输入电压应用的伪固定频率SSR反激式稳压器英文资料
- 1.01 MB | 3次下载 | 免费
- 7怎么为半导体测试仪选择精密放大器
- 0.65 MB | 2次下载 | 免费
- 8SY52341 次级侧同步整流英文手册
- 0.94 MB | 2次下载 | 免费
总榜
- 1matlab软件下载入口
- 未知 | 935137次下载 | 10 积分
- 2开源硬件-PMP21529.1-4 开关降压/升压双向直流/直流转换器 PCB layout 设计
- 1.48MB | 420064次下载 | 10 积分
- 3Altium DXP2002下载入口
- 未知 | 233095次下载 | 10 积分
- 4电路仿真软件multisim 10.0免费下载
- 340992 | 191469次下载 | 10 积分
- 5十天学会AVR单片机与C语言视频教程 下载
- 158M | 183360次下载 | 10 积分
- 6labview8.5下载
- 未知 | 81606次下载 | 10 积分
- 7Keil工具MDK-Arm免费下载
- 0.02 MB | 73832次下载 | 10 积分
- 8LabVIEW 8.6下载
- 未知 | 65991次下载 | 10 积分
电子发烧友App





创作
发文章
发帖
提问
发资料
发视频
上传资料赚积分
评论