0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

推荐3本经典深度学习教程,会改文风的AI来了!

DPVg_AI_era 来源:lq 2018-12-12 09:21 次阅读

本文总结了2018年下半年,最火的开源框架、模型,以及社区。同时还提到一个有趣的现象,每20分钟就有一篇AI论文现世。最后作者为推荐3本经典深度学习教程

代笔们,枪手们,小心了!会改文风的AI来了!

日前,在加拿大蒙特利尔举办的AI顶会NeurIPS 2018上,来自密歇根大学和谷歌大脑的研究人员提出了一种新的面向NLP任务的机器学习新架构,不仅能够根据给定的实例生成句子,而且能够在保留句子意思的情况下,改变句子表达的感情、时态、复杂度等属性。

论文链接:

https://papers.nips.cc/paper/7757-content-preserving-text-generation-with-attribute-controls.pdf

研究人员称,这一技术有望可能用于多种用途,比如复述、小组会议、机器翻译、对话系统等。该系统可以作为今年前不久微软推出的NLP弱结构关系推理工具的有力补充。

研究人员表示,“我们通过本文解决了对句子属性的修改问题,在无需平行数据的情况下首次成功对句子的多个属性进行了修改。”

本文中介绍的AI系统可以改变句子的感情色彩,即褒贬义、正负面感情色彩的改变。数据集来自Yelp用户点评内容和IMDB影片评论

该团队首先解决感情控制问题。研究数据基于两大用户生成的文本数据集:点评应用Yelp评论数据集的过滤版本,以及IMDB网站上的大量电影评论进行,这两个数据集的句子数量分别达到44.7万和30万,用于训练系统。

在训练之后,研究人员使用12.8万条Yelp餐厅评论和3.6万条IMDB电影评论的测试数据集,尝试从具有负面情绪的句子中生成具有正面情绪的文本片段,反之亦然。

BLEU是评估机器翻译文本质量的标准化指标,本文中提出的AI系统在BLEU评估中的表现胜过了两种当前效果最好的文本生成方法。

此外,这个系统始终能够生成与输入句子相关的、语法正确的句子。在某种程度上,参与亚马逊Mechanical Turk项目的人认为模型生成的输出比以前的方法得到的输出的真实度更高。

该模型生成的句子非常连贯自然。比如,它将“柜台后面的人并不友好”转换成了“柜台上的人非常友好和乐于助人。”在另一个例子中,该模型把“这是关于这部电影,还有一个有趣的方面”,变成了这部电影“没有值得关注的质量”。

令人更加印象深刻的是,另一项测试中的研究人员使用该系统同时控制句子的多种属性,包括情绪,时态,声音和情绪等。在对多伦多BookCorpus数据集的200万个文本片段的数据集进行训练之后,模型能够将将来时句子中的指示性情绪(“John将无法住在营地里”),转换为条件时态中的虚拟语气(“John不能住在营地“)。

如上图所示,系统可以同时修改输入句子的多个属性,如感情、时态、主动/被动式以及肯定/否定等

研究人员表示,“本文表明,我们的转换模型通过各种实验和指标有效地反映了条件信息。以前的成果主要是关于句子单个属性的控制,并在两种模式之间进行转换,本文中的模型应用很容易扩展到多属性的转换场景。在这个框架下,未来方向是转换句子红具有连续值的属性,以及范围更大的语义和句法属性。“

量度标准与实验结果

表1:情感条件句子生成的定量评估。 属性兼容性表示生成的句子的标签的准确性,由预训练后的分类器来量度。句子内容的保留程度由(BLEU-1(B-1)和BLEU-4(B-4)分数)评估。 根据预训练的分类器量度生成“困惑度”指标,来评估输出句子的流畅度。 对于准确性和内容兼容性指标,数值越高更好,对于困惑度,数字越低越好。

表2:对于模型生成的句子的人类评估结果。 表中数字分数表示由真人判断为具有适当属性标签和内容的句子占输出的百分比。流利度评分采用5分制

表3:将古英语翻译成现代英语的示例。表中seq2seq模型受并行数据监控。研究人员在无监督(无并行数据)和半监督(成对和不成对数据)条件下对模型进行测试

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 谷歌
    +关注

    关注

    27

    文章

    5852

    浏览量

    103246
  • 机器学习
    +关注

    关注

    66

    文章

    8116

    浏览量

    130546
  • nlp
    nlp
    +关注

    关注

    1

    文章

    463

    浏览量

    21818

原文标题:谷歌NeurIPS 2018:全新NLP工具炼成会改变文风的AI

文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    FPGA在深度学习应用中或将取代GPU

    基础设施,人们仍然没有定论。如果 Mipsology 成功完成了研究实验,许多正受 GPU 折磨的 AI 开发者将从中受益。 GPU 深度学习面临的挑战 三维图形是 GPU 拥有如此大的内存和计算能力
    发表于 03-21 15:19

    主流的深度学习模型有哪些?AI开发工程师必备!

    深度学习在科学计算中获得了广泛的普及,其算法被广泛用于解决复杂问题的行业。所有深度学习算法都使用不同类型的神经网络来执行特定任务。什么是深度
    的头像 发表于 12-29 08:26 669次阅读
    主流的<b class='flag-5'>深度</b><b class='flag-5'>学习</b>模型有哪些?<b class='flag-5'>AI</b>开发工程师必备!

    深度学习在人工智能中的 8 种常见应用

    深度学习简介深度学习是人工智能(AI)的一个分支,它教神经网络学习和推理。近年来,它解决复杂问题
    的头像 发表于 12-01 08:27 955次阅读
    <b class='flag-5'>深度</b><b class='flag-5'>学习</b>在人工智能中的 8 种常见应用

    深度学习的由来 深度学习经典算法有哪些

    深度学习作为机器学习的一个分支,其学习方法可以分为监督学习和无监督学习。两种方法都具有其独特的
    发表于 10-09 10:23 355次阅读
    <b class='flag-5'>深度</b><b class='flag-5'>学习</b>的由来 <b class='flag-5'>深度</b><b class='flag-5'>学习</b>的<b class='flag-5'>经典</b>算法有哪些

    深井中的深度学习:MCU+AI,让“不可能”的田园机井智能抄表成为可能!

    深井中的深度学习:MCU+AI,让“不可能”的田园机井智能抄表成为可能!
    的头像 发表于 09-21 17:41 540次阅读
    深井中的<b class='flag-5'>深度</b><b class='flag-5'>学习</b>:MCU+<b class='flag-5'>AI</b>,让“不可能”的田园机井智能抄表成为可能!

    机器学习深度学习的区别

      机器学习深度学习是当今最流行的人工智能(AI)技术之一。这两种技术都有助于在不需要人类干预的情况下让计算机自主学习和改进预测模型。本文
    发表于 08-28 17:31 1042次阅读

    深度学习服务器怎么做 深度学习服务器diy 深度学习服务器主板用什么

    深度学习服务器怎么做 深度学习服务器diy 深度学习服务器主板用什么  随着人工智能的飞速发展,
    的头像 发表于 08-17 16:11 536次阅读

    深度学习框架和深度学习算法教程

    深度学习框架和深度学习算法教程 深度学习是机器学习
    的头像 发表于 08-17 16:11 711次阅读

    深度学习框架是什么?深度学习框架有哪些?

    深度学习框架是什么?深度学习框架有哪些?  深度学习框架是一种软件工具,它可以帮助开发者轻松快速
    的头像 发表于 08-17 16:03 1749次阅读

    什么是深度学习算法?深度学习算法的应用

    什么是深度学习算法?深度学习算法的应用 深度学习算法被认为是人工智能的核心,它是一种模仿人类大脑
    的头像 发表于 08-17 16:03 1470次阅读

    深度学习算法简介 深度学习算法是什么 深度学习算法有哪些

    深度学习算法简介 深度学习算法是什么?深度学习算法有哪些?  作为一种现代化、前沿化的技术,
    的头像 发表于 08-17 16:02 6800次阅读

    深度学习基本概念

    深度学习基本概念  深度学习是人工智能(AI)领域的一个重要分支,它模仿人类神经系统的工作方式,使用大量数据训练神经网络,从而实现自动化的模
    的头像 发表于 08-17 16:02 1151次阅读

    如何加速深度学习AI应用

    深度学习 AI 应用是解锁生产力新时代的关键,人类的创造力能够通过机器得到提高与增强。我们致力于将大量培训数据和海量数学运算用于全面训练每个神经网络。训练可使用大规模批处理功能离线进行,历时数天。经过训练的网络要投入部署,那就面
    发表于 08-04 11:29 407次阅读

    AI、机器学习深度学习的区别及应用

    深度学习和神经网络的区别在于隐藏层的深度。一般来说,神经网络的隐藏层要比实现深度学习的系统浅得多,而深度
    发表于 07-28 10:44 324次阅读
    <b class='flag-5'>AI</b>、机器<b class='flag-5'>学习</b>和<b class='flag-5'>深度</b><b class='flag-5'>学习</b>的区别及应用

    智造之眼丨深度学习应用

    智造之眼®科学设计深度学习各应用流程,在尽量简化前期准备工作的基础上为客户提供稳定且准确的深度学习解决方案。
    的头像 发表于 05-04 16:55 464次阅读
    智造之眼丨<b class='flag-5'>深度</b><b class='flag-5'>学习</b>应用