0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

使用TensorFlow开发的一款通用深度学习框架,侧重于针对语言相关任务的序列模型

Tensorflowers 来源:lp 2019-03-22 16:59 次阅读

Lingvo 是国际性语言世界语中的一个单词,意为 “语言”。此名称寓指 Lingvo 框架的根基,即它是使用 TensorFlow 开发的一款通用深度学习框架,侧重于针对语言相关任务(例如机器翻译、语音识别和语音合成)的序列模型。

此框架在 Google 内部非常受欢迎,使用它的研究人员也越来越多。目前已发表 数十篇使用 Lingvo 获得顶尖成果的论文,未来还会有更多论文面世。Lingvo 支持多种架构,从传统的循环神经网络 (RNN) 序列模型到 Transformer 模型,再到包含变分自编码器 (VAE) 组件的模型,不一而足。为表示对研究社区的支持,同时鼓励可复现的研究工作,我们开源了此框架,并开始发布论文中使用的模型。

图 1:Lingvo 框架概览,简要展示了如何实例化和训练模型,以及如何将模型导出以进行评估和部署

在构建 Lingvo 时,我们秉持着协作研究的理念,通过在不同任务之间共享公共层的实现来提升代码复用率。此外,所有层都采用相同的公共界面,并且以相同的方式布局。这不仅可以产生更简洁易懂的代码,还能让您非常轻松地将其他开发者为其他任务所做的改进应用到您自己的任务上。执行这种一致性的确成本不菲,需要更多的规则和样板文件,但 Lingvo 会努力将成本降至最低,以确保在研究过程中更快地进行迭代。

协作的另一个方面是共享可复现的成果。Lingvo 提供一个集中的位置,用于存储检入的模型超参数配置。这不仅可以用来记录重要的实验,还能让其他研究者通过训练相同的模型,轻松复现您的成果。

虽然 Lingvo 最初的关注重点是 NLP,但它其实非常灵活,研究人员已经使用此框架成功实现了图像分割、点云分类等任务的模型。它还支持提炼、生成式对抗网络 (GAN) 和多任务模型。同时,此框架的速度并未因此而受到影响,它具有经优化的输入管道和快速分布式训练能力。最后,Lingvo 还将易于实现生产化也纳入考虑,它甚至有一条明确定义的路径,可以将模型移植到移动推理。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4572

    浏览量

    98737
  • 深度学习
    +关注

    关注

    73

    文章

    5237

    浏览量

    119904
  • tensorflow
    +关注

    关注

    13

    文章

    313

    浏览量

    60242

原文标题:Lingvo:TensorFlow 序列建模框架

文章出处:【微信号:tensorflowers,微信公众号:Tensorflowers】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    谷歌模型框架是什么软件?谷歌模型框架怎么用?

    谷歌模型框架通常指的是谷歌开发的用于机器学习和人工智能的软件框架,其中最著名的是TensorFlow
    的头像 发表于 03-01 16:25 230次阅读

    如何使用TensorFlow构建机器学习模型

    在这篇文章中,我将逐步讲解如何使用 TensorFlow 创建一个简单的机器学习模型
    的头像 发表于 01-08 09:25 359次阅读
    如何使用<b class='flag-5'>TensorFlow</b>构建机器<b class='flag-5'>学习</b><b class='flag-5'>模型</b>

    单片机的功能侧重于测量和控制什么

    侧重于测量和控制各种物理量,如温度、湿度、压力、速度等,以及控制各种设备和系统,如机器人、工业自动化、家用电器等。下面将对单片机在测量和控制方面的功能进行详细介绍。 一、测量功能 温度测量:单片机可以通过读取温度传感器的值,准确
    的头像 发表于 12-08 13:51 406次阅读

    iTOP-RK3588开发板使用 tensorflow框架

    TensorFlow个软件库或框架,由 Google 团队设计,以最简单的方式实现机器学习深度
    发表于 10-08 10:04

    深度学习框架深度学习算法教程

    了基于神经网络的机器学习方法。 深度学习算法可以分为两大类:监督学习和无监督学习。监督学习的基本
    的头像 发表于 08-17 16:11 714次阅读

    深度学习框架连接技术

    深度学习框架连接技术 深度学习框架是一个能够帮助机器学习
    的头像 发表于 08-17 16:11 476次阅读

    深度学习框架对照表

    深度学习框架,并对它们进行对比。 1. TensorFlow TensorFlow是由Google Brain团队
    的头像 发表于 08-17 16:11 489次阅读

    深度学习算法库框架学习

    深度学习算法库框架相关知识点以及它们之间的比较。 1. Tensorflow Tensorflow
    的头像 发表于 08-17 16:11 435次阅读

    深度学习算法的选择建议

    深度学习算法的选择建议 随着深度学习技术的普及,越来越多的开发者将它应用于各种领域,包括图像识别、自然
    的头像 发表于 08-17 16:11 381次阅读

    深度学习框架tensorflow介绍

    TensorFlow可以用于各种不同的任务,包括图像和语音识别、自然语言处理和推荐系统等。 TensorFlow提供了一个灵活和强大的平台,可以用于构建和训练各种
    的头像 发表于 08-17 16:11 1434次阅读

    深度学习框架pytorch介绍

    深度学习框架pytorch介绍 PyTorch是由Facebook创建的开源机器学习框架,其中Tenso
    的头像 发表于 08-17 16:10 1131次阅读

    深度学习框架的作用是什么

    任务,需要使用深度学习框架深度学习框架是对
    的头像 发表于 08-17 16:10 1164次阅读

    深度学习框架区分训练还是推理吗

    深度学习框架区分训练还是推理吗 深度学习框架是一个非常重要的技术,它们能够加速
    的头像 发表于 08-17 16:03 1027次阅读

    深度学习框架是什么?深度学习框架有哪些?

    深度学习框架是什么?深度学习框架有哪些?  深度
    的头像 发表于 08-17 16:03 1771次阅读

    深度学习框架pytorch入门与实践

    深度学习框架pytorch入门与实践 深度学习是机器学习中的一个分支,它使用多层神经网络对大量数
    的头像 发表于 08-17 16:03 1195次阅读