0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Facebook的AI研究团队开发了一种神经转编译器

倩倩 来源:文财网 2020-07-22 15:23 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

仅一周多的时间,您中的大多数人就会听说Facebook的AI研究团队(FAIR)开发了一种神经转编译器,该代码使用“无监督翻译 ” 将高级编程语言(如C ++,PythonJava,Cobol)的代码转换为另一种语言。传统的方法是标记源语言并将其转换为抽象语法树(AST),反编译器将根据定义翻译的手写规则(例如抽象或上下文)将其用于转换为所选的目标语言。没有丢失。

在过去的几十年中,神经语言翻译取得了如此重大的进步,以至于尽管只有足够的并行语料库才是唯一的限制,但是这些神经模型往往要比硬编码的手写规则好得多。

这已通过“无监督的ML翻译”方法得到了更大程度的解决,其中Facebook的研究团队使用了来自Github的不同编程语言的大量单语源代码库来训练模型。

这使许多组织感到宽慰,尤其是在保险,政府和银行部门,他们继续使用旧版应用程序,而这些应用程序几乎没有增强或微调的空间,因为它们是由真正熟练的程序员在过去的美好时光中编写的— COBOL ,Pascal,Fortran等。

尽管编程语言已经随着时间的流逝而发展,但是从一种代码库移植到更高效或更现代的语言(如Java,Swift,Ruby,python)却是真正的痛苦,因为它需要源语言和目标语言方面的专业知识。例如,有报道称,澳大利亚联邦银行花费了高达7.5亿美元,并在五年内将其核心软件从大型机上的COBOL迁移到了现代平台上。

基于规则的翻译实现起来很复杂,灵活性和解释性较差。Facebook的Transcoder可以解决长期存在的问题。

FAIR代码转换器的主要组件

FAIR转码器基于一种变压器架构,包括一个编码器和一个解码器,基于“注意就是您所需要的”论文。FAIR转码器依赖于单个模型进行编码和解码,并且基于3个原理:

屏蔽语言模型预训练

去噪自动编码

回译

1. 屏蔽语言模型预训练

掩蔽语言预训练模型基于BERT论文,该模型训练编码器从源代码中识别出掩蔽标记。训练编码器以理解编程构造,以便在屏蔽某些令牌时识别丢失的令牌并对其进行重构。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 编程语言
    +关注

    关注

    10

    文章

    1965

    浏览量

    39850
  • 源代码
    +关注

    关注

    96

    文章

    2953

    浏览量

    70632
  • ML
    ML
    +关注

    关注

    0

    文章

    154

    浏览量

    35524
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    单片机开发功能安全中编译器

    的行为将符合开发人员的意图。对调试工具使用的数据的“后门”访问代表了该语言不允许的另一种情况,因此可能会带来意想不到的后果。 编译器优化可能对所有这些领域产生重大影响,因为它们都不属于编译器
    发表于 12-01 06:44

    开源鸿蒙技术大会2025丨编译器与编程语言分论坛:语言驱动系统创新,编译赋能生态繁荣

    在万物智联的时代背景下,操作系统底层能力的构建离不开编程语言与编译器的关键支撑。作为开源鸿蒙生态的核心技术,语言设计与编译器、虚拟机实现的进步直接关系到开发效率、运行性能与系统安全。本次分论坛聚焦
    的头像 发表于 11-20 17:24 1140次阅读
    开源鸿蒙技术大会2025丨<b class='flag-5'>编译器</b>与编程语言分论坛:语言驱动系统创新,<b class='flag-5'>编译</b>赋能生态繁荣

    【「AI芯片:科技探索与AGI愿景」阅读体验】+神经形态计算、类脑芯片

    : 基于JJ的超导神经元和突触: 2、半导体与超导体回合式神经形态网络 工作原理: 3、非超导低温类脑芯片 (知识盲区了) 4、低温AI类脑芯片的潜力 四、以树突为中心的合成大脑 生物神经
    发表于 09-17 16:43

    【「AI芯片:科技探索与AGI愿景」阅读体验】+化学或生物方法实现AI

    的忆阻、MAC计算单元及存储 可以利用液体的流体力学特征做个纳米级微流体系统,用水柱来实现逻辑门。 ①用有机聚合物溶液实现互连、忆阻神经
    发表于 09-15 17:29

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI的未来:提升算力还是智力

    、浪费资源与破坏环境 二、用小模型代替大模型 1、强化学习 2、指令调整 3、合成数据 三、终身学习与迁移学习 1、终身学习 终身学习是一种模仿人类行为的AI算法,旨在构建一种能不断适应新环境、在不断接收
    发表于 09-14 14:04

    【「AI芯片:科技探索与AGI愿景」阅读体验】+第二章 实现深度学习AI芯片的创新方法与架构

    Transformer和视觉Transformer模型。 ViTA是一种高效数据流AI加速,用于在边缘设备上部署计算密集型视觉Transformer模型。 2、射频神经网络 2.1线
    发表于 09-12 17:30

    如何在Keil中将NuMicro BSP从Arm编译器5迁移到编译器6?

    在Keil中将NuMicro BSP从Arm编译器5迁移到编译器6!
    发表于 08-20 06:29

    求助,关于NanoEdge AI Studio生成的库交叉编译器版本疑问求解

    我使用的是NanoEdge AI Studio v4.3.1,跟着官方交教程生成了库libneai.a,我通过metadata.json文件得知生成这个库的交叉编译器版本是\"
    发表于 08-08 07:25

    进迭时空同构融合RISC-V AI CPU的Triton算子编译器实践

    Triton是由OpenAI开发个开源编程语言和编译器,旨在简化高性能GPU内核的编写。它提供了类似Python的语法,并通过高级抽象降低了GPU编程的复杂性,同时保持了高性能。目前
    的头像 发表于 07-15 09:04 2179次阅读
    进迭时空同构融合RISC-V <b class='flag-5'>AI</b> CPU的Triton算子<b class='flag-5'>编译器</b>实践

    边缘设备AI部署:编译器如何实现轻量化与高性能?

    电子发烧友网综合报道 AI编译器是专门为人工智能(AI)和机器学习(ML)模型设计的编译器,其核心目标是将高级的AI模型描述(如计算图、
    的头像 发表于 07-06 05:49 6912次阅读

    编译器功能安全验证的关键要素

    在汽车、工业、医疗等安全关键型应用中,确保功能安全合规性需要严格的工具链验证。开发安全关键型软件的企业必须遵守ISO 26262、IEC 61508、ISO 62304等国际标准对编译器工具链进行全面的验证。
    的头像 发表于 07-05 13:37 1685次阅读

    Nordic收购 Neuton.AI 关于产品技术的分析

    Nordic Semiconductor 于 2025 年收购了 Neuton.AI,这是家专注于超小型机器学习(TinyML)解决方案的公司。 Neuton 开发了一种独特的
    发表于 06-28 14:18

    兆松科技ZCC编译器全面支持芯来科技NA系列处理

    近日,兆松科技(武汉)有限公司(以下简称“兆松科技”)宣布正式发布高性能RISC-V编译器ZCC 4.0.0版本。
    的头像 发表于 06-11 09:56 1979次阅读

    RISC-V架构下的编译器自动向量化

    进迭时空专注于研发基于RISC-V的高性能新AICPU,对于充分发挥CPU核的性能而言,编译器是不可或缺的环,而在AI时代,毫无疑问向量算力将发挥越来越重要的作用。进迭时空非常重视RISC-V
    的头像 发表于 06-06 16:59 1429次阅读
    RISC-V架构下的<b class='flag-5'>编译器</b>自动向量化

    RVCT编译器是否比GNU的编译器的代码执行速度更快?

    使用FX3S遇到了RVCT编译器的问题。 1、在SDK的release note中有支持RVCT的描述, 但是在EZ USB Suite的设置中没有找到RVCT的选项, 请问支持的具体版本
    发表于 05-08 07:49