0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

加拿大大四学霸,天才程序员和他的逆天语言模型

新机器视觉 来源:LONG 2019-07-19 09:03 次阅读

GPT-2,一个来自 OpenAI 的逆天语言模型,现在能用来补全代码了。

一位来自加拿大的大四学霸,开发了一款”Deep TabNine“代码补全工具,实现了这一大胆的想法。

它支持23种编程语言、5种编辑器,使用简单,效果惊艳。

不少使用过的网友说:TabNine是他们用过的最好的代码补全工具,这是属于程序员的杀手级应用。

加拿大大四学霸,天才程序员和他的逆天语言模型

在 VS Code 的扩展商店里,TabNine 已经被下载 1.3 万次,获得全 5 星好

支持 23 种编程语言

Deep TabNine 支持 Java

加拿大大四学霸,天才程序员和他的逆天语言模型

Python

加拿大大四学霸,天才程序员和他的逆天语言模型

C++

加拿大大四学霸,天才程序员和他的逆天语言模型

Haskell:

加拿大大四学霸,天才程序员和他的逆天语言模型

不同于各种其他代码补全插件,Deep TabNine 是根据程序员过去的习惯自动补全,并在后面给出几种选项的概率。

如果有类似代码出现在之前的项目里,TabNine还会在补全候选框中直接给出地址,方便用户点击进去查阅。

加拿大大四学霸,天才程序员和他的逆天语言模型

除以上几种语言之外,Deep TabNine还支持JavaScript、C、PHP、Go、C#、Ruby、Objective-C、Rust、Swift、TypeScript、OCaml、Scala、Kotlin、Perl、SQL、HTML、CSS和Bash。

主流编程语言几乎都囊括在内。

支持 5 种编辑器

TabNine 支持 VS Code、Sublime Text、Atom、Emacs、Vim 五种代码编辑器。

对于使用 VS Code 和 Sublime 来说,安装 TabNine 非常方便,用自带的扩展包管理工具即可。

VS Code

VS Code 用户按下 Ctrl+P(Mac 用户按下⌘+P),粘贴以下命令,然后按回车键完成安装。

extinstallTabNine.tabnine-vscode

Sublime

Sublime 用户安装分为两步:

1、按下Ctrl+Shift+P(Mac用户:⌘+Shift+P),选择Install Package Control;

2、再次按下Ctrl+Shift+P(Mac用户:⌘+Shift+P),选择Package Control:Install Package,然后选择TabNine来安装。

Vim

Vim 使用 Vundle 插件管理器进行安装:

1、添加Plugin ‘zxqfl/tabnine-vim’到.vimrc;

2、输入:PluginInstall,按下回车完成安装。

其他编辑器的安装方法就不一一赘述了,有需要的用户可以参照文末的链接进行安装。

项目超过400kb需要购买许可证:个人用户49美元,商业用户99美元。

加拿大大四学霸,天才程序员和他的逆天语言模型

由于 Deep TabNine 用到机器学习补全代码,因此需要大量的算力(超过100亿次浮点运算),在笔记本上运行模型,无法获得低延迟的体验。

因此,软件开发者推出了 TabNine Cloud 云服务器,用云端 GPU 加速。付费用户不需要再加钱即可使用。

所以听起来很划算吧?

软件开发者自己就说,这个价格其实不贵,有了 TabNine,一分钟就里能帮你节省一秒,咱们再算算程序员的时薪,每个小时能节约1.4美元,不到一年时间就能回本了。

如果你对效果不满意,TabNine 开发者还提供 30 天退款保证。

怎么做到的?

TabNine 是在 GPT-2 的基础上构建的,这是一种 Transformer 架构,原产自 OpenAI,是个“逆天”语言模型。

GPT-2 的参数高达 15 亿个,数据量比一代扩大了 10 倍,使用了包含 800 万个网页的数据集,共有 40GB。

逆天之处就在于,GPT-2 写起文章来毫无违和感,无需针对性训练就能横扫各种特定领域的语言建模任务,还具备阅读理解、问答、生成文章摘要、翻译等等能力。

就 GPT-2 而言,它的训练目标很简单:根据所有给定文本中前面的单词,预测下一个单词。虽然本来是解决 NLP 问题,看似与写代码没什么关联,但建模代码也算是用一种独有的方式在理解英文。

比如,可以让模型用 if/else 语句否定单词:

加拿大大四学霸,天才程序员和他的逆天语言模型

加拿大大四学霸,天才程序员和他的逆天语言模型

项目主页显示,在大约经过 GitHub 中 200 万个文件训练后, TabNine 具备了自动补全代码的能力。

在训练这个模型期间,模型学习了例如动态类型语言中的类型推断等复杂行为,用这样的训练方式预测 token。

加拿大大四学霸,天才程序员和他的逆天语言模型

加拿大大四学霸,天才程序员和他的逆天语言模型

作者表示,TabNine 可以很好利用传统代码补全工具难以获取的琐碎细节。

例如,假设 app.get_user()的返回类型是一个带有 setter 方法的对象,而 app.get_users()的返回类型是一个列表,两个名称之间只有细微的差别:

加拿大大四学霸,天才程序员和他的逆天语言模型

这个模型还能以自然语言编写的文档来推断函数名称、参数和返回类型:

加拿大大四学霸,天才程序员和他的逆天语言模型

Deep TabNine 加入了之前用户强烈要求加入的功能:用预先存在的知识,解决在创建新项目时的代码补全问题。

例如,它知道当一个类扩展 React.Component 时,它的构造函数通常会调用一个名为 props 的参数,并且通常在其内部用 this.state 赋值:

加拿大大四学霸,天才程序员和他的逆天语言模型

Deep TabNine 甚至可以做不可能的事情,并记住 C++ 可变参数转发语法:

加拿大大四学霸,天才程序员和他的逆天语言模型

“杀手级应用”

TabNine 问世后,不断收获好评,甚至还有程序员激动得爆粗口:

卧槽,这种软件多来点就好了。(Fuck yeah. This is the sort of software I want to see more often: TabNine )

有网友表示, 没有它都不知道该怎么面对写代码这件事了。

还有人称之为开发者应用中的第一个“杀手级应用程序”:

“令人印象深刻”、“感到神奇”“太酷了”……推特上的评价,颇有电视广告上“用了都说好”的画风。

在各大科技论坛上,也有网友提出了建议和改进的方向。

有用户反映,也有美中不足的地方,比如这个工具会干扰自动括号完成。

作者表示,TabNine 还在不断更新完善中,正在改进这些bug。

大四学霸的第一桶金

想不到吧,这款好评如潮的代码工具,出自一名大四学生之手。

Jacob Jackson,加拿大人,目前在滑铁卢大学主修计算机科学与组合优化专业,辅修数学。大四在读,今年8月份毕业。

Jackson此前在Reddit上发帖称,这是自己在大学阶段开发的第一款商业软件产品

别人的大学,别人的第一桶金~

但Jackson并非无名之辈,年少有为,曾在2014和2015连续两年获得IOI金牌。

因此,大学一入学,便成为加拿大Michael and Ophelia Lazaridis Olympiad Scholarship奖学金的获得者,免除了8个学期学费书费和生活费。

除了自动补全代码的TabNine,Jackson还开发了很多有意思的应用,比如一个名为jellies的益智游戏,和使用蒙特卡罗树搜索的国际象棋引擎Sashimi等。

本文素材来源

TabNine网站:https://tabnine.com/blog/deep

Jackson GitHub主页:https://github.com/zxqfl

Jackson简历:http://jacobj.ca/resume.html

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 编程
    +关注

    关注

    88

    文章

    3440

    浏览量

    92381
  • 代码
    +关注

    关注

    30

    文章

    4555

    浏览量

    66746
收藏 人收藏

    评论

    相关推荐

    Stability AI发布Stable Code Instruct 3B大语言模型,可编译多种编程语言

    据报道,Stability AI公司近期推出了适配程序员使用的Stable Code Instruct 3B大语言模型,此款模型的显著特点是能够实现编程
    的头像 发表于 03-27 10:04 114次阅读

    薪资高、青春饭,是不是程序员=青楼?

    花期太短。技术迭代快,年龄大容易失业。 就这几年的互联网环境而言,不管是前端、Java、Android开发等等行业。已经感受到程序员不是太卷就是工作难找,薪资过低。以前高工现在拿着中低程序员薪资
    发表于 03-06 21:32

    1月18号“纯鸿蒙”千帆启航,程序员预备!

    。 如何正确看待鸿蒙? 我作为程序员来说,首先是看鸿蒙的发展、市场开发岗位、薪资以及前景。 这几年对鸿蒙的发展情况来分析,从2019年开始鸿蒙的出来今天,华为鸿蒙取得了很大的成就。从“不兼容
    发表于 01-16 22:13

    程序员表白程序

    电子发烧友网站提供《程序员表白程序.rar》资料免费下载
    发表于 11-21 10:41 0次下载
    <b class='flag-5'>程序员</b>表白<b class='flag-5'>程序</b>

    程序员节 | 今年程序员们都想要的礼物竟然是……

    原文标题:程序员节 | 今年程序员们都想要的礼物竟然是…… 文章出处:【微信公众号:微软科技】欢迎添加关注!文章转载请注明出处。
    的头像 发表于 10-24 10:35 266次阅读
    <b class='flag-5'>程序员</b>节 | 今年<b class='flag-5'>程序员</b>们都想要的礼物竟然是……

    腾讯发布混元大语言模型

    能力和复杂语境下的逻辑推理能力;而且在时效性上比较强。 目前混元大语言模型已经在小程序、腾讯云、腾讯广告、腾讯游戏等开启内测。
    的头像 发表于 09-07 10:23 848次阅读

    重磅资讯 | 加拿大ISED更新RSS-247标准!

    加拿大创新、科学和经济发展部(ISED)更新RSS-247的版本至issue 3,将LE-LAN设备可用的频率扩展到5850-5895MHz。新规已于2023年8月3日正式生效。
    的头像 发表于 08-18 17:54 731次阅读
    重磅资讯 | <b class='flag-5'>加拿大</b>ISED更新RSS-247标准!

    移植ARM DHCP服务器版本1程序员指南

    这本书由ARM DHCP服务器服务器软件提供, 假定ARM DHCP服务器移植源可以作为参考, 也假设您可以访问程序员的 C 和 ARM 组装语言指南。 本程序员指南是为有经验的内嵌系统程序员
    发表于 08-18 06:46

    霓虹灯程序员指南

    如果您对ARM技术完全陌生,请阅读Cortex-A系列程序员指南,了解有关ARM架构配置文件和一般编程指南的信息。 ·霓虹灯技术是ARM高级单指令多数据(SIMD)扩展的实现。 ·霓虹灯单元是执行
    发表于 08-17 06:32

    ARMv8-A霓虹灯程序员指南

    程序员,如固件、设备驱动程序或android内核开发人员•希望为基于Arm的目标设备优化库或应用程序程序员•非常热衷于Raspberry Pi爱好者本指南涵盖了如何开始使用Neon,
    发表于 08-08 07:25

    ARM系统跟踪Macrocell程序员模型架构规范1.1版

    ARM 系统跟踪大型电池程序员示范建筑规格V1.1 建筑规格
    发表于 08-02 10:11

    ARM C语言扩展规范

    ARM C语言扩展(ACLE)规范指定源语言扩展和实现C/C++编译器可以实现的选项,以便让程序员更好地利用ARM体系结构。 扩展包括:  提供关于目标体系结构的功能的信息的预定义宏(例如,是否
    发表于 08-02 06:27

    61.[程序员小飞]如何在3分钟内安装好数据库MySql和Navicat,简单又易懂

    程序员
    充八万
    发布于 :2023年07月20日 09:16:19

    打开 LNS 程序员参考

    打开 LNS 程序员参考
    发表于 07-04 19:50 0次下载
    打开 LNS <b class='flag-5'>程序员</b>参考