0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

GPT-4两句话复刻DeepMind最快排序算法?

AI智胜未来 来源:新智元 2023-06-12 17:04 次阅读

【导读】网友用GPT-4复现了AlphaDev的排序算法优化,让DeepMind的新论文看起来没有那么耀眼了。

前几天,Google DeepMind基于AlphaZero开发了一种新算法——AlphaDev。

据称,这个算法可以创造出比人类编写的算法快3倍的排序算法。

消息刚出的时候,很多网友都认为这是机器学习领域的重大突破。

但经过一段时间的发酵之后,部分网友对AlphaDev取得的成就的评价似乎出现了分歧。

先是一位推特网友表示,用GPT-4也成功地发现了和AlphaDev发现的几乎一样的算法。

a678513a-08f8-11ee-962d-dac502259ad0.png

然后不少网友也在讨论,觉得AlphaDev取得的实际成果和他们自己吹的「历史性突破」差距过大。

网友的这些讨论甚至把马库斯也引来围观看热闹了。

a68519b0-08f8-11ee-962d-dac502259ad0.png

此外,马院士也回复了用GPT-4发现算法的网友,「推特老板到此一游」

a69b08f6-08f8-11ee-962d-dac502259ad0.png

GPT-4也能「发现」同样的算法

现在我们来看看这位用GPT-4发现和AlphaDev几乎一样算法的网友到底是怎么做到的。

他把自己的Prompt和GPT-4的回复都Po了出来。

顺便问了一句,我这东西能发Nature吗?

网友的提示词有两个部分,第一个部分让GPT-4针对这段排序算法进行优化,标注出哪段指令可以删除,再一步一步解释原因,然后回头再验证一遍。

a70031cc-08f8-11ee-962d-dac502259ad0.png

a719abde-08f8-11ee-962d-dac502259ad0.png

a728295c-08f8-11ee-962d-dac502259ad0.png

a74109ea-08f8-11ee-962d-dac502259ad0.png

然后他又给了第二部分提示词,让GPT-4根据上面的提示词继续做,让Temperature=0(保持结果的一致性)。

a74b1a2a-08f8-11ee-962d-dac502259ad0.png

a766c694-08f8-11ee-962d-dac502259ad0.png

a7708f1c-08f8-11ee-962d-dac502259ad0.png

最后GPT-4还小小地总结了一下。

认为删除「mov S P」,再把删除后代码的P用S替换一下就行。

AlphaDev发现的算法

如下图示例,原始sort3实现,有min(A, B, C),使用AlphaDev Swap Move,AlphaDev发现,你只需要min(A, B)。

a7a56d40-08f8-11ee-962d-dac502259ad0.png

对比网友用GPT-4的优化内容,只能说是一模一样!

不知道是GPT-4过于强大,还是说AlphaDev确实也就那样?

AlphaDev被吹得有些过头了?

马库斯也在推特上转载了一段YC社区网友对于AlphaDev发现的算法这个事比较刻薄评价。

a7e093ca-08f8-11ee-962d-dac502259ad0.png

YC社区的用户orlp指出,他们能够在某个libc++算法上取得70%的改进主要是因为这个库在过去10年中没有得到积极开发。

此外,DeepMind的改进能起作用其实是因为库本身在无分支排序网络的高效实现方面存在一些问题。

a8006b78-08f8-11ee-962d-dac502259ad0.png

其他用户指出,这种观点「过于极端」了,算法能够自动生成新的排序算法已经是很了不起的一件事了。

orlp回复说,虽然该算法确实能够自动生成良好的代码,但它远未达到革命性或改进现有技术水平的程度。

a80a3810-08f8-11ee-962d-dac502259ad0.png

a820021c-08f8-11ee-962d-dac502259ad0.png

网友主要的观点认为算法并没有找到全新的排序方法,而只是对代码进行了优化。

但是,其实已经存在「超级优化器」的程序能够以不同的原理实现类似的效果。

a8330e34-08f8-11ee-962d-dac502259ad0.png

论文地址:https://courses.cs.washington.edu/courses/cse501/15sp/papers/massalin.pdf

而且在GitHub上也有项目已经完成了更加快速的排列网络的自动搜索,效果似乎比AlphaDev的算法还要好。

项目地址:https://github.com/bertdobbelaere/SorterHunter

不少国内网友还是选择相信AlphaDev,搞不好是因为GPT-4抄得快,不一定是原创

a847a0f6-08f8-11ee-962d-dac502259ad0.jpg

不过确实有些读者认为,这类改进确实意义不算特别大。

a85c0190-08f8-11ee-962d-dac502259ad0.jpg

a867d948-08f8-11ee-962d-dac502259ad0.jpg


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 算法
    +关注

    关注

    23

    文章

    4458

    浏览量

    90764
  • GPT
    GPT
    +关注

    关注

    0

    文章

    302

    浏览量

    14872
  • DeepMind
    +关注

    关注

    0

    文章

    126

    浏览量

    10713

原文标题:GPT-4两句话复刻DeepMind最快排序算法?马库斯:过于讽刺

文章出处:【微信号:AI智胜未来,微信公众号:AI智胜未来】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    微软Copilot全面更新为OpenAI的GPT-4 Turbo模型

    起初,Copilot作为Bing Chat AI助手推出,初期采用GPT-3.5模型,随后升级至GPT-4取得显著进步,如今再次更新至性能卓越的GPT-4 Turbo模型,这无疑将使得Copilot功能再上新台阶。
    的头像 发表于 03-13 13:42 253次阅读

    ChatGPT plus有什么功能?OpenAI 发布 GPT-4 Turbo 目前我们所知道的功能

    OpenAI 发布 GPT-4 Turbo 目前我们所知道的功能分析解答 在最近的OpenAI DevDay上,该组织发布了一项备受期待的公告:推出GPT-4 Turbo,这是对其突破性AI模型
    的头像 发表于 12-13 09:19 606次阅读
    ChatGPT plus有什么功能?OpenAI 发布 <b class='flag-5'>GPT-4</b> Turbo 目前我们所知道的功能

    OpenAI发布的GPT-4 Turbo版本ChatGPT plus有什么功能?

    OpenAI的GPT-4 Turbo以前所未有的功能和价格改变人工智能的未来 在人工智能领域的一次里程碑式活动中,OpenAI开发者大会上发布了GPT-4 Turbo,这是突破性人工智能模型
    的头像 发表于 12-05 17:57 1476次阅读
    OpenAI发布的<b class='flag-5'>GPT-4</b> Turbo版本ChatGPT plus有什么功能?

    GPT-5正秘密训练!DeepMind联创爆料,这模型比GPT-4大100倍

    另外,采访中,Suleyman还爆出了很多自己在DeepMind和Inflection AI工作时的内部信息,包括了谷歌当时收购DeepMind和之后的抓马,某种程度上解释了为什么DeepMind相比于OpenAI「起了个大早,
    的头像 发表于 09-04 16:28 469次阅读
    <b class='flag-5'>GPT</b>-5正秘密训练!<b class='flag-5'>DeepMind</b>联创爆料,这模型比<b class='flag-5'>GPT-4</b>大100倍

    谷歌Gemini被曝算力达GPT-4五倍,手握TPU王牌碾压OpenAI

    根据Patel和Nishball的说法,此前屡屡被爆料将成为GPT-4大杀器的谷歌Gemini,已经开始在新的TPUv5 Pod上进行训练了,算力高达~1e26 FLOPS,比训练GPT-4的算力还要大5倍。如今,凭借着TPUv5,谷歌已经成为了算力王者。
    的头像 发表于 09-04 16:02 590次阅读
    谷歌Gemini被曝算力达<b class='flag-5'>GPT-4</b>五倍,手握TPU王牌碾压OpenAI

    GPT-4没有推理能力吗?

    今年三月,OpenAI 重磅发布了 GPT-4 大模型,带来了比 ChatGPT 背后 GPT-3.5 更强的推理、计算、逻辑能力,也引发了全民使用的热潮。在各行各领域研究人员、开发者、设计师的使用过程中,「GPT-4 是最为领
    的头像 发表于 08-11 14:20 674次阅读
    <b class='flag-5'>GPT-4</b>没有推理能力吗?

    GPT-3.5 vs GPT-4:ChatGPT Plus 值得订阅费吗 国内怎么付费?

    GPT-3.5 vs GPT-4:ChatGPT Plus值得订阅费吗?ChatGPT Plus国内如何付费?  ChatGPT-3.5一切都很好,但ChatGPT-4(通过ChatGPT Plus
    的头像 发表于 08-02 12:09 3025次阅读
    <b class='flag-5'>GPT</b>-3.5 vs <b class='flag-5'>GPT-4</b>:ChatGPT Plus 值得订阅费吗 国内怎么付费?

    gpt-4怎么用 英特尔Gaudi2加速卡GPT-4详细参数

    介绍GPT-4 详细参数及英特尔发布 Gaudi2 加速器相关内容,对大模型及 GPU 生态进行探讨和展望。英特尔发布高性价比Gaudi2加速卡GPT4详细参数分析。
    发表于 07-21 10:50 628次阅读
    <b class='flag-5'>gpt-4</b>怎么用 英特尔Gaudi2加速卡<b class='flag-5'>GPT-4</b>详细参数

    OpenAI宣布GPT-4 API全面开放使用!

    OpenAI 在博客文章中写道:“自 3 月份以来,数百万开发者请求访问 GPT-4 API,并且利用 GPT-4 的创新产品范围每天都在增长。” “我们设想基于对话的模型未来可以支持任何用例。”
    的头像 发表于 07-12 14:55 883次阅读

    GPT-4催生的接口IP市场空间

    GPT-4大语言模型公布以来,百度、阿里、知乎、出门问问等国内互联网公司纷纷跟进,在近两个月中相继推出了自家的产品。日前,鲜有公开演讲的奇绩创坛创始人兼CEO陆奇也分享了他对大模型时代的宏观思考
    的头像 发表于 07-03 14:17 521次阅读

    详解DeepMind排序算法

    DeepMind 的这一发现确实居功至伟,但不幸的是,他们未能解释清楚算法。下面,我们来详细看看他们发布的一段汇编代码,这是一个包含三个元素的数组的排序,我们将伪汇编转换为汇编:
    的头像 发表于 06-21 15:38 262次阅读

    GPT-4已经会自己设计芯片了吗?

      GPT-4已经会自己设计芯片了!芯片设计行业的一个老大难问题HDL,已经被GPT-4顺利解决。并且,它设计的130nm芯片,已经成功流片。 GPT-4,已经可以帮人类造芯片了! 只用简单的英语
    的头像 发表于 06-20 11:51 610次阅读
    <b class='flag-5'>GPT-4</b>已经会自己设计芯片了吗?

    GPT-4处于一个什么样的编码地位

      面试环节第一步——回答问题,写软件需求 面试环节第二步——上手写代码 测试用例   比 ChatGPT 背后 GPT-3.5 更为强大的模型 GPT-4,已正式对外发布。在 OpenAI 官方
    的头像 发表于 06-16 10:42 441次阅读
    <b class='flag-5'>GPT-4</b>处于一个什么样的编码地位

    可商用多语言聊天LLM开源,性能直逼GPT-4

    在针对英语、中文、法语、阿拉伯语、西班牙语、印度语这 6 种语言的评测中,GPT-4 的胜率为 54.75%,BLOOMChat 的胜率为 45.25%,稍弱于 GPT-4。但与其它 4 种主流的开源聊天 LLM 相比
    的头像 发表于 05-25 11:14 726次阅读
    可商用多语言聊天LLM开源,性能直逼<b class='flag-5'>GPT-4</b>

    GPT-4 的模型结构和训练方法

    GPT-4 的发布报道上,GPT-4 的多模态能力让人印象深刻,它可以理解图片内容给出图片描述,甚至能在图片内容的基础上理解其中的隐喻或推断下一时刻的发展。
    的头像 发表于 05-22 15:21 2012次阅读
    <b class='flag-5'>GPT-4</b> 的模型结构和训练方法