0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

一年时间从零基础到成为研究科学家的历程

DPVg_AI_era 来源:lq 2019-01-06 10:07 次阅读

基础学习深度学习是怎样一种体验?本文作者分享了他仅仅一年时间从零基础到成为研究科学家的历程,并且提出了一些有用的建议。

2018年时,我决心开启深度学习之旅。

2017年10月,在阅读了《纽约时报》一篇描述深度学习人才短缺的文章之后,我偶然发现了一个名叫fast.ai的网站。说它改变了我的生活听起来有点陈词滥调,但那时的我很难想象,一年之后,我会在幕后帮助准备这门课程的下一个版本。

因此,在这篇文章中,我将讲述我个人进入深度学习的历程,并且分享一些建议,我认为这些建议在对六个月前可能对我有用。

使用神经网络将埃菲尔铁塔添加到一幅画中的示例

我是谁?我从哪里来?

我的背景主要是数学。我拥有法国大学硕士学位;并且曾攻读过博士学位,但六个月后就放弃了,因为我觉得这太令人沮丧了。于是接下来的7年,我继续在巴黎教本科生。对于编程,我是自学的。我13岁时,我父亲就给了我一本《Basic语言入门》。

我在三年半前搬到了纽约,成了半个全职奶爸,半个法国出版社的教科书作者。当我第一次发现fast.ai的时候,我对围绕AI的炒作很好奇,我想知道我是否能理解那些似乎只有少数天才才能理解的东西。

我必须承认,我一开始几乎没怎么上这门课;它声称可以向任何只有一年编程经验和高中数学知识的人解释深度学习,这个说法对我来说非常可疑,我想知道它是不是完全是骗人的(剧透警告:不是)。但我还是决定上完它;我每周抽出7个小时来学习这门课程。

虽然我在数学方面有明显的优势,但在我称之为“geeky stuff”的东西上苦苦挣扎。我是一名Windows用户,之前从未使用过终端。在终于能够训练自己的狗猫分类器之前,仅仅是设置就花了我一个多星期的时间。每次不得不在终端上运行一些命令时,感觉就像是某种形式的折磨(这一点仍然没有多大改变!)

如果你是这个领域的新手,并且正在其中的某个部分(或全部)挣扎,请记住,没有人能轻松地做到。总有一些事情是你不知道,那会是一个挑战,但如果你坚持下去,你就会克服它。随着时间的推移,它会变得更容易,至少会容易一点……我有一半的bash命令仍然需要帮助,并且在第一节课中两次损坏了文档和课程网站。幸运的是,大家都忙着看Jeremy讲课,没有人注意到这些。

你需要高等数学才能进行深度学习吗?

简单地说,答案是否定的。长篇大论地说,答案仍然是否定的。任何告诉你相反答案的人都只是想吓唬你而已。在深度学习的某些理论研究领域,你可能需要高等数学,但每个人都有自己的空间。

要在实践中训练一个模型,你只需要知道三件事:知道导数是什么,知道误差函数的log和exp,以及知道矩阵乘积是什么。你可以在很短的时间内,利用多种在线资源学习所有这些知识。在课程中,Jeremy推荐了可汗学院学习导数、log和exp,以及3blue1brown网站学习矩阵乘积。

在我看来,你真正需要掌握的是数学是“broadcasting”(有点像数学和编程的交叉领域)。

如果你是认真的,那就制定自己的学习计划

在完成课程的第一部分后,我很清楚我想在这个领域工作(因此我有了很强的决心)。我考虑了各种各样的培训课程,这些培训承诺可以把我变成一名数据科学家,条件是巨额的学费。我在网上找到了很多培训课程的褒奖评价,这让我有点害怕,幸好我很快就放弃了这个想法。

网上有足够多的免费(或廉价)资源,能够教你所需要的一切。所以只要你足够自律,就可以制定自己的学习计划。最好的当然是fast.ai的课程(但我现在fast.ai工作,所以有点偏颇;))。

我以为我不会被选入International Fellowship,免费获得第二部分课程,所以当收到录取邮件时我有点措手不及。我订了一个共享办公的地方,让自己远离有一个婴儿和一个蹒跚学步的小孩的家里,还雇了保姆。然后,每天朝九晚五,加上晚上,我都在学习。我原以为我会接着上其他MOOC,但Jeremy在论坛上布置的挑战性作业,以及那里充满活力的社区,让我一直没有时间去寻找其他地方。

虽然这门课的目的是让人们每周花7个小时做作业,但它绝对足够让你忙更长时间,尤其是在第二部分。如果你认真考虑转行深度学习,那么你应该花七周的时间来努力完成这门课。如果你能负担得起金钱或家庭方面的费用,你也可以自己飞到旧金山,每天去参加南加州大学的学习小组。如果你做不到,那就在你所在的城市里找到一个学习小组(或者成立自己的小组)。无论如何,都要在论坛上保持活跃,不仅要在出现bug时提问题,还要帮助其他人写代码。

展现你的能力

我很害羞,我讨厌交际。认识我的人都知道,我不善于闲聊。幸运的是,有很多方法可以让你在安全的电脑屏幕背后向潜在雇主推销自己。

以下是一些可以提供帮助的事情:

制作你自己的项目,来展示你学到了什么。在转移到另一个项目之前,一定要彻底完善前一个项目。

写博客来解释你学到了什么。不一定要写复杂的新研究文章,可以从模型的基础开始,即使你认为已经有成千上万这样的文章了。仅仅通过尝试解释你认为你已经理解了的东西,就能学到很多。

为深度学习相关的开源项目(比如fastai library)提交贡献。

参加Kaggle竞赛(这条仍然在我的待办事项清单上,也许这将是我2019年的决心)。

建立一个Twitter账户,告诉人们以上所有的事情。

在课程还没结束的时候,我就得到了几份工作offer,这让我非常惊讶。然后, Jeremy提到他要重fastai library,我主动提出帮忙。事情顺水推舟,他设法得到了AWS的赞助,让我成为了fast.ai的研究科学家。

学习的三个阶段

在我看来,学习都有三个阶段。首先你要抽象地理解某件事,然后你要能够解释它,最后你要能设法实际做到。这就是为什么你是否能够自己重写一遍课程上看到的代码非常重要。

就深度学习而言,上完了课程是我的第一阶段;第二阶段是在论坛上写博客文章或回答问题;第三阶段就是和Jeremy 一起重建fastai library。

在过去的几个月里,我学到的东西甚至比我在跟着学完课程时还要多。其中有些内容我很快就放弃了,还有很多是在Jeremy的指导下通过重构代码实现的,直到最后得到今天看到的结果。构建一个完全集成的框架意味着你必须实现所有内容,因此你需要掌握流程的每个部分。

总之,这是我一生中学习最多的一年。我将永远感谢Rachel和Jeremy创造了这门神奇的课程,我很自豪能为它做出一点小小的贡献。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    26424

    浏览量

    264025
  • 代码
    +关注

    关注

    30

    文章

    4555

    浏览量

    66739
  • 深度学习
    +关注

    关注

    73

    文章

    5236

    浏览量

    119899

原文标题:全职奶爸的一年深度学习之路:从零基础到成为研究科学家

文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    康奈尔大学科学家研制出5分钟快速充电锂电池

    锂离子电池如今广泛应用于电动汽车及智能手机领域。其优点包括轻巧、抗震、环保,但充电时间较长及承受大功率电涌的能力不足。随着最新研究成果发布,科学家找到了一种独特的铟阳极材料,与锂离子电池内的阴极材料实现良好配合。
    的头像 发表于 01-26 09:57 287次阅读
    康奈尔大学<b class='flag-5'>科学家</b>研制出5分钟快速充电锂电池

    谷歌DeepMind科学家欲建AI初创公司

    据知情人士透露,谷歌人工智能部门DeepMind的两名杰出科学家Laurent Sifre和Karl Tuyls正在与投资者商讨在巴黎成立一家新的人工智能初创公司的事宜。
    的头像 发表于 01-22 14:41 198次阅读

    飞腾首席科学家窦强荣获 “国家卓越工程师” 称号

         飞腾首席科学家窦强荣获 “国家卓越工程师” 称号 1月19日上午,首届 “国家工程师奖” 表彰大会在北京人民大会堂隆重举行。81 名个人被授予 “国家卓越工程师” 称号,50 个团队被授予
    的头像 发表于 01-19 19:22 1074次阅读
    飞腾首席<b class='flag-5'>科学家</b>窦强荣获 “国家卓越工程师” 称号

    中国科学家成功研制“九章三号” 255个光子的量子计算原型机

           中国科学家再立新功,中国科学技术大学潘建伟、陆朝阳、刘乃乐等组成的研究团队与中国科学院上海微系统与信息技术研究所、国家并行计算
    的头像 发表于 10-11 17:06 946次阅读

    模拟电子技术基础课件

    片集成电路只有4个晶体管,而1997片集成 电路中有40亿个晶体管。有科学家预测,集成度还将按 10倍/6的速度增长,2015或20
    发表于 09-22 07:58

    科学家制造出迄今为止分辨率最高的超透镜

    一个由中国和英国科学家组成的团队制造了迄今为止分辨率最高的光学成像透镜。 19世纪以来,医生们一直认为,光学显微镜存在一个分辨率极限,超出这个极限就无法清楚地看到物体。当物体小于200纳米,比如
    的头像 发表于 09-01 06:28 426次阅读

    NVIDIA 首席科学家 Bill Dally 将在 Hot Chips 大会发表主题演讲

    这位著名计算机科学家将分享来自 NVIDIA Research 最新研究成果,这些研究正在推动加速计算和 AI 的进步。 Bill Dally 是全球最知名的计算机科学家之一,也是 N
    的头像 发表于 08-22 19:20 385次阅读

    华为辟谣3.2万名科学家移籍

    华为辟谣3.2万名科学家移籍 对于近期网络传言的华为3.2万名科学家移籍华为方面表示,造谣者毫无根据、无中生有。 华为辟谣3.2万名科学家移籍以及其他的一些网络传言,比如“华为孟晚舟宣布23万亿
    的头像 发表于 08-22 16:51 1001次阅读
    华为辟谣3.2万名<b class='flag-5'>科学家</b>移籍

    科学家呼吁开展气候合作

    三位研究人员介绍了建立地球数字孪生的计划,该计划旨在帮助人们了解全球变暖的影响并做出应对。 三位顶尖科学家正在帮助带领计算史上最雄心勃勃的项目之一:打造地球的 数字孪生 。 Peter Bauer
    的头像 发表于 07-06 20:10 290次阅读
    <b class='flag-5'>科学家</b>呼吁开展气候合作

    微软亚洲研究院否认撤离中国,但确认部分 AI 科学家将迁至温哥华

    6 月 19 日消息,针对有消息称微软公司旗下研究机构 微软亚洲研究院(MSRA)的 AI 顶级科学家从中国转移到温哥华,6 月 19 日上午,微软亚洲研究院向钛媒体回应表示,微软将在
    的头像 发表于 06-20 08:48 547次阅读

    踏歌智行创始人、首席科学家余贵珍教授登榜“2023科创家”

    “一群跨越了科学与商业边界的人”这是科创媒体36氪对科创企业家的定义。近日, 踏歌智行创始人、首席科学家余贵珍教授从全赛道中脱颖而出, 登榜首届“2023科创家”榜单。此次共有15位教授荣登榜单
    的头像 发表于 06-16 19:15 2360次阅读
    踏歌智行创始人、首席<b class='flag-5'>科学家</b>余贵珍教授登榜“2023科创家”

    聚众之谋 如此“科兰” 如此精彩——科兰通讯参加第二十一届中国科学家论坛

    协同高质量发展”的发展主题在首都北京与众院士及各领域资深专家学者进行广泛交流。 中国科学家论坛主席,中国管理科学研究院商学院院长陈贵,第十二届全国政协副主席马培华致欢迎辞。论坛中,国家有关领导人、相关部委领导、科学家、院
    的头像 发表于 05-04 11:31 1253次阅读
    聚众之谋 如此“科兰” 如此精彩——科兰通讯参加第二十一届中国<b class='flag-5'>科学家</b>论坛

    科学向新,共创未来--科兰通讯受邀参加第二十一届中国科学家论坛

    万物复苏、芳芽吐蕊,最美人间四月天。值此美好时节,第二十一届中国科学家论坛如约而至,将和我国各领域顶尖专家学者、高新企业倾情相约。 该论坛创办于2002年,是由著名科学家、时任全国人大常委会副委员长
    的头像 发表于 05-04 11:11 289次阅读

    科学家用银线团搭建「纳米线网络」,触电就像大脑一样运作

    这也是如今不少AI科学家们梦寐以求的特性。最近,来自悉尼大学和日本国家材料科学研究所的科学家们在自然通讯上发表论文,试着通过使用纳米线网络(NWN)来模拟人类大脑在受到电激时的反应,实验效果还不错。
    的头像 发表于 05-04 09:30 428次阅读
    <b class='flag-5'>科学家</b>用银线团搭建「纳米线网络」,触电就像大脑一样运作

    获双项荣誉:中科智云受邀出席第二十一届中国科学家论坛

    、科技工作者、企业家等上千人齐聚一堂,探讨企业科技创新成果等热点话题。全球性创新型人工智能科技公司-中科智云受邀出席,并在此次大会中获组委会授予双项荣誉。 第二十一届中国科学家论坛现场 中国科学家论坛创办于2002年,由中国未来研究
    的头像 发表于 05-02 21:38 483次阅读