0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA CEO 黄仁勋做客 “Acquired Podcast” ,回忆创业心路历程

NVIDIA英伟达 来源:未知 2023-11-01 09:35 次阅读

近日,NVIDIA 创始人兼首席执行官黄仁勋做客知名播客栏目—— “Acquired Podcast” ,在节目中与主持人 Ben Gilbert 和 David Rosenthal一起回顾了 NVIDIA 从图形处理器到数据中心再到人工智能的发展历程,介绍了 NVIDIA 平台战略背后的故事,也总结了 NVIDIA 的成功之道。

本期节目将分三期讲述,敬请期待后续精彩内容!

wKgaomVBrHOALq30AAkLexwCCsE918.png

NVIDIA 的关键时刻 —— RIVA128

黄仁勋首先回顾了公司早期发展面临的挑战。其中,谈到了一次关键转折 —— RIVA 128,这个项目重塑了公司的发展道路。

作为第一家消费级 3D 图形公司,NVIDIA 在构建 RIVA 128 时面临了许多挑战。并且由于涌现了大量的竞争对手,市场格局发生了巨大变化。然而,正是这段逆境时期,促使 NVIDIA 做出了一系列关键战略决定,而这些决定对 NVIDIA 的未来发展至关重要。

当时,NVIDIA 将精力重新集中于构建全球第一款加速的 3D 渲染硬件,即 RIVA 128,不遗余力地最大化其功能。包括实施纹理缓存,推动总线和帧缓冲的极限,并使用最快的存储器创建一个异常庞大的芯片,确保产品在市场上有足够的竞争力。

技术为王,PC 发展初期的制胜之道

当时的 PC 行业还处于发展初期,性能一直是用户关注的重点。NVIDIA 观察到市场上存在一部分潜在的发烧友用户,他们渴望拥有支持高速运行的产品。如果产品性能一年可提高 10 倍,将会有众多的发烧友愿意购买。事实证明上述观察是正确的,PC 行业确实存在一个追求性能的庞大发烧友市场,他们会根据性能而选择购买产品。因此 NVIDIA 获得了可持续发展技术的宝贵机会,技术得以不断改进。专注提升技术的这一决策为 NVIDIA 成功打下了基础。

此外,黄仁勋还谈到了 NVIDIA 选择使用模拟技术的决策。当时,在 ICOS 公司即将倒闭之时,NVIDIA 买下了其全部库存。对于当时的 NVIDIA 而言,相较于一般发布芯片的流程,公司只有仅仅六个月的时间,因此没有试错的机会。他们必须要发布一款完美的芯片。当被问到如何能确定是一款完美的芯片时,黄仁勋说:“我知道这一定会是一款完美的芯片,因为如果不是的话,我们就要关门大吉了。我们只有一次机会。”

由于采购了 ICOS 公司的模拟器,NVIDIA 可以在虚拟环境中测试芯片。软件团队编写了整个软件堆栈,将其运行在这个模拟器上,并等待 Windows 系统的反应。他回忆说,当决定发布芯片的那一天,芯片被认为是完美的。NVIDIA 提前测试了所有可能的情况,并向每个人宣布:NVIDIA 要发布芯片!这肯定是完美的芯片!“当你知道自己要发布芯片,并且是一款完美的芯片,那么下一步显然就是量产了。”

CUDA 也是如此。NVIDIA 一直在思考如何在 GPU 上创建一个高级别的抽象层,以更高级别的编程语言和表达方式进行操作。这个抽象层的概念是为了将 GPU 用于更广泛的应用,如 CT 重建和图像处理。当时,NVIDIA 的这一想法获得了一些积极的反馈,他们认为通用计算是可行的。这是一个高度并行的、大规模线程的处理器,也是世界上唯一能做到这一点的处理器。通过观察可编程着色器的管线结构,团队认为 GPU 拥有大规模并行处理的能力,这使得 CUDA 平台的成功变为可能。

对于世界上许多问题而言,NVIDIA 更关注其可预测性,这种方法适用范围极为广泛,包括预测购物趋势、音乐选择,甚至天气预测。黄仁勋指出,这种方法可能影响很多产业,因为几乎每一款软件都可以通过这种方式进行编程,因此构建计算机和芯片的方式将彻底改变。明白这些道理后,剩下的就是是否有勇气投入资源加速创新。

OpenAI 和大语言模型的故事

黄仁勋表示,虽然他没有参与创建 OpenAI,但和该公司许多重要人员都保持密切联系。黄仁勋强调,最初研发的 DGX 即现在的 Hopper,重 70 磅,有 35,000 个零件,10,000 安培。由于了解 OpenAI 对大型计算机的需求,所以黄仁勋亲自将第一版 DGX 交付给 OpenAI,这一刻成为了他的美好回忆。

黄仁勋认为与研究人员的讨论和交流是 NVIDIA 所需要的积极反馈方式,因为 NVIDIA 初期的成功就主要集中在协助研究人员提高工作水平。尽管深度学习在当时的情况下并不十分实用,但他始终坚信,只需一些改进,这项技术将会变得非常卓越。这种信念源于他与该领域杰出研究人员的互动,以及他所见证的渐进性的进步。黄仁勋还特别提到研究论文的发表速度从最初每三个月一篇增加到了如今的每天都有新作。这也表明,深度学习领域的进步正在以指数级增长。

在谈及大型语言模型时,黄仁勋指出最初的印象是它能够在屏蔽一些词汇的情况下巧妙地预测下一个词,他认为这展现了自我监督学习的最佳实践。黄仁勋强调大家都有文本,并且都知道答案是什么,只需要进行猜测,因此他最初对 BERT 的印象是它非常聪明。然而,黄仁勋同时指出现在的挑战在于如何将这项技术扩展到更广泛的范围。他认为对于几乎所有事物的首次观察都是令人着迷的,随后则需要努力理解其原理。所以接下来的步骤是基于第一原则出发,思索如何将这项技术应用到更广泛的领域。他预测 BERT 在未来会变得更为庞大。

数据中心之旅

黄仁勋在节目中提到,NVIDIA 的数据中心之旅从 2017 年前开始。他总是被问,公司可能会面临什么挑战?

黄仁勋认为,如果一项技术需要部署到计算机,那这台计算机必须放在你身边。因为它必须连接显示器,这将在未来限制发展机会。当时,可插入 GPU 的台式电脑非常有限,同时可以驱动的 CRT 显示器和液晶显示器也很有限。所以如果计算机不需要连接显示设备,就可以在其他地方进行计算。

GeForce NOW 是 NVIDIA 的第一个数据中心产品。NVIDIA 的第二个数据中心产品是用于远程图形计算,它将 NVIDIA 的 GPU 置于全球企业数据中心。接着 NVIDIA 推出了第三款产品,它将 CUDA 和 GPU 结合起来,成为一台超级计算机。

随后 NVIDIA 朝着更多方向努力。这一切之所以如此重要,是因为 NVIDIA 分离了计算和产品使用的地点黄仁勋认为如果能将二者分离,市场机会将会迅速扩大。这种分离意味着不再受制于台式电脑所带来的物理限制,也不再受限于每人一块 GPU 的局限。换句话说,无论计算发生在哪里都不再重要。

GTC 2024 将于 2024 年 3 月 18 至 21 日在美国加州圣何塞会议中心举行,线上大会也将同期开放。点击“阅读原文”扫描下方海报二维码,关注更多会议及活动信息

wKgaomVBrHOAWvo6AAFtccdApf0244.jpg


原文标题:NVIDIA CEO 黄仁勋做客 “Acquired Podcast” ,回忆创业心路历程

文章出处:【微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    22

    文章

    3331

    浏览量

    87798

原文标题:NVIDIA CEO 黄仁勋做客 “Acquired Podcast” ,回忆创业心路历程

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    :AI的尽头是光伏和储能!

    行业芯事行业资讯
    深圳市浮思特科技有限公司
    发布于 :2024年03月11日 14:12:14

    :AGI最快五年内问世

    行业芯事行业资讯
    深圳市浮思特科技有限公司
    发布于 :2024年03月04日 16:46:06

    称AI“临界点”已到

    行业芯事行业资讯
    深圳市浮思特科技有限公司
    发布于 :2024年02月22日 15:43:19

    首访越南就要下大单

    行业资讯
    深圳市浮思特科技有限公司
    发布于 :2023年12月11日 16:11:50

    NVIDIA CEO 黄仁勋:创业不止于眼前

    近日,NVIDIA 创始人兼首席执行官黄仁勋做客知名播客栏目——“Acquired Podcast”,在节目中与主持人 Ben Gilbert 和 David Rosenthal 一起
    的头像 发表于 11-03 19:10 393次阅读

    NVIDIA CEO 黄仁勋:洞察未来机遇,精准管理势在必行

    近日,NVIDIA 创始人兼首席执行官黄仁勋做客知名播客栏目——“Acquired Podcast”,在节目中与主持人 Ben Gilbert 和 David Rosenthal 一起
    的头像 发表于 11-01 20:25 252次阅读

    三个月转行SLAM,他的心路历程

    所以我认为目前的有个大系统为无人系统,包括无人车、无人机、机器人。定位与建图能够赋予这些本来就存在的交通工具新的价值。无人车是一个必然,机器人也是必然、无人机也是必然。无人系统为一个关键系统,而定位与建图则是一个关键大科学问题。
    的头像 发表于 08-30 17:23 611次阅读
    三个月转行SLAM,他的<b class='flag-5'>心路历程</b>

    探究!一个数据包在网络中的心路历程

    从这个图中就可以合理的怀疑,是不是第二步中,客户端发过去的HTTP请求在使用域名和直接使用IP地址的时候有所不同,让服务器“察觉”出来你是直接使用的IP地址在访问网站,跳过了第一步。
    的头像 发表于 07-14 16:24 414次阅读
    探究!一个数据包在网络中的<b class='flag-5'>心路历程</b>

    NVIDIA 创始人兼 CEO 黄仁勋将在 SIGGRAPH 现场发表 NVIDIA 主题演讲

    NVIDIA 创始人兼 CEO 黄仁勋 将在 SIGGRAPH 现场发表 NVIDIA 主题演讲 SIGGRAPH 2023 将于 8 月 6 日至 10 日举办。 NVIDIA 将亮
    的头像 发表于 07-11 23:10 440次阅读

    英伟达:对依赖中国台湾芯片制造感到非常安全

    行业芯事时事热点行业资讯
    电子发烧友网官方
    发布于 :2023年06月02日 10:26:58

    英伟达CEO拟本月赴华会见腾讯、字节跳动等企业高管

    行业芯事时事热点行业资讯
    电子发烧友网官方
    发布于 :2023年06月01日 10:59:05

    NVIDIA仍不死心,再次加入ARM站场

    在GTC 2021主题演讲中,英伟达首席执行官确认了英伟达将会和联发科(MediaTek)展开合作。当时展示的幻灯片内容里,显示联发科将得到GeForce RTX 30系列GPU的授权许可,将
    发表于 05-28 08:51

    联发科回应结盟英伟达合攻 Arm 架构芯片传闻

    联发科计划周一下午举行 2023“旗舰科技 智领未来”记者会,由联发科 CEO 蔡力行与重量级嘉宾一同出席,这位嘉宾应该是近来引起全球关注、并成为 AI 创新推动者的英伟达 CEO
    发表于 05-28 08:47

    亿级别大表拆分——记一次分表工作的心路历程

    这个数据量,对于mysql数据库来说是绝对无法继续维护的了,因此在接手系统两个月后,我们便开起了大表拆分的专项工作。(两个月时间实际上主要用来熟悉系统、消化堆积需求了)
    的头像 发表于 05-18 11:03 290次阅读
    亿级别大表拆分——记一次分表工作的<b class='flag-5'>心路历程</b>

    亿级别大表拆分心路历程

    这个数据量,对于mysql数据库来说是绝对无法继续维护的了,因此在接手系统两个月后,我们便开起了大表拆分的专项工作。(两个月时间实际上主要用来熟悉系统、消化堆积需求了)
    的头像 发表于 05-17 10:17 265次阅读
    亿级别大表拆分<b class='flag-5'>心路历程</b>