GPU如何引爆AI时代

NVIDIA首席科学家Bill Dally在最新一期AI播客中与主持人Noah Kravitz分享了自己关于人工智能的想法。

Bill Dally作为NVIDIA的首席科学家，也是深度学习领域的标杆。他曾担任斯坦福大学计算机科学系主任，很早之前就已经开始了神经网络方面的研究。他也是一位高产型研究员，拥有150多项专利。

很多AI算法和神经网络研究早在80年代就已经登场，但直到最近几年，AI才得以真正崛起。如今，Dally已在人工智能领域辛勤研究数十年，他相信“AI将会改变人类生活的方方面面”。

当今AI革命的起源

Dally告诉Kravitz，他在20世纪80年代开始研究神经网络时，使用的计算机的运算速度比现在慢10万倍。而如今的AI革命由功能强大的GPU驱动。但是，新一轮AI革命的成功更需要付出大量努力。

2006年，NVIDIA的Ian BuckBut发布了CUDA编程语言。“GPU拥有计算资源，而CUDA释放了这些资源。”Dally说道。自此，GPU计算引起关注。

Dally遇到了深度学习领域的杰出人物吴恩达，谈起了吴恩达当时正在投身的一个项目。该项目利用无监督式学习来检测网络上猫的图像，现在已广为人知。

该项目当时使用了Google Cloud上的16000个CPU。Dally建议他们合作使用GPU完成这项工作。这也成为NVIDIA探索深度学习的开端。

Dally表示，未来神经网络有两个主要的领域将受到关注：创建更强大的算法以提高推理的效率，以及开发能基于更少数据进行训练的神经网络。

技术进步包含“演进部分和革命部分(evolutionary component and a revolutionary component)”，他说道，“在研究中，我们重点关注革命部分。”

NVIDIA的研究文化日益增强

2009年，Dally作为首席科学家加入NVIDIA，NVIDIA研究团队只有不到10位科学家。而现在，整个研究团队已壮大到200人。

Dally希望NVIDIA研究人员能致力于未来深刻影响公司发展的领域，并取得出色的成绩。他表示，在顶级会议中发表研究成果可以获得同行的审核与反馈，这是实现质量控制的关键，因此具有十分重要的意义。

“这种谦卑求教的体验会让你变得更好。”他表示。

近日在盐湖城举行的计算机视觉与模式识别会议(CPVR)上 ，NVIDIA研究人员共发表了14篇已收录论文和学术海报，其中有7篇在演讲环节中发表。