3月5日消息,Facebook的研究人员推出了一种新的AI模型,该模型可以从网上任何未标记图像的中学习,这是一项突破,尽管该团队的研究仍处于早期阶段,但他们希望给计算机视觉领域带来一次“革命”。
该模型被称为SEER(SElf-SupERvised),被馈入了10亿张公开可用的Instagram图像,这些图像未经过手动标记。但是,即使没有通常在AI算法训练中使用的标签和注释,SEER仍能够自主地训练数据集,不断进行学习,并最终在诸如对象检测之类的任务上达到最高的准确性。
图片来自Facebook AI
这种被称为自监督学习(self-supervised learning)的方法在AI领域已经很成熟:它由可以直接从给定信息中学习的系统组成,而不必依赖经过仔细标记的数据集来教他们如何执行诸如识别照片中的对象或翻译文本之类的任务。
自监督式学习近来引起了很多关注,因为这意味着需要手工标记数据的工作要少很得,这对大多数研究人员而言是费时费力的工作。无需管理数据集的同时,自监督模型可以处理更大,更多样化的数据集。
在某些领域,特别是自然语言处理中,该方法已经取得了突破。在数量越来越多的未标记文本上训练算法已使诸如问答、机器翻译、自然语言推理等应用程序取得了进展。
相反,计算机视觉尚未完全进入自监督的学习革命。正如Facebook AI Research的软件工程师Priya Gopal解释的那样,SEER是该领域的首创。她告诉ZDNet:“与现有的在ImageNet数据集上训练的计算机视觉的自监督模型相比,SEER是第一个可以随机训练互联网上图像上的完全自监督的计算机视觉模型。”
ImageNet是一个大规模数据库,包含研究人员标记的数百万张图片,并向较大的计算机视觉社区开放,以促进AI的发展。
该项目的数据库被Facebook的研究人员用作评估SEER性能的基准,他们发现自监督模型在诸如低空拍摄、物体检测、分割和图像分类等任务上优于最新的监督AI系统。
Goyal说:“通过仅对随机图像进行训练,SEER优于现有的自监督模型。这一结果表明,我们不需要像ImageNet这样的高度精选的数据集,对随机图像的自监督学习就可以产生非常高质量的模型。”
随着自监督学习复杂度的提高,研究人员的工作并非没有挑战。在文本方面,AI模型的任务是为单词赋予含义。但是对于图像,该算法必须决定每个像素如何与一个概念相对应,同时考虑到其在不同图片中拍摄角度、视图和形状的差别。
换句话说,研究人员需要大量数据,并且需要一个能够从这种复杂的信息池中推导出所有可能的视觉概念。
为了完成此任务,Goyal和她的团队从Facebook AI在自监督学习中的现有工作中改编了一种新算法,称为SwAV,该算法将显示相似的图像聚集到单独的组中。科学家还设计了卷积网络,也就是一种深度学习算法,算法对人脑中神经元的连接模式进行建模,根据重要性分配给图像中的不同对象。
至少可以说,借助Instagram的10亿张图片的数据集,该系统的规模很大。Facebook的团队使用了具有32GB RAM的V100 Nvidia GPU,并且随着模型尺寸的增加,必须将模型放入可用的RAM中。但是Goyal解释说,进一步的研究将对确保计算功能适应新系统很有用。
“随着我们在越来越多的GPU上训练模型,这些GPU之间的通信需要快速进行。可以通过开发软件来解决给定的内存和运行时间带来的挑战。”她说。
尽管仍有许多工作要做,但是,在可以将SEER应用于现实世界的用例之前,Goyal认为不应低估该技术的影响。她说:“借助SEER,我们现在可以通过大量随机的互联网上的图像训练大型模型,在计算机视觉方面取得更大的进步。”
“这一突破可以实现计算机视觉的自监督学习革命,类似于我们在自然语言处理文本中所看到的。”
在Facebook内部,SEER可用于各种计算机视觉任务,从自动生成图像描述到帮助识别违反政策的内容。在公司外部,该技术还可用于图像和元数据有限的领域,例如医学成像。
Facebook的团队呼吁开展更多工作,以将SEER推进到其下一阶段的开发。作为研究的一部分,该团队开发了一种基于PyTorch的全能库,用于自监督学习,称为VISSL,该库是开源的,鼓励更多的AI社区成员对该技术进行测试。
当被问及是否已通知Instagram用户使用其图像来训练SEER或用户是否有机会选择其图像不被用来学习时,Goyal指出,Facebook在其数据政策中告知Instagram帐户持有人,其使用图片等信息来支持研究,其中包括支持SEER的研究。也就是说,Facebook并不打算分享这些图片或SEER模型本身,部分原因是该模型可能包含无意识的偏见。
Facebook在一篇博客文章中写道:“自我监督学习一直是Facebook人工智能的重点,因为它使机器可以直接从世界上大量可用的信息中学习,而不仅仅是从专门为人工智能研究创建的训练数据中学习。就像在其他研究领域一样,自我监督学习对未来的计算机视觉有着不可思议的影响。消除了对人工注释和元数据的需要,使计算机视觉社区能够处理更大、更多样化的数据集,从随机公共图像中学习,并可能减轻数据管理中出现的一些偏见。自我监督学习还可以帮助在图像或元数据有限的领域(如医学成像)对模型进行专门研究。无需人工提前标记,模型可以更快地创建和部署,能够对快速变化的情况做出更快、更准确的反应。”
编辑:lyn
-
AI
+关注
关注
89文章
38171浏览量
296892
发布评论请先 登录
蔚来出席CNCC 2025中国计算机大会技术论坛
【「AI芯片:科技探索与AGI愿景」阅读体验】+可期之变:从AI硬件到AI湿件
任正非说 AI已经确定是第四次工业革命 那么如何从容地加入进来呢?
一文带你了解工业计算机尺寸
NVIDIA GTC2025 亮点 NVIDIA推出 DGX Spark个人AI计算机
NVIDIA 宣布推出 DGX Spark 个人 AI 计算机
英飞凌边缘AI平台通过Ultralytics YOLO模型增加对计算机视觉的支持
虹软推出新一代视觉大模型ArcMuse 2025 V1.1
Arm KleidiCV与OpenCV集成助力移动端计算机视觉性能优化
NVIDIA推出个人AI超级计算机Project DIGITS
NVIDIA 推出高性价比的生成式 AI 超级计算机

Facebook推出新AI模型,希望给计算机视觉领域带来一次“革命”
评论