0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

新的AI研究为自主机器人手术提供未来方向

NVIDIA英伟达企业解决方案 来源:NVIDIA英伟达企业解决方案 2024-12-31 10:01 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

一款常用于常规手术的由外科医生手动操作的机器人,如今已能像人类一样精准地自主执行关键手术任务。

约翰斯·霍普金斯大学和斯坦福大学的研究人员透露,他们将一个经过数小时手术视频训练的视觉语言模型(VLM)与广泛使用的达芬奇外科手术机器人系统进行了整合。

基于这一视觉语言模型,达芬奇机器人的微型夹爪(即“手”)可以自主执行三项关键手术任务:小心提起人体组织、操控手术针以及缝合伤口。

传统的机器人训练方法需要对机器人动作的每个组成部分进行详细编程,与之不同的是,经过改装的达芬奇机器人仅通过模仿学习就能完成“零样本”手术任务。仅依靠其视觉语言模型,这款机器人就能实现模仿手术视频中医生的操作。

这一成果让我们得以窥见未来完全由自主机器人开展的手术可能会是什么样子。

“这些机器人如今能够自主完成如此复杂的任务,实在令人惊叹,”约翰斯・霍普金斯大学的博士后研究员 Ji Woong Brian Kim 说道,“通过模仿学习来为机器人编程,使其能够进行手术操作,这是机器人技术发展的一项重要突破。我认为,这是自主手术机器人的未来发展方向。”

为了训练模型,研究人员使用了NVIDIA GeForce RTX GPU、PyTorch 以及NVIDIA CUDA - X。

11 月,研究人员在慕尼黑举行的机器人学习大会(Conference on Robot Learning)上公布了这一研究成果。在这项实验中,机器人专家们使用了达芬奇外科手术机器人,机器人最多可配备四个机械臂,如今已经被全球各地的外科医生广泛应用于各类腹腔镜手术。

为了训练视觉语言模型(VLM),Kim 博士和他的同事将微型摄像机连接到三台达芬奇机器人的机械臂上。这三台机器人由约翰斯・霍普金斯大学提供,用于此次实验。

Kim 博士和他的同事使用医生常用来练习手术技巧的小型硅胶垫,以腹腔镜手术的方式操控机器人进行操作。

Kim 博士录制了约 20 小时的视频,记录自己操控达芬奇机器人夹爪(这些夹爪合起来大约只有一便士硬币那么大)完成三项操作的过程:提起模拟人体组织、操控手术针以及用手术线打结。

他还记录了与夹爪手动操作相关的运动学数据。这些运动学数据包含了 Kim 博士在每个手术步骤中操控机器人时所使用的角度和压力等精确信息。

在用手术视频和运动学数据对 VLM 进行训练后,研究人员将该模型与达芬奇机器人连接起来,并指示机器人执行这三项手术任务。

研究人员用鸡肉和猪肉进行实验,这些动物肉模仿了人体组织的外观和触感,而且机器人此前也从未接触过相似的操作。

令他们欣喜的是,在“零样本”环境下,机器人近乎完美地完成了这些手术操作。

Kim 博士表示,机器人能够自主解决一些未曾预料到的难题,这一点非常令人惊喜。

实验中有一次,手术针意外从夹爪中掉落,尽管从未接受过应对这种情况的明确训练,机器人还是捡起了手术针,并继续进行手术任务。

“我们从未训练模型处理猪肉或鸡肉组织,也没有教它如何拾起掉落的手术针,”Kim 博士表示,“看到机器人在这种完全超出训练范围的全新环境中能够自主运作,我们感到非常激动。”

Kim 博士目前正在撰写一篇新的论文,详细阐述在动物身上开展的最新研究成果。他还在开发更多的训练数据,以进一步拓展达芬奇机器人的能力。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器人
    +关注

    关注

    213

    文章

    30602

    浏览量

    219660
  • NVIDIA
    +关注

    关注

    14

    文章

    5496

    浏览量

    109110
  • AI
    AI
    +关注

    关注

    89

    文章

    38158

    浏览量

    296830

原文标题:新的 AI 研究为自主机器人手术提供未来方向

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    探索RISC-V在机器人领域的潜力

    运行ROS 2,充分证明了RISC-V架构完全有能力承载机器人操作系统这样的复杂软件栈。它不仅是学习RISC-V的绝佳工具,更是探索未来边缘计算和智能机器人的一个强大起点。 致谢: 感谢进迭时空、发烧友
    发表于 12-03 14:40

    RK3576机器人核心:三屏异显+八路摄像头,重塑机器人交互与感知

    ?RK3576的强大并非偶然,其架构设计完美契合了现代机器人的核心需求:· 强大的异构计算与AI能力:内置的NPU机器人的视觉AI算法(如
    发表于 10-29 16:41

    小萝卜机器人的故事

    代替, LED, 有大佬感兴趣, 一起关注和讨论代码, 这个机器人知名度不高, 可是是机器人的原型, 如果开放接口, 定位和无线充电, 也不失未来的礼物。 让我们
    发表于 10-23 05:24

    自主生产:制造业的未来

    生产过程。 什么是自主生产?自主生产是指能够自我调节、灵活适应和独立优化的生产过程。机器机器人和生产单元等工作单元在技术上越来越灵活,它们可以相互通信,并根据数据独立做出决策,例如
    发表于 09-15 15:08

    机器人竞技幕后:磁传感器芯片激活 “精准感知力”

    支撑机器人竞技能力的核心力量,深刻改变着竞技机器人的能力边界。 磁传感器芯片机器人运动提供 “精准导航”。在动态平衡系统中,像昆泰芯 K
    发表于 08-26 10:02

    【应用】PS-CZ00001 Force Sensor “硬币”式触力传感器在手术机器人中的应用

    由于机器人手术的高度精准性,在外科微创手术中,医生已经广泛认可了这种手术方式。笔者主要通过本文与大家分享应用在脊柱微创手术中使用的手术
    的头像 发表于 07-14 00:03 1998次阅读
    【应用】PS-CZ00001 Force Sensor “硬币”式触力传感器在<b class='flag-5'>手术</b><b class='flag-5'>机器人</b>中的应用

    轮式移动机器人电机驱动系统的研究与开发

    【摘 要】以嵌入式运动控制体系为基础,以移动机器人研究对象,结合三轮结构轮式移动机器人,对二轮差速驱动转向自主移动机器人运动学和动力学空间
    发表于 06-11 14:30

    直线模组在手术机器人中有哪些技术挑战?

    手术机器人在现代医疗领域发挥着越来越重要的作用,直线模组作为其关键部件,对手术机器人的性能有着至关重要的影响。
    的头像 发表于 05-30 16:37 439次阅读
    直线模组在<b class='flag-5'>手术</b><b class='flag-5'>机器人</b>中有哪些技术挑战?

    大象机器人携手进迭时空推出 RISC-V 全栈开源六轴机械臂产品

    识别联调。 进迭时空致力于智能机器人提供完整全栈优化的RISC-V AI软硬件解决方案,第一代RISC-V AI CPU芯片K1已完成
    发表于 04-25 17:59

    NVIDIA推出AI医疗健康机器人开发平台

    医疗科技的未来机器人化——医院将全面自动化,由 AI 驱动的手术系统、机器人助手和自主患者护理
    的头像 发表于 04-19 17:07 1286次阅读
    NVIDIA推出<b class='flag-5'>AI</b>医疗健康<b class='flag-5'>机器人</b>开发平台

    【「具身智能机器人系统」阅读体验】2.具身智能机器人的基础模块

    具身智能机器人的基础模块,这个是本书的第二部分内容,主要分为四个部分:机器人计算系统,自主机器人的感知系统,自主机器人的定位系统,自主机器人
    发表于 01-04 19:22

    【「具身智能机器人系统」阅读体验】2.具身智能机器人大模型

    的设计不仅提高了机器人对环境的理解能力,还使其能够更精准地执行复杂任务。 扩散模型的新思路 除了大模型,扩散模型的引入机器人控制开辟了新的研究方向
    发表于 12-29 23:04

    【「具身智能机器人系统」阅读体验】1.初步理解具身智能

    对人工智能、机器人技术和计算系统交叉领域感兴趣的读者来说不可或缺的书。这本书深入探讨了具身智能这一结合物理机器人和智能算法的领域,该领域正在塑造自主系统及其应用的未来。 开篇部分探讨了
    发表于 12-28 21:12

    【「具身智能机器人系统」阅读体验】+初品的体验

    的快速发展,相关人才的需求也在不断增加,通过阅读该书可以帮助大家系统性地了解和分析当前具身智能机器人系统的发展现状和前沿研究未来研究
    发表于 12-20 19:17

    《具身智能机器人系统》第1-6章阅读心得之具身智能机器人系统背景知识与基础模块

    智能机器人的历史与未来”中,布鲁克斯的观点给我带来深刻启发。他在20世纪80年代提出的观点至今仍具参考价值:智能行为源于实际的物理互动,而非单纯依靠预设算法。这打破了传统AI仅关注算法优化的局限,将
    发表于 12-19 22:26