0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

新的AI研究为自主机器人手术提供未来方向

NVIDIA英伟达企业解决方案 来源:NVIDIA英伟达企业解决方案 2024-12-31 10:01 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

一款常用于常规手术的由外科医生手动操作的机器人,如今已能像人类一样精准地自主执行关键手术任务。

约翰斯·霍普金斯大学和斯坦福大学的研究人员透露,他们将一个经过数小时手术视频训练的视觉语言模型(VLM)与广泛使用的达芬奇外科手术机器人系统进行了整合。

基于这一视觉语言模型,达芬奇机器人的微型夹爪(即“手”)可以自主执行三项关键手术任务:小心提起人体组织、操控手术针以及缝合伤口。

传统的机器人训练方法需要对机器人动作的每个组成部分进行详细编程,与之不同的是,经过改装的达芬奇机器人仅通过模仿学习就能完成“零样本”手术任务。仅依靠其视觉语言模型,这款机器人就能实现模仿手术视频中医生的操作。

这一成果让我们得以窥见未来完全由自主机器人开展的手术可能会是什么样子。

“这些机器人如今能够自主完成如此复杂的任务,实在令人惊叹,”约翰斯・霍普金斯大学的博士后研究员 Ji Woong Brian Kim 说道,“通过模仿学习来为机器人编程,使其能够进行手术操作,这是机器人技术发展的一项重要突破。我认为,这是自主手术机器人的未来发展方向。”

为了训练模型,研究人员使用了NVIDIA GeForce RTX GPU、PyTorch 以及NVIDIA CUDA - X。

11 月,研究人员在慕尼黑举行的机器人学习大会(Conference on Robot Learning)上公布了这一研究成果。在这项实验中,机器人专家们使用了达芬奇外科手术机器人,机器人最多可配备四个机械臂,如今已经被全球各地的外科医生广泛应用于各类腹腔镜手术。

为了训练视觉语言模型(VLM),Kim 博士和他的同事将微型摄像机连接到三台达芬奇机器人的机械臂上。这三台机器人由约翰斯・霍普金斯大学提供,用于此次实验。

Kim 博士和他的同事使用医生常用来练习手术技巧的小型硅胶垫,以腹腔镜手术的方式操控机器人进行操作。

Kim 博士录制了约 20 小时的视频,记录自己操控达芬奇机器人夹爪(这些夹爪合起来大约只有一便士硬币那么大)完成三项操作的过程:提起模拟人体组织、操控手术针以及用手术线打结。

他还记录了与夹爪手动操作相关的运动学数据。这些运动学数据包含了 Kim 博士在每个手术步骤中操控机器人时所使用的角度和压力等精确信息。

在用手术视频和运动学数据对 VLM 进行训练后,研究人员将该模型与达芬奇机器人连接起来,并指示机器人执行这三项手术任务。

研究人员用鸡肉和猪肉进行实验,这些动物肉模仿了人体组织的外观和触感,而且机器人此前也从未接触过相似的操作。

令他们欣喜的是,在“零样本”环境下,机器人近乎完美地完成了这些手术操作。

Kim 博士表示,机器人能够自主解决一些未曾预料到的难题,这一点非常令人惊喜。

实验中有一次,手术针意外从夹爪中掉落,尽管从未接受过应对这种情况的明确训练,机器人还是捡起了手术针,并继续进行手术任务。

“我们从未训练模型处理猪肉或鸡肉组织,也没有教它如何拾起掉落的手术针,”Kim 博士表示,“看到机器人在这种完全超出训练范围的全新环境中能够自主运作,我们感到非常激动。”

Kim 博士目前正在撰写一篇新的论文,详细阐述在动物身上开展的最新研究成果。他还在开发更多的训练数据,以进一步拓展达芬奇机器人的能力。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器人
    +关注

    关注

    214

    文章

    31678

    浏览量

    224597
  • NVIDIA
    +关注

    关注

    14

    文章

    5730

    浏览量

    110315
  • AI
    AI
    +关注

    关注

    91

    文章

    42147

    浏览量

    303135

原文标题:新的 AI 研究为自主机器人手术提供未来方向

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    六维力传感器:当机器人拥有“真实触觉”,未来会发生什么?

    的“触觉神经”。虽然不起眼,但它正在悄悄改变智能制造和人与机器人共处的未来。 六维力传感器是什么? 简单说,六维力传感器也叫六轴力传感器,是目前能测量力的“最全能的选手”。它能同时测出三个方向上的力
    发表于 04-29 16:29

    基于米尔RK3576核心板的国产割草机器人解决方案

    割草机器人提供了一颗真正的“中国芯”。该方案不仅实现了厘米级定位与毫秒级避障,更在数据安全与供应链韧性上提供了坚实保障,助力中国智造在庭院机器人赛道上实现弯道超车。 一、硬件核心:国产
    发表于 04-24 17:31

    为什么说关节扭矩传感器是高端机器人的“触觉神经”?

    机器人在每毫秒都能“感知”到自己被推、拉或碰到东西。 正是这种连续、精准的力觉反馈,让机器人实现了三大关键能力: 1. 柔顺控制:像人手一样“顺着来” 传统机器人遇到意外阻力会硬顶,容
    发表于 04-17 17:27

    研华科技赋能大博医疗打造膝关节手术机器人系统

    研华科技赋能大博医疗打造膝关节手术机器人系统,以边缘AI支持手术过程中的决策与执行,推动骨科医疗智能化升级。
    的头像 发表于 04-07 14:42 4959次阅读

    探索RISC-V在机器人领域的潜力

    运行ROS 2,充分证明了RISC-V架构完全有能力承载机器人操作系统这样的复杂软件栈。它不仅是学习RISC-V的绝佳工具,更是探索未来边缘计算和智能机器人的一个强大起点。 致谢: 感谢进迭时空、发烧友
    发表于 12-03 14:40

    强生医疗科技携手NVIDIA推进手术机器人开发

    借助物理 AI 和模拟技术,强生医疗科技正在推进 MONARCH 平台的开发,这是一种机器人辅助支气管镜检查领域首个投放市场的创新技术,在美国也已获准用于机器人辅助泌尿科手术
    的头像 发表于 11-03 15:03 1150次阅读

    RK3576机器人核心:三屏异显+八路摄像头,重塑机器人交互与感知

    ?RK3576的强大并非偶然,其架构设计完美契合了现代机器人的核心需求:· 强大的异构计算与AI能力:内置的NPU机器人的视觉AI算法(如
    发表于 10-29 16:41

    小萝卜机器人的故事

    代替, LED, 有大佬感兴趣, 一起关注和讨论代码, 这个机器人知名度不高, 可是是机器人的原型, 如果开放接口, 定位和无线充电, 也不失未来的礼物。 让我们
    发表于 10-23 05:24

    自主生产:制造业的未来

    生产过程。 什么是自主生产?自主生产是指能够自我调节、灵活适应和独立优化的生产过程。机器机器人和生产单元等工作单元在技术上越来越灵活,它们可以相互通信,并根据数据独立做出决策,例如
    发表于 09-15 15:08

    机器人竞技幕后:磁传感器芯片激活 “精准感知力”

    支撑机器人竞技能力的核心力量,深刻改变着竞技机器人的能力边界。 磁传感器芯片机器人运动提供 “精准导航”。在动态平衡系统中,像昆泰芯 K
    发表于 08-26 10:02

    【书籍评测活动NO.64】AI芯片,从过去走向未来:《AI芯片:科技探索与AGI愿景》

    的应用。 对半导体芯片产业前沿技术的讲解也紧密联系产业实际,技术从业者提供实践指导,同时科研人员指明研究方向
    发表于 07-28 13:54

    滚珠导轨:手术机器人与影像设备的精密支撑

    滚珠导轨凭借高精度、低摩擦等特性,在医疗器械领域发挥着关键作用。从手术机器人到CT、MRI等影像设备,其稳定性和精准性医疗操作提供了可靠保障,成为提升医疗设备性能的核心元件。
    的头像 发表于 07-25 17:40 806次阅读
    滚珠导轨:<b class='flag-5'>手术</b><b class='flag-5'>机器人</b>与影像设备的精密支撑

    【应用】PS-CZ00001 Force Sensor “硬币”式触力传感器在手术机器人中的应用

    由于机器人手术的高度精准性,在外科微创手术中,医生已经广泛认可了这种手术方式。笔者主要通过本文与大家分享应用在脊柱微创手术中使用的手术
    的头像 发表于 07-14 00:03 3051次阅读
    【应用】PS-CZ00001 Force Sensor “硬币”式触力传感器在<b class='flag-5'>手术</b><b class='flag-5'>机器人</b>中的应用

    轮式移动机器人电机驱动系统的研究与开发

    【摘 要】以嵌入式运动控制体系为基础,以移动机器人研究对象,结合三轮结构轮式移动机器人,对二轮差速驱动转向自主移动机器人运动学和动力学空间
    发表于 06-11 14:30

    直线模组在手术机器人中有哪些技术挑战?

    手术机器人在现代医疗领域发挥着越来越重要的作用,直线模组作为其关键部件,对手术机器人的性能有着至关重要的影响。
    的头像 发表于 05-30 16:37 688次阅读
    直线模组在<b class='flag-5'>手术</b><b class='flag-5'>机器人</b>中有哪些技术挑战?