0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Omniverse Audio2Face加速AI虚拟数字人的语音与表情训练

丽台科技 来源:NVIDIA英伟达企业解决方案 作者:NVIDIA英伟达企业解 2022-11-15 10:43 次阅读

元宇宙热潮迭起,推动了虚拟数字人产业发展。当前,随着虚拟人技术日益成熟,相关产业链逐渐成型,以及虚拟人的智能化、多元化应用不断完善,数智人发展逐渐成为行业趋势。

深圳幻影未来信息科技有限公司(以下简称“幻影未来”)专注于虚拟人互动的内容研发,是领先的虚拟人及互动方案、AI 数智人创新提供商。借助NVIDIA Omniverse Audio2Face和NVIDIA RTX GPU,幻影未来加速虚拟人 Kiko 的语音及表情训练,助力打造高品质 AI 数智人。

虚拟人语音互动与表情变化仍需优化

虚拟现实技术的演进和虚拟人行业的逐步发展,带动直播、电商、娱乐行业等逐渐开展虚拟人产业布局。幻影未来从虚拟人直播入手,蓄力将虚拟人 Kiko 打造成虚拟人 IP。由于目前虚拟人主播与观众之间的沟通场景仍需丰富,幻影未来立足技术背景,着力开展虚拟人的技术升级。

利用现有技术,虚拟人主播可实现语音输入输出及相应动画展示,但仍缺乏相应的互动力和表现力,因此,在语音互动和表达的基础上,驱动虚拟人产生丰富而逼真的表情以提升与用户之间的沟通水平、加强虚拟人与用户间的情感交流仍是行业发展的痛点。

Omniverse Audio2Face + RTX GPU

加速虚拟人训练与升级

幻影未来通过 NVIDIA 初创加速计划了解到,借助 NVIDIA Omniverse Audio2Face 可以直接将虚拟人语音转换为嘴型和表情动画,其在使用和测试后,对输出的表情 BS 进行改造并训练自定义模型,同时借助 NVIDIA RTX GPU,加速对虚拟人训练大量数据的交换与处理。

Omniverse Audio2Face 是一款由 AI 提供技术支持的应用,仅凭借一个音频来源便能生成面部表情动画。Audio2Face 可简化 3D 角色的动画制作,与任何配音音轨匹配,在交互式应用场景中可以使用该应用,也可将其用作传统的面部动画创作工具,实时运行结果或烘焙结果都可轻松获得。借助 Omniverse Audio2Face,幻影未来只需录制语音音轨,输入到该应用中,即可生成生动的虚拟人面部表情。

虚拟人模型训练包括数据采集和清洗、数据处理和数据训练,训练过程中数据量庞大,对数据处理能力要求较高,幻影未来借助 RTX GPU,相较于常规硬件训练方法而言,训练时间可缩短至 10 分钟左右,训练速度提高了 99% 以上。

数智人服务场景拓宽

元宇宙基础服务潜力无限

NVIDIA Omniverse Audio2Face 与 NVIDIA GPU 加速平台赋能幻影未来实现虚拟人语音和表情动画升级,使传统虚拟人向数智人的升级成为了可能。幻影未来的虚拟人表现力解决方案助力丰富数智人服务场景,推动了元宇宙基础服务的丰富和发展。

幻影未来创始人兼 CTO 姜龙表示,“未来元宇宙中的应用软件一定不是以 APP 形式展现,也一定不会是需要通过点击操控 UI 的形式出现,我相信未来元宇宙中的所有服务是以数智虚拟人形式出现,通过自然交互的方式来进行,这一天不会太远。”

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4598

    浏览量

    101775
  • 虚拟数字
    +关注

    关注

    0

    文章

    18

    浏览量

    7029
  • 元宇宙
    +关注

    关注

    13

    文章

    1347

    浏览量

    11017

原文标题:Omniverse Audio2Face 加速 AI 虚拟数字人的语音与表情训练

文章出处:【微信号:Leadtek,微信公众号:丽台科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    育碧发布全新生成式AI原型:NPC以自发行为展开对话

    近日,育碧巴黎工作室推出了一款名为 NEON NPC 的全新 AI 原型项目。借助 NVIDIA 的 Audio2Face 及 InWorld 的 LLM 大语言模型技术,NPC可以根据角色设定自发生成对话。
    的头像 发表于 03-20 10:17 111次阅读

    在线研讨会 | 大模型时代语音 AI 模型的训练、优化与应用

    通过业界领先的技术,帮助企业能够快速部署定制化 AI 智能语音端到端流程。 2023 年 12 月 19 日和 21 日 晚间 ,来自 NVIDIA 和 Kaldi 项目的技术专家将做客 Datafun 社区直播间 ,为您介绍如何有针对性的在
    的头像 发表于 12-15 15:50 264次阅读
    在线研讨会 | 大模型时代<b class='flag-5'>语音</b> <b class='flag-5'>AI</b> 模型的<b class='flag-5'>训练</b>、优化与应用

    在 NVIDIA ACE 中使用 AI 动画和语音功能打造逼真的虚拟形象

    和情感表达。 开发者现在可以使用新的云 API 在应用中轻松实现和扩展智能虚拟形象,包括自动语音识别(ASR)、文本转语音(TTS)、神经机器翻译(NMT)和 Audio2Face(A
    的头像 发表于 12-15 15:50 289次阅读
    在 NVIDIA ACE 中使用 <b class='flag-5'>AI</b> 动画和<b class='flag-5'>语音</b>功能打造逼真的<b class='flag-5'>虚拟</b>形象

    NVIDIA 初创加速计划 Omniverse 加速

    新的 AI 技术和迅速发展的应用正在改变各行各业,生成式 AI 已经展示出在艺术、设计、影视动画、互娱、建筑等领域加速内容创作的价值,助力实现高质量、高效率、多样化的内容生产,成为推动数字
    的头像 发表于 12-04 20:35 404次阅读
    NVIDIA 初创<b class='flag-5'>加速</b>计划 <b class='flag-5'>Omniverse</b> <b class='flag-5'>加速</b>营

    Omniverse 资讯速递 | 最新发布、应用案例、研讨会回顾等你来解锁!

    、人工为主的流程,升级进化成软件驱动的 AI 增强数字化系统。为帮助他们节约成本并缩短交付周期,NVIDIA 在 Omniverse Cloud 上发布了两个全新的仿真引擎:虚拟工厂仿
    的头像 发表于 11-20 21:05 415次阅读
    <b class='flag-5'>Omniverse</b> 资讯速递 | 最新发布、应用案例、研讨会回顾等你来解锁!

    完美世界游戏借助 NVIDIA Omniverse 等平台与技术,加速数字人开发并优化游戏画面

    越来越关键的作用。 创立于 2004 年的全球化游戏公司——完美世界游戏,集游戏开发、发行、运营为一体,其正在使用  NVIDIA Omniverse Audio2Face  应用、 NVIDIA ACE  平台,以及光线追踪与 DLSS 技术等,塑造更精致的游戏画面,构
    的头像 发表于 09-26 18:35 678次阅读
    完美世界游戏借助 NVIDIA <b class='flag-5'>Omniverse</b> 等平台与技术,<b class='flag-5'>加速</b><b class='flag-5'>数字</b>人开发并优化游戏画面

    星澜再进化:NVIDIA AI 助力江南游戏工作室实现数字人实时交互

    案例介绍 通过全面的 GPU 优化,星澜的端到端响应时间少于 2 秒,实现了近实时交互。 在角色的口型表情上,结合 NVIDIA Audio2Face 能力与 TensorRT 框架的性能优化,实现
    的头像 发表于 08-28 20:10 540次阅读

    生成式AI时代要来了吗 NVIDIA生成式AI获新突破

    这些性能强大的新系统将利用 NVIDIA Omniverse 平台加速高计算密集度的复杂应用,包括 AI 训练和推理、3D 设计和可视化、视频处理、工业
    发表于 08-23 14:20 239次阅读

    NVIDIA 与 Hugging Face 将连接数百万开发者与生成式 AI 超级计算

    NVIDIA DGX Cloud 集成到 Hugging Face 平台将加速大语言模型(LLM)的训练和调优,简化了几乎每个行业的模型定制     洛杉矶 — SIGGRAPH — 2023
    发表于 08-09 11:41 109次阅读
    NVIDIA 与 Hugging <b class='flag-5'>Face</b> 将连接数百万开发者与生成式 <b class='flag-5'>AI</b> 超级计算

    NVIDIA 与 Hugging Face 将连接数百万开发者与生成式 AI 超级计算

    NVIDIA DGX Cloud 集成到 Hugging Face 平台将加速大语言模型(LLM)的训练和调优,简化了几乎每个行业的模型定制
    的头像 发表于 08-09 11:38 709次阅读
    NVIDIA 与 Hugging <b class='flag-5'>Face</b> 将连接数百万开发者与生成式 <b class='flag-5'>AI</b> 超级计算

    NVIDIA OmniverseAI训练变得更加简单易用

    Rendered.ai 将 NVIDIA Omniverse Replicator 集成到其合成数据生成平台,使 AI 训练变得更加简单易用。
    的头像 发表于 07-24 09:14 838次阅读
    NVIDIA <b class='flag-5'>Omniverse</b>让<b class='flag-5'>AI</b><b class='flag-5'>训练</b>变得更加简单易用

    Avatar Day:Omniverse 和 NVIDIA ACE 助力交互式数字人全流程开发

    Audio2Face 快速迭代,支持使用生成式 AI 即时从一个音频来源创建面部表情动画。 NVIDIA Avatar Cloud Engine(NVIDIA ACE) 是基于云
    的头像 发表于 07-14 19:50 452次阅读
    Avatar Day:<b class='flag-5'>Omniverse</b> 和 NVIDIA ACE 助力交互式<b class='flag-5'>数字</b>人全流程开发

    Rendered.ai 将 NVIDIA Omniverse 集成到其合成数据生成平台

    NVIDIA 初创加速计划成员 Rendered.aiOmniverse Replicator 集成到其合成数据生成平台,使 AI 训练
    的头像 发表于 07-12 19:10 337次阅读
    Rendered.<b class='flag-5'>ai</b> 将 NVIDIA <b class='flag-5'>Omniverse</b> 集成到其合成数据生成平台

    探索NVIDIA AIOmniverse加速设计创作

    协作,是专为虚拟协作和实时逼真模拟而打造的易于扩展的开放式平台。NVIDIA Omniverse 是连接世界上最大的工具生态系统,目前连接 220 个工具软件,下载量超过 30 万。
    的头像 发表于 06-13 15:40 361次阅读

    U 设计周 2023 邀您探索 NVIDIA AIOmniverse 如何加速设计创作,延伸想象力

    》的主题演讲。 此外,NVIDIA 在本次活动上将围绕 “ 探索 NVIDIA AIOmniverse 加速设计创作” 的主题,通过 6 月 1 日 Ucan 数字
    的头像 发表于 05-27 17:45 573次阅读
    U 设计周 2023 邀您探索 NVIDIA <b class='flag-5'>AI</b> 和 <b class='flag-5'>Omniverse</b> 如何<b class='flag-5'>加速</b>设计创作,延伸想象力